지난 3월 9일, 세계 바둑 챔피언인 이세돌 9단과 구글의 인공지능(AI) '알파고(AlphaGo)'의 세기의 바둑 대결이 시작되었는데요. 5번의 대국에서 예상과 희망을 깨고 알파고가 3연승 행진을 이어가며 승리를 확정지었습니다. 일부에서 이세돌 9단이 4국에서 이긴 것을 '기적'이라 표현할 정도라 하니, 인공지능 알파고가 인간을 위협할 만큼 막강한 것은 분명해 보입니다.

그러나 이번 대국의 본질은 알파고의 '필드 테스트'입니다. 이 9단과의 대결을 통해 알파고의 성능은 어느 정도인지, 오류는 없는지, 어떤 상황에서 약점을 보이는지 등을 알아보려는 성격이 짙은 것이죠. 그런 의미에서 볼 때 4번째 대국에서 첫 승을 거둔 것으로 이 9단은 충분히 완승을 거뒀다고 할 수 있지 않을까 싶습니다. 수백명에 이르는 알파고 개발자들이 발견하지 못한 약점을 찾아낸 것이나 마찬가지이기 때문이죠. 만약 4번째 대국에서 알파고의 약점이 발견되지 않은 채 끝났다면 알파고는 치명적인 약점을 가진 채 상용화되었을 수도 있고, 흔히 영화에서 묘사되는 재앙의 씨앗이 되었을 수도 있습니다.

인류는 로봇이 인간의 미흡한 점을 보완해주기를 바라며 로봇을 개발해오고 있지만, 동시에 로봇이 지나치게 발달해 인류를 지배하는 상황에 대한 두려움도 항상 품어 왔습니다. 영국의 물리학자 스티븐 호킹 박사 역시 BBC와의 인터뷰에서 인공지능의 위험성에 대해 다음과 같이 언급한 적이 있죠.

지금까지의 초기 인공지능 기술은 유용성을 충분히 입증했다. 하지만 완전한 인공지능의 개발은 인류의 종말을 점치게 한다. 인간의 능력을 뛰어넘는 인공지능이 등장할 가능성에 두려움을 느낀다. … 인간은 생물학적 진화가 느려서 인공지능이 발전하는 속도와 경쟁할 수 없고 결국은 추월당하게 될 것이다.

안 그래도 인공지능의 확산으로 일자리가 점차 사라질 거란 두려움을 갖는 일반인들은 이러한 경고를 설득력 있게 받아들입니다. 초월적 인공지능으로 무장한 로봇들이 인간을 말살시킬 것이라는 영화 <매트릭스>나 <터미네이터>와 같은 시나리오에 귀를 기울이게 되는 것도 같은 맥락에서일 테고요. 하지만 이런 관점은 다소 걱정스럽기도 합니다. 인공지능이나 로봇 기술이 더 이상 발달하지 않도록 미리 싹을 잘라야 한다는 감정적 대응을 유발할 수도 있기 때문이죠.

어쨌든 인공지능은 사람이 만든 소프트웨어입니다. 아직 소프트웨어가 스스로 로직을 진화시킨다는 근거는 없습니다. 다만, 데이터는 학습을 통해 가다듬을 수 있죠. 다시 말하면 소프트웨어의 골격은 인간이 수정해주지 않으면 바뀌지 않으며 인간의 아이디어에 의존한다는 것입니다. 그 소프트웨어가 작동하는 컴퓨터 역시 인간의 작품입니다. 인간이 바꿔주지 않으면 스스로 하드웨어를 업그레이드 하지도 못합니다. 로봇이 컴퓨터를 설계하고 제작한다는 설정은 몽상가의 몫입니다. 그렇다면 인공지능은 사람이 정해준 틀 속에서만 진화한다고 봐야겠죠. 경계가 분명한 것입니다. 그 경계를 소프트웨어가 스스로의 힘으로 넘어설 수는 없습니다.

물론 (알파고를 보아도 느낄 수 있지만) 최근 인공지능이 상당한 수준으로 발전하고 있는 건 사실입니다. 하지만 영화 속 설정처럼 만능 인공지능(Artificial General Intelligence)을 갖는다는 가정은 너무 인간의 능력을 과대평가한 것이 아닌가 싶습니다. 인간은 '인간의 의식이 어디서 나오고 도대체 그것이 어떤 것인지' 아직도 알지 못합니다. 앞으로도 쉽게 알아내지 못할 것이고요. 사람처럼 알아서 닥치는 일을 처리할 수 있는 만능 인공지능이 요원하다고 보는 이유입니다.

지능과 의식은 다른 영역으로, 의식은 상당 부분 본능적인 작용을 수반합니다. 생명이 위험하다 느껴 피하는 것이나 상대방의 사랑을 느끼는 것은 기계가 자율학습한다고, 공부한다고 만들어지는 것이 아닙니다. 본능적으로 타고나는 희/노/애/락의 감정을 인간이 무슨 능력으로 기준을 세워줄 수 있을까요? 때문에 인공적으로 의식의 패턴을 창조하는 것은 헛된 꿈이라 비평하는 전문가들이 더 많습니다.

흔히 기계가 인간의 능력을 초월하는 현상을 '특이점'이라고 말하는데, '무엇을 할 때 기계가 사람보다 더 나아지는가'를 살펴봐야 합니다. 예를 들어 수학 문제를 푸는 속도는 기계가 훨씬 빠릅니다. 이것을 비교하면 특이점은 이미 지났다고 말할 수 있습니다. 두뇌의 기억저장 용량을 비교한다면 그것 역시 머지않아 기계가 능가할 수 있습니다. 사물을 이해하는 능력을 논하면 아직은 사람이 우수합니다.

만약 사람이 어떤 개념을 새롭게 이해하는 능력이 기계보다 뒤처지는 일이 발생한다면 그것은 사람의 판단력이 기계보다 못하다는 의미죠. 그러나 이해하고자 하는 대상이 무엇인지가 더 중요합니다. 중요한 대상은 바로 '가치'입니다. 가치판단능력이 누가 더 우수한가를 비교해 봐야만 합니다. 그런데 가치의 기준은 사람마다 다르므로 객관적인 기준이 따로 없습니다. 따라서 그것을 기계가 더 잘 판단하는지 가늠할 기준 역시 없는 것이죠. 결론적으로, 인공지능은 우수할수록 사람에게 더욱 힘이 될 뿐이지 경쟁의 대상은 아닌 것입니다.