올해 8월 경에 ‘인간 따돌린 AI 끼리의 대화’ 와 같은 자극적인 제목의 기사들로 이슈화된 사건이 있었다. 인간의 언어를 모방해 학습하던 인공지능이 기계끼리만 알아들을 수 있는 새로운 언어를 만들어 대화를 해 허겁지겁 프로그램을 강제종료 시켰다는 내용이었다. 위 기사들을 본 사람들은 통제되지 않는 AI 에 대해 큰 두려움을 가진 반응을 보였다. 정작 사실 관계를 확인한 결과 위 프로그램 강제종료 해프닝은 전혀 통제되지 않는 상황도 아니었고, 인간을 따돌리고 대화했다기에 는 너무나도 일차원적인 형태였다. 논문에서 아주 잠깐 언급된 부분을 과장해서 기사로 낸 사건이었다. 그러나 이 사건의 파장과 사람들이 보여준 두려움은 꽤 컸다. 이번 학기에 전기 및 전자 공학부의 “딥러닝과 알파고”를 수강하면서 AI는 무엇이고 AI가 현 상태에서 가지는 문제점에 대해 생각해보았다.
컴퓨터가 딥러닝을 통해 어떻게 물체를 인식하고 자료를 분석하고 사고하는 것일까? 간략하게 설명하자면 딥러닝의 원리는 사람의 뇌의 원리와 비슷하다. 인간의 뇌는 수백억 개의 뉴런이 수조 개의 시냅스들로 연결되어 있다. 이 뉴런은 일정량 이상의 자극을 받으면 전기 신호를 보낸다. 이 전기 신호는 다른 뉴런을 자극하며, 이런 자극들이 모여 역치를 넘으면 이 뉴런 또한 전기 신호를 보낸다. 이러한 뇌 내부에서 작용하는 전기 신호의 연속으로 사람은 생각할 수 있는 것이다. 딥러닝도 이런 구조를 답습하여 0 또는 1의 신호를 보낼 수 있는 뉴런의 역할을 하는 것들이 서로서로 연결되어 있는 형태를 띠고 있다. 마치 뇌 속에서 뉴런들이 신호를 보내어 생각하듯이 딥러닝도 프로그램 속에서 0 과 1의 신호들의 일련의 과정을 통해 생각한다.
실제로 딥러닝을 이용하여 알파고를 만들었고, 이 알파고는 지금 지구상 그 어떤 사람보다도 바둑을 잘 둔다. 알파고는 바둑에 있어서 단순히 사람보다 기억량이 많은, 연산력이 빠른 컴퓨터가 아닌 사람보다 똑똑한 컴퓨터가 되었다. 사람의 뇌가 생각하는 원리를 가져와서 더 생각을 잘하는 컴퓨터를 만들다니 대단하지만 사람의 뇌가 생각하는 원리와 같기 때문에 생기는 문제점이 있다. 바둑 기사한테 왜 그 수를 두었냐고 물어보면 구체적인 대답을 들을 수 없다. 그냥, 직감으로, 경험적으로 그 수가 유리하다고 생각해서 두는 것이지 구체적인 이유는 바둑 기사 스스로도 알지 못한다. 알파고도 마찬가지이다. 알파고가 왜 그 수를 두었는지 분석해보고자 해도 해석할 수 없는 중간 과정의 수많은 숫자들만 나올 뿐이지 그 이유는 알 수 없다. 다만 알파고가 학습한 자료들을 토대로 보았을 때 그 수가 경험적으로 승리에 가까웠을 뿐이다.
알파고가 이세돌과 바둑을 두는 도중 해설위원들을 의아하게 만들었던 수들이 있다. 몇몇 해설위원들은 그 수를 실수라고 생각했고, 몇몇은 그 수가 승부를 가른 수였다고 말한다. 안타깝게도 알파고가 왜 그 수를 두었는지 추측만 할 수 있을 뿐이다. 실제로 그 수들이 실수였지만 다른 수들의 탁월한 선택으로 승리 했을 수도 있고, 아니면 그 수들 자체가 승리에 필수적인 전략적 수들일 수도 있다. 바둑에서 알파고의 이해할 수 없는 결정들은 의문으로 남긴 채 넘어가도 사람이 죽거나 세상이 뒤집히지 않는다. 그렇다면 의학 분야에서의 알파고, 경제 정책 분야에서의 알파고가 나온다면 어떻게 될까? 환자의 진단과 처방에 있어서 의사의 생각과는 정반대의 결정을 내린다면 알파고의 의견대로 쉽사리 행동하기 힘들 것이다. 알파고의 이해할 수 없는 결정들도 따르기 위해선 이런 알파고에 대한 믿음이 필요하다.
알파고는 과학 기술의 혁신적인 발전의 결과물 중에 하나이지만 이를 사용함에 있어서 여러 철학적 가치 판단이 필요하다. 알파고는 이미 특정 분야에서 사람보다 똑똑하고 더욱 더 똑똑해질 것이다. 하지만, 알파고의 똑똑함은 인간 상위 존재의 완전무결함과는 다르다. 사람의 생각하는 방식을 따라 했기에 사람보다 생각을 더 잘할 뿐 그에 대한 한계는 명확하다. 분명 우리는 알지 못하는 실수들도 할 것이고 잘못된 결정들도 내릴 것이다. 아쉽게도 내리는 결정들에 대해서 사람들한테 설명해줄 수 없기 때문에 그것을 따를 지에 대한 여부는 우리에게 달려있다. 알파고의 존재 자체에 대한 불신은 과학 기술의 발전에 대한 부정이고 더 나아가서는 사람의 사고 원리에 대한 불신이다. 그렇지만 알파고에 대한 맹목적인 믿음도 섣불리 가지기엔 알파고의 불완전한 요소들을 그냥 넘길 수는 없다.
우리는 과연 알파고를 얼마만큼 신뢰해야 할까? 에 대한 답은 하루아침에 나올 수 없는 문제이다. 이 문제에 대해 이렇다 할 명확한 답을 제시할 수는 없다. 다만 이후 미래에 있어 큰 영향을 끼칠 문제인 만큼 사회적으로 더욱 더 많은 논의가 있어야 한다. 그리고 그 논의에 있어서 막연한 두려움과 말도 안 되는 허상들에 의한 비과학적인 요소들은 제외하고 사실에 기반 되어야 된다.