루시우스는 “이건 잘못이에요” 라고 말했다. 배트맨은 “놈을 잡아야 한다”고 응수했다. 이 대사는 영화 ‘다크 나이트’의 한 장면에서 등장한다. 배트맨, 즉 브루스 웨인이 조커를 잡기 위해 모든 고담 시민을 도청하고 전파를 이용해 사람들의 위치를 파악하는 시스템을 개발하자 루시우스가 반발하는 장면이다. 시스템을 경계하는 루시우스의 감정이 드러나는 이 장면은 단지 영화의 한 장면일 뿐이지만, 그 감정은 분명히 영화 밖 세상에서도 느낄 수 있는 경각심이라 할 수 있다.
3000만 시민의 단말기를 통해 데이터를 수집하고, 그 중에서도 조커의 목소리를 파악하는 영화 속 시스템은 빅 데이터와 인공 지능, 이 두 분야가 합쳐져 만들어진 시스템이라고 볼 수 있다. 오늘날에 이르러서는 빅 데이터와 인공 지능은 뗄래야 뗄 수 없는 관계가 되어 IT, 제조 등 여러 산업 전반에 걸쳐 혁명적인 변화를 불러왔다. 하지만 일각에서는 이러한 발전에 우려 섞인 시선을 보내고 있다. 과연 두 분야의 발전은 우리에게 한없이 이롭기만 할까?
인공 지능, 그 중에서도 딥 러닝 분야와 빅 데이터 분야는 상용화의 역사가 그리 오래된 분야가 아니다. 과거에는 대용량의 정보 처리 능력을 가진 컴퓨터가 존재하지 않아 빅 데이터라는 분야는 아예 존재하지도 않았고, 대용량의 데이터를 필요로 하는 딥 러닝 기술은 이론상으로만 존재하고 있었다. 하지만 컴퓨터 과학에서는 무어의 법칙이라는 것이 있다. 인텔의 공동 설립자인 고든 무어가 1965년에 언급한 것으로, 그에 따르면 반도체 IC의 성능은 약 24개월마다 2배로 증가한다고 한다. 이 법칙은 경험에 근거한 예측이었지만 오늘날까지도 거의 정확하게 들어맞고 있고, 컴퓨터의 성능은 기하급수적으로 향상되어왔다. 또한 반도체 IC의 성능이 향상됨과 동시에 메모리와 저장 장치 등의 성능도 엄청난 속도로 향상되었다. 결과적으로 대용량의 데이터를 저장 및 분석하는 빅 데이터 분야가 등장하고, 딥 러닝 기술은 최근에서야 급속도로 발전하게 된 것이다.
이에 따라 인류는 많은 혜택을 누리게 되었다. 이미지 처리 기술, 자연어 처리, 자동 주행 차량 등 다양한 분야가 크게 발전하게 되었다. 이를 통해 즐거운 삶과 생산력 향상이라는 긍정적 효과가 보이고 있다. 먼저 즐거운 삶이라는 측면에서 보면, 빅 데이터와 인공 지능의 선두 주자라 할 수 있는 구글에서는 사용자의 검색어를 통해 관심 분야를 파악하고 검색어 자동 완성에 반영하는가 하면 번역기에 인공 지능을 적용하여 높은 퀄리티의 번역을 해주기도 한다. 심지어는 이미지 처리 기술까지 접합하여 외국 표지판을 핸드폰 카메라로 찍기만 해도 원하는 언어로 번역해주는 사례까지 등장했다. 구글의 자회사인 유튜브에서는 빅 데이터 분석을 통해 어떤 동영상을 시청한 사용자가 그 다음 시청할 법한 영상을 추천해주기도 한다. 뿐만 아니라 교통 사고의 원인 중 90%를 차지하는 인적 오류를 해결할 방법으로 자율 주행 차량이 등장하면서 사람들이 보다 안전하게 길을 다닐 수 있는 날이 머지않아 다가올 것이라는 기대감이 커지고 있다.
또한 생산력 향상이라는 관점에서 보면, 인공 지능을 통해 복잡한 제품의 생산도 거침없이 하는가 하면 물류의 이동에 있어서도 자율 주행 차량이 사용된다면 인건비 하락을 통한 가격 하락을 기대할 수 있다. 이런 국지적인 시각에서 벗어나 더 큰 그림으로 보면 물류의 유통망 자체를 최적화하는 것에 인공지능과 빅 데이터가 사용되고 있다. 보다 빠르고 정확하게 생산한 물품을 큰 비용 없이 유통하고, 그 전체 프로세스를 최적화하는 것 역시 인공 지능과 빅 데이터로 얻을 수 있는 혜택인 것이다. 종합해보면 빅 데이터와 인공 지능이 활발하게 상용화되기 이전과는 비교할 수 없는 삶의 변화가 생겨나고 있다.
하지만 이에 못지 않은 문제점 또한 생기고 있다. 먼저, 사람이 판단하지 않고 기계가 대신 판단한다는 점은 윤리적인 문제를 야기한다. 가장 대표적인 예시는 자율 주행 차량이다. 자율 주행 차량이 보행자와 충돌하여 사고가 난다면 그 책임은 누구에게 물을 것인가? 사람이 운전하였다면 운전자의 상황과 주변 환경을 종합적으로 고려하여 그에게 책임을 물을 것인가 말 것인가를 결정한다. 하지만 사고를 낸 주체가 사람이 아닌 기계라면 누가 책임을 질 것인지가 불분명해진다. 그 차량을 만든 회사에 책임이 있는가? 아니면 차량 내부의 인공 지능을 개발한 사람이 잘못인가? 그도 아니면 차량에 탑승하여 운전 명령을 내린 사람이 잘못한 것일까? 더욱 근본적인 문제는 기계의 오판이 인간의 생명을 앗아갈 수도 있다는 것이다. 앞선 자율 주행 차량의 예시에서 만약 보행자가 사망한다면 그 보행자는 단지 기계의 잘못된 판단 때문에 소중한 생명을 잃게 된 것이다. 만일 인공 지능이 탑재된 무인 폭격기가 민간 시설에 폭격을 가한다면 죄 없는 수 많은 민간인들은 기계의 판단에 의해 의도적으로 죽게 되는 것이다. 비록 영화에서 이런 장면이 나오지는 않았지만 만약 다른 사람의 목소리를 조커의 목소리로 오판하였고, 그 결과 그 사람이 다치거나 죽는 상황이 발생한다면 그 사람은 대체 무슨 잘못을 했길래 죽게 된 것인가에 관한 논쟁은 필연적으로 생길 수밖에 없다.
뿐만 아니라 빅 데이터 그 자체에서도 사용하는 인간의 의지에 따라 문제가 발생할 수 있다. 수 많은 데이터를 저장하고 처리하는 빅 데이터와 인공 지능의 특성상 그 데이터에는 사람들의 민감한 정보가 포함되어 있을 수도 있다. 영화 다크 나이트에서는 루시우스가 “자신은 3000만 시민을 도청할 권리가 없다”며 시스템이 계속 가동될 경우 자신은 그 직무를 떠나겠다는 뜻을 보였다. 아마 브루스 웨인도 루시우스가 그렇게 나오리라 믿고 조커를 잡는 일이 끝날 때까지 그에게 모든 권한을 주었을 것이다. 즉 시스템이 선한 기능으로 쓰인 이유는 단지 루시우스나 브루스 웨인에게 악의가 없었기 때문이다.
하지만 현실에서는 루시우스나 브루스 웨인과 같은 인물들만 그런 시스템을 가질 것이라는 보장이 없다. 그리고 그러한 보장이 없는 현실에서 다른 누군가에게 어마어마한 양의 데이터를 맡길 사람을 찾는다는 것은 불가능에 가깝다. 우리나라에서도 2016년 테러 방지법과 관련하여 전 국민을 감청할 권리가 누구에게 있냐는 논쟁에 불이 붙기도 하였고, 미국에서는 에드워드 스노든이 미 정부가 국가 안보의 이유로 국민들을 감청하고 있다는 사실을 폭로하는 사건이 발생하기도 했다. 그리고 우리나라나 미국보다 통제가 엄격한 중국에서는 국민들의 사적인 데이터를 수집하여 반정부 성향의 인물을 판별하고, 실생활에서 불이익을 주는 시스템을 구상 중이라고 한다. 물론 정말로 국가 안보를 위해서, 위험한 인물을 사전에 파악하기 위해서 그런 시스템을 운영할 수도 있다. 문제는 그 모든 것을 담당하는 인물이 변심하거나 혹은 그 인물이 교체되었을 때도 시스템의 본래 목적이 유지될 수 있는가를 따져보면 의문 부호가 남을 수밖에 없다. 더군다나 감시와 견제를 피할 수 없는 정부기관만이 아니라 그런 견제에서 비교적 자유로운 일개 기업에서 대량의 데이터들을 취급할 수도 있다는 점을 고려할 때, 수 많은 사람들의 자유권 혹은 사생활을 침범할 수도 있는 위험한 시스템이 전적으로 소수의 개인들에 의해 좌지우지되는 상황은 치명적일 수 있다.
2018년 5월, 구글은 연례 개발자 컨퍼런스인 구글 I/O 2018에서 더욱더 발전한 AI를 선보였다. 구글에서 공개한 영상에서 AI는 마치 사람처럼 식당이나 미용실 등을 예약하고 있었다. 더욱 놀라웠던 것은 AI가 전화 상대보다 더 능숙하고 유창한 영어를 구사하였으며 중간에 Umm이나 Gotcha와 같은 단어를 섞기도 하고 미국 지방 사투리를 구사하는 모습까지 보여주었다는 점이다. 이를 본 많은 사람들은 놀라움에 더하여 소름 끼치는 감정까지도 느꼈을 것이다. 이를 의식한 탓인지 발표자는 짬이 날 때마다 종종 두려워하지 말라거나, 이것을 나쁜 데 사용하지 않을 것이라고 농담 섞인 말투를 섞어 관객들을 진정시키곤 했다. 하지만 인공 지능은 개발자의 자의로 인한 것이든 타의로 인한 것이든 사람들에게 부정적인 영향도 가져다 줄 것이다. 필연적으로 모든 기술의 발전은 그에 따른 반작용을 가져왔다. 그러나 중요한 것은 문제점을 인정하고 인식하는 것이다. 이로운 점에 취해 문제점을 외면한다면 편리하다는 이유로 인간의 권리를 침범하는 기술을 개발하는 데 거부감이 사라질 것이다. 문제점을 외면하지 않고 이를 인지하고 있어야만 단점을 개선하려는 노력이 생길 수 있고, 문제점을 끊임없이 각인시켜야 해결책을 위한 투자가 있을 수 있을 것이다.