유발 하라리의 최신작 넥서스(Nexus)의 주제는 다음과 같다.
'컴퓨터의 출현과 머신러닝으로 촉발된 AI의 비약적 발전으로 인류는 지금 특이점(Singularity)에 근접(혹은 이미 지났을 수도 있다)해가고 있으며, 이로 인해 초지능의 도래를 목전에 두고 있다. 이런 상황에서 과연 새로운 Ai기술을 통해 인류는 민주주의와 전체주의의 경로중 어떤 족으로 가게 될 것인가?
유발 하라리는 민주주의의 전체주의의 경로를 결정하는 것은 결국 인간이 살아온 역사에 살아 숨쉬는 인류의 보편적 원칙에 의해 결정될 것이라고 이야기한다.
-------------
많은 책들이 디지털 시대에 민주주의 사회가 어떻게 생존하고 번영할 수 있는지 소개한다.
전문가들은 당연히 평생을 바쳐 세부적인 내용을 다루어야 하지만, 나머지 사람들은 민주주의가 따를 수 있고 따라야 하는 기본 원리들을 이해하는 것이 중요하다. 강조하고 싶은 점은, 이 원리들이 새로운 것도 신비로운 것도 아니라는 것이다. 이 원리들은 수백 년, 심지어 수천 년 동안 존재해왔다. 시민들은 이 원리들이 컴퓨터 시대의 새로운 현실에도 지켜지도록 요구해야 한다.
첫 번째 원리는 선의다. - 정부, 기관, 기업체에서 수집되는 정보들은 선한 목적으로 수집되고 이용되어져야 한다. 개인의 프라이버시는 최대한 보호되어야 한다. 궁극적으로는 공리주의의 최대 가치에 따라 공동체의 이익을 최대화 시키는데 부합되어져야 한다.
전체주의 감시체제의 등장으로부터 민주주의를 보호할 두 번째 원리는 분권화다. 민주주의 사회는 정보가(허브가 정부든 민간 기업이든) 한 곳에 집중되는 것을 절대 허용해서는 안 된다. 국가가 시민들에 대한 정보를 수집하는 국립 의료 데이터베이스를 구축한다면, 더 나은 의료 서비스를 제공하고, 전염병을 예방하고, 신약을 개발하는 데 매우 유용하겠지만, 이런 데이터베이스를 경찰, 은행, 보험회사의 데이터베이스와 병합하는 것은 매우 위험한 생각이다. 그렇게 한다면 의사, 은행원 보험사 직원,경찰이 더 효율적으로 일할 수 있겠지만, 이런 초고효율은 자칫하면 전체주의로 가는 길을 열 수 있다. 민주주의의 생존이라는 측면에서 보면 약간의 비효율은 버그가 아니라 기능이다. 개인의 사생활과 자유를 보호하기 위해서는 경찰도 상사도 우리에 대해 모든 것을 알지 못하게 하는 것이 최선이다.
복수의 데이터베이스와 정보 채널은 강력한 자정 기능을 유지하기 위해서도 필요하다. 자정 기능이 잘 작동하기 위해서는 정부, 법원, 언론, 학계, 민간 기업, NGO 등 서로 균형을 이루는 다양한 기관이 필요하다. 이 모든 기관은 오류와 부패로부터 자유롭지 않기 때문에 서로 견제가 필요하다. 이런 기관들이 서로를 감시하기 위해서는 각기 독립적인 정보 채널을 가지고 있어야 한다.
세 번째 민주주의 원리는 상호주의다. 민주주의 국가가 개인에 대한 감시를 강화할 경우 정부와 기업에 대한 감시도 동시에 강화해야 한다.
민주주의에는 균형이 필수다. 정부와 기업은 종종 하향식 감시도구로 쓰기 위해 앱과 알고리즘을 개발한다. 하지만 알고리즘은 강력한 상향식 도구도 될 수 있다. 시민들은 알고리즘을 통해 정부와 기업이 뇌물 수수나 탈세 등의 부정행위를 저지르는지 감시하여 책임을 물을 수 있다. 그들이 우리에 대해 많은 것을 알지만 동시에 우리도 그들에 대한 많은 것을 알 때 균형이 맞춰진다.
상호 감시는 자정 기능을 유지하는 데도 중요하다. 시민들이 정치인이나 기업 CEO의 활동을 잘 알수록 책임을 묻고 그들의 실수를 바로잡기 쉬워진다.
네 번째 민주주의 원리는 감시 시스템에 항상 변화와 휴식의 여지를 남겨야 한다는 것이다.
(종교가 과학에 지혜의 수장 자리를 넘긴 것은 경전의 무오류성에 대한 자기발전과 자정작용의 포기에 있었다. 과학이 지식발전의 최전방에 설 수 있었던 이유는 지식의 불완전성과 오류에 대해 인정하고 과학의 틀 안에서 그 오류를 끊임없이 의심하고 증명하고 수정해나가는 프로세스를 확립한 덕분이다. 민주주의도 이렇게 열려있는 자세로 그 체제의 불완전성과 오류를 의심하고 수정해나가는 과정이 필수 불가결하다)
민주주의 사회가 강력한 감시 기술을 도입할 때는 지나친 경직성과 지나친 유연성이라는 양극단을 경계해야 한다.
역사에는 인간의 변화 능력을 부정하는 경직된 카스트제도가 무수히 많았지만, 인간을 점토처럼 빚으려고 시도한 독재자들도 많았다. 두 극단 사이에서 중간 지점을 찾는 것은 끝이 없는 과제다.
----------------------------------------
위의 내용을 곰곰이 되씹어 보면 드라마 '환혼'에서 유준상이 마지막회에 절규하듯 내뱉은 다음 대사가 문득 생각난다.
민주주의란(혹은 인간이 선택하는 어떤 체제나 삶의 방식이라는 것은), 단계마다 현재 우리가 과연 우리가 가진 원칙과 상식에 비추어 과연 거기에 맞는 길을 가고 있는가?라는 끝없는 자기증명의 과정이라는 것이다.