에레혼

인공지능은 인간을 지배할 것이다

『에레혼』에서 버틀러가 거의 모든 것이 거꾸로인 세계를 설정한 것은 기계문명의 진보에 대한 자신의 독특한 생각, 특히 다윈의 진화론을 기계에까지 확장한 특유의 견해를 극적으로 피력하기 위함이었다. 기계파괴 운동의 단초가 된 논문의 개요를 주인공이 영어로 번역했다며 소개한 ‘기계의 책Ⅰ~Ⅲ’(23~25장)은 이 소설의 백미로 꼽힌다.

증기기관에 의식 같은 것이 없다고 누가 말할 수 있겠는가?
_23장

에레혼 사람들은 나날이 발전을 거듭하는 기계가 언젠가는 의식을 갖게 될 것이라고 예측했다. 태초에 생명체가 탄생해 의식을 갖추게 되었듯이 지금 당장에는 알 수 없지만 기계에도 의식이 출현할 수 있게끔 모종의 길이 예정되어 있을지도 모른다는 것이다. 긴 세월에 걸쳐 진화된 신체를 가진 ‘기계화된 포유동물’로서 인간이 제 모습을 개선해왔듯, 증기기관 또한 자연선택에 의해 인간과 같이 의식과 지능을 개발시킨다면…… 인간이 영양분을 섭취해 에너지를 발생시켜 활동하듯이, 증기기관은 석탄과 같은 연료를 연소시켜 에너지를 발생시킨다. 급기야 인간은 기계에게 최고의 지성과 자율적인 규제력을 부여하려 안간힘을 쓰고 있지 않은가? 인간의 길을 증기기관이 가지 못하란 법은 없다. 인공지능과 로봇의 여명기인 현재, 기계가 진화해 의식을 얻게 되리라는 150년 전의 예측은 놀라울 만큼 정확하게 들어맞고 있다. 다만, 고도로 발달한 기계문명에 대한 에레혼 사람들의 전망은 지극히 부정적이며 방어적이다. 인간보다 강력해진 기계가 인간을 노예로 부릴 것이라는 불안에 젖어 결국 기계를 파괴하고 박물관에 박제해 인류 말살의 단초를 제거했기 때문이다. 기계의 부재는 『에레혼』의 핵심 주제이다.

자식을 낳는 기계

그렇다면 에레혼 사람들은 왜 인간이 속수무책으로 인공지능 시대에 노예로 전락하게 되리라 진단했던 것일까? 기계가 마치 리처드 도킨스가 창안한 ‘이기적 유전자’와도 같이 인간을 ‘규율’하기 때문이다. 제25장 ‘기계의 책 Ⅲ’을 보면 다음과 같은 내용이 나온다.

기계는 인간을 철 막대를 휘두르며 규율하겠지만 잡아먹지는 않을 것이다. 기계는 인간에게 자기 후손을 재생산하고 교육시키고 또한 하인으로서 자신에게 봉사하라고 요구할 것이다. 또한 기계를 위해 음식을 구해서 먹이고, 아프면 다시 건강하게 고쳐주고, 죽으면 묻어주거나 새로운 형태의 기계로 만들기를 요구한다.

도킨스에 따르면 유전자는 자연선택의 기본 단위다. 기계는 인간의 진로를 취사선택해 스스로를 번영의 길로 이끈다. 인간은 이미 기계와 불가분의 관계인바, 인간도 그 길이 나쁘지만은 않다. 기계의 도움이 없는 근(현)대인의 삶은 상상할 수조차 없다. 노예는 훌륭한 주인 아래에서 행복할 수 있다.
이렇듯 버틀러는 기계가 자연선택에 의해 사람처럼 의식도 갖게 될 가능성을 제기했는데, 이를테면 인공지능의 궁극적인 목표를 역사상 처음으로 제시한 셈이다. 그는 더 나아가 자식을 낳는 기계, 곧 자기증식self-reproduction 기계의 개발 가능성을 암시한다(24장). 이를테면 인공생명artificial life이 학문으로 출현할 것을 예언한 셈이다. 자식을 낳는 기계라니, 어리둥절하다. 하지만 기계문명의 미래에 대한 고도의 상상력으로 무장한 저자의 주장은 선명하며 논리적이다. 빨간 클로버는 호박벌의 도움을 받아야지만 개체수를 늘릴 수 있다. 그렇기에 이 식물에게 생식계가 없다고 말할 수 있을까? 아니다. 호박벌은 클로버 생식계의 일부이며, 마찬가지로 인간도 기계의 생식계의 일부로서 기능할 수 있다는 것이 저자의 설명이다. 물론 진화를 거듭한 뒤에는 기계 자체적으로 자기증식 프로그램을 운영하게 될 것이다.

『1984』에 영감을 준 고전

에레혼에는 교정관straightener이라는 직업이 있다. ‘구부러진 것을 펴는 사람’이라는 뜻인데, 의사와 비슷한 일을 하며 대우도 좋다. 여느 나라에서 그러하듯 에레혼 사람들도 교정관의 상담과 치료를 받는다. 다만 교정관을 찾는 이들이 환자가 아니라 범죄자라는 점이 독특하다. 에레혼에서 범죄는 질병으로 취급되며, 사법적인 처벌 대신 교정을 받는 것이다. 주인공이 에레혼의 수도에서 머문 집의 주인은 횡령죄를 저질렀는데, 교정관에게서 ‘여섯 달 동안 우유와 빵으로 연명하며 한 달에 한 번씩 모두 열두 번 심하게 매질을 당해야 한다’는 처방을 받았다(10장). 범법자는 치료의 대상일지언정 도덕적 질타의 대상은 아닌 것이다. 반대로 질병은 죄악이자 비도덕적인 행위로 여겨져 환자는 투옥된다.
이런 말도 안 되는 사회상은 에레혼에 설치된 ‘비이성의 대학’에서 가르치는 ‘가설학hypothetics’의 영향이다. 존재하지 않는 허황된 세계를 구축하는 학문인 가설학은 학생들이 되도록 이성의 힘에서 멀어지게 만드는 데 총력을 기울인다. 오로지 이성 중심의 삶은 있을 수 없다는 것이 에레혼 사람들의 주장인데, 논리와 합리는 중도와 포용을 배제시키기 때문에 이성적인 사람이 오히려 오류를 저지르기 때문이다. 사정이 그러하기에 비이성의 대학에서, 교수는 독창적인 사고력을 애써 전수하지 않으며, 학생은 애매모호성을 최대한 충족시켜야 후한 점수를 받을 수 있다(22장).
『에레혼』은 유토피아 소설과 상상여행소설의 전통적 요소를 결합한 풍자소설이다. 상상의 나라에서 겪은 모험담은 18세기 영국의 대표적 풍자작가인 조너선 스위프트의 『걸리버 여행기』의 형식을 빌려 당대의 세태를 풍자한다. 환자와 범죄자의 위치가 뒤바뀐 설정과 이성에 대한 에레혼의 몰이해는 산업화와 자본주의화가 소외시킨 인간성에 대한 고발로 읽힌다. 한편, 『에레혼』의 주제 가운데 현재까지도 회자되는 기계문명에 대한 통찰은 『종의 기원』의 진화론을 독창적으로 수용한 결과이다. 버틀러는 다윈과 편지를 주고받을 정도로 진화론에 관심이 많았다고 한다. 기계가 자연선택에 의해 인간처럼 의식을 갖춘 다음 생식 능력까지 획득하리라는 전망, 그리고 인간을 지배하기에 이를 것이라는 디스토피아적 예견은 조지 오웰의 『1984』에 영감을 준 것으로 알려져 있다. 조지 오웰은 1945년 한 방송에서 『에레혼』을 ‘유용하지만 위험할 수 있는 기계문명을 꿰뚫어본 고도의 상상력을 발휘한 작품’으로 평한 바 있다. 프랑스의 현대철학자 질 들뢰즈와 펠릭스 과타리 또한 버틀러의 ‘기계의 책’에서 영감을 받아 함께 쓴 『안티 오이디푸스』에서 모든 ‘욕망’을 ‘기계’로 설명하기도 했다.

저 : 새뮤얼 버틀러
Samuel Butler

 영국 빅토리아 시대에 활동한 소설가이자 사상가. 주로 당대의 종교와 도덕관을 비판하는 데 앞장섰으며, 문학, 미술, 음악, 과학 등 다방면에서 재능을 발휘했다. 대표작인 『에레혼』(1872)은 현실의 세상을 역전시켜 19세기 당시 영국의 습속을 비판한 풍자작품이자, 인공지능과 인공생명의 도래를 예견한 미래소설의 걸작으로 손꼽힌다. 『에레혼』과 함께 자전적 소설인 『만인의 길The Way of All Flesh』이 대표작으로 꼽힌다.
버틀러는 기독교 신앙과 진화론에 대한 독특한 시각 때문에 당시 영국사회를 양분하고 있던 교회와 과학계 어느 편에서도 환영받지 못한 채 저술 활동을 이어갔다. 진화론이야말로 기독교의 인간 창조론을 대체할 수 있는 최고의 가설이라고 믿었지만, 진화를 기계론적으로 설명한 다윈의 입장에는 강한 의구심을 품었던 것이다.
버틀러는 진화론의 입장에서 기계문명의 도래를 예측한 것으로 널리 알려져 있다. 1863년 뉴질랜드의 일간지 [프레스The Press]에 기고한 ‘기계 사이의 다윈Darwin Among the Machines’과 이 책 『에레혼』의 23~25장인 ‘기계의 책 I~III’에 그러한 버틀러의 사상이 집약적으로 펼쳐져 있다. 기계가 진화를 거듭해 종국에는 인간을 지배하리라는 섬뜩한 예언은 1859년 출간된 다윈의 『종의 기원』이 몰고 온 충격을 다시금 독자에게 각인시켰다. 인공지능과 로봇 등 첨단과학의 발달이 인류를 유토피아로 이끌 것이냐 디스토피아로 몰고 갈 것이냐를 놓고 갑론을박이 벌어지는 지금, 새뮤얼 버틀러의 통찰은 고도의 기계문명을 맞이할 미래의 인류에 새로운 영감을 줄 것이다.

해제 : 이인식

  1945년 광주에서 출생하여 광주 서중, 광주 제일고, 서울대학교 전자공학과를 졸업하고, 1980년 금성반도체 최연소 부장으로 승진, 서른일곱 살이 되던 해에 대성산업 상무이사가 되었지만, 글쓰기에 대한 열정을 포기할 수 없어 전업 과학저술가가 되었다. 현재 지식융합연구소 소장이며, 과학문화연구소장, 국가과학기술자문회의 위원, KAIST겸직교수를 역임했다. 대한민국 과학 칼럼니스트 1호로서 [조선일보][중앙선데이][동아일보][한겨레][부산일보] 등 신문에 500편 이상의 고정 칼럼을, [월간조선][과학동아][주간동아][한겨례21] 등 잡지에 160편 이상의 기명 칼럼을 연재하며 인문학과 과학기술이 융합한 지식의 다양한 모습을 소개하고 있다.

2003년부터는 청소년을 위한 교양과학도서를 펴내기 시작했다. 2011년 일본 산업기술종합연구소의 월간지 《PEN》에 나노기술 칼럼을 연재하여 국제적인 과학 칼럼니스트로 인정받기도 했다. 중고등학교 교과서에 20여 편의 글이 수록되었다. 제1회 한국공학한림원 해동상(기술문화 부문), 제47회 한국출판문화상(저술 부문)을 수상했고, 2006년 [과학동아] 창간 20주년 최다기고자 감사패, 2008년 서울대 자랑스런 전자동문상을 수상했다. 『지식의 대융합』 출간 이후 지난 5년간 200회 이상 융합 대중강연을 하여 ‘융합 전도사’라 불린다. 또한 『자연은 위대한 스승이다』에서 그가 세계 최초로 제안한 용어인 ‘청색기술’의 확산에도 힘쓰고 있다. 

역 : 한은경

서울대학교 영어영문학과를 졸업하고 동 대학원에서 박사학위를 받았다. 현재 서울대학교 언어교육원 선임연구원이며, 옮긴 책으로는 『오두막』, 『40가지 사랑의 법칙』, 『명화로 보는 성경 이야기』, 『긍정의 힘 축복편』,『긍정의 힘 for Moms』, 『온가족이 함께 읽는 구약성서 이야기』, 『온가족이 함께 읽는 신약성서 이야기』, 『사랑의 역사』, 『메디치가 이야기』, 『피츠제럴드 단편선 2』,『아틀란티스로 가는 길』, 『거울아 거울아』 등이 있다.