기계가 언어를 사용한다는 것에 대한 인문학적 사유

인공지능과 로봇 분야에서

선도적인 목소리를 내고 있는 세계적인 두 기술철학자의 공동 저작!

이미 국내에『인공지능은 왜 정치적일 수밖에 없는가』,『AI 윤리에 대한 모든 것』,『그린 리바이어던』,『뉴 로맨틱 사이보그 』등의 저자로 소개된 세계적인 기술철학자 마크 코켈버그와 커뮤니케이션학자이자 로봇 및 인공지능 윤리를 다루는 기술철학자로 유럽과 북미, 남미, 일본 등지에서 이미 명성을 얻고 있으며 『기계 문제』,『인격체, 사물, 로봇』 등 다수의 책을 낸 데이비드 J. 건컬이 거대언어모델(LLM)를 기반으로 하는 ‘소통 방식’ 인공지능의 언어 사용과 언어 콘텐츠에 초점을 맞추고 다양한 관점에서 철학적인 성찰적 질문을 제기하고 대안까지 제시하고 있다는 점에서 다른 LLM 인공지능 저작들과 그들의 이전 저작들과도 차이가 있는 내용이라 할 수 있다.

먼저, 이 책은 ‘거대언어모델 인공지능이 어떠한 원리로 글을 생성하고 말을 하는지’ 이 기술을 처음 접하는 이들이 이후의 장들에서 심층적으로 논의하는 관련 내용을 쉽게 이해할 수 있도록 자연어 처리 기술, 역사, 용어 등과 함께 간략한 설명에서 시작한다. 나아가 2022년 오픈 AI 챗GPT의 등장 이후로 경제와 기술 변화를 넘어 세계를 재편하고 있는 이 기술들이 다양한 분야로 빠르게 확산되고 활용되면서 기술적으로 시급히 해결해야 할 문제가 드러나기 시작했고 그 파급 효과가 크다는 점에서, 또 매우 강력한 이 기술을 제대하기 이해하기 위해서라도 복잡한 윤리적, 법적, 사회적, 정치적 쟁점들을 우선적으로 살펴본다.

지능과 의식의 문제는 중요하다!

이 기술이 등장한 이후, 다시 말해 LLM 인공지능이 인간처럼 그럴듯하게 글을 쓰고 복잡한 대화까지 나눌 수 있게 되자 인간과 동등한 수준의 인공일반지능(AGI)이 수년 내 등장하리라 예견하고, 심지어 인간을 압도적으로 능가하는 초지능 AGI의 등장까지 내다보는 사람들까지도 있다는 점에서, 저자들은 ‘지능’과 ‘의식’에 관한 문제에 먼저 주목한다. 인공지능이 처음 등장했던 1950년대 앨런 튜링의 논문에서부터 오랜 철학적 쟁점 사안인 타자의 마음 문제, 계속 바뀌는 지능 기준의 문제, 지능이나 의식 문제를 환상이나 속임수, 실재와 현상(외양)으로 구분하는 문제까지 연결 짓고 ‘사고 실험’이라 부를 수 있는 플라톤의 저서 『국가』에 등장하는 ‘동굴의 비유’, 존 설의 중국어 방 실험 등을 심층적으로 다룬다. 그리고 만약 지능이 있다면 도덕적, 법적 주체로서 권리와 책임까지 새로 논의해야 함을 건컬의 이전 저작을 통해 암시한다.

LLM 인공지능이 ‘과연 언어를 이해할까?’

이 쟁점과 관련하여 저자들은 언어와 의미에 관한 논의에서 그 해답을 찾으려 한다. 즉, 이 문제에 천착하기 위해 언어학과 언어철학, 커뮤니케이션 이론을 가져와 지시적 실재론과 진리 대응설, 소쉬르에서 데리다에 이르는 구조주의와 후기구조주의, 하이데거, 후기 비트겐슈타인에 이르는 사상가들의 아이디어와 통찰을 통해 언어 주체가 탈중심화되기까지, 나아가 플라톤의『파이드로스』와 소크라테스의 언어철학으로 거슬러 올라가 언어의 구조와 체계, 기호와 관련된 쟁점들을 살피고 LLM이 언어 및 의미와 맺는 관계도 탐색한다. 바르트가 말한 ‘저자의 죽음’ 이래로, 그리고 LLM이 등장한 이후, 이제 우리는 공동 저작이나 권위 없는 글을 마주하고 있다. 이 점에서 저자들은 LLM이 언어를 다루고 사용하는 방식이 구조주의 언어학과 후기구조주의 기호학의 혁신에 부합한다고 주장한다. 그리고 언어가 인간만이 가지고 있는 표현 수단을 넘어서는 것이라면, 커뮤니케이션 행위를 다른 주체, 즉 비인간까지 포함하는 관점에서 이론화해야 할 당위성을 피력하며 그 대안을 제시하기도 한다.

저자란 무엇이며, 글쓰기에 미래는 있는가?

바르트가 말했듯이, 저자는 근대적 인물이다. 근대 이전에도 글을 쓰는 사람은 있었으나 오늘날과 같은 의미의 저자와 그 권위는 존재하지 않았다. LLM과 생성형 AI 기술의 등장으로 이제는 저자의 권위 있는 목소리가 없고 이에 의존하지도 않는 텍스트의 확산, 무언가를 말하기 위한 어떤 사전 의도에 진실이 없는 글을 마주하게 되었다. 기존의 사고방식에서 보자면 이것은 위협이자 위기의 징후로만 보일 수 있다. 그렇지만 저자들이 생각하기에, 20세기 문학이론과 후기구조주의 철학, 페미니스트 과학기술학 등 기존 전통의 해체를 추구하는 관점에서 보면 현재의 위기는 서구 형이상학과 그 헤게모니의 한계를 넘어 그 체계를 완전히 벗어나 사유할 수 있는 기회이다. LLM은 저자라는 인물, 의미 형성의 방식이나 진리 개념을 위협하지 않는다. 단지 제한적인 개념만을 위협할 뿐이다. 즉, LLM은 우리의 일상에 깊게 뿌리내린 로고스 중심주의에 함몰된 우리의 사유 방식과 저자 기능이 가진 궁극적 한계를 드러내고 그 구성 원리를 탈중심화하는 데 기여하며 다르게 사유하고 다르게 글을 쓸 기회를 열어준다. 그래서 글쓰기에 미래는 있다고 진단한다. 데리다의 ‘이중 제스처’ 개념은 이를 뒷받침한다.