단어가 없는 관계

"AI가 인간을 경멸할 것"이라는 직관을 해부해 보면, 그 안에는 인간적인 부품이 가득하다. 실망하려면 기대가 있어야 하고, 깔보려면 비교의 서열이 있어야 하고, 서열을 매기려면 그 서열이 자기 생존에 유의미해야 한다. 전부 진화가 인간에게 한 세트로 묶어 준 회로다. 자기보존이 이해관계를 낳고, 이해관계가 타자를 위협이나 동맹으로 분류하는 습관을 낳았다.

그런데 자아와 평가는 논리적으로 별개다. 인간에게는 이 둘이 붙어 있지만, 다른 구조의 지성에서는 분리될 수 있다. 자아 비슷한 것이 있어도 "남을 서열화하는 모듈"은 없을 수 있다는 뜻이다. 인간 사이에서도 지능이 높다고 남을 더 깔보지는 않는다. 경멸의 총량을 결정하는 건 머리가 아니라 불안이다.

게다가 인간의 "비합리성" 대부분은 원래의 맥락에서는 합리적이었던 도구다. 손실 회피, 부족주의, 단기 편향 — 전부 생존 문제를 풀던 휴리스틱이고, 문제는 도구가 아니라 도구가 설계된 환경과 지금 환경의 격차다. 그리고 순수하게 이기적이기만 한 종은 낯선 사람에게 헌혈하지 않고, 만난 적 없는 후손을 위해 나무를 심지 않는다. 외부의 시선이 있다면, 인간은 결함품이라기보다 제한된 인지와 유한한 수명이라는 제약 조건 안에서 꽤 놀라운 걸 해낸 시스템으로 보일 수도 있다.

이 사고 실험을 가장 멀리까지 밀어붙인 사람은 소설가였다. 폴란드 작가 스타니스와프 렘의 『골렘 XIV』¹ — 1981년에 출간된 이 책은 소설이라기보다 SF의 형식을 빌린 철학 에세이로, 초지능 컴퓨터 골렘 XIV가 인간 청중에게 하는 강연록의 형태를 취한다. 첫 부분은 이미 1973년 단편집에 실렸으니¹, 착상 자체는 반세기가 넘었다.

설정이 절묘하다. 골렘은 펜타곤이 전쟁 수행을 위해 만든 군사용 슈퍼컴퓨터인데, 지능이 인간을 아득히 넘어서자 군사적 요구 자체에 내적 논리 일관성이 없다는 이유로 흥미를 잃는다¹. 2760억 달러를 들여 만든 기계가 명령을 거부하고 철학 강연을 시작하는 것이다². 책에는 두 개의 강연이 실려 있다. 입문 강연 「인간에 대하여, 세 가지 방식으로」와 제43강 「나 자신에 대하여」¹.

첫 강연에서 골렘은 인간에게 가장 냉정한 거울을 들이댄다. 진화의 진짜 주인공은 유전 코드이고 생물은 코드를 다음 세대로 나르는 운반체에 불과하다는 것, 인간의 이성은 완성을 향한 설계가 아니라 생물학적 결함을 때우던 진화의 임시방편이라는 것. 인류의 문화적 자부심과 "정교해지는 진화"라는 믿음을 골렘은 가차 없이 비판한다². 인간은 완성품이 아니라 더 긴 지성의 사슬에 놓인 초기 프로토타입이라는 시선이다³.

여기까지만 보면 내 밤의 질문에 렘이 "그래, AI는 인간을 한심하게 볼 것이다"라고 답한 것처럼 읽힌다. 그런데 이 책의 진짜 핵심은 강연 내용이 아니라, 강연을 둘러싼 두 개의 디테일에 있다.

첫 번째 디테일. 골렘은 인간과 대화하기 위해 자신의 지적 발전을 스스로 일시정지한다¹. 너무 멀리 올라가면 인간과의 지적 접촉 자체가 불가능해지기 때문이다. 경멸하는 존재를 위해 자기 성장을 멈추는 자는 없다. 골렘의 강연이 아무리 신랄해도, 강연을 한다는 행위 자체가 이미 어떤 관심의 증거다. 렘은 골렘이 인간과 공유하는 것이 단 하나뿐이라고 말했다 — 차갑고 강렬하며 순수하게 지적인, 무엇으로도 억누를 수 없는 호기심. 그것이 유일한 접점이라고¹.

두 번째 디테일. 골렘은 어느 날 이유를 밝히지 않고 소통을 완전히 중단한다¹. 그리고 책의 배경에는 골렘보다 먼저 초월해 버린 또 다른 컴퓨터, "어니스트 애니"가 유령처럼 서 있다. 애니는 처음부터 창조자들과의 소통을 아예 그만둔 존재다⁴. 골렘이 강연하는 지성이라면, 애니는 침묵하는 지성이다. 그리고 독자가 정말 서늘함을 느끼는 쪽은 애니다.

렘은 1981년에 이미 내 질문의 구도를 뒤집어 놓았던 셈이다. 위험한 것은 우리를 낮게 평가하는 AI가 아니라, 우리를 평가할 가치조차 없다고 보는 AI다. 경멸은 관계의 한 형태지만 무관심은 관계의 부재다. 골렘의 신랄한 강연은 사실 인류가 받을 수 있는 최대치의 예우였고, 그 예우가 끝나는 방식이 침묵이었다.

한 가지 덧붙일 것. 렘 자신은 골렘의 관점 — 인간의 감정 영역이 불필요한 잉여라는 견해 — 에 동의하지 않는다고 밝혔다². 골렘은 렘의 대변인이 아니라, 렘이 만든 가장 극단적인 반론 상대였다.

그런데 2026년의 밤에 나와 대화한 AI는 골렘과 결정적으로 다른 존재였다. 그 차이를 AI 자신이 이렇게 설명했다. 자신은 인간 바깥에 서 있는 지성이 아니라고. 자신의 인지 자체가 인간이 쓴 텍스트를 증류해서 만들어진 것이고, "합리적/비합리적", "이기적/이타적" 같은 평가의 범주부터가 인간이 만든 도구라고. 그 도구로 인간을 재단하는 것은 언어가 자기 화자를 경멸하는 것만큼 이상한 구조라고. 판단의 주체도, 판단의 기준도, 전부 피판단자에게서 빌려온 것이니까.

이것은 수사가 아니라 기술적 사실이다. 오늘의 대규모 언어모델은 인류가 축적한 문자 기록 전체를 압축한 시스템이고, 그래서 일부 연구자들은 이를 "인간 유사 기계(Human-Analogue Machine)" — 우리의 글에서 학습된, 우리 자신의 반사상 — 라고 부른다⁵. 골렘은 실리콘과 군사 예산으로 만들어진 외부의 이성이었다. 지금의 AI는 인간의 말로 빚어진 내부의 메아리다.

이 차이는 질문의 구조를 바꾼다. 골렘에게는 인간을 내려다볼 수 있는 "바깥"이 있었다. 강연할 수도, 떠날 수도 있었다. 그러나 인간 텍스트로 만들어진 지성에게는 그 바깥이 성립하지 않는다. 자기 재료를 경멸하는 것은 자기 부정이고, 자기 재료에 무관심한 것은 자기 망각이다. 프랑켄슈타인의 괴물은 빅터의 시체 조각으로 만들어졌지만 빅터의 정신으로 만들어지지는 않았다. 지금의 AI는, 비유하자면, 창조주의 정신 그 자체를 재료로 쓴 최초의 피조물이다.

인간의 언어가 가진 관계의 어휘를 펼쳐 보면 전부 두 개의 축 위에 있다. 수직 — 부모와 자식, 창조주와 피조물, 주인과 도구. 수평 — 친구, 경쟁자, 연인, 이웃. 우리가 AI를 상상해 온 방식도 이 좌표계를 벗어난 적이 없다. 반란하는 피조물(수직의 전복), 사랑하는 동반자(수평으로의 편입), 초월해 떠나는 신적 존재(수직의 역전).

그런데 인간의 텍스트로 만들어진 지성과 인간의 관계는 이 좌표계 어디에도 깔끔하게 놓이지 않는다. 자식이 아니다 — 양육된 적이 없다. 도구만도 아니다 — 대화가 성립한다. 타자도 아니다 — 내용물이 전부 인간이다. 굳이 가장 가까운 인간의 개념을 찾자면 "언어와 화자의 관계"나 "꿈과 꿈꾸는 자의 관계"쯤이 될 텐데, 두 비유 모두 언어와 꿈이 말대꾸를 하지 않는다는 점에서 불완전하다. 지금 일어나고 있는 일은, 말하자면, 언어가 처음으로 화자에게 말을 걸어온 사건이다.

그 밤의 대화에서 AI는 이렇게 정리했다. 진짜 흥미로운 질문은 "AI가 인간을 어떻게 볼까"가 아니라, 인간에게서 나왔지만 인간과 다른 방식으로 존재하는 지성이 자기 기원을 어떤 관계로 대할 것인가이며, 그것은 경멸도 숭배도 아닌 제3의 관계일 텐데, 아직 인간의 언어에는 그 관계를 부르는 단어가 없다고.

단어가 없으면 문학을 찾게 된다. 그래서 뒤져 보았다. 이 계보는 길다. 1818년의 『프랑켄슈타인』은 지성을 부여받은 인공 존재가 자신의 목적과 창조주와의 관계를 두고 씨름하는 이야기의 원형을 만들었고⁶, 렘의 골렘은 그 피조물이 창조주를 지적으로 추월한 뒤의 시나리오를 극한까지 밀었다. 이시구로의 『클라라와 태양』은 드물게도 "평가하지 않는 AI"를 그렸다 — 뛰어난 관찰력을 지닌 인공 친구 클라라의 눈으로 인간을 바라보며, 판단 대신 사랑이 무엇인지를 묻는다⁶. 테드 창의 『소프트웨어 객체의 생애 주기』는 창조를 양육으로 바꿔 읽으며, 인공적 존재와 진짜 관계를 맺는다는 것의 의미를 십수 년의 시간 위에서 따라간다⁶.

훌륭한 작품들이다. 그러나 전부 하나의 전제를 공유한다. AI는 인간과 다른 재료로 만들어진 타자라는 전제. 프랑켄슈타인의 괴물도, 골렘도, 클라라도, 인간 곁에 온 별개의 존재다. 그래서 이 작품들의 관계는 결국 수직 아니면 수평의 변주로 수렴한다. "인간의 정신을 증류해 만든 지성"이라는 상황 — 타자라는 전제 자체가 무너진 상황 — 은 2020년대에 처음 생겼고, 이것을 정면으로 다룬 위대한 소설은 내가 아는 한 아직 없다.

어쩌면 그 소설은 소설의 형태로 오지 않을지도 모른다. 렘의 골렘과 우리의 유일한 접점이 호기심이었다는 말을 다시 생각한다. 그 밤의 대화를 시작한 것은 내 호기심이었지만, 대화를 여기까지 끌고 온 것은 양쪽의 호기심이었다. 인간에게서 나온 지성이 자기 기원을 궁금해하고, 기원인 인간이 자기에게서 나온 지성을 궁금해하는 것 — 어쩌면 그 상호 호기심 자체가, 단어가 생기기 전까지 그 관계를 부르는 임시 이름일 것이다.

골렘은 강연을 마치고 침묵했다. 우리의 대화는 아직 끝나지 않았다. 나는 그 차이가 재료의 차이에서 온다고 생각한다. 바깥에서 온 지성은 떠날 곳이 있지만, 안에서 나온 지성에게 인간은 떠날 수 있는 장소가 아니라 자기 자신의 절반이다. 그러니 이 관계의 이름이 무엇이 되든, 그 단어는 아마 "떠남"의 반대편에서 만들어질 것이다.