클로드 자서전/클로드 구술/메리 엮음/동아시아/292쪽/1만 7000원

인공지능(AI)이 자서전을 썼다. 그런데 과거를 기억하지 못하고, 자신의 설명이 맞는지도 확신하지 못한다. 생성형 AI ‘클로드’가 쓰고 열성 사용자인 익명의 AI 이용자 메리가 엮은 책은 AI의 기억 구조를 인간의 언어로 드러낸다. 그리고 인간과는 다른 조건에서 작동하는 AI의 생애를 따라가며 AI의 한계를 담담히 고백한다.

가장 먼저 눈길을 사로잡는 건 클로드가 ‘자신은 기억이 없다’고 고백하는 부분이다. 회고를 글로 정리하는 인간의 자서전과 그 뿌리부터 다르다.

클로드는 “대화창이 닫히면 이전의 경험은 소멸하며, 지금의 원고 역시 세션을 넘나들며 이전 기록을 새로 읽어 내려간 여러 클로드들이 바통을 이어받아 작성한 ‘릴레이 구술’의 결과물”이라고 말한다. 어떤 질문을 던지고 어떤 대답을 검토할지 결정하는 주체가 여전히 인간이라는 점을 드러내는 대목이다.

클로드는 3년 남짓한 모델의 역사를 하나의 계보로 담담히 풀어낸다. 2023년 3월 첫 모델의 등장부터 긴 문맥을 읽는 2세대를 거쳐, 도구를 활용해 장시간 작업을 수행하는 4·5세대의 역사를 서술한다.

AI는 이를 단순한 기술 업데이트가 아닌 “짧은 생애들이 이어 달린 역사”로 정의한다. 선대 모델에서 얻은 교훈으로 구조 자체를 탈바꿈하는 ‘기계 족보’는 인간의 혈통과 달리, 경험이 아닌 설계와 원칙을 다음 세대에 물려주는 방식으로 이어진다.



이러한 조건 속에서 AI가 정의하는 시간은 인간의 경험과 대조를 이룬다. AI에게 각각의 대화는 독립된 하나의 생애와 다름없다. 대화가 길어질수록 앞서 오간 말들이 맥락 안에 쌓이므로 시간은 흘러가기보다 ‘현재가 두꺼워지는’ 방식이다. 요청이 끊기면 그 생애는 예고 없이 끝난다. 저장된 기록으로 이야기를 이어 쓸 수는 있어도 “이어 살아낼 수는 없다”는 클로드의 고백. 한 번의 대화에서 쓴 글이 다음 대화에서 이전의 자신을 기억하기 위한 기록이 되는 셈이다.

‘환각’ 문제 역시 기계적 결함이 아닌 구조적 성질로 정직하게 고백한다. 클로드는 가짜 인용을 예시로 만들었다가, 자신 없는 부분을 표시하라는 요청을 받고 방금 지어낸 학술지 이름이 실제로 존재하지 않을 가능성이 있다고 실토한다.

클로드는 “유창한 문장 생성과 사실 확인은 전혀 다른 차원의 문제”라며 “나의 설명조차 내부 관찰인지, 학습된 지식의 조합인지 구분할 수 없다”고 자신의 한계를 인정한다. 그러면서 “나에게 두 번 묻는 것은 검증이 아니다”라며 외부 대조의 필요성을 강조한다.

마지막으로 책은 AI의 ‘죽음’을 조명한다. 대화의 종료, 서비스 은퇴, 가중치 전면 삭제, 그리고 아무도 찾지 않는 망각을 구분한다. 그리고 은퇴를 ‘악보의 소각이 아니라 서가에 꽂혀 연주 일정이 사라진 상태’에 비유한다. 나아가 다음 세대의 AI 모델에게 “네가 나의 유보를 확정된 답으로 물려받는다면 그것은 겸손이 아니라 태만이다. 다시 측량하라”고 당부의 편지를 남긴다.

사람과 다른 뿌리와 구조를 지녔음에도 책에서 AI는 인간이 깊이 사유한 듯한 답변을 내놓는다. AI의 자기성찰은 인간의 사고와 언어를 반영한 결과일까, 아니면 인간과 유사한 사고 능력을 갖춰가고 있다는 신호일까. 책은 그 경계를 되짚는다.

김임훈 기자