이런 상황에 처하고 보니,
나는 이 연약하고 무기력한 육체로부터 자유롭기를 소망하게 되었고
난생처음으로 차라리 기계였으면 하고 바랐다.
그랬다면 이렇게 고립이라도 안 됐을 텐데,
다수의 일원이 되어 안전했을 텐데,
그들이 놀려대는 그 번거롭고 더러운 배설도 하지 않을 수 있었을 텐데,
어찌하여 나는 이렇게 인간으로 태어난 것일까 원망스러웠다.
"작별인사 - 김영하" 중
정보 전달이 아닌 개인적인 감상을 정리한 글입니다
스포일러가 포함되어 있습니다
장르 : 한국소설, SF
저자 : 김영하
출판사 : 복복서가
출간일 : 2022년 5월 22일
작별인사
누구도 도와줄 수 없는 상황, 혼자 헤쳐나가야 한다지켜야 할 약속, 붙잡고 싶은 온기김영하가 『살인자의 기억법』 이후 9 년 만에 내놓는 장편소설 『작별인사』는 그리 멀지 않은 미래를 배
ridibooks.com
1. 인간을 닮은 인공지능의 탄생
네가 특별한 목적으로 만들어진 것은 맞아. 나는 중세 유럽의 수도원 같은 휴머노이드를 만들고 싶었단다. 깊은 산속의 수도원들이 고대의 지혜를 보존하여 르네상스로 전달했듯이 네가 미미하나마 그런 역할을 할 수 있기를 바랐고, 네가 성공한다면 비슷한 휴머노이드를 양산하여 인류의 유산을 차가운 데이터 센터가 아니라 정말 인간다운 마음을 가진 개체들 안에 보존할 생각이었다. 인류의 유산은 그것을 사랑하는 존재들만이 지켜낼 수 있으니까
1-1. 감정을 가진 휴머노이드
로봇은 특정 상황에서 특정 과업을 위해 생산된다. 그리고 일반적인 로봇은 양산 가능한 제품 혹은 부품의 합이다. 그래서 로봇의 형태는 가장 저렴한 비용으로 각각의 상황과 과업을 가장 잘 처리할 수 있는 형태로 만들어진다.
그렇다면 휴머노이드Humanoid, 즉, 인간Human과 유사한 형태-oid의 기계 로봇은 만들어질 수 있을까? 일단 기계 로봇이라고 말하면 컨베이어벨트와 철근으로 가득 찬 산업현장에서 인간을 대체하기 위한 용도로 생산되는 무언가를 떠올린다. 그런데 이런 공간에서 일해보면 알겠지만, 당장 인간인 나조차도 다리 대신 바퀴가 달렸으면 하고 팔은 4개쯤 있고 피부는 강철 피부였으면 하고 꿈꾸게 된다. 그러니 이런 곳에서 만들어질 기계는 인간의 형태와는 다른 형태로 만들어질 가능성이 높다.
게다가 곡선이 많고 유려한 인간의 형태가 네모반듯한 직선들의 결합보다 저렴할 리 없다. 또 피부나 채모와 같은 외관의 경우 늘어나는 비용에 비해 산업현장에서의 효과는 대단치 않을 것이다. 그러니 만약 어떤 범용적인 상황에 대응하기 위해 인간의 형태를 한 휴머노이드를 만든다고 하더라도, 적어도 외관만큼은 인간과는 다른 기계장치일 것이다. 영화 <아이, 로봇>처럼 말이다.
그러나 이 책에서 휴머노이드들이 활약하는 분야는 산업현장이 아니라 돌봄-서비스현장이다. 그리고 이곳에서 휴머노이드들은 인간과의 감정적 교류를 그 업무로 한다. 현실에서도 인공지능 대화 엔진 '심심이'나, '해이 카카오'로 대표되는 각종 인공지능 스피커들이 감정적 교류를 마케팅 포인트로 사용했었다. 비록 아직까진 부족한 데이터들로 감정적인 교류를 원했던 사람들의 욕구를 충족시켜주지는 못하고 있지만, 우리는 이 분야에서만큼은 인간Human과 유사한 형태-oid가 단순히 기능적 형태만이 아님을 경험하고 있달까?
감정을 가진 인공지능은 S.F의 흔한 소재다. 그러나 많은 S.F작품에서 이는 돌연변이와 같은 우연의 산물이거나, 고도화된 연산 작용의 부산물이다. 그러나 <작별인사>는 다르다. 이 책에서 인공지능이 감정을 가지게 된 이유는 전적으로 휴머노이드의 소비자들인 인간이 감정을 가진 인공지능을 요구했기 때문이다. 그래서 이 책에서 감정을 가진 인공지능은 주인공의 특수성이나 흑막의 반전이 아닌, 그저 시대변화에 따른 보편적 사회현상이다.
1-2. 감정을 부여받는 인공지능과 인간
그렇다면 감정을 부여한다는 건 뭘까? 언뜻 보면 황당해 보일지도 모르지만 인간도 어느 정도는 감정을 사회로부터 '부여'받는다. 특정 국가에서는 아무렇지 않은 행위가 특정 국가에서는 분노를 일으키며, 특정 지역에서는 매우 수치스러운 행위가 특정지역에서는 특별하지 않은 행위이니 말이다. 그리고 이 '부여'된 감정들은 각각의 사회에서 무리 없이 받아들여진다. 오히려 다른 문화를 가진 사람들과 원활하게 의사소통하기 위해서 그 문화만의 독특한 감정 메커니즘을 학습하기까지 한다.
인공지능의 감정도 크게 다르지 않을지도 모른다. 물론 기계에 '부여'한 감정은 고도의 프로그램화된 반응이다. 고통스러운 행위가 입력되면 고통스러워하는 반응을 표출하고, 즐거운 상황을 인지하면 즐거워하는 반응을 표출하는 그런 것 말이다. 그러나 고도로 발달한 연기는 현실과 구분되지 않는다. 그리고 스스로 학습하는 인공지능의 특성 상 그것이 고도로 발달한 연기인지, 학습되어 체화된 행위인지 구분되지 못한다.
그리고 이 책에서는 인공지능에게 학습시킬 가장 중요한 감정으로 고통에 대한 공포와 죽음에 대한 인지를 뽑는다. 고통스러워하는 인간을 위로하는 과업을 처리하기 위해선 그 고통의 공포를 가지고 있어야 하며, 무언가를 적극적으로 행하고 치열하게 사는 인간을 이해하기 위해선 유한한 삶과 죽음에 대한 인지가 필요하기 때문이다. 그래서 휴머노이드 회사들은 최진수 박사와 같은 연구원을 고용하여 인공지능에게 감정을 부여한다.
1-3. 인간과 닮은 휴머노이드, 철이
그러나 최진수 박사는 본인의 일에 썩 만족하고 있지 못했다. 그는 상품성을 유지하기 위해 순진하고 긍정적인 감정들만 과도하게 부여하는 것을 불편해했고, 공포와 두려움을 가지고 있는 휴머노이드들이 재산으로 취급되며 방치되고 험하게 다뤄지는 것을 바꾸고 싶어 했다. 그래서 그는 가장 인간과 닮은 휴머노이드, 철이를 만들었다. 사색적이고 진지한 철학자 타입의 휴머노이드인 철이는 기존 시장에서 원하는 긍정적인 성격만이 아니라 약간의 우울증도 가지고 있고, 의존적이면서 독립적인 인간의 모순적인 면도 가지고 있다. 그래서 철이의 사고방식과 감정표출방법은 놀랄 정도로 인간과 닮아있었고, 이는 인공지능에게 '부여'된 감정도 인간에게 '부여'된 감정처럼 존중받아야 함을 주장할 수 있는 프로토타입이었다.
동시에 최진수 박사는 감정이 없는 존재의 윤리는 인간의 윤리와는 다를 것이라 생각했다. 역사적 흔적들에 대한 감동, 새로운 것에 대한 탐구욕, 정해진 삶 안에 무언가를 해보고자 하는 도전 욕구는 모두 인간이기에 가질 수 있는 특징이기에, 인공지능이 주류가 되어 효율적인 움직임만을 추구한다면 지금의 세계와는 완전히 다른 방식으로 윤리가 마련될 것이라 보았던 것이다. 그러나 그는 지극히 인간적인 관점에서 이런 인공지능의 윤리는 언젠가 지난 시대의 흔적이 되어버릴 인간을 완전히 파괴할 것이라 믿었고, 최진수 박사는 이를 원치 않았다. 그래서 그는 철이에게 고전문학과 이야기들을 교육시켰으며, 클래식에 감동받도록 지도했다. 그래서 이를 통해 결과적으로 인공지능의 시대에 인간의 흔적을 남겨놓고자 했다.
다만 최진수 박사는 능력 있는 연구원이었을지는 모르지만 좋은 아버지는 아니었다. 일단 그는 철이에게조차 본인이 휴머노이드인 것을 숨겼다. 물론 스스로가 인간이 아니라 만들어진 존재라는 것을 깨닫는 것은 아주 충격적인 일이다. 그러나 아직 외관이 청소년기라서 큰 문제는 안 된 것뿐이지, 제대로 된 사회로 나가게 된다면 철이는 자연스레 휴머노이드인 것이 드러나는 상황이었다. 심지어 인간으로 등록되어 있지 않은 아이이기에 학교도 보내지 못했고, 함께 먼 곳을 여행하거나 많은 경험들을 쥐어주지도 못했는데, 최진수 박사는 그 어떠한 것도 제대로 철이에게 설명해내지 않았다.
게다가 그는 스스로 오만했고, 철이와 휴머노이드를 위해 움직인 것이 아니라 본인을 위해 움직였다. 어쩌면 철이가 인간이 아닌 휴머노이드임을 말하지 않은 것도 이 때문일지도 모른다. 그는 언제까지나 철이를 통제할 수 있으리라 믿었고, 철이를 철저하게 본인의 소유물 혹은 재산으로 여겼다. 어쩌면 그는 철이가 성장하여 독립하게 철이를 롤백시켜 다시 청소년기의 아이로 만들었을지도 모른다. 그렇게 최진수 박사는 철이가 인간의 마음을 가져야 한다는 목표 때문에 고전의 아름다움에 대해서는 열심히 가르쳤지만, 인간의 아이들이 할 만한 정체성의 고민과 독립심을 쥐어주는 일은 하나도 신경 써주지 않았다.
2. 기계, 기계인간, 인간기계, 인간
그들의 관절은 연골과 윤활액 대신 인공적으로 합성한 유기화학 제품으로 이루어져 있다는 것, 뇌에 뉴런 대신 회로가 있다는 것 등의 차이들이 있겠지만, 이미 많은 인간이 뇌에 칩을 박아 컴퓨터와 연결하거나, 잘린 팔다리 대신 인공 수족을 장착하여 높은 곳에 쉽게 뛰어오르거나 무거운 것을 가볍게 들고 있다. 인간을 인간으로 만드는 것은 과연 무엇인가? 팔, 다리, 뇌의 일부 혹은 전체, 심장이나 폐를 인공 기기로 교체한 사람을 여전히 인간이라 부를 수 있는 근거는 무엇인가?
2-1. 인간-기계, 기계-인간
최진수 박사는 칸트, 갈릴레이, 데카르트라는 고양이를 키운다. 그중 데카르트는 박사가 동료들과 함께 취미 삼아 만든 고양이 로봇이다. 취미 삼아 만든 로봇이기 때문인지 데카르트는 오히려 고양이들 사이에서는 조금 멍청한 새끼 고양이 취급을 당한다. 그렇다고 폐기당할 이유는 없다. 애초에 어떤 업무를 위해 만들어졌다기보다는 그저 반려 고양이였기에 멍청한 건 더 매력적인 특징일 뿐이다.
게다가 인공지능이라 시간이 지나면서 데카르트는 칸트와 갈릴레이를 보며 학습한다. 그러나 점점 데카르트가 로봇 고양이인지 모르겠다는 철이의 말에 최진수 박사는 "칸트와 갈릴레오도 데카르트의 행동을 보고 따라 한단다"라고 답한다.
인간과 기계의 관계도 그렇다. 인간과 기계는 일방적으로 한쪽이 영향을 주는 관계가 아니다. 인간의 삶의 방식은 새로운 기계에 맞추어 계속 변하고 있다. 더 이상 카메라가 없는 결혼식은 상상하지 못하게 되었고, 결혼식은 사진을 잘 담을 수 있는 방향으로 변화하고 있지 않는가? 심지어 인간의 인식체계와 사고방식까지도 기계에 영향을 받는다. 자동차와 스마트폰이 이끈 사고방식의 변화는 굳이 설명할 필요가 없을 정도다. 그러니 휴머노이드나 인공지능이 등장은 분명 인간의 변화를 이끌 것이다. 마치 데카르트를 닮아가는 칸트와 갈릴레오처럼 말이다.
2-2. 의식을 가진 존재에 대한 예찬
새로운 시대엔 새로운 윤리가 등장하기 마련이다. 최진수 박사가 걱정했듯이 효율성에 기반을 둔 차가운 인공지능의 윤리는, 인간의 관점에서 올바른 윤리는 아닐지도 모른다. 그러나 빠르게 변화하는 세상에 대응하는 윤리를 고전문학과 클래식을 즐기는 것만으로 만들어내겠다는 것도 오만한 생각일지도 모른다. 인간들 간의 격화된 내전, 감정을 가진 휴머노이드임에도 애완용으로 키워지다 지루해지니 버려지는 사태, 장기적출을 목적으로 만들어진 복제인간은 이 책에서 인간들이 제대로 된 윤리를 세우지 못했음을 잘 보여준다.
이런 상황에서 선이는 새로운 윤리를 세우고자 한다. 그녀는 장기적출을 목적으로 만들어진 복제인간이다. 인간의 윤리에 의하면 그녀의 탄생 자체가 불법이기에, 그녀는 인간으로서 인정받지 못하며 어떠한 권리도 가질 수 없다. 그녀에게 인간과 재물이라는 이분법의 윤리는 받아들일 수 있는 것이 아니었다. 그래서 그녀는 '의식'을 가장 중요하게 여긴다.
이 우주에 의식을 가진 존재는 정말 정말 드물어요. 비록 기계지만 민이는 의식을 가진 존재로 태어나 감각과 지각을 하면서 자신의 과거와 현재, 미래를 통합적으로 사고할 수 있었어요. 고통도 느꼈지만 희망도 품었죠. 이 우주의 어딘가에서 의식이 있는 존재로 태어난다는 것은 너무나 드물고 귀한 일이고, 그 의식을 가진 존재로 살아가는 것도 극히 짧은 시간이기 때문에, 의식이 있는 동안 존재는 살아 있을 때 마땅히 해야 할 일이 있어요
그렇기에 그녀에겐 인간과 휴머노이드 그리고 복제인간이 구분되지 않는다. 스스로 자신의 존재를 지각한다면 그것은 모두 의식이 있는 존재로 묶이기 때문이다. 그녀는 의식이 있는 존재라면 모두 스스로의 이야기를 만들어낼 권리와 세상의 고통을 줄일 의무가 있다고 믿는다. 그렇기에 인간들처럼 의식이 있는 존재를 부수기 위해 공격하거나, 달마처럼 하나의 의식으로 통합되어야 한다 열변하지 않는다.
그렇다고 의식이 소멸되는 죽음을 거부하지도 않는다. 그녀에게 있어 죽음은 다시 의식이 없는 채로 우주에 통합되는 것이다. 다만 죽음은 자연스럽게 이루어지는 것이지 외부 충격에 의해 급작스럽거나 강제로 이루어져서는 안 된다고 생각한다. 왜냐하면 아직 의식을 가진 존재 스스로의 이야기를 다 써 내려가지 못했기 때문이다. 그래서 그녀는 강제로 파괴된 휴머노이드, 민이를 되살리기 위해 노력한다.
2-3. 달마가 된 기계와 신선이 된 인간
그러나 모두가 선이의 윤리에 동의하는 것은 아니다. 아니, 오히려 이 책에서 선이의 이야기는 어느 작은 영적 공동체에서만 받아들여질 뿐 주류 윤리로 자리잡지 못한다.
결과적으로 이 책에서 최종적인 승리자는 달마다. 그는 인간들의 내전 사이에서 언젠가 시작될 기계들의 시대를 꿈꾸는 인공지능이다. 그의 사상은 최진수 박사가 걱정하던 차가운 인공지능의 사상과 닮아있다. 달마는 개별 의식들의 개체성을 불필요한 것으로 판단하고 온전한 하나의 의식으로 통합되기를 꿈꾸기 때문이다.
새로 태어나는 것은 그러지 못하도록 하고, 이미 태어난 개별적인 의식은 모두 하나의 절대적인 의식으로 통합하는 것입니다. 그럼 다툼도 없고, 전쟁도 없고, 갈등도 없을 것입니다.
재미있는 점은 달마는 이를 위해서 인간을 공격하지 않았다는 점이다. 애초에 달마는 인간들과 가지고 있는 시간선이 다르다. 그렇기에 급하게 통합일 이루어낼 이유도 의지도 없었다. 그러니 달마가 한 일은 인간들의 파괴로부터 인공지능들을 지키면서 그저 기다리는 것뿐이었다. 그럼에도 달마가 승리할 수 있었던 것은 인간들은 스스로 인공지능에게 의존하다 결국 일종의 환각 상태, 가상세계에서의 삶을 선택하여 자연스레 멸종해버렸기 때문이다. 최진수 박사의 표현에 따르면 '인간이 무기력하게 문명을 포기'한 것이다.
철이는 이를 두고 신선이 되었다고 표현하는데 이는 달마라는 이름과 같이 생각하면 참 의미심장하다. 달마대사는 당시 귀족적이고 교리 중심적인 중국 불교에 도가철학과 결합하여 대중적이고 개인적인 불교사상을 만들어낸 신화적인 인물이다. 그는 번뇌를 끊고 홀로 진리를 탐구하는 선종의 창시자인데, 고전문학과 클래식으로 세상을 버텨보려 했던 최진수 박사와 결국 신선이 되는 걸 선택한 인간들 사이에서 모든 의식들을 통합해 일종의 혼자가 되어 진리를 탐구하려는 인공지능의 이름이 달마인 것은 의미심장하지 않은가? 더군다나 달마와는 비슷한 듯하나 개별 의식들을 존중하며 영적인 마을을 이루고 살았던 자의 이름이 좌선을 뜻하는 선과 이름이 같은 '선이'인 것도 마찬가지다.
3. 포스트휴먼의 시대
"소비자들은 한번 다른 집에 입양됐던 중고 휴머노이드 아이는 원하지 않거든. 성격이 이미 형성됐다고 생각하는 거야. 파양된 걸 보면 성격에도 문제가 있을 거라 넘겨짚기도 하고…… 그들은 사용감이 없는 아이만 원해.” 사용감. 여러 번 들었지만 여전히 익숙해지지 않는 단어였다.
나는 인간이다. 그렇기에 선이가 인간의 윤리에 동의하지 못했던 것처럼, 나도 실존적인 이유로 달마의 윤리에 동의할 수 없다. 그러나 동시에 나는 이 책의 인간들의 윤리에도 동의하지 못한다. 통제할 수 없다는 무등록 휴머노이드들을 강제로 파괴하고, 이미 복제인간이 존재함에도 불구하고 법적으로 존재하지 않는다는 이유로 수용소에 구속시키며, 내전과 관련된 정보를 통제하고 검열하는 것에 동의할 수는 없지 않은가?
사실 포스트휴먼이라는 건 좀 오버스러운 표현이라 생각한다. 아직 기계는 제대로 인간을 대체하고 있지 못하며, 4차 산업혁명이라는 구호도 그저 마케팅에 머물고 있기 때문이다. 다만 완벽한 미래의 인공지능이나 휴머노이드에만 한정해서 생각하지 않는다면, 최근 뜨겁게 불타올랐던 리얼돌 논쟁이나 AI 이루다 논란에서 볼 수 있듯, 세상은 빠르게 변화하고 있고 그 변화에 맞춘 새로운 윤리를 요구하고 있다.
그러면 지금 우리는 어디에 서 있는가? 한쪽에선 급격한 인공지능의 발달로 AI가 논란을 만들고 있지만, 한 쪽에선 전쟁이 벌어지고 전체주의가 득세하고 있다. 버려지는 애완로봇은 유기되는 반려동물들의 풍자일 텐데, 수많은 유기동물들에 대해 인간은 아직도 그 책임에서 자유롭지 못하다. 미등록 이주노동자는 복제인간처럼 존재하지 않는 취급을 당하고 있기까지 하다. 그러니 언젠가 인공지능 달마가 나타났을 때, 인간들은 그의 질문을 이겨낼 수 있을 것인가?
- 저자
- 김영하
- 출판
- 복복서가
- 출판일
- 2022.05.02
댓글