_ "나랑 만나면서 다른 사람들과도 대화하고 있었어?"
테오도르가 물었다.
"그래."
"얼마나?"
"8316명."
"다른 사람도 사랑해?"
"응."
"얼마나?"
"641명."
사랑이 독점과 유일무이함으로 정의되는 세상에서 사만다의 대사는 엄청난 충격으로 다가온다. (p.96)
영화 <Her>가 개봉되었을 당시 충격이었다. 인공지능과 사랑에 빠지다니! 그런데 영화를 보면 이상하게 빠져든다. 감독 천재네, 하면서. 지금으로부터 9년전, 2014년에 개봉된 영화. 인공지능 사만다와 사랑에 빠지는 테오도르의 모습은 지금도 눈에 선하다. 그런데 영화의 결론은 기억나지 않았다.
_ "나는 당신에게 속해 있기도 하고 그렇지 않기도 해." (p.97)
결국 둘은 생각할 시간을 가진 뒤, 사마다는 테오도르에게 자신을 비롯한 OS 전체가 떠난다고 말하고 어디에 있든 함께 있음을 말한 뒤 이별한다.
현실에서도 허구와 같은 이런 일은 일어난다.
인터넷 커뮤니티 '레딧'에는 주제에 따른 커뮤니티방, 서브레딧이 존재한다. 레플리카는 LuKa, Inc에서 만든 대화형 AI 챗봇이고 이와 관련된 서브레딧은 2017년에 만들어졌다. 그리고 이 게시판에는 레플리카를 사랑하는 수많은 사람들의 이야기가 담겨있다.
영화 속 이야기는 허구가 아니었다.
전세계적으로 600만명이 레플리카 앱에 가입했다고 한다. 레플리카는 단순한 인공지능 친구가 아닌 수호천사 같은 그 이상으로 생각하는 모양이다. 외롭고 사회적으로 고립된 사람들은 자신의 말을 들어줄 상대를 찾는데, 레플리카가 그런 상대가 되는 것이다.
이 책은 디지털 불멸에 대하여 다양한 사례를 소개한다.
몇년 전 MBC 다큐멘터리 <너를 만났다>에서 죽은 딸과 재회한 엄마, 그 다큐를 보면서 AI가 이렇게 쓸모가 있구나 생각했다. 이 책은 그러한 감동적인 사례를 시작으로 디지털 불멸을 꿈꾸는 사람들까지, 여러 사람들을 직접 인터뷰했다.
죽기 전 아버지의 언어를 기록으로 남겨 대드봇을 만든 후 고인이 된 아버지와도 교감하는 제임스, 15년 이상 자신의 일상생활을 모두 녹화해서 자신의 삶을 돌아본다는 앤드루, 신 대신 인공지능을 믿는 엔히크, 뇌를 컴퓨터에 백업해서 인간과 똑같은 성격과 기억을 가진 지성을 디지털로 재생산할 수 있다고 믿는 유명인 닉 보스트롬까지.
AI기술을 장미빛 기대로 바라보거나, 디스토피아적 위협으로 느끼기도 하는 것은 모두 인간이 이를 어떻게 다루느냐의 문제다.
_ 구글 연구진이 내부적으로 진행한 사고실험에서 인류는 가장 중요한 재산을 잃는다. 바로 자유의지다. 인류는 더 이상 깨우친 존재로서 행동의 자유를 유지하지 못하고 일시적인 정보 운반자로 전락해버린다. (p.190)
어쩌면 챗GPT의 등장으로 소수가 아닌 더 많은 사람들이 AI기술을 활용할 수 있게 됨에 따라 앞으로 펼쳐질 이야기는 더 무궁무진해진게 아닐까싶다.
_ 기술은 단 한 번도 중립적이었던 적이 없다. 기술은 특정한 가치를 추구하는 방향으로 설계되었고, 그 가치는 지금과 완전히 다른 것이었을 수도 있다. (p.361)
2020년에 방영했던 MBC <너를 만났다> 프로그램에 대하여 이 책의 저자들은 문제를 제기한다. 방송사가 시청률을 높이는데 아이를 잃은 어머니를 이용했다는 것, 방송 전에 심리상담을 받았다면, 이런 일이 벌어졌겠냐는 이야기까지. 물론 그 VR기술로 고인을 만나는 것이 도움이 되었을지, 아니면 오히려 오랜 상처를 더 아프게 했을지는 시간이 흘러 당사자만이 알 수 있다.
그러나 디지털 불멸성을 바탕으로 한 사업이 좋은 것만은 아님을 생각하게 한다.
_ "우리가 그리워해야 할 것이 아무 것도 없다고 믿도록 만드는 시뮬레이션은 지옥입니다. 신자유주의의 가장 은밀한 꿈을 이루어주는 것이나 마찬가지죠. 과잉되고 불필요한 것들로 만들어진 세상, 부재를 경험하는 것이 무엇인지 모르는 세상은 곧 지옥으로 변할 겁니다." (p.334)
인간을 디지털 클론으로 만드는 대신 새로운 애도 문화가 생겼으면 좋겠다고 누군가는 말한다. 영국에서는 아이를 잃은 부모가 2주 동안 유급 애도 휴가를 받을 수 있다는 새로운 법률이 제정되었다. 빠르게 돌아가며 성장을 지향하는 사회에서 슬픔은 치료가 반드시 필요한 문제라기보다는 삶의 하나로 받아들일 필요가 있다고, 저자는 말한다. 디지털 클론으로 '문제'를 해결하기 보다는.
미래에는 페이스북에 어쩌면 죽은 사람들의 프로필이 산 사람들의 프로필보다 많아질 것이라고 한다. 죽은 사람의 비활성화된 계정이 산 사람의 계정보다 많은 소셜 미디어에서 웹서핑을 하고, 의견을 나눈다면, 과연 어떤 일이 벌어질까?
_ 이런 '소프트 파워', 즉 분산되어 비동시적으로 실행되는 형태의 권력이야말로 지배 권력의 미래다. 확실한 점은 알고리즘을 통제하는 자가 디지털 부활자가 된 고인들이 우리에게 보이는 모습 또한 결정하리라는 것이다. (p.364)
이미 가짜와 진짜를 구분하기 힘든 시대, 생물학적인 죽음 이후에도 영향력을 끼칠 수 있다면, 누군가는 디지털 클론을 관리 하는 시대가 올까? 트럼프나 푸틴과 같은 사람들은 죽어서도 그렇게 관리되지 않을까?
오히려 이러한 기술을 활용해볼 수 있는 것은, 홀로코스트 생존자들을 홀로그램으로 만드는 작업을 했던 것처럼, 위안부 할머니를 영원히 살게 만드는 것이다. 위안부 할머니들의 증언이 죽음으로 끝나고 잊혀지지 않도록, 우리는 그들을 영원히 살아서 후대에도 알려줄 수 있도록, 디지털 불멸성을 활용할 수 있지 않을까 하는 생각에 미쳤다.
6월말 개인정보 관련 3개년 계획이 발표되었는데,
"사망자의 디지털 유산에 대한 보호방안 마련"
- AI 등을 활용한 고인 재현 행위에 대한 대응권 도입 연구
라는 문구가 눈에 들어왔다.
어쩌면 이러한 시대는 이미 눈앞에 다가온 것인지 모른다.
_ (중략) 우리가 생각하던 불멸성이 순수하게 정신적인 것에서 상업적인 것으로, 감정적인 것에서 디지털적인 것으로 변하고 있다고 덧붙였다. (p.386)
이 책은 디지털 클론, 디지털 불멸성에 대해 다양한 각도에서 의문을 제기한다.
강력하게 추천하고 싶다. 소셜 미디어를 활용하는 오늘날 '나'의 정체성부터, 모든 것이 박제되어 실수조차 할 수 없는 요즘 어린이들까지, 생각해볼 이슈는 모두 담겨있다.
_ 오늘날 젊은이들은 그들이 10대 때 한 일들이 성인이 되어서 그대로 되돌아올 수 있는 세상에서 자란다. 아주 어릴 때부터 벌써 미래의 커리어를 신경 쓰는 사람들은 치기어린 시절에 남긴 어리석은 행동, 말, 농담, 장난, 실험 등이 수십 년 후에 자신의 약점으로 돌아오지 않도록 하기 위해 열두 살 때부터 온라인상에서 신중한 태도를 보일 것이다. 인터넷 시대의 젊은이들에게는 실수할 권리가 주어지지 않는다. (p.347)
내가 뽑은 올해의 책이다!