마침내 특이점이 시작된다.

마침내 특이점이 시작된다. 특이점이 온다의 후속편으로 20년 간의 기술발전을 소개하고 생물학적 한계를 뛰어넘는 인류의 진화가 다가올 것이라고 예언한다. 전작과 크게 달라진건 없었다. 한결 같이 인간과 인공지능이 결합될 미래 예언 이야기지만, 좀 더 대중적인 책이라고 생각했다. 나는  '특이점인 온다'를 정말 힘들게 읽었다. 미래에 대한 흥미로운 얘기임에도 재미가 없었다. 후속편 '마침내 특이점이 시작된다'는 가벼운 마음으로 읽고 나의 전작 후기를 다시 읽어보았다. 신기하게도 두달 사이 나의 생각이 바뀌었다는 걸 알았다.   
 
세상은 정말 좋아지고 있구나! 기술 발전을 긍정하게 되었다. 
나는 대체로 변화를 싫어하고 현재의 안정감이 늘 지속되길 바라면서 사는 사람으로서 스마트폰이 없었던 20세기가 참 좋았다는 망상을 가끔하는 사람이다. 현재 출시된 여러 인공지능에 익숙해지면 편하다고 하는데 인공지능에 의존할 수록 나의 어떤 능력이 퇴행될 거란 두려움도 크다. 우리 본성의 선한 천사를 읽으면서도 세상의 폭력이 감소한다는 얘기가 의심스러웠다. 그런데, 지금은 정말로 세상이 더 좋아지고 있다고 믿게 되었다. 아마도 책을 읽으며 편협한 나의 지식이 확장 되었기 때문인 것 같다. 어릴 때 봤던 2020 원더키디는 나에게 미래에 대한 하나의 이미지로 자리 잡았다. 2020년대가 디스토피아적 회색기계 세상이 아님을 마주하고 보니 앞으로 우리가 맞이할 미래는 훨씬 더 좋을 것 같다. 인공지능과 경쟁하지 않는 미래, 인공지능이 일해서 쌓은 부를 기본소득으로 나눠갖는 세상, 에너지의 비용이 더 낮아지고 환경오염 걱정이 없는 세상이라면! 얼마나 좋은 세상인가 기대하게 되었다. 또 일하지 않아도 되는 미래엔  나의 시간이 늘어나서 하루는 매일 수영, 하루는 매일 낮잠, 하루는 매일 독서 이렇게 살면 지루할 것 같다가도 이렇게 고스란히 통으로 하루라는 시간을 갖게 된다면 그때부터 진정한 자아탐구가 가능해 질 것도 같았다. 이런 세상 하루빨리 왔으면!
 
조급함이 사라지고 죽음에 대한 공포도 내려놓게 되었다.
지금까지 인생을 숙제라고 생각했다. 학업, 취업, 결혼, 육아를 순차적으로 완수했고 여전히 매일의 생활을 과제처럼 수행한다. 앞으로 다가 올 내 인생의 과제들, 아이들의 성장, 우리 부부의 노화, 양가 부모님의 질병과 죽음은  동시다발적으로 주어질 것이라 더 조급함이 몰려온다(2025년이 이제 4개월밖에 남지 않았다는 사실을 자각하면서 깜짝 놀란다). 그런데, 커즈와일의 주장에 따르면 2040~50년대엔 우리 자신의 생존이 신체 부위의 생존 여부에 좌우되지 않을 거라고 한다. 물론 이 말을 100퍼센트 믿진 못한다. 당장 영생을 누리고 싶은 마음은 없지만, 기술발전으로 현재 내 기대여명 보다는 더 오래 살 것 같다. 심지어 정말 죽지 않을 수도 있다니! 조급한 마음이 사라지고 죽음이란 개념을 바꾸게 되었다. 지금은 인간의 유한성이 모든 것을 극적으로 만드는 서사에 익숙하다.  때가 되면 죽겠다는 생각이 진리로 인식된다. 그러나 아직 한 번도 안 가본 그 미래엔 영생이 너무 당연한 사회통념이 될지도 모르겠다. 지금의 이야기 속 도깨비, 귀신 이런 영원히 사는 존재들의 이야기는 사라지고 영생이 가능한데도 영생을 포기한 인간에 대한 이야기가 드라마와 소설소재로 인기가 있겠다. 여기까지 생각하다 보면, 아이들에게 그 어떤 잔소리를 할 필요도 사라진다(놀라운 각성). 지금 소파에 앉아 숏츠 보며 과자 먹는 딸을 생각하면, 이제 그만 보라고 말하고 싶지만, 앞으로 딸에게 펼쳐질 무한한 시간을 잘 보내는 방법일 거라고 생각하니 입을 다물게 된다.

호기심이 생겼다.
나는 문학을 읽으면서 힐링하는 사람이다. 문학 속에서 감정과 인생을 배운다. 문학 지문으로 인생을 학습하면서도 내 머리는 휴식하는 기분이다. 자기계발서의 서사 없음은 지루하다.  이런 성향의 사람이 과학책을 읽게 되니 매우 고통스러웠다. 그런데 이제 특이점이 온다와 연속해서 이 책까지 읽고 나니 이제야 과학에 호기심이 생겼다. 나의 머리에 이런 장르도 읽어내는 경로가 희미하게 하나 마련되었다(신경가소성)고 생각하니 뿌듯하다. 벽독책이라며 읽어왔던 여러 책들이 그 길을 만들었지만 이번에 더 확실히 도로가 뚫린 기분이랄까. 
 
그러나 여전히 어려운 부분들(사실은 게을러서 상상하기 귀찮은 부분들)
이 책에서 기술의 발전으로 생물과 비생물의 경계가 사라지는 과정으로 나아갈 것이라는 예측엔 동의하지만 진짜로 경계가 사라진 이후의 미래는 너무 막막하다. 마인드 업로딩을 한 미래의 나의 복제본은 각각의 자아를 가지게 될 것인지, 그렇다면 그 복제본 자아는 더 이상 내가 아닌 것인지.  튜링테스트를 통과한 인공지능에게 자아가 있다고 인정해야 할지,  이런 질문을 마주하면 생각하기 싫어진다(사고실험은 아무나 하는 게 아니구나! 아 모르겠어 어떻게든 되겠지!). 공상과학소설을  안 좋아하지만 가끔 그런 이야기를 읽으면서 재미와 감동을 느끼는 부분은 아무리 기술이 발전하더라도 그 속엔 언제나 인간의 이야기가  담겨있기 때문인데 인간과 인공지능의 결합될 미래에는 어디에서 휴머니즘을 찾을 수 있을지 모르겠다. 현재 인공지능의 발전 속도는 어마어마하고 그 파급력은 전 세계적이지만, 이를 규제할 제도나 선행되어야 할 철학적 질문과 답은 그 속도를 따라갈 수 없다. 전 세계적 현상을 각 나라단위에서 규제하고 아직 논의조차 못하는 상황 걱정스럽다. 그러다 보면 또 디스토피아적 세계관이 나에게 손짓을 하는데...

아무튼, 책 특이점이 온다 이후의 20년간 기술 발전을 최신버전으로 알수 있어서 좋았다. 책은 미래에 대한 긍정 90프로 위험에 대한 경고 10프로, 그렇지만 결국 다 우린 다 극복할 거란 얘기다. 이 검증을 위해서 내가 2050년까지 살아볼 수밖에 없겠다. 그 사이에 우리가 변화에 대한 적응도를 높이고 더 좋은 기술로 과도기적 단점들이 수월하게 극복되길 바라본다.


 

---

3주간의 밑줄긋기와 당시 생각 기록

감수의 글
<9>
이 역사적 바둑 대국에서 인공 지능이 인간을 위협한 단면은 합리성과 정교함 부분이었다. 그리고 이 충격으로 인해 우리는 도전 전략도 포기 전략도 아닌 대안적 보상 전략을 취했다. 즉, 합리성과 정교함 영역에서는 더 이상 인공 지능을 이길 수 없으니 다른 영역에 기대를 걸자는 반응 이었다.
<10>
.. 더 나아가 인간 본성의 열 가지 단면 모두에 큰 위협이 되는 인공 지능이 실현된다면, 우리는 어떤 대안적 영역들로 나아가 우리의 훼손된 심리를 보상할 수 있겠는가?

📝알파고의 승리 이후, 2016년엔 이제 인간만이 할 수 있는 직업에 대한 전망이 많이 나왔었다. 당시엔 심리상담가, 창작자(작곡, 소설가)가 유망직종이 될 거라고 했다. 그러나 이제 창작은 물론 챗GPT가 사주도 봐주는 세상이 왔다. 과연 인간만 할 수 있는 영역이 남아 있을지 모르겠다.

제1장 우리는 여섯 단계 중 어디에 있는가?
<30>
지금 인류는, 일부 과제에서 첨단 기술이 우리가 이해 가능한 수준을 넘어서는 결과를 이미 만들어내고 있는 네 번째 시대에 살고 있다. AI가 아직 완전히 통달하지 못한 튜링 테스트의 여러 측면에서도 갈수록 가속화되는 진전이 빠르게 일어나고 있다. 내가 2029년으로 예상한, 튜링테스트 통과가 일어나는 바로 그 순간에 우리는 다섯 번째 시대에 진입할 것이다.

📝1단계 물리법칙과 화학이 탄생, 2단계 생명 시대, 분자의 탄생, 3단계 뇌의 탄생, 4단계 고차원적 인지능력, 진화, 5단계 생물학적 인간과 디지털기술의 융합, 6단계 지능이 우주로 진출

제2장 지능의 재발명
<37>
AI가 어떤 목표를 달성하기 전에는 그 목표가 엄청나게 어렵고 오직 인간만이 할 수 있는 일처럼 보인다. 하지만 AI가 그 목표를 달성하면, 우리 인간의 눈에 그 업적은 하찮은 것으로 평가절하된다. 다시 말해서, 우리가 실제로 이룬 진전은 겉으로 보이는 것보다 훨씬 더 중요한 의미를 가진다.

<43>
연결주의적 접근법은 복잡한 문제를 해결하는 데에는 아주 효과적인 방법이지만, 사실은 양날의 검이다. 연결주의적 AI는 블랙박스(정답을 내놓기는 하지만 그것을 어떻게 발견했는지 설명하지 못하는)가 되기 쉽다… 현재 AI전문가들이 기계 학습에 기반한 결정에서 더 나은 형태의 ‘투명성’(혹은 ‘기계론적 해석 가능성’)을 개발하려고 노력하는 이유는 이 때문이다. 딥러닝이 더 복잡해지고 강력해짐에 따라 투명성이 얼마나 효과적이 될지는 두고 보아야 한다.

📝 AI가 내린 어떤 결정을 인간이 이해 못 하게 되는 세상 너무 두렵다. 결정의 도출과정을 인간적 수준에서 친절하게 설명해 주는 다정한 AI만 살아남는 방향으로 진화하면 좋겠다.

<87~88>
하지만 AI의 발전이 너무나도 빠르게 일어나고 있어 전통적인 책으로는 그 속도를 따라잡기가 어렵다. 책을 디자인하고 조판을 거쳐 인쇄하기까지는 거의 1년이 걸린다. 출판되자마자 구입했다 하더라도, 당신이 이 책을 읽을 무렵에는 이미 새로운 진전이 많이 일어났을 것이다. 그리고 AI는 여러분의 일상생활 속으로 더 깊이 침투해 있을 것이다.

📝인공지능 모델들의 진화 과정들을 읽으며 이 책이 2023년까지 최신기술(내 기준)을 소개해줘서 참 좋군! 했는데, 그 사이 또 많은 진전이 있을 거라는 사실, 이 발전속도에 너무 적응이 안 되었다. 예전 같으면 기술발전으로 인한 예측 불가능한 변화가 불안하다는 느낌이 들었겠지만, 기술 낙관주의적 입장을 계속 읽다 보니 기술 발전이 긍정적으로 느껴졌다. 마치 명랑한 허무주의자가 된 듯하다(잘되겠지 또는 될 대로 돼라~).
 

제3장 나는 누구인가?

<119>
전문가들의 견해는 이전보다 더 많은 동물이 더 많은 의식을 가지고 있다는 쪽으로 이동하고 있다. 2012년에 인간이 아닌 동물에게 존재하는 의식의 증거를 평가하기 위해 여러 분야의 과학자들이 케임브리지대학교에 모였다. 이 호의 결과로 ‘의식에 관한 케임브리지 선언’이 나왔는데, 이선언은 의식이 인간의 전유물이 아닐 가능성이 높다는 사실을 확인했다.  … “의식을 만들어내는 신경학적 기질”을 “모든 포유류와 조류, 그리고 문어를 포함해 그 밖의 많은 동물”에게서 확인했다.

<120>
우리는 신석기시대 조상과 비슷한 의식 수준에서 그것들을 경험한다. 하지만 2030년대와 2040년대에 신피질 자체를 증강할 수 있게 되면, 우리는 단지 추상적인 문제 해결 능력을 추가하는 데 그치지 않고, 주관적 의식 자체가 더욱 심화될 것이다.
 
<122>
내가 지지하는 이 견해의 해석에 따르면 그 힘을 ‘깨워’ 우리가 인식하는 주관적 경험으로 바꾸는 것은 바로 뇌에서 발견되는 정보 처리의 복잡성이다. 따라서 뇌가 탄소로 만들어지건 실리콘으로 만들어지건, 뇌가 겉으로 의식의 징후를 드러내게 하는 그 복잡성이 뇌에 주관적인 내적 생명도 부여한다. 이것을 과학적으로 증명할 수는 결코 없을 테지만, 이것이 참인 것처럼 행동해야 할 강력한 윤리적 당위성이 있을 것이다…. 지각을 가진 존재에게 고통을 주는 위험을 감수하기보다는 그것이 의식을 갖고 있다고 가정하는 편이 가장 안전한 도덕적 선택이다.
 
📝 주관적 의식, 결정론적 세계와 비결정론적 세계에서의 자유의지에 대해 이야기. 과학기술 얘기가 어렵다고 생각했는데 물리와 철학의 혼합은 머리를 더 많이 써서 읽느라 완전 피곤…
📝과학자들은 개도 의식이 있다고 믿는다. 실리콘도 복잡성 있는 존재라면 의식이 있다고 보는 게 도덕적이다. 우리 안의 복잡성이 의식과 자유의지를 만들어 낸다. 나의 일부를 비생물적 존재로 대체해도 나의 정보 패턴의 연속성이 있으니 그것은 나다.
📝차머스의 범원형심론은 의식을 우주의 기본적인 힘으로 취급한다고 함. 인공지능이 주관적 의식을 가졌음을 증명할 수는 없지만, 의식이 있다고 믿는 편이 도덕적이라는 주장

<129>
우리에게 의식과 자유 의지를 만들어내는 것은 바로 우리 안의 이 복잡성이다. 당신이 자유 의지를 기반을 이루는 프로그래밍의 원인을 신에게서 찾건 범원형심론이나 다른 어떤 것에서 찾건 간에 당신은 프로그램 자체를 훨씬 뛰어넘는 존재이다.

<139>
비생물학적 시스템을 우리 몸과 뇌 속에 집어넣는다 하더라도, 정보 패턴의 연속성이 우리 각자를 지금 존재하는 우리 자신으로 느끼게 한다.

📝연속성, 시간이 흘러서 나의 신체 구성 세포가 다 바뀌어도 여전히 나인 것처럼, 강물이 흘러가서 현재의 물은 과거의 물은 아니지만 여전히 우리는 그 강을 한강이라고 부르듯이. 

<159>
뇌를 직접 프로그래밍하는 날이 오면, 우리 자신을 얼마나 더 나은 상태로 만들 수 있을지 상상해 보라.
 

제4장 삶은 기하급수적으로 개선되고 있다.

<172>
… 인지 편향 때문에 인간은 위협적인 정보에 자연적으로 더 끌기게 돼 있다.

<178>
… 하지만 나는 반대 주장을 하고 싶다. “낙관주의는 미래에 대한 근거 없는 추측이 아니라 오히려 자기실현적 예언이다.” 더 나은 세계가 정말로 가능하다는 믿음은 그것을 만들기 위해 열심히 노력하도록 자극하는 강력한 동기가 된다.

<212>
여기서 미래를 위한 핵심 통찰은 이러한 선순환을 기본적으로 주도하는 주역이 기술이라는 것이다. 한때 사람들이 소규모 집단하고만 동질감을 느끼던 때, 의사소통 기술(책, 라디오와 텔레비전, 컴퓨터, 인터넷의 순으로)은 더 넓은 범위의 사람들과 생각을 나누고 공통점을 발견하는 데 도움을 주었다.

📝행동주의 경제학의 편향, 스티븐 핑커의 폭력 감소 선순환, 그동안 읽었던 책들의 내용이 여기에서 연결되어 수월하게 읽었다.
📝우리의 삶이 점점 좋아졌고 그 바탕엔 기술이 있었다. 앞으로도 삶은 계속 개선될 것이다. 내가 가진 근시안적 사고와 부정적인 정보에 대한 편향이 낙관적 미래를 그리는데 방해가 되는 건 아닌지 생각해 봐야겠다.

<224>
앞으로 다가올 수십 년 동안 해결해야 할 한 가지 중요한 과제는 독재와 민주주의 사이의 회색 지대에 있는 국가들이 완전한 민주주의 체제로 전환하도록 돕는 것이다. 성공의 열쇠 중 일부는 개방성과 투명성을 촉진하는 한편, 독재 정부에 의해 시민을 감시하거나 거짓 정보를 퍼뜨리는 용도로 남용될 잠재력을 최소화하도록 AI를 신중하게 사용하는 데 달려 있다.

<231>
2020년대 후반에는 의류와 그 밖의 일반 상품도 3D프린팅으로 생산되기 시작할 것이다.

<234>
기술로 인해 우리가 시간을 보내는 방식과 선호하는 경험에 예측하기 힘든 큰 변화가 일어날 것이다. 또한 우리가 어떤 일을 왜 하는지 다시 돌아보게 될 것이다. 예를 들면, 에베레스트산을 오르면서 경험하는 그 모든 도전과 자연의 아름다움을 가상현실에서 안전하게 경험할 수 있다면, 과연 현실 세계에서 실제로 그런 경험을 할 가치가 있는지(혹은 위험이 그 경험에 따르는 매력의 일부인지) 고민하게 될 것이다.

<262>
만약 새물학적 사망 후에 자신의 마음 파일을 복구한다면, 그것은 정말로 나 자신을 복구한 것일까? .. 이것은 과학적 질문이 아니라 철학적 질문이며, 오늘날 살아 있는 대다수의 사람의 생애 동안 우리가 붙들고 씨름해야 할 문제이다.

📝삶이 기하급수적으로 개선되었음을 이해하게 된다. 3D프린터로 필요한 것을 만들어 쓰는 세상, 내가 사는 곳 바로 옆 건물에서 수직농업으로 생산된 과일과 채소를 공급받는 세상, 환경오염에 대한 불안이 없는 세상, 이런 미래가 어서 왔으면 좋겠다는 낙관적인 기대를 하게 되었다. 다만, 마음 업로드는 거부감이 먼저 든다.
 

제5장 일자리의 미래: 좋은 쪽 혹은 나쁜 쪽

<271>
러다이트는 역사 속으로 사라져 갔지만, 그들은 기술 발전으로 인해 소외되는 사람들의 강력한 상징으로 남았다.

<284>
오늘날 선진국의 경제에서도 비슷한 동역학이 작용하고 있다. 기계는 한 번만의 구매로 영원한 자산이 되지만, 직원의 임금은 계속 지불해야 하는 비용이고, 그 외에도 고용주는 근로자의 다양한 요구를 충족시켜야 한다. 따라서 자동화를 확대하는 것이 가능하다면, 기업가는 그렇게 해야 할 인센티브를 강하게 느낀다. … 이런 상황은 우리가 AI와 더 완전히 융합되기 전까지 노동자들이 상당한 혼란에 내몰릴 것이라고 예고한다.

<285>
정보 기술이 아주 많은 측면에서 비지니스를 변화시키고 있었기 때문에, 생산성 증가가 훨씬 크게 나타날 것이라고 기대되었으나, 실제로 그런 일이 일어나지 않은 이유에 대해서는 많은 이론이 있다. … 그 이유는 GDP에서 기하급수적으로 증가하는 정보 생산의 가치를 계산하지 않은 데 있다. 그중 많은 부분은 공짜일 뿐만 아니라 최근까지 존재하지 않았던 가치 범주에 속한다.

<286>
…따라서 지난 수십 년간의 명목 자산과 명목 소득 증가는 새로운 기술 덕분에 가능해진 엄청난 삶의 이득을 제대로 반영하지 못하고 있다.

<295~296>
따라서 기술 변화는 많은 일자리를 사라지게 만들지만, 바로 그 변화의 힘이 전통적인 ‘일자리’ 모델에서 벗어나는 곳에서 새로운 기회를 수 많이 만들어내고 있다. 나름의 한계가 없는 것은 아니지만, 이른바 ‘긱경제’는 사람들에게 이전의 선택지보다 더 많은 유연성과 자율성, 여가 시간을 허용하는 경우가 많다. 이러한 기회의 질을 최대화하는 것이 자동화 추세가 가속화되면서 전통적인 일자리를 위협하는 이 시대에 노동자들을 도울 수 있는 한 가지 전략이다.

📝 저자의 말처럼 긱경제 노동자들의 불안정한 현실을 유연성과 자율성, 여가 시간활용으로 포장해주려면, 기업가로서 좀 나은 대책을 말해주면 좋았을 것을…기하급수적 기술의 발전으로 투자비가 거의 안 들어갈 미래의 어떤 사업에서 쌓인 잉여를 재분배해주거나… 그냥 각자도생 하라는 말로 들려서 착잡했다.

<299>
이제 우리는 매일 하루 종일 사용하는 뇌 확장 장치가 없이는 일을 하거나 교육을 제대로 받을 수 없는 지경에 이르렀다. 그 장치는 바로 단 한 번의 터치만으로 거의 모든 인간 지식에 접근하거나 막대한 계산 능력을 이용할 수 있게 해주는 스마트폰이다. 따라서 우리가 사용하는 장치가 우리 자신의 일부가 되었다고 말하는 것은 결코 과장된 표현이 아니다. 불과 20년 전만 해도 그렇지 않았다.

<304>
나는 선진국에서는 2030년대 전반까지, 대다수 국가에서는 2030년대 후반까지 보편적 기본 소득 또는 그에 상응하는 제도가 사실상 시행될 것이라고(그리고 사람들은 현재 기준으로는 그 소득으로 비교적 잘 살아갈 수 있을 것이라고) 예측했다.

<308>
하지만 카너먼은 지금부터 그때까지 갈등이나 심지어 폭력이 발생하는 시기가 오래 지속될 것이라고 예상했다. 또 자동화의 영향이 계속 이어지면서 승자와 패자가 나타나는 것이 불가피하다고 지적했다.

<309>
카너먼의 우려를 뒷받침하는 한 가지 현상은, 내가 앞에서 지적한 것처럼 일반적으로 대중의 두려움이 현실의 실제 위험보다 훨씬 크다는 점이다. …. 자신의 경제적 안정성에 대한 불안 수준이 높은 사람은 자신의 문제를 악화시키는 것처럼 보이는 그 어떤 것에도 적대적 태도를 보일 것이다.

<313>
풍요로운 미래의 인지적 도전 과제에 맞닥뜨릴 때에도, 우리가 오늘날 스마트폰과 경쟁하지 않는 것과 마찬가지로 대개의 경우 우리는 AI와 경쟁하지 않을 것이다. 사실, 이러한 공생 관계는 새로운 것이 전혀 아니다. 우리의 신체적, 지적 범위를 확장하는 것은 석기시대 이래 기술이 추구해 온 목적이었다.

<314>
그럼에도 불구하고, 지속적이고 건설적 전환을 조율하려면 현명한 정치적 전략과 정책 결정이 필요하다. 정책과 사회 조직이 여전히 중요한 요소이기 때문에, 정치인과 시민 지도자의 역할도 계속 중요하게 남을 것이다. 하지만 이 기술 발전에 내포된 기회는 실로 어마어마하다. 그것은 사실상 인류의 오랜 고통을 극복할 수 있는 기회이다.

📝커즈와일이 단순한 기술낙관론자는 아니구나! 하고 5장의 끝부분에서 크게 느꼈다. 우리가 인공지능과 경쟁하지 않는 미래, 기술발전의 혜택으로 쌓인 부를 기본소득으로 재분배하는 세상! 나는 늘 거의 미래를 디스토피아로 그리고 사는 편인데, 이 책을 읽으면서 매우 긍정적인 미래가 오길 희망하게 되었다.
📝두 천재 할아버지(커즈와일과 카너먼)의 대화내용 부분, 각자 어린 시절의 시대적 배경이 미래를 보는 시각을 다르게 했다고 추측한 점도 재밌게 읽었다.

제6장  향후 30년의 건강과 안녕

<329>
우리의 DNA 기반 생물학을 아무리 미세 조정하더라도, 살과 피로 이루어진 우리의 시스템은 어떤 목적에 맞춰 설계한 우리의 창조물에 비해 불리할 것이다.

<330>
따라서 미래는 명백하다. 생물학적 뇌의 유기적 기질만을 바탕으로 한 마음은 비생물학적 정밀 나노공학으로 증강된 마음을 절대로 따라잡을 수 없다.

<343>
젊을 때에는 우리 몸이 효율적으로 노폐물을 제거하고 손상을 수리할 수 있다. 하지만 나이가 들수록 대다수 세포가 분열을 반복하면서 오류가 축적된다. 결국 우리 몸이 수리하는 것보다 더 빠르게 손상이 쌓이기 시작한다.

<344>
개개 세포와 국지적 조직 수준에서 노화로 인한 손상을 수리하는 능력이 필요하다. 이를 위해 현재 탐구 중인 방법은 많지만, 나는 가장 유력한 최종 해결책은 몸속으로 들어가 직접 수리하는 나노봇이라고 생각한다.

<352>
나노기술이 우리 몸에서 하게 될 가장 중요한 역할은 뇌를 증강시키는 것인데, 뇌는 결국에는 99.9% 이상이 비생물학적 기관이 될 것이다.

<353~354>
2040년대와 2050년대에 우리는 우리 몸과 뇌를, 우리 생물학이 할 수 있는 수준을 훨씬 뛰어넘어 다시 만들 텐데, 백업과 생존 기능도 당연히 포함된다… 우리는 훨씬 더 빨리 그리고 더 오래 달릴 것이고.. 심지어 원한다면 제대로 작동하는 날개도 달 수 있을 것이다. … 무엇보다 중요한 것은 우리 자신의 생존이 신체 어떤 부위의 생존 여부에 좌우되지 않으리라는 사실이다.

📝나는 영생을 꿈꾸진 않지만 병에 걸려 아프다가 죽는 것은 두렵다. 나의 걱정을 덜어줄 놀라운 기술들을 흥미롭게 읽었다. 나노로봇을 신체에 넣는다거나 마인드 업로드 같은 개념엔 여전히 반감이 들지만, 인공지능기술 발전으로 암을 정복하는 미래가 꼭 오길 희망했다. 그리고 나노로봇 관련 주식을 사놔야 되나 싶기도 했다.
📝수명탈출 속도 개념에 따르면, 내가 2050년에 살아있을 테니 어쩌면 나는 나의 N대 후손의 현존 최고령 할머니가 될지도 모르겠다고 생각하다가 2050년에 95세가 되실 나의 엄마가 바로 그 주인공이 될 수도 있겠다고 생각한 순간! 아 너무 좋겠다! 죽음은 역시 인간에게 해로운 거야! 없애버리는 게 좋겠어!라는 생각까지 하게 되었다는.

제7장 위험

<377>
급진적 수명 연장에 반대하는 두 번째 의견은 수백 년 동안 똑같은 일들을 계속 반복하다 보면 삶이 무척 지루해질 것이라고 주장한다. 하지만 2020년대에는 아주 작은 외부 장치로 제공되는 가상현실과 증강현실이 등장할 것이고, 2030년대에는 우리의 감각에 신호를 입력하는 나노봇을 통해 가장현실과 증강현실이 우리의 신경계에 직접 연결될 것이다…. 물론 상상력 자체도 크게 팽창할 것이다. 우리가 수백 년을 산다 하더라도, 얻을 수 있는 모든 지식이 소진되거나 소비할 수 있는 모든 문화가 소진되는 일은 결코 없을 것이다.

📝난 다른 위험은 결국 우리가 극복할거라고 받아들였다. 영생을 누리게 된다는 것에는 거부감이 들었지만, 읽을 수록 상상할수록 가능할 것 같았다. 심지어 좋을 것 같다고 생각하게 되었다. 지루할 틈이 없는 영생.

 

제8장 카산드라와 나눈 대화
 
<384>
레이: 당신의 생물학적 뇌는 그대로 남아 있을 거예요. 그저 새로운 지능이 추가된 것뿐이지요.

<385>
카산드라: 하지만 그 시점에서 생물학적 뇌는 별 의미가 없을 텐데요.
레이: 하지만 그래도 여전히 거기에 있어요. 그리고 모든 기본적 속성도 그대로 지니고 있을 테고요.
 
📝내 생물학적 뇌를 살려줘서 고맙군! 생물학적 뇌가 살아있고 복잡한 작업은 새로 추가된 인공지능뇌가 다 해준다면 정말 천하무적이 될 것 같은데, 모든 사람들이 다 나와 같은 생각으로 업그레이드를 한다면 우리의 개성이 어디에서 나올까? 고민했다. 영생을 누리는 사람들이 수가 기하급수적으로 늘어난다면 그 수의 많음에서 다른모양새로 업그레이드하는 개성이 표출되려나. 모두가 부자라면 사치품에 대한 생각도 달라질지 아니면 새로운 사치품을 또 개발해낼지. 생물학적뇌가 지금과 같은 뇌가 아닌 진화버전이여야만 이 상황을 받아 들일 것 같다.