특이점이 온다 - 기술이 인간을 초월하는 순간

이 책의 핵심 내용은 두 가지이다.
첫째, 특이점이 온다는 것이다. 둘째, 특이점이 우리 생각보다 빨리 온다는 것이다.

레이 커즈와일은 "특이점"을 인간 지능이 점차 비생물학적 기반으로 옮겨가며 자신의 힘을 이해하고 구사하는 활동 주기가 점차 빨라지는 것이라고 정의한다.
그리고 그 특이점이 기술 진화 이론인 "수확 가속의 법칙"에 따라 빠르게 온다는 것이다.

특이점을 가속화 시키는 기술로 GNR, 즉 유전학, 나노기술, 로봇공학의 세가지를 언급한다.
그러면서 이번 세기 전반을 지배할 이 세가지 변화(유전학, 나노기술, 로봇공학) 모두 사실은 정보 혁명의 서로 다른 세 가지 얼굴이라고 이야기한다.

이어 이러한 변화들이 가져올 인체, 뇌, 인간수명, 전쟁, 학습, 일, 놀이, 우주의 지적 운명에 미칠 영향을 다루고,
GNR이 가져올 희망과 위험을 언급한다.

특히 인상적인 부분은 마지막 장인 비판에 대한 반론이다.
레이 커즈와일의 주장에 따른 다양한 비판에 대해 논리적으로 해답을 제시하고 있다.

특이점주의자라고 자청하는 레이 커즈와일은 기술과 인류 문명의 미래, 건강과 의학의 미래에 대한 책을 쓴 저자이자 미래학자이다.
또한, 문자를 판독하여 텍스트로 변환하는 광학 문자 인식(OCR), 그랜드 피아노의 음색을 완벽하게 모방하는 커즈와일 신디사이저 등을 새로 만든 발명가이기도 하다.

그의 지식이 모두 담겨있는 이 책은 이해하기는 쉽지 않지만, 미래에 대한 그리고 기술에 대한 레이 커즈와일의 통찰력을 조금이나마 살펴볼 수 있다는 점에 의미가 있다.

-- 자유 의지란 해야 할 일을 달갑게 하는 능력을 말한다. - 칼 융

-- 인간 수준 지능의 가장 중요한 면모는 제대로 기능할 때 어떤 일을 하느냐가 아니라 궁지에 몰렸을 때 어떤 일을 하느냐이다. - 마빈 민스키

-- 과학자가 어떤 일이 가능하도 말한다면, 아마 그 일은 생각보다 훨씬 먼 미래에 현실화할 것이다. 그러나 과학자가 어떤 일이 불가능하다고 말한다면, 아마 그것은 틀린 말일 것이다. - 레이 커즈와일

-- 미래에 대한 통념 중 제일 잘못된 것은 미래를 우리에게 벌어지는 어떤 일로 보는 것이다. 우리가 창조하는 어떤 것인데 말이다 - 마이클 아니시모

프롤로그: 생각의 힘

-- 어떠한 곤경(비즈니스 문제, 건강 문제, 인간관계 문제뿐만 아니라 우리 시대의 큰 과학적, 사회적, 문화적 난제)에 처하더라도 그것을 극복할 수 있는 아이디어가 있게 마련이고, 또 우리는 그 아이디어를 찾아낼 수 있다는 것이다. 그리고 일단 찾아내면, 그것을 수행해야 한다. 내 삶은 이 원칙에 입각하여 발전해왔다. 생각의 힘, 그 자체가 하나의 훌륭한 생각이다.

1. 여섯 시기(The Six Epochs)

-- 많은 사람들이 이런 변화(특이점)로 인해 인간성의 중요한 부분들을 잃게 될 것이라고 생각하고 그 문제에 집중한다. 그러나 그것은 다가올 기술의 모습에 대한 오해에 근거한 것이다. 지금까지 우리가 경험한 기계들은 인간의 섬세한 생물학적 성질들이 결여된 존재였다. 특이점의 여러 가지 함의 중에서 가장 중요한 것은 기술이 가장 인간다운 특성이라고 여겨지는 정교함과 유연함에 있어 인간에 맞먹게 되고 나아가 뛰어넘으리라는 것이다.

-- 내가 기하급수적 관점과 선형 관점의 차이를 강조하는 이유는 미래를 예측하는 사람들이 가장 소홀히 하는 부분이기 때문이다. 사람이든 기법이든, 현재 존재하는 미래 예측들은 대체로 역사적으로 증명된 기술의 기하급수적 발전 현상을 무시하고 있다. 내가 만난 거의 모든 사람들이 미래에 대해 선형 관점을 갖고 있었다. 사람들이 가까운 시일 내에 이룰 수 있는 것에 대해서는 과대 평가하고(필수 항목들을 무시하기 쉽기 때문에) 먼 장래에 이룰 수 있는 것에 대해서는 과소 평가하는(기하급수적 발전을 무시하기 때문에) 경향이 있는 것은 이 때문이다.

-- 어떤 사람들은 최소한 현재 우리의 이해력으로는 특이점을 이해할 수 없다고 말한다. 사건의 지평선 너머를 볼 수 없고, 그 뒤에 무엇이 있는지 완벽히 이해할 수 없다는 것이다. 사실 바로 그렇기 때문에 이 변화를 특이점이라 부르는 것이기도 하다.

-- 지능이란 한정된 시간 속에 한정된 자원을 동원해 문제를 풀어내는 능력이다. 그 인간 지능이 점차 비생물학적 기반으로 옮겨가며 자신의 힘을 이해하고 구사하는 활동 주기가 점차 빨라지는 것, 그것이 특이점이다.

2. 기술 진화 이론: 수확 가속의 법칙

-- 진화는 질서를 증가시킨다. 그러나 복잡성은 증가되기도 하고 증가되지 않기도 한다. (물론 보통은 증가한다)
생명체든 기술이든 진화의 속도가 빨라지는 주된 이유는 점점 증가하는 질서 위에 쌓여가기 때문이다.
정보를 기록하고 조작하는 기법들이 점점 세련되어지기 때문이다.
진화가 만들어낸 혁신은 더 빠른 진화를 촉진하고 가능케 한다.

-- 기술 패러다임 전환의 가속에 대한 한 예로, 우선 전화기를 보자.
19세기 후반에 발명된 전화가 널리 사용되기까지는 반세기 정도가 걸렸다.
이에 비해, 20세기 후반에 등장한 휴대폰이 확산되는 데는 10년 밖에 안 걸렸다.
새로운 패러다임을 받아들이는 속도는 기술 발전의 속도와 마찬가지로 10년마다 두 배씩 늘고 있다.

-- 울프램은 다음 주장을 강조한다. "복잡해 보이는 현상과 마주치면 당연히 그것을 만들어낸 원칙도 복잡할 것이라 생각하게 된다. 그러나 단순한 프로그램들이 큰 복잡성을 만들어낼 수 있다는 내 발견을 보면 이 추론은 사실이 아니다.'
울프램에 따르면, 단순한 연산 변환 작업을 반복적으로 적용한 결과 이 세계의 복잡성이 탄생했다.
(저자인 레이 커즈와일은 이 주장에 부분적으로만 옳다고 생각)

3. 인간 뇌 수준의 연산 용량 만들기

-- 인간과 컴퓨터의 기억 용량을 비교하면 어떨까? 사람이 한 분야의 전문가가 되기 위해 습득해야 할 지식의 '덩어리' 수는 평균적으로 약 10의 5승 개인 것으로 알려져 있다. 특정 지식뿐 아니라 패턴까지도(사람의 얼굴 등) 포함한 것이다.
가령 세계 정상급 체스 선수는 100,000가지 판세를 안다고 한다. 셰익스피어는 단어를 29,000개 알았다고 하지만 뜻의 수까지 헤아리면 100,000개 정도 된다. 의학 분야 전문가 시스템을 구축하는 개발자들도 사람이 한 분야에서 습득할 수 있는 개념의 수는 100,000개 정도라고 한다.

-- 우리는 이미 다섯 개의 연산 패러다임(전기기계적 계산기, 계전기식 컴퓨터, 진공관, 트랜지스터, 집적회로)를 겪으며 연산의 가격대 성능비와 용량을 기하급수적으로 늘려왔다. 하나의 패러다임이 한계에 부딪치면 다음 패러다임이 뒤를 이었다. 지금은 3차원 분자 구조를 통해 연산을 하게 될 여섯 번째 패러다임을 목전에 두었다.

-- 최근까지만 해도 인텔 사는 더욱 빠른 단일칩 처리 장치를 개발하는 데 주력해왔다. 온도는 점점 높아질 수 밖에 없었다. 이제 인텔은 하나의 칩에 여러 개의 처리 장치를 병렬 식으로 구성하는 전략으로 이행하고 있다.
전력 소비나 열 확산을 통제하기 위해서라도 칩 기술은 그런 방향으로 나아갈 것이다.

4. 인간 지능 수준의 소프트웨어 만들기: 어떻게 뇌를 역분석할 것인가

-- 뇌의 재배선을 자극하기 위해 꼭 물리적 행동을 할 필요는 없다. 하버드 대학의 알바로 파스쿠알-레오네 박사는 간단한 피아노 연습 전후에 피험자들의 뇌를 스캔했다. 그 결과 운동 영역 관련 피질에 변화가 있었다. 박사는 다른 실험군 피험자들에게 머릿속으로 피아노 연습을 하되, 실제 손가락은 움직이 말라고 하였다. 그 결과 그들 역시 운동 능력 관련 피질에 또렷한 변화가 있었다.

-- 결정이란 환상에 불과한 것이고, "의식은 의사 결정 과정에 개입하지 않는다"는 뜻이다. 인지과학자이자 철학자인 대니얼데넷은 다음과 같이 설명했다. "행동은 원래부터 뇌의 어떤 부분에 침전되어 있어서, 근육들에게 곧장 신호를 보내는데, 도중에 잠시, 의식적 행위자인 당신에게 들러서 무슨 일을 할 것인지 알려준 것이다.(그런데 뛰어난 관료들이 흔히 그러듯, 미덥지 못한 대통령 격인 당신이 스스로 모든 일을 시작했다는 환상을 유지하도록 배려한다)."

5. GNR: 중첩되어 일어날 세 가지 혁명

-- 각 혁명은 직전 혁명으로 발생한 문제점들을 풀어주겠지만 또한 새로운 위험을 끌어들이기도 할 것이다.
G 혁명은 질병과 노화라는 인류 고래의 문제를 풀겠지만 생물학 바이러스 무기라는 새로운 위협을 양산할 것이다.
N 혁명은 충분히 발전하면 생물학적 사고에 대한 대비를 갖출 수 있겠지만, 이번엔 자기복제하는 나노봇으로 인한 위협을 겪을 것이다. 생물학이 야기하는 문제보다 훨씬 더 심각한 문제가 오는 것이다. 그런 사고에 대비하려면 R 혁명을 충분히 발전시키는 수밖에 없다. 하지만 인간의 수준을 뛰어넘는 인공지능이 바람직하지 못한 방향으로 발전할 경우, 그때는 어찌할 것인가?

-- 진짜 비용은 생산품을 묘사하는 정보의 가치에 달렸다. 조립 과정을 통제하는 소프트웨어가 제일 중요한 것이다. 달리 말하면 세상 모든 것의 가치는, 물론 물리적 실체들도 포함하여, 전적으로 그 속에 저장된 정보의 가치에 달렸다. 요즘의 상황도 그리 다르지 않다.

-- 새로운 패러다임을 적극 활용하게 되면 기술의 역량은 기하급수적으로 증가하지만, 기하급수 곡선의 변곡점에 도달하기 전인 초기 성장단계는 느리게 진행한다. 혁명적 변화가 다가오리라는 들뜬 기대가 틀리는 법은 없지만, 시기 예측은 부정확할 수 있는 것이다. 기대대로 신속한 변화가 확산되지 않으면 환상이 깨지는 시기가 도래한다. 그러나 기하급수적 성장은 언제라도 굽힘 없이 이어지며, 그로부터 또 수 년이 지나면 좀 더 성숙하고 좀 더 현실적인 변화가 실제로 일어난다.

-- 현상을 이해한 뒤 증폭에 초점을 맞춘 시스템을 고안하는 것이 공학의 속성이다. 일단 우리가 지능의 원리를 이해하게 되면 그 힘을 한 곳에 모으고, 집중시키고, 증폭할 기회가 생길 것이다.

-- 컴퓨터 과학자 일레인 리치는 AI를 이렇게 정의했다. "현재 시점에서 사람이 더 잘 하는 일들을 컴퓨터가 하게 만드는 학문" MIT AI 연구소의 로드니 브룩스는 다른 식으로 표현했다. "우리는 뭔가 만들어내는 데 성공하면 그것은 더 이상 마술적이지 않다. 사람들은 아, 저건 그냥 계산이구나, 라고 말한다." 지능이라는 매력적인 현상은 일단 그 작동 방식이 파혜쳐지고 나면 '아무것도 아닌 것'으로 간주된다. 미스터리는 남아 있는 것들, 아직 밝혀지지 않은 문제들에게 넘어가버린다.

6. 어떤 영향들을 겪게 될 것인가?

-- J.스토로스 홀은 '포글릿'이라 이름 붙인 나노봇 설계를 제안했다. 자기들기리 결합하여 다양한 구조물을 만들 수 있는 나노봇으로서 구조를 쉽게 바꿀 수 있다는 게 특징이다. '포글릿'이라 이름 붙인 까닭은, 한 공간에 포글릿들이 안개처럼 풍성히 모여 있다면 그들이 소리와 빛을 통제해서 다양한 영상 및 청각 경험을 선사할 수 있기 때문이다. 한마디로 인체 내부가 아니라(신경계를 건드리는 게 아니라) 외부에서(물리적 세계에서) 가상현실을 창조하는 녀석들이다.

-- 정보를 '살아' 있게 하려면 끝없이 관리하고 지원해줘야 한다. 데이터든 지혜든, 정보는 우리가 그것의 존재를 바라는 동안에만 존재할 것이다. 그렇게 보면 우리 역시 스스로 돌보는 동안에만 살아갈 수 있다. 이미 우리는 질병과 노화에 대한 지식을 충분히 갖고 있어서, 자신의 수명에 대해 어떤 태도를 취하는가 하는 점이 장기간의 건강을 결정 짓는 제일 중요한 요소인 시대를 살고 있다.

-- 천문학자 프랭크 드레이크가 1961년에 제안한 드레이크 방정식은 SETI(외계 지적 생명체 탐사 프로젝트)에 커다란 영감을 주었다. 우리 은하 내에 지적 문명이(좀 더 정확하게는 무선 송신을 하는 문명이) 몇 개나 있을지 계산하는 방정식이다. 추측컨대 다른 은하들에도 마찬가지 분석이 통할 것이다.

-- 그런데도 모두들 알다시피, 하늘은 조용하기만 하다. 우주가 이토록 고요하다는 것은 기묘하고도 흥미로운 일이다. 엔리코 페르미가 1950년 여름에 했던 말과 같다. "다들 어디 있는 걸까요?" 충분한 기술을 갖춘 문명이라면 제대로 탐지하기 어려운 주파수로 최대한 조용히 통신을 하며 자신을 숨길 이유가 없을 것 같다. 왜 외계 생명체들은 하나같이 수줍은 걸까? 사실 페르미 역설이 역설적인 것은 드레이크 방정식을 너무 낙관적으로 해석하여 기대를 높게 가지기 때문인지 모른다.

7. 나는 특이점주의자입니다

-- 특이점이 무엇인지 이해하고 그 의미를 자신의 삶에 반추하는 사람을 특이점주의자라 부른다. 따라서 특이점주의자가 된다는 것은 믿음의 문제가 아니라 이해의 문제임에 틀림없지만, 한편으로 책에서 다룬 과학 트렌드들을 생각하다 보면 기존 종교들이 풀고자 했던 문제에 대해 새로운 시각을 갖게 되는 것도 사실이다. 이를테면 생명의 유한함과 불멸, 삶의 목적, 우주 속의 지능이라는 문제들 말이다.

-- 새로운 종교가 필요하긴 하죠. 이제까지의 종교가 해온 주된 역할은 죽음을 합리화하는 것이었으니까요. 새로운 종교의 교리는 두 가지 원칙이면 될 것 같습니다. 하나는 전통 종교에서 딴 것이고 다른 하나는 세속의 예술과 과학에서 딴 것이예요. 기존 종교들에서 가져올 원칙은 인간의 의식을 존중하라는 것이죠. 두 번째로 예술과 과학에서 배울 점은 지식의 중요성을 인정하는 것입니다. 지식은 정보 이상이죠. 의식 있는 존재들은 정보에서만 의미를 느낍니다.

-- 무엇이 의식 있는 존재인가, 그리고 남의 주관적 경험이란 어떤 것인가 하는 질문은 인류의 윤리와 도덕과 법 개념의 초석이다. 법 제도만 해도 의식의 문제에 바탕을 둔다. 의식 있는 인간에 고통을 가한 행동, 혹은 인간의 의식 경험을 중단한 행동(가령 살인)에 대해 가장 심각한 처벌을 내린다.

-- 의식의 문제를 객관적 측정이나 분석(즉 과학)으로만 풀 수 없다는 바로 그 점 때문에 철학의 역할이 핵심적이다. 의식이란 존재론적으로 가장 중요한 질문이다.

8. 뗄 수 없게 얽힌 GNR의 희망과 위험

-- 논란의 여지가 없지 않지만, 생명공학으로 변형된 바이러스가 새로운 존재론적 위험으로 등장했다고 볼 수 있을 것 같다. 쉽게 퍼지고, 잠복기가 길고, 치명적인 폭발력을 가진 바이러스 말이다. 바이러스 중에는 독감이나 일반 감기처럼 쉽게 번지는 것이 있는가 하면 HIV처럼 치명적인 것이 있다. 두 가지 속성을 한데 가지는 바이러스는 흔치 않다.

-- 존재론적 위험에 대해서는 시행착오적 접근법을 써선 안된다. 이른바 '예방 원칙' 접근법(어떤 행위의 결과를 완벽히 알 수는 없다 해도, 무척 심각한 부정적 결과를 가져올 가능성이 조금이라도 있다는 과학자들의 분석이 있다면 위험을 감수하기보다 행위 자체를 하지 않는 편이 낫다는 원칙)을 취해야 할 텐데, 문제는 예방 원칙을 해석하는 데도 여러 상충되는 의견이 있다는 점이다.

-- 문명에서 생겨난 주된 발전들은 거의 모두 자신의 모태인 그 문명을 침몰시키는 데 기여했다. - 알프레드 노스 화이트헤드

-- 산업 사회가 재편될 수 없는 근본적인 이유 중 하나는 현대 기술은 무수한 부분들이 서로 의존하며 얽혀 있는 하나의 총화이기 때문이다. 기술의 '나쁜' 부분을 제거하고 '좋은' 부분만 유지한다는 것은 불가능하다. 현대 의학을 예로 들어보자. 의학이 발전하려면 화학, 물리학, 생물학, 컴퓨터 공학 등등이 발전해야 한다. 의학적 진단을 잘 하려면 값비싼 첨단 장비에 의존해야 하는데, 이는 기술적으로 진보적이고 경제적으로 부유한 사회만 누릴 수 있는 것이다. 전반적인 기술 체제와 그에 수반하는 온갖 것들의 발전 없이는 의학도 발전할 수 없다는 것, 그것은 명백하다.

9. 비판에 대한 반론

-- 회의주의자들은 컴퓨터가 모든 면에서 인간 지능에 맞먹는 날이 오기 전에는 계속 이처럼 물컵이 반밖에 차지 않았다고 투털거릴 수 있다. 인공지능이 한 가지를 성취하면 성취되지 않은 다른 목표를 지적하며 성과를 깍아내린다. 인공지능 연구자들이 좌절하는 대목도 바로 여기다. 힘겹게 달성된 AI 목표는 더 이상 AI 영역 안의 일로 여겨지지 않고 유용한 일반적 기술로 취급된다. 그래서 AI는 아직 풀리지 않은 문제들로 구성된 분야라는 말까지 있다.

-- 무엇보다도, 디지털 기법은 할 수 없는데 아날로그 기법이 할 수 있는 일이란 존재하지 않는다. 디지털 기법으로 아날로그 과정을 모방할 수는 있지만(부동 소수점 표현법을 쓰는 것이다) 역은 반드시 참이 아니다.