기술적 특이점

技術的 特異點
Technological Singularity

• 상위 문서 : 과학사 관련 정보

1 개요

미래학, 기술사학의 개념 중 하나로 인간이 기술의 발전을 이해할 수 있는 한계점. 인간의 기술과 문명이 고도로 발전을 거듭하다 보면 인공지능이나 기타 정보처리/생산 설비의 발전과 기술적 개념의 고도화 등으로 인해, 인간이 스스로가 만들어 낸 기술을 이해하지 못하거나 따라잡지 못하는 시점을 뜻하는 용어. 즉, 인간이 기술사학적으로 추론 가능한 미래의 한계점을 의미한다. 그 이상으로 넘어가면 인간의 힘으로는 원리를 이해할수도 없는 고도의 기술이 된다.

2 상세

왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?

인공지능이 인간의 지능을 넘은 시점부터 매우 빠른 속도의 학습과 연쇄적 자체개량을 통해 지능폭발을 일으키게 되고 결과적으로 인류총집합의 지능을 넘어 스스로 초지능에 도달하는 시점을 특이점이라고 부른다. 이것은 생물체의 진화 속도를 완벽하게 초월하는 것이 되며, 무어의 법칙을 깨는 속도의 기술발전이다. 그후 인류역사상 수만년간 진행된 과학기술 발전 속도가 제자리걸음으로 보일 정도의 폭발적인 수직 성장을 하게 되며, 초지능체가 개발한 기술은 더 이상 인류의 지능으로 그 작동 원리를 이해할 수 없는 기술적 복잡성을 지니게 되며, 따라서 기술 자체가 그것을 만든 인간을 초월하게 된다. 이러한 현상을 기술적 특이점 이라 부른다.

아서 클라크의 과학 3 법칙 중 세 번째인 "충분히 발달한 과학기술은 마법과 구분할 수 없다."라는 말은, 기술적 특이점에 이른 미래 사회에 대한 은유로 해석될 수 있다. 기술적 특이점에 도달한 사회에서, 인간은 첨단 문물의 원리를 이해하기보다는, 마치 마법의 지팡이를 쓰듯이 그 효과만을 누리게 될 것이기 때문이다.물론 지금도 과학자와 엔지니어를 제외한 대중은 그렇지만. 이 이후부터는 일반인은 물론이고 인류중 가장 똑똑하고 박학다식한 전문가들 조차도 새로운 발명품이 왜 어떻게 작동하는지 모르게 된다는 것이다. 강아지나 원숭이에게 스마트폰의 작동 원리를 가르칠 수 없는 것처럼, 발전된 기술을 자신에게 적용 받지 않은 인간의 경우 생물학적 한계 때문에 죽었다 깨어나도 이해할 수가 없다! 마치 개가 원자력 발전소에서 나오는 전기로 난방이 되는 집에서 살거나 원숭이가 비행기를 타는 것처럼 인간으로서 대체 무슨 원리로 뭐가 어떻게 되는지 알 길은 없지만 그러한 초과학의 혜택은 누릴 수 있을 거라는 점이 포인트.

존 폰 노이만(좌측)

사람이 기술의 발전을 따라잡을 수 없는 시기로서 특이점이란 단어는 존 폰 노이만의 말에서 처음 언급되었다. 정확히는 스타니스와프 울람이 1958년 폰 노이만의 사후에 그에 대해 회고하며 쓴 글에서 언급된다. 특이점의 정의를 현재와 같이 정립한 것은 수학자이자 SF 소설가인 버너 빈지가 1983년에 쓴 글이다.

그 시기는 의견이 분분해서, 2035년~3000년까지 매우 편차가 크다. 특이점 이론을 주장하는 이들 중에서 가장 정확한 예측을 하는 미래학자인 레이 커즈와일은 약 2035년 전후로 인공지능이 인류 전체의 지능을 초월하면서 특이점이 도래할 것이라고 주장한다. 알파고의 영향으로 보이는데 10년은 걸릴 거라고 생각했던 승리니까 커즈와일 본인의 말에 따르면 그 때는 80대가 될 자신도 누릴 것이라고 한다.

저 그래프 대로라면 인공지능은 이미 생쥐의 지능을 넘어섰다.

이 시기가 오면 인간이 기술을 발전시키는 것이 아니라, 기술이 기술을 발전시킬 것이라고 한다. 인간급의 지능으로 스스로 생각할 수 있는 인공지능 기술이 개발되지 않은 현재는 컴퓨터는 인간이 직접 설계하지만, 인공지능의 수준이 인간급으로 발전되면, 인간이 컴퓨터를 설계하는 것이 아니라 인공지능 스스로 컴퓨터를 설계하는 것이 가능하다는 이야기. 더 나아가 인공지능 자신이 그 자신보다 더더욱 뛰어난 인공지능을 개발하는 것이 가능해지는 것이다.

게다가 인간은 뇌에 기반하는 생물적 한계상 처리력을 강화하는 게 어렵고 사실상 복제도 불가능하지만, 인공지능은 그 구조상 복제 및 확장, 기능 업그레이드가 매우 손쉽다. 따라서 이렇게 발전된 기술이 다음 기술을 발전시키는 데 사용되며 이게 누적될수록 점점 더 기술의 발전은 빨라져서 결국 기술발전의 그래프는 수직에 가깝게 그려질 것이며 이 시점이 바로 특이점이라는 이야기.

3 특이점주의

특이점 개념을 굳게 믿는 자들은 자신을 특이점주의자(Singularitarian)라고 부른다.

이들은 특이점이 멀지 않았으며 GNR 즉 유전공학, 나노기술, 인공지능 기술의 만개가 인류 문명을 특이점으로 이끌 것이라고 주장하고 있다.

특이점주의자들에 의하면 이제 인간은 지능과 신체 스펙 등 스스로의 생물학적 한계를 기계와 유전공학으로 대신하면서 더욱더 지식과 문명을 발전시켜나간다는 것. 인간의 한계로 불가능하거나 발전이 더뎠던 영역은 기계가 대신 이루어 줄 것이다. 대표적으로 우주탐사같은 것. 왜냐면 인간 스스로의 신체와 지능, 능력을 향상시켜 발전하는 단계는 거의 정점을 이루었다고 보고 그 뒤부턴 기계와 인공지능의 발전에 맡기는 것. 대표적인 한계로는 인간의 두뇌와 지능이 있다. 아무리 그래봐야 인간의 지능은 200이하이며, 3가지 이상의 멀티태스킹을 해내긴 힘들고, 자신의 전문분야인 일이 아니면 하기 힘들다. 모두가 10자리x10자리의 연산을 빠르게 해낼수는 없다. 하지만 컴퓨터와 인공지능은 지식 보유량과 연산처리속도는 월등하다. 인간보다 빠른 연산속도와 방대한 데이터베이스를 가지고 멀티태스킹이 가능하고, 인터넷으로 지식과 데이터베이스를 공유하면 인류가 몇천년에 걸쳐 이루어낸 지식 대부분에 대해 습득하고, 고등교육을 받아야 하는 인간에 비해 빠르게 전문성을 확보할 수 있다.

이하의 내용은 대부분 레이 커즈와일의 '특이점이 온다(The Singularity Is Near)'를 참조했다(2005년 미국 출간, 2007년 한국에 번역 출판. 진대제 前정보통신부 장관 감수, 빌 게이츠 추천사).

레이 커즈와일은 미래학자, 과학자, 발명가로서 스캐너, 광학 문자 인식기(OCR), 신시사이저 등을 만든 사람. 영창 악기에서 파는 커즈와일 신시사이저가 바로 그가 만든 것이다. 현재는 자신이 예견한 인간 수준의 인공지능을 개발하는데 가장 적절한 곳이 구글이라고 생각해 임원으로 입사하였고 현재 구글의 엔지니어링 이사이다.

그의 미래 예측은 '기술은 개발됐지만 상용화되지 않은 것'을 틀린 것으로 치고도 86%의 적중률을 보였다고 한다.

• 참고할 만한 그의 강연 : 레이 커즈와일 - 기술이 어떻게 우리를 변화시킬 것인가
• 참고할 만한 그의 기사 : 미래학자 커즈와일 "인류, 2029년께 영생 얻을 것"
• 참고할 만한 그의 인터뷰: '21세기 에디슨' 도발 예언… "2045년 되면 인간은 죽지 않는다"

3.1 유전공학(G)

기술 발전의 가속으로 인해 뒤쳐진 생물학적 인간을 보완할 기술

뇌공학의 발전은 컴퓨터에게 뒤쳐질 인간의 지능을 보조할 것이고, 유전공학의 발전은 인간의 육체를 기술의 발전에 맞춰 신체적 한계를 극복할 수 있을 것이다.

특히 뇌공학의 발전은 인간지능에 대한 이해를 위해 필요하기 때문에 위에서 서술한 완벽한 인공지능을 구현하는데도 필요하여, 인공지능과 상호보완적으로 발전할 것이다.

커즈와일은 이미 노화에 대한 이해와 연구는 충분히 진행되었다고 본다. 이미 장년인 본인도 그런 지식을 잘 활용하면 생명공학 혁명이 충분히 진행될 수 있을 때 까지 살 수 있다며, 현재 하루에 150알의 알약을 먹고 매주 5~6가지의 정맥주사를 맞고 있다고 한다.셀프 실험

2000년대 후반~2010년 대 초면 실험용 쥐의 노화를 되돌리는 수준에도 도달할 수 있을 거라고 예견했고 실제로 성공했다(...). 회춘 항목을 참조하자. 아직은 인간에게 적용하기엔 극복해야할 벽이 많지만 후속 연구가 계속 진행되면 인간에게도 적용할 수 있을 것이다.

첨단 의학기술로써 RNA가 작동하는데 중간에 간섭하는 기술, 개인의 세포를 배양하여 몸에 이식하는 기술, 이미 있는 세포의 DNA를 바꿔치기하는 기술 등도 소개한다. 2013년 인터뷰에서 20년 안에 인류는 모든 질병을 극복할 수 있을 것이며, 2045년이 되면 인간이 죽지 않고 영원히 살 수 있다고 주장했다.

복제인간이나 인조인간은 그다지 큰 위협이 되지는 않을 것이라고 봤다. 법적, 윤리적 장벽도 있겠지만 무엇보다 위에서 서술한 기술들을 이용하면 굳이 인간을 복제하거나 인간의 유전자를 조작한 아기를 만들 필요가 없기 때문이라고.

이와 관련한 사상으로 트랜스휴머니즘이 있다.

3.2 나노기술(N)

인공지능이 현실에 영향을 미치게 할 수 있는 매개체

나노단위의 조종은 인간지능만으로는 불가능하고 반드시 인공지능의 제어가 필요하다. 동시에 논리회로의 집적도를 높혀 인공지능을 구현하는 데에도 필요하다. 또 유전공학의 발전도 나노단위의 이해가 필요하기에 상호보완적으로 발전할 것이다.

커즈와일은 매 10년 마다 기계 부품의 크기가 1/4로 줄어 들었다며, 2020년 경에는 대부분의 기계기술이 나노 기술의 영역에 들어설 것이라고 예견했다.

2020년 중반이면 나노기술이 일상적으로 활용되어 대표적으로 의학용도로 다양하게 활용될 수 있을 것이라고 봤다. 이를테면 병원균을 제거하거나, 몸 내부 콜레스테롤이나 노폐물을 제거하거나, 병을 조기 탐지한다던가. 커즈와일은 나노봇을 인체에 좀 더 적극적으로 활용하는 방안을 제안했는데, 나노봇의 성능이 충분하고 스스로 움직일 수 있다면, 몸의 적혈구를 전부 나노봇으로 갈아버리면 폐와 심장이 필요 없어지며, 호르몬 등의 합성도 나노봇에 맡기면 각종 분비샘이 필요 없어진다는 것이다. 이 정도면 이미 생물학적 인간의 범주를 벗어났다.

또한 두뇌에 나노봇을 투입하여 기존 인간의 생물학적 지능에 비생물학적 지능을 추가할 수 있다고 한다. 커즈와일에 따르면, 생물학적 지능의 증가는 매우 느리고(자연적 진화) 물리적인 한계(두개골의 용적)때문에 폭발적으로 증가하는 비생물학적 지능을 따라잡지 못할 것이다. 따라서 2040년대에 이르면 두뇌의 대부분은 비생물학적 지능이 우위가 되어있을 것이다.

2030년대 초반이 되면 심장, 폐, 적혈구와 백혈구, 혈소판, 췌장, 갑상선 및 모든 호르몬 분비기관들, 신장, 방광, 간, 식도, 위, 소장, 대장이 죄다 필요 없어지고, 남는 것은 골격, 피부, 근육, 피하조직, 생식기, 감각 기관, 입과 식도 윗부분, 뇌라고 한다. 이를 버전 2.0 인체라고 한다.

2040년대에 이르면 버전 3.0 인체가 탄생하게 되는데, 버전 3.0 인체의 특징 중 하나로 꼽는 것은 쉽게 신체를 바꿀 수 있다는 것이다. 분자나노조립기술을 사용하여 육체조차도 순식간에 바꿀 수 있게 된다.T-3000?, 소설 권왕전생의 현실판?!?!, 이건 진짜 마법인데??

인간 1.0의 관점으로 본다면 신체의 장기를 들어내고 이리저리 개조하는 것이 기괴하고 공포스럽게 보일 수 있다. 하지만 커즈와일은 이는 상대적인 것으로 그 시점에서는 매우 당연한 것처럼 받아들여질 것이라고 한다.

에너지 기술에 나노 기술이 적용되면 신재생 에너지의 효율성을 높일 수 있어 2020년 대에는 에너지 사용 능력이 비약적으로 상승할 거라고 한다. 나노기술로 생산된 태양열 패널과 연료전지로 인해 에너지 생산과 저장의 분산화가 이루어지기 때문에 발전소나 연료저장시설이 사라지고 이로 인한 각종 위협과 환경 문제가 사라질 것이다.

약학분야에서는 이미 1990년대 후반 ~ 2000년대 초반부터 나노기술이 주목되기 시작하여 현재는 많은 기술적 발전이 가시적인 성과로 나타나기 시작했다. 가장 기초적인 나노기술인 나노사이즈의 운반체에 약물을 담아 운반하는 나노 전달 시스템부터 출발하여 현재는 다양한 암이나 각종 장기를 집중적으로 표적할 수 있는 표적화 기술을 부착한 나노입자까지 매우 다양하다. 대표적으로 화장품 제조에도 쓰이는 에멀전 기술부터 시작해서 생체 세포기관을 모방한 리포좀, 그리고 고분자 복합체인 미셀이 있으며, 이러한 나노기술은 약물의 생체이용률을 높일 수 있어 절대적인 투여량을 줄일 수 있을 뿐만 아니라 이에 따른 부작용도 함께 감소시킬 수 있는 이점이 있으며, 표적화 기술은 부작용 감소와 약효 증대라는 두 마리 토끼를 한번에 잡는 궁극적인 표상이라 할 수 있다. 다만, 현재까지는 이러한 나노기술의 실용화 까진 많은 어려움이 따르며, 특히 생산단가가 높다는 문제점이 존재한다. 화학공학과 물리화학, 제어계측학의 발달이 이러한 문제점을 해결해 주리라 기대해본다.

환경 문제도 각종 오염 물질을 분자, 원자 단위로 다룰 수 있으므로 혁신적으로 줄일 수 있을 것이라고 한다.

3.3 인공지능(R)

인류 문명을 특이점으로 이끌 제일 중요한 기술

인간이 아닌 지능이 인간의 지능을 뛰어넘는 것이 가장 중요한 관건이다. 이 조건이 충족되면 나머지는 인공지능이 알아서 개발시키기 때문. 인간 수준의 인공지능 개발이 곧 특이점을 의미하는 것은 아니다. 특이점은 인공지능이 인류 지능의 총합마저도 넘어서는 시점을 말한다.

인간과 같은 인공지능, 즉 튜링 테스트를 통과할 수 있는 지능을 만들기 위해서는 인간의 뇌와 계산능력이 같은 수준의 하드웨어와 인간의 사고구조를 이해하기 위한 뇌에 대한 지식과 구조모델이 충분히 갖춰져야 한다.

먼저 갖춰진 것은 인간의 뇌와 같은 수준의 하드웨어인데, 커즈와일은 인간 뇌의 성능을 수치로 나타내면 초당 [math]10^{14}[/math] 회에서 최대 [math]10^{16}[/math] 회의 계산이 가능한 것과 같다고 추정했다. 플롭스(FLOPS)로 단위를 환산하면 약 0.1~10 페타플롭스. 이 정도의 성능은 2010년대 초에 슈퍼컴퓨터를 통해 완성될 것이라 예견했고, 2020년대 중반에는 가정용 컴퓨터도 비슷한 수준이 될 것이라고 추정했다. 슈퍼컴퓨터항목을 보면 알겠지만 2013년에 이미 슈퍼컴퓨터의 성능은 33 페타플롭스에 도달했다. 물론 에너지 소모량이나 부피 등 효율성에서는 아직도 인간 뇌가 월등하지만, 폰 노이만 구조가 아니라 인간의 뇌와 닮은 아키텍처를 지닌 컴퓨터(예: IBM의 트루노스)를 만들면 이러한 효율성을 좀 더 빠르게 따라잡을 가능성이 있다.

그러나 연산 능력이 인간 뇌와 같은 성능이라 해도 바로 인공지능을 완성할 수 있는 건 아니다. 위에서 추정한 인간 뇌의 성능은 단순히 뇌의 뉴런 간 시냅스에서 전달되는 신호가 초 당 몇 개인가를 말하는 것뿐이다. 즉 인간 수준의 인공지능을 만들기 위해서 진짜 필요한 것은 인간의 지능이 어떤 구조로 이루어져 있는지에 대한 이해, 즉 소프트웨어에 대한 이해이다.

2008년부터 인간 뇌의 뉴런 간의 연결 구조를 밝혀내기 위한 휴먼 커넥톰 프로젝트(Human Connectome Project)가 진행 중이다. 관련 서적 커즈와일은 인간 뇌를 컴퓨터를 통해 에뮬레이터로 구현하기 위해서는 인간 뇌보다 약 1,000배 높은 연산능력이 필요하다고 추산했으며, 그에 따라 2020년 중반에 인간 뇌 구조에 대한 연구가 완료될 것이라고 봤다. 2029년이면 그것을 컴퓨터로 옮겨 인간과 완전히 같은 수준의 인공 지능을 만들 수 있을 거라고. 휴먼 커넥톰 프로젝트 말고도 뇌 역분석에 관련된 프로젝트로는 미국의 브레인 이니셔티브(BRAIN Initiative)나 유럽 연합에서 진행하는 휴먼 브레인 프로젝트도 있다. 이건 2023년까지 완성하는 것이 목표.

인간 지능에 대한 이해가 높아져 그것을 컴퓨터를 통해 구현할 수 있게 되면 그 지능은 인간 지능과 비교하면 훨씬 유리한 점이 있는데, 빠른 지식흡수와 정보공유와 여러 학문을 융합하여 자유자재로 활용하는 등의 확장 가능성이다. 아주 단순화시켜 예를 들면 컴퓨터를 통해 구현된 인공지능은 인간과 달리 지식흡수에 글을 읽을 필요 없이 다운로드 받기만 하면 그 지식을 알게 되고, 서로 몇 시간씩 토론할 필요 없이 연결만 하면 서로 이해하고, 뇌의 성능이 몇 만년째 그대로인 인간과 달리 회로를 확장해서 연산 성능을 늘릴 수 있다는 것이다. 이게 이루어지면 교육을 비롯해 인간의 모든 것이 뿌리부터 바뀔 것이다.

커즈와일은 2099년쯤이면 가정용 컴퓨터 하나가 역사상 있었던 인류 전체의 두뇌들보다 10억 배 이상 더 힘을 발휘할 것이라 말한다.

• 참고할 만한 그의 강연: 혼성적 사고에 대비하세요
• 참고할 만한 그의 저서 내용 요약: 영적 기계의 시대

2016년 구글 딥마인드 챌린지 매치의 알파고로 인해, 인공지능에 대한 관심이 높아지면서 바둑의 기술적 특이점에 온 것이 아닌가 하는 주장이 있는데, 기술적 특이점은 기술에 관한 것이지 바둑에 관한 게 아니다. 다만 특이점의 용법의 사용 예를 보았을 때 바둑계의 특이점이 될 사건은 맞다. 그게 기술적 특이점이 아닐 뿐이지. 바둑적 특이돌

인공지능이 기술을 개발할 단계가 오면 다음과 같은 현상이 일어날 수 있다. 경제성 문제로 지원받기 어렵고 상용화되기 어려운 비주류 학문이나 연구분야도 인공지능이 해줄 수 있다면 인류의 산업과 기술과 지식이 양적, 질적으로 거대하게 팽창할 것이며 보다 많은 사람들이 지식의 혜택을 누리게 될 것이다. 연구가 진행되면 시간이 지나면서 학문분야가 더욱더 세분화되거나 추가되어 확장할 수도 있고, 더이상 인간은 교육을 통해 지식을 습득할 필요도 없어지며, 지식을 갈고 닦는 것은 더이상 사회의 경쟁력이 되지 않는 시대도 올수 있다. 인공지능과 컴퓨터가 지식을 갈고 닦아주며, 필요한 경우 생체 칩을 이식한다던지 하는 식으로 지식을 주입할 수 있다. 즉 공부랑 시험이 필요 없어지는 시대가 올지도 모른다는 것이다! 물론 공부랑 시험이 필요 없어지는 시대가 된다면, 반드시 반대급부로 더 어려운 과제가 주어질 가능성이 높다.

4 변화 예시

레이 커즈와일은 자신의 저서 내용 대부분을 특이점이 머지 않았다며 당시 개발되고 있었던 최신 기술을 소개하거나 컴퓨터의 속도가 무어의 법칙에 따라 빨라지고 이야기하고 있다는 것에 할애했지만, 조금은 구체적으로 미래에 어떤 변화가 있을 것인지 쓰기도 했다.

• 2010년대 초에는 컴퓨터가 사물에 심어지고 무선 통신을 활용하게 되고 증강 현실이 이뤄질 것이다. 한 마디로 유비쿼터스가 2010년 초에 성사될 것이라고 봤다. 실제로 2008년에 성사되었다.

(2008년도의 한국사람 대부분은 스마트폰의 대중화를 짐작조차 하지 못했다. 어렴풋히 상상은 가능했지만 폭발적인 스마트폰의 대중화로 인해 진짜 유비쿼터스가 도래하는 것은 예상하지 못했던 것)

• 2020년대 초에는 가상 현실이 대중화 될 것이다. 다만 여기서의 가상 현실은 HMD처럼 시, 청각에 국한되는 방법. 오큘러스 리프트 등을 보면 충분히 가능한 이야기다. 후술하겠지만 판타지 소설이나 매트릭스에 나오는 것처럼 뇌신경을 접속해서 오감을 전부 느끼는 수준은 좀 더 미래 기술이다. 2016년에는 초보적인 수준의 VR도 즉시 시장에 적용할 수 있는 게임 시장을 중심으로 이미 대중화가 시작되고 있다. 소니 플레이스테이션을 시작으로 콘솔 게임에도 VR 규격과 제품이 나온 상태이다.

나노머신, 인공지능, 생명공학과는 달리 유비쿼터스와 HMD 수준 가상현실 자체는 커즈와일이 저서 '특이점이 온다'를 저술하던 2005년 시점이나 더 이전에도 기술적으론 충분히 가능한 부분이였다. 그런 이것이 커즈와일의 예측을 폄하할 근거가 되지 못하는 것은, 원래 기술이 사회에 진출하는 데에 가장 큰 제약요인이 시장성과 수요이기 때문이다. 따라서 커즈와일의 저작에서 가장 중요하게 다루는 지점이 바로 "그 기술이 시장성을 가질 정도로 원가가 낮아지는 시점이 언제인가?"이며, 특이점론 역시 그런 논의의 연장선상에 있다. 시장성과 수요를 무시하고 기술력만으로 사회변화를 논하려 한다면, 초보적인 증기기관이 등장한 고대 그리스 시절에 이미 산업혁명을 논했어야 한다.

• 2020년대 말 엽에는 나노 기술을 이용해 인체의 장기를 보강하고 교체할 수 있을 것이다. 예를 들면 신체에 필요한 영양소를 정확히 계산해서 나노봇으로 몸에 공급할 수 있고, 혈구를 나노봇으로 교체하면 훨씬 뛰어난 면역력과 효율적인 호흡 능력을 가질 수 있고 심장을 제거하는 것도 가능하다. 수술 없이 뼈대를 강화하거나 신체 내부의 수술을 진행할 수도 있다.

• 2020년대 후반에는 가상 현실이 매우 현실적이게 되어서 그것을 이용한 재택 근무가 더 널리 퍼질 것이다.

• 2030년대에는 나노봇을 통해 뇌의 기능을 보강하는 것도 가능할 것이다. 뇌 자체의 성능을 높이는 건 물론이고, 매트릭스에 나오는 것과 같은 가상현실에 접속할 수도 있고, 자신의 감각을 전송할 수도 있을 것이다.

• 2030년대 말에는 뇌의 정보를 그대로 컴퓨터로 업로드하는 것도 가능할 것이다.

• 2030년대 말이나 2040년 대 초에는 분자 단위로 물체를 조립하고 해체하는 수준의 나노 기술을 이용해 신체를 아예 마음대로 개조할 수 있을 것이다.

• 신체가 절단된 장애인의 구제(신체재생 등)는 물론 순식간에 외모를 바꾸거나 성별또한 별도의 수술없이 나노머신만으로 바꿀수 있을 것이다.그럼 더이상 이성을 얻기위해 구애, 썸, 고백, 외모관리 이런 것들이 필요없어지는 때가 온다는 말인가

• 외모지상주의의 의미가 거의 사라질 것이며 성별을 구분하는 것 자체가 의미 없어질 것이다. 게다가 신체를 전혀 가지지않고 전기신호를 가진 자아만 온라인에 존재하다가 필요할때만 신체를 가지는 것이 가능할 것이다.

- 이 경우는 이제 물리적 환경과 국토의 한계 문제로 골머리 앓을 것이 필요없다. 이미 "자아"라는것이 온라인에서 무형의 데이터화가 되어있다고 하면 실제로 생존에 필요한 시설과 집, 사회적 인프라 등등은 불필요하게 된다.

• 뇌가 기계방식으로 교체되었기 때문에 언제든 초인공지능의 지능을 빌릴 수 있게 되거나 초지능 그 자체가 될 수 있다. 따라서 일반인들도 인류전체를 합한 지능을 자신의 전뇌에 복사 붙여넣기 할 수 있다는 것 혹은 타인과 잠시융합되었다가 세개의 의식체로 분리되는 것 따위도 가능하다. 이쯤되면 현재의 모든 인류가 할수 있는 최고의 지식과 노하우를 얼마 안되는 시간에 모두 습득할 수 있다는 것이 되고 단지 혼자의 집중만으로 가상의 세계나 새로운 게임 경험같은 것들을 만들어낼 수 있을 것이다.

• 초지능이 되느냐, 인간으로 남느냐는 개인의 선택으로 남게 된다. 그러나 그때쯔음이면 이런 기술들이 너무나 당연해서 데스크탑이냐 노트북이냐의 선택과 같이 아주 일상적인 일이 될 것이다. 몇몇 사람들은 너무 오래 살면 사는 재미가 사라지리라는 클리셰적인 생각을 하는데, 해결법 중 하나는 기억을 스스로 리셋하거나 그냥 포맷해서 어린애로 환생하면 된다. 좀 덜 극단적인 방법도 있다. 그저 뇌가 느끼는 감각의 역치를 어린아이 시절처럼 조정해주거나 뇌 회로를 약간 손봐 호기심을 느끼기 쉬운 상태로 만들면 된다. 이러면 지루해질 겨를도 없고 감각과 감정이 풍부했던 시절을 다시 찾을 수 있다.이제 그냥 게임이나 다름없다. 달성과제:지루할 때가 됐는데... 리셋 9999/∞

• 위와 같은 분자 조립 나노 기술로 인해 제조업 비용이 0에 수렴하게 낮아져서 물건의 가격은 그것에 대한 지적 재산 가치와 거의 같게 될 것이다.

• 각 재화들의 생산성과 생산 효율은 어마어마하게 증가할 것이다.

먹지 않고 마시지 않고, 숨쉬는 것 또한 문제가 없게 된다면, 인간은 심지어 달이나 화성에서도 아무 제약 없이 거주할 수 있게 될 것이다. 전기적 동력원만 해결이 된다면, 기계적인 신체가 파괴되지 않을 공간이라면 어디서든 주거가 가능하고, 아무것도 소비할 필요가 없으니 경제활동이 필요없어진다는 결론에 이르게 된다. 따라서 현재존재하는 경제망은 인간 1.0버전을 위한 '인간의 생존을 위한' 경제망이기 때문에, 먹고, 자고, 마셔야 되며, 더워도 안 되고, 추워도 안 되며, 반드시 숨을 쉬어야 하며, 방사능이나 기타 수많은 환경에 굉장히 취약하며, 정신적으로도 굉장히 쉽게 나약해지고, 생존에 의한 불안감에 타인을 불신하고, 말과 언어라는 제한된 통신방법으로밖에 소통하지 못해서 싸우게 되는 인간 1.0은 자연도태되거나(업그레이드한 사람이 그렇지 않은 사람보다 모든 경쟁력에서 앞설 것은 아주 뻔한 이야기이다.) 심지어 금지될 것이 자명하다.

인간 2.0은 에너지 동력원만 있다면, 화성과 같은 생명에게 극히 위험한 공간에서 아무 보호장비없이 생존할 수 있으며, 원하지 않는다면 경제활동조차 필요가 없다. 인공지능에 의한 무한에 가까운 콘텐츠가 순식간에 만들어질수 있기 때문에, 예를 들어 어떤 작품을 분석해 비슷하거나 그 것보다 놀라울 만한 영화를 체험형 게임류로 만든 것을 눈 깜짝할 사이에 각각 다른 버전으로 수천억개씩 만들어 낼수 있다고 생각하면 이해할 수 있다. 또한 개인의 기호에 따라 어떤것이든 실현가능하게 된다. 따라서 포스트휴먼은 전혀 일할 필요가 없다. (영화나 게임등은, 일반인이 쉽게 만들어내고 즐길수 없기 때문에 돈을 들여 전문인력들이 제작하고, 우리가 돈을 내고 보는 것이다)

일하고 싶다면 일할 수 있지만, 초인공지능이 인간과 비교할 수 없을 만큼 잘하고, 기발하며, 창조적이다. 열역학 제2 법칙에 의한 우주멸망 이외엔 인간 1.0에서 느꼈던 각종 재해로 인한 공포가 비교할 수 없을 만큼 줄어들 것이다.

- 이런 경우에는 죽음에 대한 개념도 판이하게 달라질 것이다. 육체가 돌이킬 수 없는 손상을 입어 죽음에 이른다는 개념은 사라지고, 불의의 사고로 신체 자체는 손상되거나 사라지더라도 자아와 의식을 복사해 두었다가 다시 새로운 육체에 재전송하면 그만이기 때문에, 자신이 죽는다는 개념 자체가 사라질 수 있다. 잠시 의식이 끊겼다가 다시 돌아온 것일 뿐.

1970년생 언저리부터는 아주 확실하게 인간 불멸화에 참여할 수 있을 것으로 전문가들은 판단하고 있다. 1960년생 같은 경우에는 건강에 신경쓰지 않으면 노화나 기타 노화로 인한 합병증세의 위험성이 높다고 판단하고 있다. 또한 이런 예측을 내놓는 커즈와일은 최첨단을 달리는 회사의 수장인 것을 감안해야하고, 관련 기술이 완성되었다 하더라도 시장 판매가 이뤄지는 데에 시간이 걸릴 것이며, 미국이 아닌 다른 비교 후진국 같은 경우엔 법규나 제재 때문에, 영생화로 이어질 수 있는 수명연장관련 기술이나 약품이 취급이 어렵거나 금지될 수 있다.

아래는 2013년 12월 26일에 CNN에서 낸 커즈와일 특집에서 참조했다.

• 질병과 노화로부터 탈출할 만큼 유전자 처리 기술이 발달하게 된다. 2020년 경에는 유전자 조작으로 줄기세포를 만들어서 인체 기관의 재생이 가능해진다.

• 2030년이 되면 인류에게 필요한 에너지는 태양에너지로부터 모두 구하게 된다. 식량 생산이나 식수 문제도 혁명적으로 해결된다. 원자력 발전소 세우느라 힘 쓰겠지만, 태양전지 기술이 원자력 에너지를 무용지물로 만들어 버릴 수 있다.

• 2020년이 되면 상품들 중 상당 부분은 3D 프린터로 인쇄 후 제조하게 된다.(생산단가의 하락) 의복 및 인체 장기까지도 아주 멋지게 만들 수 있다. 특히 인체 장기는 자신의 세포를 이용해서 만들게 된다.

• 5년 내에 검색은 자연어로 실시하게 된다. 웹페이지는 질문의 의미를 이해하여 원하는 해답을 자연어로 대답할 수 있게 될 것이다.

• 2020년 경이 되면 사람들은 가상세계 속에서 놀이를 즐기게 된다. 거기에 2030년 경이 되면 가상현실에서 실감할 정도의 감각까지 느끼게 된다.

-이 경우는 감각을 그냥 가상세계속에서 느끼면 되기 때문에, 피서를 떠나거나, 서핑을 하거나 스키를 타거나, 야동을 보거나 할 필요가 없어질 것으로 보인다. 취미활동도 더이상 돈을 내고 할 필요가 없어지는건가

• 가속적으로 발전하는 기술을 이용하여 '다리에 다리를 놓고 거기에 또 다리를 놓는'식으로 수명을 획기적으로 연장할 수 있다. 레이 커즈와일은 현재 우리에게 생명 연장에 필요한 지식이 다 있는 건 아니지만, 이런 식으로 사실상 지금부터도 무한히 사는 것이 가능하다고 주장한다. 즉 생명공학과 나노기술이 좀더 획기적인 생명 연장 방법들을 알려줄 때까지 현재의 지식을 적극적으로 적용해서 건강을 지키면서 기다리면 된다는 것이다. 모든 문제를 지금 다 해결할 필요는 없다는 뜻.

4.1 시사점

• 특이점 이전에 코 앞으로 다가온 기본소득제 논의

공장과 화이트 칼라의 자동화물결 (2015년 이후 상황)을 보면, 공장같은 경우엔 이미 스마트 공장이라고 하여, 제조업에서 사람이 직접 눈으로 확인하고, 팔로 옮기던 작업들이 기계들이 알아서 확인하고, 기계 팔로 옮겨가고 있다. 보수적으로 본다고 하더라도 추후 2020년대 중후반정도가 인간이 필요한 마지노선일 것이다. 그렇다면, 결국 완전자동화된 회사들만이 강력한 생산성을 가지고, 주위 기업들을 제치고 나아갈 것이며 (효율성이 극에 달한 자동화공장에 인간을 새로 투입하는 것보다 기계를 투입하는 것이 더 싸게 먹힐 것이기 때문), 이런 스마트 공장들을 만들어주는 기업의 사원 수는 자동화 공장 가동으로 인해 일자리를 잃은 노동자의 숫자보다 아득히 적다. 블루칼라만의 이야기가 아니라, 변호사나 간단 사무직같은 화이트칼라의 경우도 이미 AI의 바람이 불어오고 있기 때문에, 예체능 빼고는 점차 인간의 자리는 서서히 잃어갈 것이다. 공급은 많은데, 수요는 적어질 것이고, 법 체계를 바꾸지 않는다면, 대혼란은 불가피 할 것이다. 그래서 기본소득 논의가 시작된다. 기본 소득은 국가의 모든 구성원에게 복지금을 현금으로 바로 지급하는 시스템이고, 기존의 모든 복지시스템과 복지를 지원하기 위한 기회비용을 철회하고 오직 기본 소득하나로 모든 복지를 통일하는 것이다. 모든 것이 완전 자동화 되기에는 문제점이 많다고 하는 사람들이 많겠지만, 결국 사람과 똑같은 수준의 인공지능이 사람정도의 신체를 가지게 되어버리면, 모든 인간 직업은 끝장 난다고 볼수 있다. 인간답게 공감해줄수 있고 심리적인 안정감을 줄수 있는 직업이 살아남을 것이라고 하지만, 그 것또한 사람과 구별할수 없는 단백질과 탄소로 설계된 인간 신체와 똑같은 로봇을 만들고, 더 공감해줄수 있게 '설계된' AI가 공감해주는 것을 더 잘한다. 사람의 기분을 느낄수 있느냐고 물어본다면, 호르몬같은 건 그냥 가상에서 시뮬레이션 하여 구현해내면 그만이다. 인간이 정신승리하고 싶어서 아무리 AI가 못할만한 것을 찾으려고해도, AI는 할수 있을 뿐더러, 오히려 더 잘한다. 이런 상황에 모든 인간은 경제적 낙오자가 되어버릴 것이다.(노동자 뿐만 아니라, 인공지능이 경영감각까지 가지게 되어 CEO들을 넘어선다면 모든 기업은 도태되어 대기업도 AI가 지휘하는 기업에 비하면 삼류일뿐이게 된다).선진국에선 정부차원에서 이미 기본소득 논의가 나오고 있다. 전문가들은 기본소득을 '언제' 도입시킬지를 논의하고 있지, 도입시킬지 말지 찬반논란은 종식된지 오래다. 자동화물결을 받아들이는 사회입장에서 어느 시점에 적용해야 시장 경제 효과를 살려 경제침체를 당하지 않고, 오히려 자동화의 장점을 있는 그대로 이용해낼수 있을 것인지 말이다. 중요한 것은 강인공지능 정도가 아니라, 약인공지능과 같은 2020년대중반에 완성될 기술조차도 현재 인간 직업의 50%를 없애버릴 것이라는 것이다. 십수년 내내 화물트럭을 몰던 운전기사가 자동운전자동차에 일자리를 빼앗기고, 곧바로 전문지식도 없이 새로운 '인공지능이 아직 점령하지 않은' 직업을 생활고에 시달리고 있는 상태로 고등교육을 받지 않고 얻을 수 있을 거라고 생각하는 사람은 아마 없을 것이다. 따라서 '자동화'물결에 대한 사회적 논의는 아주 강력하게 이루어져야 한다. 안그런다면 '남의 일이니까'정도로 생각하고, 무관심했던 자동화물결에 자신의 직업이 덜컥 걸려버려, 순식간에 나머지 '플랜 B라고 생각했던' 직업들도 모조리 인조인간들이 점령해버린다면, 이미 그 땐 늦어버릴 것이다.

• 국가와 법조계 그리고 정치, 인공지능이 다스리는 국가

현재 대한민국은 부정부패와 싸우고 있다해도 과언이 아닐 정도로 매년 사건사고가 끊이질 않는다. 물론 모든 국가들은 저마다 안 좋은 부분이 있기 마련이다. 피상적인 삶을 사는 현재의 시민들은 모두들 자신의 국가가 발전을 할지라도 20~30년후에라도 계속 이런 상태일 것이라 생각한다. 결정적으로 인간으로 이루어진 국회의원과 법조계가 인공지능의 법치와 법개정을 하지 못하게 막을 것이라는 것이 미래학자들의 설명이다. 하지만, 일반적으로 인공지능이 절대정의를 펼치는 국가와 온갖비리로 점철된 상류층이 사는 국가중 하나를 선택하라고 한다면, 대부분의 사람들은 바로 인공지능의 국가를 선택할 것이다.
예제: 이 국가는 인공지능이 법을 만들고, 판사와 변호사역할까지 모두 수행한다. 이 국가의 시민은 모두 뇌의 활동을 감시하는 나노머신을 주입받으며, 모든 범죄관련 활동은 뇌영역에서부터 차단된다. 물론 모든 시민은 클라우드로 인공지능이 제대로 투명하게 활동하고 있는지 실시간으로 감시할수 있으며, 감시할때 활용될 모든 지식들은 인공지능과 공유한다.
예제로 든 국가는 범죄율이 0 (제로) 다. 개개인이 범죄를 꿈꾸지만 않는다면 사상또한 자유로우며, 시민 개개인들은 어떠한 전근대적 권력에도 절대 휘둘리지 않는다. 모든 공장과 회사는 AI가 알아서 모두 관리하며, 모두가 개인소득을 받고 살아간다. 중요한 것은 이것이다. 이러한 국가가 뇌를 어디까지나 치안목적으로 스캔하는 것에 동의를 구하고, 누구든 입국할수 있는 자유를 주었다고 하자, 그렇다면 지금 현재 (2020년 이전) 국가들은 거의 완벽히 죽을 것이다. 예제로 든 국가뿐만이 아니라, 인공지능이 법 재판을 하고 법을 제단하고 만드는 국가보다 허술하기 짝이 없는 인간이 만든 법을 지키는 국가쪽이 국가 경쟁력부분에서 거의 완벽히 패배할 것이라는 것이다. 곧 이것은 돌려말해 결국 아무리 국회의원들이 인공지능이 자신들을 관리할수 없게 한다고 하더라도, 밑의 시민들이 알아서 국가 갈아타기를 하면, 결국 울며 겨자먹기로 인공지능이 관리하는 시스템으로 만들수 밖에 없다는 이야기다. 애초에 인공지능이 승승장구하고 있는 시대에, 이민으로 인한 임금감소나 치안불안정은 이미 지나간 일일 것이다. (나노머신으로 개개인의 뇌를 모니터링하면 되니까, 범죄자의 머리 속 생각을 모두 인공지능이 읽어버리고 사전에 차단)

• 당신이 뇌를 전뇌화 시키고는, 10개로 복사해서 미국에 소포로 배송했다고 하자

전뇌를 10개로 만들고, 10개중하나는 진짜이다. 하지만, 전뇌속을 아무리 들여다 봐도, 완벽히 똑같다. 전뇌화된 당신은 입국심사를 받을 것인가? 복사된 전뇌들도? 복사체들도 똑같이 입국심사를 볼 것인가? 인간과 전뇌생명체는 어떻게 구분할 것이며, 완벽히 똑같이 보이는 10명중 어떤 것이 진짜 인간인지 알아낼수 있는 방법도 없다. 그렇다고 10명이 똑같이 입국심사를 받아야 된다고 친다면, 복사된 인격체도 인간으로 취급해야 하는 가? 그렇다면 인간과 AI의 차이점은 무엇인가? AI가 국가를 만들고, AI또한 인간처럼 존엄성을 받아야한다고 주장한다면, 강력한 딜레마에 빠질수 있다. 자아를 가진 사람 몇천명분의 파워를 가진 전뇌화된 소프트웨어들이 국경없이 그저 몸을 갈아탈때에, 사람은 아직도 입국심사나 까다롭게 받으며 다닐 필요가 없다. 자아를 온라인에 업로드하거나, 연결시키기만 하더라도, 타국에서 그냥 다른 몸을 활용해 관광하면 그걸로 그만이다.

• 인격과 자아가 데이터화되어 전송되는 수준이라면, 종족번식의 본능은 어떻게 될까?

자손을 남기고 자신의 유전자를 후대에 남길 필요가 있는 것인가? 생물학적으로 새로운 아이들이 태어나게 하는 것 보다는, 차라리 인격과 자아를 새롭게 "생성" 하는 것이 더 경제적이거나 효율적으로 보이지 않을까? 인류가 종족번식과 자손을 남기는 것은 본능이다. 종족의 발전은 세대마다 생물학적한계가 있고, 수명이 한정되어 있기 때문에 종족을 유지하기 위한 주요 수단이 새로운 유전자를 가진 자손을 많이 남기는 것이었다. 하지만 수명이 무한해 지거나, 죽음이라는 개념이 사라진다면 더이상 후대를 낳을 필요가 있을까? 그렇게 된다면 자손을 남기기 위해 필요하게 된 것들인 사랑, 연애, 결혼제도 등등이 필요없어질 것이다. 이게 필요없어지는 순간 당장 몇 세대만 지나도 이 부분은 변화가 있을 듯. 인류의 수명이 무한이 된다면 인구가 더이상 늘지 않거나, 필요에 따라 그냥 생성하게 될지도 모르겠다.

• 잊혀질 감각과 지식들

좀 멀리 나가 생각해보자. 압력, 통증을 느끼는 통각, 배고픔과 포만감, 스트레스 등등은 감각기관과 뇌를 거친 감각기의 작용이다. 생체조작과 생명공학을 통해 이런것들을 재구성할수 있다고 치자. 그러면 인간은 배고픔도, 통증도, 스트레스도 느끼지 않게 할수 있다. 이 경우 인류는 서로 싸우거나 갈등을 만들 필요가 있을까? 그런데다 수직적 사회구조, 결혼 공동체 생활, 사회성, 민주주의, 시장경제체제 같은 개념들 또한 필요없어지게 될지도 모른다. 모두가 평등하고 수평적인 지위를 누리며 자신이 원하는 성격과 인격을 가질수 있게 되거나, 오히려 인류 전체가 집단 지성을 이루고, 전체가 통합된, 비슷한 인격과 자아를 가지며 지식을 공유하는 SF스러운 종족이 될지도. 개개인의 개성과 경험 격차, 기억 등등은 오히려 전체 데이터베이스에 통합되어 모두가 그것을 알게 될지도 모르겠다. 본격 인류 전체가 천재가 되는 경험을 할수가 있다. 프로토스가 되는건가 칼라

• 모든 사람들이 기술적 특이점의 혜택을 받을 수 있는가?

기술적 특이점에 도달했다고 치자. 과연 그 기술을 개발한 기관, 이를테면 국가나 기업이 과연 그 기술을 만민에게 공평하게 제공할까? 인간은 수 천년간 자신과 자신이 속한 집단의 이익을 위해 살아왔다. 과연 이런 인간이 그 기술을 아무런 댓가없이 모든 사람에게 그 혜택을 받을 수 있게 할까? 애초에 기술적 특이점이 실현된다면 기존의 경제에 새로운 패러다임을 주게 된다. 공산주의든 자본주의든 둘다 원초적으로 노동을 필요로 한다. 근데 기술적 특이점은 노동을 대체하게 된다. 그러면 기존의 경제체제가 급변할테고 이는 곧 사회기반의 변혁으로 이루어진다. 과연 지배계층이 만민의 평등과 행복을 위해 기술을 보급하고 지위를 포기할지가 의문이다. 또한 이익을 위해 이런 기술의 산물을 값비싸게 팔아먹을 가능성이 농후하다. 가령 A기업이 이미 대단한 성능의 인공지능을 개발했지만 시장에다가는 제한된 기능에 제한된 수명을 가진 열화판 인공지능을 풀어버릴 가능성이 있다는 것이다., 물론 현재와 같이 기업끼리 서로 경쟁하면서 가장 고성능제품을 팔 것이 확실하기 때문에 걱정하지 않아도 될 것이다.
여름세일 나노머신 75%할인! 인공지능 주말 무료 태평양시각 기준 오전 1ㅅ..

5 기술발전이 인간에게 닥친 여러 문제들을 해결해준다면

현대 인류에게 닥친 갈등의 대부분의 원인을 찾으면, 밥그릇은 한정되어있는데 차지하고 싶은 사람들은 많아서이다. 한정된 자원과 이익을 다양한 세력들이 자신만 갖고 다른 이들을 배척하는, 공평하지 못한 자원/이익 분배와 그에 따른 격차가 불만족스럽기 때문이다. 거칠게 말하면 '빈부격차.'소수만 가치있는것들을 보유하고 나눠주지 않고 자신만 가지려고 욕심을 부리니 빈부격차가 발생하고, 이것때문에 갈등이 발생한다. 인류 역사에서 일어난 전쟁의 대부분도 이익관계가 부딪친 결과 이런 문제를 강제로 해결하기 위해 일어난 것이 많다. 기아가 왜 발생하는지 아는가? 애초에 지구에서 생산되는 식량은 지구 인구 전체를 먹여살리고도 남는 양이다. 이것이 지구 전체 구성원에게 분배 되지 않기에 기아가 발생하는 것이다. 인류에게 계급과 경제라는 개념이, 생산량의 증가로 잉여식량이 남아도는것을 어떻게 처리할까에서부터 출발한것을 보면 또 아이러니.

인공지능과 기계의 발전이 인류에게 당면한 환경오염, 지역갈등, 인종갈등, 빈부격차, 내전, 이익관계를 둘러싼 다툼 등을 해결책을 제시하고 기술의 발전으로 이런 문제들이 해결이 가능해진다면, 더이상 남의 밥그릇을 뺏을 필요도, 갈등을 배출할 필요도 없어진다.

그렇게 된다면 인류는 가지고 있는 역량을 과학기술의 발전이나 지식연구에 오롯이 집중 투자할수 있게 된다. 그러면 인류 문명의 발전은 가속화되지 않을까?

6 특이점이 오면 인간은 어떻게 되는가?

이 시기에는 눈부신 발전이 있을 것으로 예상된다.

발전이 정점을 찍는다면, 천재지변 혹은 예상치 못한 원인으로 기술 수준이 다시 퇴보하거나 정체했다가 발전하는, 주기적인 반복을 이룰지도 모른다. 흔히 기술과 지식은 계속 발전하는 것으로 굳게 믿고 있지만, 어느 정점에 다다른다면 다시 퇴보할수도 있다는 것이다.(지구와 인류 자체의 한계 때문에 인류발전이 한계점에 다다른다면)인류 문명이 꼭 양의 방향으로 발전하는 것만은 아닐 것이다. 정말로 워해머의 인류제국 처럼 황금기를 지나 다시 퇴보한상태에 있게 될 지도.

6.1 긍정적 견해

기술의 혜택을 극한까지 누리면서 행복하게 살 수 있다. 건강이나 환경 문제 해결은 물론, 몇몇 SF 작품에서 묘사되는 것처럼 인류가 노동으로부터 해방될 것이다. 경제의 패러다임이 바뀔 것도 자명하다.

기존의 문제에 대하여, 기계가 인간이 생각하지 못하던 새로운 패러다임을 제시하고, 인간은 새로운 패러다임을 더 연구하여 발전시키는 선순환의 과정이 나타날 수 있다. 예를 들면, 구글 딥마인드 챌린지 매치의 알파고. 알파고 바둑을 보니 시야가 넓어진다. 전문가들에게 공부할 수 있는 연구거리를 줬다.

6.2 부정적 견해

간단히 말해 기계의 반란 제1시나리오.

현 세대들은 매트릭스, 터미네이터 등 대중매체에서 인공지능을 인류에게 적대적인 존재로 묘사하듯 인간보다 뛰어난 인간의 피조물에 대한 공포를 가지고 있다. 쉽게 말해 인류가 실패한 창조주가 될 수도 있다는 얘기.

특이점에 도달하면 인간은 기계보다 열등하고 대부분의 상황에서 쓸 수 없으므로 사회에서 별다른 역할을 맡을 수 없게 된다. 인공지능이 경제성을 극도로 중시하는 관점을 가지고 있다면 그냥 폐기될 것이고, 현 세대 인간처럼 자연을 소중히 하는 관념이 있다면 멸종 위기 동물처럼 관리 받을 것이라는 견해가 많이 보인다.아니면 기계는 할 수 없는 인간만의 변수를 찾기 위해 가둬놓고 공돌이 돌리듯이 돌린다던가...

기계가 인간을 뛰어넘게 되면 먼저 단순직이 사라지고 이후 기계가 스스로 발전하면서 전문직도 사라지게 된다. 사실상 인간이 쓸모없는 존재가 되기까진 시간문제일 뿐이다. 이런 문제들에 대해서 생각해 볼 것은 국가에 의한 규제는 기술에 의해 사실상 의미가 없어질 것이라는 것이다. 일명 높으신분들에겐 안 좋은 소식일지 모르겠지만, 특이점 시대의 일개 시민은 자국의 법이 마음에 안들면, 다른 국가로 신분을 바꾸면 그만이다. 경제라는 개념이 의미가 없어진 상황에, 이민자금이나 이민자로 인한 임금 저하란 문제가 싸그리 사라질 것이기 때문에, 인공지능에 의한 사회통치를 원하는 자들은 그러한 국가로 옮길수 있을 것이며, 모든 화폐 가치가 0에 가까워진 그런 시점에 높으신 분들은 더이상 높으신 분들일수도 없을 것이다. 애초에 인공지능이 법치를 구현하는 것이 가장 안전하다고 생각되는 시대에 미개하며 뒤가 구린 국가가 타 국가와의 경쟁에서 쇠퇴하지 않고 살아남을 수 있다면 그건 그것대로 매우 신기한 광경일 것이다.

혹은 듄 시리즈의 역사 설정처럼, 초인공지능이 완벽히 인류를 챙겨줌에 따라 인간의 지능이 퇴보하고, 나태하고 멍청해지는 부작용이 있을 수도 있다. 버틀레리안 지하드 문서의 '프랭크 허버트의 해석' 참고. 월E에 보면 나오잖아

이렇게 되면, 더이상 인류는 기술과 지식 발전을 위해 노력하거나 경쟁하지 않고, 더이상 자신을 발전시키고 업그레이드 시킬 필요도 없어진다. 인간의 본성은 게으름과 놀기에 가까운지라...이것도 자아를 프로그래밍 해서 바꾸면 되지 사실 여러분들이 공부하는것, 타인과 경쟁하는 것 등등은 인류발전에 자신도 모르게 기여하고 있는 것이다.

설령 기술적 특이점을 맞이하더라도 그 혜택이 모든 사람들에게 돌아가게 된다는 보장은 없다. 미래를 내다볼 것도 없이 당장 지금만 봐도 다양한 상업, 군사기술을 일반인이 향유할 수 있는가?

사실 [1]요약 : 2005년 커즈와일 : 15년 후에는 너의 남은 수명이 매년 1년씩 증가함레이 커즈와일 등의 예측에 틀린 것도 있기도 하고, 미래 사회가 어떤 사회가 될 것인지에 대한 것은 실제로 아무도 알 수가 없다. 지금도 절대적인 기준에서 어느 정도 유토피아를 실현시킬 능력은 충분한 국가들이 있으나 여러 이유로 소수의 사례를 제외하면 그렇게 쉽게 유토피아적 사회가 이루어지지 않고 있다. 미래에도 더 빠르고 더 많은 경제성장 등을 이유로 능력은 충분하나 유토피아를 굳이 실현하지 않으려 할 수도 있다. 더구나 애초에 과학기술의 발전 방향이 유토피아적 국가에 더욱 유리할 것이라고 확정된 진리는 없다.

6.3 그 외 견해

2030년 정도만 되더라도 이미 대뇌피질을 나노기계로 업그레이드 할수 있는 수준에 과학이 다다르면, 인간이라는 종에 대한 개념이 완전히 달라질 것이다...의 수준을 넘을지도 모른다. 레이 커즈와일은 종이라는 개념 자체가 순수한 생물학적 개념인데, 특이점이 불러올 변화들은 생물학 자체를 초월하는 것으로 이는 생물학적 진화의 마지막 단계가 아니라 생물학적 진화를 통째로 딛고 올라서는 단계라고 주장한다.

현재 (2020년 이전 기준)의 일반인의 인간에 대한 정의는 현재의 스마트폰을 이용하는 것처럼 기계와 사람을 이원화하는 하는 개념에 안착해 있다. 하지만 2030~2040년대에 수술 혹은 나노기술로 대뇌 기능을 강화할 수 있게된다면 이러한 기준은 딜레마에 빠지게 된다. 간단하게 뇌의 기능의 10% 정도를 기계적인 방법으로 강화한다면 현 세대의 기준으로는 그것은 (의수나 의족을 사용한 것처럼)인간으로 볼 수 있겠지만, 어느 시점에서 원래 뇌 기능보다 강화한 뇌의 기능이 더 커진다면 테세우스의 배와 같은 딜레마가 생기게 된다. 하지만 이러한 성능, 기술 진보는 불연속적으로 생기는 것이 아니라 연속적으로 일어나게 된다. 결국 지금 세대의 인류에게는 인간에게 자연적인 부분 보다 인공적인 부분이 많다는 것은 낯선 개념이지만, 연속적인 변화로 인해 자연스럽게 받아들이게 될 것이라는 것이다. 물론 사람에 대해서는 아직 연구가 많이 필요하니 일단 컴퓨터를 기준으로 봤을 때 연속적이든 비연속적이든 구성 부분을 교체하면 교체한 다른 개체에 속하게 된다는 것은 의심할 여지가 없는 사실이다.하드웨어든 소프트웨어든 교체된 부분도 고장나지 않는 이상 다른 곳에 장착하면 작동을 하닌까 그리고 일반인들은 잘 모르지만 특이점을 숭배하는 학자들 중에 본래의 자의식 소멸은 그다지 중요하지 않게 여기는 사람들도 있다.확실히 증명되지도 않았는데, 남 따라하다가는 그대로 황천길로 직행할 가능성도 있다.

결론적으로 인간이라는 종 자체를 현 세대 기준처럼 기계적인 개조나 인위적인 수명조작이 없는 개체라고 정의한다면, 그 기준으로써의 인간은 '자발적으로 신속하게' 멸종할 것이라는 것이다. 인간 뇌를 강화하거나 몸을 변화시키는 것이 현재의 노트북이냐 데스크탑이냐 선택하는 것과 같은 관념이 될 것이라는 건 이런 의미라고 할 수 있다.

스스로 인간이길 포기한 개체는 자연스레 자신을 업그레이드 해서 인간이 아닌 그 무언가 (훨씬 지적이며, 이해심이 높고, 감정적으로도 안정되며, 이해력있고, 합리적이며, 더 많은 것들을 멀티테스킹 할수 있는 개체)가 되어 있을 것이기 때문이다.

태양전지의 효율이 좋아져 전기요금을 내지 않아도 되며, 유기체의 몸을 버리고 개조가능한 기계식 혹은 나노머신이 관리하는 유기체 몸을 선택했기 때문에 음식을 먹지 않아도 되겠지만, 특이점이 가까워진 그 시간에도 지적가치를 통틀어 자본주의 체제는 존속할 것이고 그 경쟁 속에서 살아남기 위해서 혹은 더 나은 인생경험을 위해서 기존의 인간들은 인간이길 포기하고 초월체가 될 가능성이 높다는 견해도 있다.

하지만 인류가 기술적 특이점에 도달하면 자본주의가 무너지고 새로운 체제가 등장할 것이라는 견해도 있어서 애매하다. 애초에 자본주의의 원동력은 인간의 필요와 욕망의 충족이고 자본주의의 핵심구조는 생산자와 소비자의 거래를 통한 자본축적인데 이들 모두가 붕괴된 상황에서 자본주의가 존속할 '이유가 없다' 그럼 공산주의가 도래하냐고 물을 수도 있겠지만 이 정도로 인공지능이 발전했다면 인간의 노동이 필요없을 테니 공산주의도 필요가 없다. 쉽게 말해 인류가 노동으로부터 완전히 해방돼서 경제체제가 필요 없어진다.

전기적 동력원을 제외한 어떠한 것도 필요없이 영원히 생존할 수 있고, 죽음과 노화를 극복할 수 있고, 인간의 한계가 가져온 인생의 고달픔을 영원히 벗어나 새로운 세상의 재미와 재미를 위한 목적만으로도 움직일 수 있는 삶에 거부감을 느낄만한 사람은 별로 없을 것이다. 그리고 이 기술이 돈을 받고 상용화 된다면, 대기업들은 구매욕구를 소비자들에게 주입시키는데 거의 완벽하게 성공할 것이다. 물론, 앞서의 서술에 따라, 애초에 생산력이 한정된 상황에서, 생산 극대화를 의의로 하는 자본주의가 무의미해 지게 된다면, 바로 이러한 인간 업그레이드 키트랄 수 있는 것들은 인간이 인간으로서 만들고 시장에서 판매하는 최후의 상품이 될 수도 있다.

결국 유토피아도 디스토피아도 아니지만, 중세시대와 현대시대의 일반적인 삶을 영위하기 위한 엄청난 노력의 격차등을 생각해 봤을 때, 기술의 혜택으로 인해 삶의 안정성이 상대적으로 훨씬 보장된다는 의미이다.

기술이 기술을 발전시키는 시대가 왔을때, 기계와 인간과의 지식/문화수준 격차는 꼭 짚어봐야 할 문제이다, 대표적인게 언어를 통한 표현 문제인데, 꼭 인간의 언어, 이를테면 영어와 수학으로 인공지능이 스스로 연구한 기술을 표현해야 할까?" 언어는 오랜 역사를 거쳐 문화권의 사고방식과 여러 특성을 반영해 형성되고 계속 변화한다는 것을 보았을때 초 인공지능이 스스로 현용 언어보다 효율적이고 다양한 정보를 나타낼수 있는 언어와 학문을 창조해내거나, 아니면 새로운 의사소통 방식을 창조해내 인간이 쓰는 음성, 텍스트 언어 대신 그것으로 결과값을 출력하고 스스로 연구를 진행한다고 하자. 인간은 더이상 이것을 알수도, 원리를 알고 제어할수도 없을 것이다.

그리고 이에 따라 기술,문화적 변화가 무진장 빨라질것이며, 인간의 문화와 사고방식은 점차 변화할 것이다. 과거에 패턴이 반복되었거나 역사가 있어서 통계적 추론이 가능하지 않은 이상 미래는 예측 불가능 하기 때문에 그나마 현실에 구현될 가능성이 높은 기술 분야의 연구개발에 매진하고 뛰어난 두뇌를 가진 인재들을 모아 경제적으로 지원한 결과 괄목할만한 성과를 이루어낸것이 기계공학, 양자역학, 스마트폰, 우주선, 디스플레이, 조선 같은 최첨단 학문과 산업들이다. 하지만 앞으로 이 시대가 오면 구현 가능성이 현저히 떨어지거나, 관련 정보와 연구가 부족하거나 마치 판타지에나 나올법한 기술분야라도 동시다발적으로 연구가 이루어질 것이며, 엄청난 기술이 쏟아져나오며 양적, 질적으로 팽창할 것. 듣도보도 못한 문제해결방식과 신개념 제품들이 발명될것이다.(기계를 위한 기계라던지, 인간입장에선 하등 쓸모없어 보이는것도 기계에겐 유용한것이라던지)

인공지능 스스로 연구해서 새로운 경제체제와 사회체제의 패러다임을 내놓는다면? 초 인공지능이 언어와 의사소통 문제, 사회문제, 성차별, 인종차별에 대한 연구로 정말 뛰어난 해결책을 내놓는다면 지구촌의 갈등을 풀고, 인간이 별다른 노력없이도 서로 갈등을 해소하고 소통할수 있게 된다면 이해관계에 얽매여있는 인류의 국경 대통합을 이룰수도있지 않을까?

점차 인간 중심적 사고방식과 패러다임은 크게 변할 것이다. 2066년에는 50년전의 사고방식과 가치판단방식이 2016년에 16세기 유럽을 보는것 만큼 정말 비효율적이고 구시대적인 것이 될지도 모르겠다. 이런 경우 지식의 빈부격차(기계 입장에서 보면 인류는 거의 문맹 수준의 학습능력과 이해능력을 지닌 것일수도 있다.)가 새로운 갈등이 될지도 모른다.

지금의 인공지능을 바라보는 관점은 인간의 이성과 지식, 그리고 현대 인간사회에만 포커스가 맞춰져있고, 너무 치우쳐져 있다. 미래에는 어떻게 될지 모르는 일이고, 변화를 무조건 대비해야 할 것이다.

7 특이점에 대한 비판

가장 대표적인 비판은 기술의 발전 속도는 한계체감할 수밖에 없기 때문에, 특이점이 오지 않을 수도 있단 것이다. 인간에 의한 기술 발전이 현재 빠르게 이루어지고 있다고 해도 언젠가 인간의 지능, 경제나 사회, 기술력 등의 문제로 한계에 부딪힐 수 있고, 그렇게 되면 기술적 정체가 오게 된다는 것. 이 경우 인간보다 똑똑한 인공지능을 만들 수가 없으므로 특이점 자체가 존재할 수 없게 되고, 나온다 하더라도 적어도 흔히 주장되는 것보다는 훨씬 더 먼 미래의 일이 되게 된다. 그리고 버너 빈지처럼 더 빨리 온다고 주장한 사람들도 나름의 근거와 논리가 있었고 그 당시에도 첨단 과학기술의 발전 결과가 엄청 대단하게 보였으나 결과는 만족이든 불만족이든 지금 이게 당신의 삶이다.

커즈와일의 주장도 엄밀하게 따지면 과연 86%의 적중률이 될 수 있는가? 의심을 하는 사람들도 많다. 커즈와일이 주장하는 적중률은 터무니없게 보이기도 한다. 대충 생각해보면 맞는 것들도 있지만, 좁은 범위로 한정시키면 틀린 예측들도 꽤 많으며, 원래 있었던 과학기술들이나 그 과학기술들의 융합을 예측한 것은 몰라도 물리법칙을 초월하거나 아예 없는 것들을 예측해서 86%로 적중시키는 것은 정말 가능한가 의문이다.

또한 인간이 과연 인간보다 똑똑한 인공지능을 만들 수 있느냐와 마찬가지 논리로, 인간보다 똑똑한 인공지능이 나왔다고 해도 그것 역시 한계를 가질 텐데 과연 자신보다 더 좋은 인공지능을 손쉽게 만들 수 있느냐 역시 좋은 비판점이다. 커즈와일은 인간보다 머리가 좋은 인공지능이니까 인간이 이해할 수 없는 방식으로 알아서 자기보다 더 똑똑한 인공지능을 순식간에 만들고 이후로 계속 더 똑똑한 인공지능을 만드는 식으로 무한루프적으로 발전해 나가며 인간이 상상조차 할 수 없는 문제들을 해결할 것이라 주장하지만, 인간보다 더 낫다고 해서 자기보다 똑똑한 인공지능을 계속 개발할 수 있다는 보장은 없다. 가령 알파고는 딥러닝을 분산 컴퓨팅으로 수준을 더욱 향상시켰어도 한계점이 있다.근데 알파고는 강 인공지능이 아니잖아 개발자인 데미스 하사비스에 따르면, 이는 효율성의 문제(그래프로 보자면 로그 함수와 같은 형태)를 가지고 있기 때문이다. 특이점을 돌파한다는 것과 효율성,경제성의 문제를 해결한다는 것과는 다른 문제이다.

또한 이러한 특이점, 나아가 '초 인공지능'에 대한 장밋빛 관점을 비판하는 논조의 시각도 존재한다.

21세기 탈로스 신화: 슈퍼 인공 지능
인간 뛰어넘는 슈퍼 지능 예측의 함정

더구나 어떤 과학기술이 추측보다 대단한 것이 아닐 가능성 역시 있으며 그리고 가장 중요한 사실 중 하나는 기술발전 정도가 소득으로 직결되지 않는다는 점이다. [2] 기술 발전 정도는 보통 주관적으로 산정되기는 하지만 이 기사처럼 대략 기술이 5000배 발전한다고 쳐도 당신의 소득이 5000배가 될 것인지는 알 수 없다. 더구나 저런 큰 숫자도 그다지 의미가 없을 수도 있는데, 간단히 프로세서 성능이 2배, 메모리 성능이 2배를 4배의 발전이라고 칠 수도 있기 때문이다. 더 세세하게 나누어서 각종 성능이 향상된 정도를 다 곱한다고 생각하면 미친 뻥튀기가 나올 수도 있다. 참고로 과거에 비해서 엄청나게 기술이 향상된 것들이 많지만 그것들로 인해 딱히 삶의 변화가 생기진 않은 것들도 있으며 그냥 주변 물품들만 생각해도 과거에 비해 수천 배의 진보가 이루어진 것들이 있을 수 있다. 더구나 사실 GDP에서도 무형의 가치를 가진 서비스 같은 것들은 엄밀하게 말해서 제대로 산정을 하기 힘들다.

또 나온 모든 과학기술이 성공하는 것도 아니다. 과장된 것들도 상당히 많다.

8 대중 매체에서의 특이점

직접적으로 기술적 특이점을 작중 설정상의 주요한 요소로 사용하는 RTS 게임인 Ashes of the Singularity가 있다.

아이작 아시모프도 이 개념과 비슷한 것을 소설 속에 묘사했다. 예를 들어 단편인 최후의 질문에서는 2061년을 배경으로 인간이 이해할 수 없을 정도로 복잡한 구조를 가져 스스로 수리하고 보완하는 컴퓨터가 등장한다.

듄 시리즈에서는 인공지능이 극도로 발달하여 인류의 뒤치닥꺼리를 너무나도 잘 해준 나머지 인류 전체가 놀고 먹다가 지능이 쇠퇴했는데, 남일같지가 않다. 몇몇 남은 철학자들이 기계 파괴 운동을 일으켜서 인공지능을 타파하고 다시 지능이 원상복구 되었다는 과거 설정이 있다. 버틀레리안 지하드 참조.

테드 창의 단편 인류 과학의 진화도 또다른 형태의 특이점에 대해 다루고 있다고 할 수 있다. 인류로부터 진화한 메타-인류의 우월한 과학 덕분에 인류의 과학 발전은 더이상 의미가 없게 되고 메타-인류의 과학을 '해석'하는 것만이 의미있게 된 사회에 대한 내용이다.

시드 마이어의 문명 시리즈에서는 특이점이 2050년 이전에 올 것이라는 레이 커즈와일의 주장을 참고했는지, 본 게임 시리즈들에서 인공지능, 나노 기술, 유전 공학 기술은 항상 최종 테크이며, 인공지능 다음의 테크는 "미래 기술"이라는 끝없이 개발되는 테크로 종결된다. 또한 시간 승리는 2050년에 결정된다.

시드 마이어의 알파 센타우리에서는 기술력이 극도로 발달하다가 어느 순간에 더 이상 새로운 기술이 등장하지 않는 시기가 발생하는데, 이를 극복하기 위해 인류가 정착한 행성 전체에 퍼져있는 신경망으로 정신을 업로드하는 프로젝트를 진행하게 된다. 이 정신 업로드를 작중에서는 초월(트랜센던스, Transcendence)이라 부른다.

영화 '트랜센던스'에서 특이점이 중심 소재로 다뤄졌다. 인간보다 뛰어난 인공지능 개발을 둘러싸고 기술반대주의자와 개발자들 사이의 대립이 그려졌다. 조니 뎁이 이 인공지능을 개발하는 과학자로 출연한다. 감독은 월리 피스터로, 영화 인셉션의 촬영감독으로 유명한 사람이다. 하지만 SF덕후나 영화 평론가에게나 평은 그닥 좋지 않다.

차라리 2014년에 개봉한 스파이크 존즈 감독의 그녀(영화)가 특이점을 더 잘 다루고 있다는 평이 우세하다. 이 영화는 레이 커즈와일도 리뷰에서 재미있게 봤다고 했다.

스카 시메트리의 2014년 앨범은 제목부터가 특이점(The Singularity)인 삼부작의 첫번째 부분이다. 인류가 인공지능의 도움을 받아 컴퓨터와 융합된 사이보그(네오휴먼, Neohuman)로 변화하는 모습을 그리고 있다.

영화 '오토마타'에서도 인공지능이 그 자체로 인간 지능을 추월하는 모습을 그리고 있다.

소드 아트 온라인의 엘리시제이션에서 사람의 정신을 태아 상태에서 복제한 후 컴퓨터 세계 속에서 시간을 가속시켜 만든 인공지능이 결국 인간과 비슷해지고 로봇에 이식시켜 인공지능과 인간의 구별이 점점 사라지는 모습을 그리고 있다. 낙원추방에서는 아예 이런 식의 가상 인격이 인류의 대부분을 이루고 몸은 가끔 리얼 월드에 접하기 위해 임시로 사용하게 될 뿐인 세계를 그린다.

웹툰 제페토에서는 인간을 로봇으로 동기화 시키고 로봇을 인간의 육체에 동기화 시키며 인간과 로봇의 구분이 사라지는 모습을 그리고 있다.

무선 인터넷의 발전 로드맵을 이 특이점 관점에 맞춰 그린 보고서도 있다.

에이디라는 네이버 베스트도전만화는 기업에서 초지능을 구현해 냈을때의 이야기를 픽션으로 그려내고있다. 51화로 1부가 완결되었다. 보러가기

특이점이 온다는 물론이고 각종 전문지식도 담아내고있다. 웹툰인데도 불구하고 꽤나 심오한 고찰이 담겨있으니 한번 보는 것도 나쁘지 않다.(테세우스의 배와 관련해서는 개인의 견해로 해석되어 작품이 진행되는 것을 볼수있다.)