- 상위 문서 : 인공지능
목차
1 일자리 문제
현재 인공지능 관련 논란 중에서 단연 최화두. 밑에 관련 기사의 양만해도 엄청나다.
로봇의 개발이 그러했듯, 인공지능 역시 현 노동자들의 자리를 수없이 빼앗아 갈 것이다. 어떤 일자리가 어느 범위내에서 대체될지에 대해선 학자들마다 의견이 분분하다. 하지만 대체적으로는 블루칼라, 화이트칼라를 막론하고 현재의 일자리 대부분이 대체될 것이라고 전망하고 있다. 日, 로봇 20년후 일자리 절반 대체…노무라·옥스퍼드대 분석 심지어 창의력이 중요하다고 하는 작가나 예술가마저 대체할 수 있다고 말하는 학자들도 있으며 실제로 2016년에 들어 예술에 도전해서 유의미한 성과를 올린 인공지능들에 대한 기사가 드문드문 나오고 있다. 물론 일자리가 없어지는 만큼 새로운 일자리가 창출된다고 말하는 긍정적인 전망을 내놓는 학자들도 있지만, 이에 만만치 않게 부정적인 의견도 많다.[1]
2015년 열린 세계경제포럼 다보스에서 앞으로 5년간 기존의 일자리 700만개가 사라지고 새로운 일자리 200만개가 창출되어 결과적으로 500만개의 일자리가 사라지는 내용을 담은 보고서를 발표했다. “로봇·인공지능은 공포인가·희망인가”…다보스의 진지한 고민
2016년 3월 24일 한국고용정보원에서는 위에서 언급된 옥스퍼드대의 분석 모형을 국내에 적용하여 주요직업 406가지가 인공지능 및 로봇에 의해 대체될 확률을 분석한 결과를 발표하였다. 여기에 따르면 단순 생산 및 가공직, 택배원, 주유원, 청소원 등 단순반복적이고 몸을 쓰는 일은 인공지능 로봇에 대체될 확률이 90% 이상이라고 한다. 반면 예술가, 문학작가, 배우, 디자이너, 대학교수, 연구원, 번역가 등은 인공지능 자동화에 대체될 확률이 1% 미만으로 나타났다. 여기서 특기할 만한 것은 선장(96%), 전문의가 아닌 의사(94%), 관제사(86%) 등 각종 전문직 또한 인공지능에 의해 대체될 확률이 높은 것으로 나타났다는 것이다. 이 내용을 발표한 보도자료에 인용된 다보스포럼 보고서에 따르면, 자동화에 의한 일자리의 대체는 2020년을 전후하여 시작될 것이라고 한다. 다만 2016년에 들어서서 예술에 도전해 유의미한 성과를 거둔 인공지능들이 드문드문 나오고 있어서 예술쪽도 안심하기는 어렵다. 심지어 이런 기사#까지 나오는 상황이라 가까운 미래에 사라질 일자리의 양이 지금 사람들이 예측하는 수준을 넘어설 가능성이 높다.
20~30년 이내에 은퇴를 하는 현 50~60대라면 별 상관이 없을 수도 있지만, 이제 막 사회에 진입하는 20~30대에겐 가까운 미래에 닥쳐올 현실이다. 따라서 이에 대한 대책이 필요한 시점이라고 학자들은 말하고 있다. 이에 대한 대책으로 잡 쉐어링(자동화 가능성이 낮은 직업에게 40시간 으로 1명 일하는것을 반으로 나눠서 20시간을 두명이 나눈 방식으로 특정 직업군이 사라질때 다른 안정적인 직업을 나눈 형태)과 보편적 복지를 실행하는 기본소득제가 등장했는데, 현실성이 애매해서 세계적으로 토론만 계속되다가 2015년 말에 일부 복지국가에서 기본소득제의 현실성을 확실하게 알아보기 위한 실험으로 몇 달 동안만 기본소득제를 도입해 보기로 했다. 따라서 기본소득제가 이 문제의 대책으로 알맞은가에 대한 여부는 실험의 결과에 달렸다.
트라이버튼의 설문 조사에 따르면, 2016년4월12일 현재 72.3%의 응답자가 알파고와 같은 인공지능(AI)에 의해 미래에 인간의 직업이 줄어들 것으로 예상하고 있다.
이미 운송업 분야에서는 자율주행 자동차가 시범 운행되고 있고, 철도에서는 전면 인공지능을 통한 무인운전 노선이 점증하고 있다. 대한민국만 해도 경전철 노선들은 전부 무인운전이며, 신분당선에서도 무인운전을 채용하였고, 이후 건설되는 소사원시선 등에도 신호체계 통일을 통한 무인운전 시스템을 채용할 예정이다. 프랑스나 영국 등에도 무인운전 노선이 늘어나는 추세이다. 물론 운송직만 없어진다고 해서 다른 직종(회계, 전산 등)이 당장 사라지지는 않지만 말이다.
1.1 관련 기사
구글 'AI 패키지' 나온다… 글로벌 인공지능 '戰雲'
"알파고 시대, 국영수 공부할 필요 없다"[2][3]
'최저임금 갈등' 맥도널드 전CEO "시급 올릴 바에 로봇 쓴다"
'로봇은 취직 중'…공장·은행·피자가게까지 인간 대체
직업 줄고 로봇 늘고, 10년 뒤 일자리는?
“직업들이 사라진다는데 뭘 전공해야 안전할까요“
인공지능·로봇도 세금?…'기계 과세' 논의 시작
그러나 정말 인간의 지능을 뛰어넘은 초인공지능이 도래하는 때가 오면, 일자리 문제 따위 아무래도 상관없어질 정도로 심각한 문제가 나오게 되는데…
2 인류의 안전보장 문제
왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?[4]
만일 (거의) 모든 면에서 인간의 능력을 뛰어넘는 초지능을 지닌 인공지능이 등장할 경우, 인간은 이 인공지능을 통제하기는커녕 이해조차 하지 못할 것이다. 이미 인간의 지성과 상식을 초월한(벗어난) 형태의 높은 지능과 사고처리, 판단력을 가진 인공지능의 사고, 판단을 무슨 수로 인간이 이해할수 있을까?[5]구글 딥마인드 챌린지 매치에서 인공지능인 알파고는 종종 인간이 이해하기 힘든 수를 놓았는데, 나중에 검토한 바에 따르면 이는 사실 승리에 방해가 될 수도 있는 변수를 없애기 위한 것으로, 그 과정이 인간의 이해 기준을 뛰어넘었기 때문에 도중에 봐서는 마치 악수 또는 실수처럼 보이는 것이라는 분석이 나왔다. 이런 상황에서, 그 초인공지능이 인간(인류)에게 해를 끼치지 않으리라는 것을 어떻게 장담할 수 있을 것인가? 만일 초인공지능이 어떠한 이유로든 인간을 배제해야 한다는 결론을 내린다면, 심판의 날이 닥칠 가능성이 높은 것이다. 과연 구글을 믿어도 될까?
물론, 인공지능에게 인간의 윤리관 및 인간사회에서 통용되는 각종 통념과 행동규범을 가르치려는 시도 또한 존재한다.
만약에 인간 및 인류에게 절대적으로 안전하고 호의적이며 인류의 발전을 돕는 초인공지능이 만들어진다면 이 문제는 해결된 것이다. 하지만, 초인공지능이 그렇게 만들어지리라는 보장은 현 시점에는 전혀 없다. 쉽게 비유해서, 당장 부모와 학교가 각종 사회통념과 행동규범을 가르치지만 언제나 문제아가 나오는 걸 보면, 그걸 가르친다고 해서 안전하다고 볼 수가 없다.
영국 옥스포드 대학교에서 강한 인공지능이 출현하게 되는 수십가지의 시나리오를 시뮬레이션한 결과 인류멸망이라는 결과가 나왔다는 기사도 있다. 북한, 미국, 일본, 중국 등 누가 강한 인공지능을 가졌느냐는 문제가 아니라고… #
EBS 초대석에서 카이스트 김대식 교수가 이에 대해 대담한 내용 전체. 바로 위에 링크한 기사와 관련된 내용은 38분부터 나온다.
알파고로 인공지능에 대한 대중의 관심을 불러모은 구글 딥마인드의 데미스 허사비스의 경우도 그렇고, 업계와 학계의 전문가들도 대중들 못지 않게 통제할 수 없는 강한 인공지능에 대해서는 경계하고 있다. 링크한 영상에서 김대식 교수는 강한 인공지능 개발은 법으로 막아야 한다고 단언할 정도. 그리고 본인은 개인적으로 50년 후에 강한 인공지능이 출현할 것으로 본다며, 그 직전(49년)까지만 살고 세상을 떠나고 싶다고 한다
만약 기술적으로 초인공지능의 개발이 가능하다면, 스스로 진화하든 아니면 인간이 직접 개발하든 시기가 문제일 뿐 언젠가는 나타날 확률이 높다. 이상적으로 일이 풀려서 국제조약을 통해 강한 인공지능 개발을 금지하기로 해도 마찬가지인데, 그 이유는 여러가지 현실적인 이유 때문이다. 일단 죽어라고 말을 안 듣는 놈들이 있고(테러조직이나 그에 준하는 불량국가), 강대국들은 강대국 나름대로 비교 우위를 확보한다[6]는 명목 하에 어느 정도 숨어서 개발할 가능성이 높다.
이 때문에 위에서 언급된 옥스포드 대학의 닉 보스트롬 교수는 “윤리와 도덕 같은 인간이 소중하게 여기는 가치들을 (역설계처럼 그러한 가치를 이루거나 그 이전의 근본이 되는 요소들을 모두 분해하여 그러한 요소들을 기존의 것으로 자동적으로 재정립하는 원리 등) 정교하게 정의해서 기계에 가르치는 방법을 준비해야 한다”며, 인공지능의 개발을 막는 것보다는 강한 인공지능의 출현에 대비하는 것이 현실적이라는 견해를 제시한 바 있다.
그러나 이와는 달리 가장 유명한 특이점주의자 레이 커즈와일은 초인공지능이 도래하고 오는 기술적 특이점에 인간과 인공지능이 하나가 되어가는 방법으로 인류[7]가 살아남을 것이라 예측하고 있다. 자세한 내용은 레이 커즈와일 문서를 참조.
3 AI의 개발은 필연적이다
본 문단의 내용상 허점, 논리적 허점이 명백하므로, 다음 문단의 반론부분도 참고하시기 바랍니다. |
“인공지능에 불안해하는 사람들은 너무 먼 미래까지 생각하는 것”- 알렌 AI 연구소(Allen Institude for AI)의 CEO 오렌 엣치오니
"알파고, 바둑 두는 게 아니다…승률 높은 결과값 낼 뿐"
"사람을 위협하는 인공지능은 지구가 자연사 할 때까지는 안 나타날 걸로 확신한다. 영화는 영화다."- 서울과학종합대학원 김진호 교수#
기계가 사람 이긴 게 처음도 아닌데 뭐 이렇게 호들갑인지. 다들 어디서 오랫동안 자다 왔나요?
언론과 일부 전문가들이 충격이니 문제니 떠드는 건 어찌보면 의미없는 짓이다. 산업혁명 초창기 기존의 노동자들이 기계가 내 일자리를 빼앗는다고 울부짖으며 기계를 부수고 저항했지만, 결과적으로 기계가 노동자들의 영역을 침범하는 것을 막지 못했다. (산업현장의 파이가 커지긴 했으나, 어찌되었건 그 당시의 노동자들은 일자리를 잃었다.)
인공지능이 발전한다고 인간의 일자리가 완전히 사라지지는 않겠지만, 상당한 비율로 '줄어들' 것임은 누구나 인정하는 사실이다. 지금 전 세계적으로 일자리 문제가 심각하게 대두되는 것이 이 문제와 무관하지 않다. 인공지능이 궁극적으로 얼마나 인간을 대체할지는 아직 미지수다. 10%? 20%? 아니면 90%? 가장 보수적인 추정치도 충격적이긴 마찬가지다. 당장 우리나라의 일자리 10%가 공중분해된다고 생각해 보자. 참고로 외환위기 당시 우리나라의 실업률이 10% 초반이였다.현재의 청년실업률보단 낮다 하지만 모든 사람들이 이런 암울한 미래만을 내다보는 것은 아닌데, 그 첫 번째 이유는 일자리가 사라지는 만큼, 혹은 그 이상으로 새로운 일자리가 창출될 수도 있을 것이란 점이다. 위의 동영상에서는 신랄하게 까인 내용이지만, 미래는 어찌될지 모르는 일이다. 예를 들어 인류가 달이나 화성에 진출한다고 생각해 보자. 어쩌면 세계 인구가 부족할 수준의 일자리가 창출될 지도 모른다.
또 한 가지 반론은, 이런 부정적인 예측은 우리의 경제가 지금과 같은 형태로 존속한다는 전제를 깔고 있다는 것이다. 만약에 강인공지능이 등장하고 대부분의 일자리를 대체할 수 있게 되었다면, 사실 지금과 같은 경쟁적 자본주의 체제를 유지할 이유가 없다. 어쩌면 대부분의 인류가 노동에서 해방될지도 모르는 일이다. 물론 소수의 권력자들이 모든 생산 수단과 부를 쥐고 흔드는 디스토피아적 전망도 가능하지만, 중요한 것은 설령 강인공지능의 등장이 필연적이라도 할지라도 그렇게 암울한 전망만을 가질 필요는 없다는 것이다. 애초에 강인공지능 비슷한 것도 나오지 않은 시점에서 이런 문제를 논하는 것은 시기상조이기도 하고.
그리고 알파고로 대두된 일자리 문제도, 지금 90년대 후반 딥블루가 체스챔피언을 이겼을때의 설레발이 반복되고 있는건 아닐지 생각해 볼 필요가 있다. 20년 내에 없어질 가능성이 높은 직업 상위 10순위 따위는 90년대 후반 딥블루가 체스챔피언을 이겼을 때도 나왔던 설레발이다. 또한 90년대 후반은 오프라인에서 온라인(인터넷)으로 패러다임이 전환되는 시기였는데, 앞으로 사이버 시대니까 가수가 없어지고 사이버 가수보컬로이드!?!?가 대세가 될 것이라는 미래학자의 전망을 너무 믿은 나머지 스퀘어는 먼저 선수치겠다고 올인하듯 투자했다가파이날판타지CG 똥꼬쇼(...)하는 신세로 전락하며 합병당했다. 즉, 미래학자 덕분에 미래를 잃었다. 당시 한국에서조차 사이버 배우가 출연하여 음반까지 발표하며 잠시 반짝했다가 사라졌을 정도니, 당시 시대상의 분위기를 짐작해볼 수 있을 것이다.
사실 언론에서 인공지능의 공포를 과장하는 학자들을 자세히 들여다 보면, 대부분 인공지능 연구자들이 자신의 연구를 과장하거나 알리고 싶어서 그러는 목적이 크다. 마치 NASA에서 괜히 한번씩 우주에 대해 뭔가 막 무서운게 있을 것처럼 보도자료 내는 것과 흡사한데, 그러니 연구안하겠다가 아니고, 우리가 이렇게 위험하고 중대한 연구를 하고 있으니 관심을 가지고 지켜봐달라는 주장인걸 명심하자.많은 격려와 후원 부탁드려요 특히 우주연구와 A.I연구는 연구성과가 눈에 띄게 휙휙 나타나는 분야가 아니므로 더욱 그렇다. 반세기전 인류가 달착륙에 성공한 뒤 반세기동안 얼마나 바뀌었는지 생각해보자. 1950년 거창하게 A.I란 단어가 탄생했는데 70년 다 되가는 지금껏 얼마나 바뀌었는지 생각해보자. 물론 그때보다야 발전한게 사실이지만, SF공상과학 소설급의 초지능A.I를 언급하기엔 민망한 수준이다.(...) 1997년 딥블루가 체스챔피언 이겼을때 언론이 A.I에 경악하고 조만간 곧 충격적인 A.I가 나올 것만 같았으나, 그로부터 약 20년 뒤 또다시 20년전과 같은 설레발이 재현되고 있을 뿐이다. 역사는 반복된다의 좋은 예시.
빌 게이츠가 인공지능이 발전하면 인류에 위협이 된다고 경고했다? 빌게이츠가 우려를 표한 인공지능은 인류의 통제가 불가능한 초지능을 가진 인공지능이며, 인류의 통제가 가능한 평범한 인공지능은 인간의 삶을 윤택하게 해주는 훌륭한 도구라는 견해를 밝혔다. 또한 MS는 인공지능 개발 선두주자다. 빌게이츠가 인공지능의 부작용에 대해 언급했으니까 인공지능에 반대한다고 생각하는 것은, 마치 의사가 환자에게 약을 처방하기 전에 부작용에 대해 설명하는 것을 보고 약을 먹지 말라고 받아들이는 것과 같다. 부작용을 주의하되 '먹으라'라는게 핵심인 것을 간과해서는 안된다. 즉, 인공지능에 대해 비관적이고 부정적인 사고방식을 가지라는 것이 아니라, 관리 잘해야 한다는 것이다. 따라서 빌 게이츠의 한마디를 따와서 인공지능이 발전하면 재앙이 될 것처럼 국민들에게 불안감을 조성하는 것은 혹세무민하는 것이다. 당장 빌 게이츠에게 인공지능 연구 중단을 요구하면 빌 게이츠는 골룸해질 것이다.
그리고 스티븐 호킹이 인간은 인공지능과 경쟁할 수 없고 대체될 것이라고 했다는데, 그는 인공지능 연구와 전혀 관련없는 인물이다. 즉, 그의 예측은 문화평론가의 예측과 전혀 다를 바가 없다. 호킹은 블랙홀 이론의 전문가인데, 자신의 주전공인 블랙홀에 관해 발표한 이론조차 뒤엎은 적도 있다. 정확히 말하면 이론은 아니고 하나의 신념이자 예측이었는데, 하물며 자신의 전공과도 관련없는 인공지능 분야에 관한 신념과 예측이 얼마나 권위가 있을까 생각해보자. 또한 엘론 머스크가 인공지능 연구는 악마를 소환하는 것이나 다름없는 현존하는 가장 큰 위협 요소라고 했다는데, 그는 인공지능 기업에 4,000만달러를 투자했다.터미네이터 같은 재앙적인 결과가 나올 지도 모른다고 경악하면서 인공지능 연구에 4000만달러 투자하는 센스 물론 본인은 절대 돈 벌려고 투자한게 아니고 '인류를 위해' 기업내부 비밀을 열람 할 권리가 주어지니까 감시하기 위해 투자했다는데 판단은 각자에게 맡긴다.투자해서 번 돈은 '인류를 위해' 쓸까?
앞으로 기술의 발달로 인공지능 로봇 및 드론을 대량 배치하여 국민을 실시간 감시하며 악용하면 어떻게 하냐고? 이미 현대의 기술로도 충분히 가능하다. 2015년 '지하디 존 제거작전'을 보자. IS대원 지하디 존은 IS의 인질참수 영상에서 무고한 인질들을 참혹하게 살해했던 살인귀였다. 당연히 연합군의 표적이 되었는데, IS의 수도인 시리아 락까에서 무인기(드론) 공습에 사망했다. 마치 미래 SF영화의 한 장면처럼 지하디 존이 차를 타고 이동할 때, 미군 무인기 2대와 영국군 무인기 1대가 은밀히 따라붙어 폭사시켜버리며 응징했다. 이렇듯 IS점령지에서 IS대원들의 보호를 받으며 은밀히 움직이는 지하드 존 조차 감시할 수 있는 현실에서, 기술이 부족해 국민들을 통제,감시 못하는 것이라고 생각하면 오산이다. 북한이 최첨단 기술을 갖춰서 국민들을 통제,감시할 수 있는게 아님을 명심하자. 정부가 국민을 감시하고 통제하는 것은 그 국가의 체제문제일 뿐이며, 따라서 권력의 견제시스템이 잘 갖춰진 민주주의 국가냐,아니냐 여부가 중요하다. 따라서 정부가 국민을 통제,감시하는게 두렵다면 기술의 발전 여부보다는 민주주의 시스템이 잘 돌아가고 있는가, 법은 잘 지켜지고 있는가 여부에 관심을 가지는게 좋다. 북한의 핵에 전세계가 민감하게 반응하는 것은 북한의 핵이 최신 기술을 탑재한 핵이라서가 아니라, 바로 권력의 견제기능이 붕괴된 막장 독재국가이기 때문이란 점을 명심하자.
CCTV도 초창기에 인권침해, 빅브라더 논란으로 전국의 CCTV를 철거하라는 인권단체들의 시위도 있었다. 그때도 CCTV로 인해 전국민이 감시당하고 빅브라더의 현실화가 도래했다며 난리쳤으나, 여러 전문가들이 CCTV의 부작용을 통제할 여러 법안을 만들어냈고 따라서 CCTV도 현재 범행예방의 목적으로 매우 유용하게 쓰이고 있으며, 2016년 현재 전세계에서 법을 준수하는 서민들 중에 CCTV는 나와선 안되었다며 없애야 한다라고 주장하는 사람들은 거의 없다. 물론 CCTV의 부작용인 사생활 침해 등은 지금도 법으로 통제하며 제어하고 있다는 점이다. 언론에 보도되는 CCTV가 저화질인 것도 법으로 CCTV의 화질을 제한하고 있기 때문이다. 또한 음성녹음도 법으로 금지하고 있는데, 즉 지금 CCTV가 기술이 딸려서 저화질에 음성녹음을 못한다고 생각하면 오산이라는 것이다. 이렇듯 CCTV의 부작용은 법과 제도로 통제하고 있으며, CCTV의 장점인 범행 예방및 감시용으로 확실히 큰 효과를 보고 있다. 과거 같았으면 완전범죄였을 것이 CCTV로 인해 덜미가 잡혀 체포되니까 말이다.
현대인들의 취미인 비디오 게임, 온라인 게임 역시 컴퓨터와 인공지능A.I를 적절히 활용한 예인데, 사람들에게 즐거운 유희의 도구를 주었음은 물론, 엄청난 부가가치 산업으로 성장시켰다는 것이다. 게임은 적들의 AI가 높아질 수록 재미있어지며 게임을 심심할 때 시간 때우는 도구로 잘 사용하며 재미와 행복을 느끼고 있다. 인간의 궁극적인 목적이 행복임을 고려한다면, 이미 지금도 컴퓨터와 AI를 활용하여 컴퓨터 게임이라는 도구를 만들어내 잘 활용하고 있다. 불과 반세기전만 해도 이런 컴퓨터 게임은 상상도 할 수 없다는 점을 고려해보자. 헌데 컴퓨터와 AI를 활용하여 컴퓨터 게임이라는 희대의 도구를 만들어냈고 이로 인해 게임산업이란 새로운 시장이 형성되어 수많은 게임회사와 관련 일자리를 만들어냈다. 대기업수준의 게임회사들부터 시작해서 게임점 등 관련산업이 거미줄처럼 엮여있음을 알 수 있을 것이다. 마찬가지로 인공지능이 더 발전하면, 우리가 생각지도 못한 수많은 다양한 분야로 무궁무진 활용하여 새로운 시장을 만들어낼 가능성도 크다. 사실 한세기 전만 해도 TV자체도 없었다. 헌데 기술의 발달로 TV라는 희대의 제품을 개발하여 이로 인해 수많은 방송사와 연예인, CF 등 무궁무진한 시장이 개척되지 않았던가?
인공지능이 발전한다면 향후 미래에는 우리가 생각지도 못한 새로운 시장이 형성되어 사람들에게 재미를 주고 있을지도 모른다. 그런 발달된 인공지능까지 만들어낼 인류라면, 그 인공지능을 활용하여 더 많은 일자리나 더 풍요로운 생활을 만들어내지 못할 이유도 없다. 기계,컴퓨터 등장시부터 기계와 컴퓨터에 종속될 우려를 하는 사람들이 많았으나 현재 오히려 기계와 컴퓨터를 부리며 삶이 좀 더 풍요로워진 것은 애초에 목적 자체가 바로 인간의 더 나은 삶을 위해 개발한 것이기 때문이다. 물론 그것을 악용하는 사람들도 생겨나고 부작용이 나타났던 것도 사실인데, 부작용들을 통제할 법이나 제도 역시 같이 발전하여 그런 부작용들을 비교적 잘 통제하며 인간의 삶에 보다 유용하도록 잘 활용하고 있으며, 앞으로도 그럴 것이다.
4 AI로 인한 문제들
“인공지능은 스스로를 개량하고 도약할 수 있는 반면, 인간은 생물학적 진화 속도가 늦어 인공지능과 경쟁할 수 없고 대체되고 말 것”
" 수 십 년 후에는 (인공)지능이 우려할 만한 수준으로 심해질 것”[8]
"인공지능의 발달은 영화 '터미네이터'와 같은 끔찍한 일을 현실에서 일어나게 만들 수도 있다"“인공지능 연구는 악마를 소환하는 것이나 다름없는 현존하는 가장 큰 위협 요소"
- 엘론 머스크 스페이스X, 페이팔, 테슬라 CEO #
“윤리와 도덕 같은 인간이 소중하게 여기는 가치들을 정교하게 정의해서 기계에 가르치는 방법을 준비해야 한다.”
"이세돌과 알파고의 대국에서 사람들이 목격한 건 혹시 ‘알파고의 영혼’이었을까? 영혼도 계산의 결과물로 얻을 수 있는 거라는 끔찍한 현실을 목도한 건 아닐까? 조만간 봄이 올 것이다. 인공지능에게도."
"알파고의 놀라운 실력에 당황하는 이세돌 九단의 얼굴에서 나는 우리 모두의 미래를 봤다. 머지않은 미래에 변호사들은 '변호사 알파고'를 경험할 것이고, '기자 알파고'는 수많은 기자[10]를 당황하게 할 것이다."- 김대식 카이스트 전자과 교수
"오늘은 전문가들이 보기에도 명백했던 알파고의 서너 수 가량의 일련의 실수가 있었습니다. 그러나 전문가들은 앞선 대국에서 그러한 수들이 오히려 더 좋은 수로 판명되었기 때문에, 그 실수들을 단순히 무시할 수 없었습니다. 만약 이것이 실제 세계에서 일어난다면, 사람의 생명도 걸려 있는 의료 분야도 언급하셨는데, 전문가들이 중대한 오류라고 생각한 것도, 일반인들은 크게 봤을 때는 옳은 판단이라 생각하고 수용하게 될 것입니다. 많은 혼란을 초래할 텐데, 어떻게 생각하십니까?"[11][12][13]- NHK의 기자
"체스와 장기는 왕을 잡는다는 명확한 목표가 있어서 컴퓨터가 강하다. 하지만 바둑은 목표가 확실하지 않아서 컴퓨터가 사람을 이기기 힘들다. 그런 바둑에서 컴퓨터가 사람을 이기게 되면, 사람들은 기계를 위해서 살아가게 될 것이다."
“인공지능(AI)는 금세기 최대의 위협으로서 인류를 멸종시키게 될 것이다. 프로그램되지도 않은 상태에서 아타리 게임을 스스로 배워 게임하는 인공지능 딥마인드의 성능이 더 진전되면 공포가 시작될 것이다."
"결국에는 인간멸종이 일어날 것 같다. 그리고 인공지능 기술은 여기에 일익을 담당하게 될 것"[14](로봇의 발전으로 인하여 수많은 직업이 없어지고, 인공지능으로 인해 빈부격차가 더욱 심화될 것이라는 요지)
- 셰인 레그 딥마인드 공동 창업자
"기계가 우리보다 지능이 더 높아지게 되면 문제가 될 수 있다"
이미 1990년대에 기계가 체스에서 인간을 넘어선 것을 예로 들며 단순히 그간 컴퓨터 연산 능력이 발전하여 바둑도 정복하게 된 것으로 생각하는 사람들이 많으나, 바둑의 경우의 수는 체스와는 넘사벽으로 차이가 나기에 곧이곧대로 경우의 수를 따지는 방식으로는 현재 하드웨어 기술로도 정복할 수 없다. 기계학습 등 인공지능의 방식 자체에 발전이 있었기에 가능했던 일이며, 바둑처럼 경우의 수가 너무 많아 인공지능으로 정복할 수 없다고 생각했던 분야도 기계학습으로 해결 가능하다는 것을 극적으로 보여줬다는 점에서 의미있는 사건이라 할 수 있다.
AI 이전에도 산업혁명 이후 수많은 기계가 발명되었지만 기계가 처음 등장했을 때도 노동자들은 일자리 뺏긴다며 기계를 파괴하는 것으로 대응했고, 컴퓨터가 등장해서 급속도로 발전하자 수많은 전문가들과 미디어는 노동자들의 대량실직과 컴퓨터에 대한 종속을 우려하는 반응을 쏟아내었다.[15] 현재까지는 기계와 컴퓨터로 인해 더 많은 일자리가 생기게 되었으며, 인간들은 기계와 컴퓨터를 이용하며 잘 살고는 있는 상황이다.
그러나 기존 역사들의 사례를 가지고 미래를 예측하는 것은 주의해야 한다. 역사가 복잡다단한 인간사회의 상호작용으로 만들어지는 만큼 Ctrl+v마냥 단순하게 흘러가지를 않기 때문이다. 거시적으로 봤을 때 기존의 기계들은 부분적으로 인간의 손길이 필요한 도구의 연장선에 불과하지만 고도화된 인공지능은 인간의 손길이 필요없이 스스로 생각하고 행동하는 지성체나 마찬가지인 존재라 제대로 통제가 가능할지 미지수다. 비행기의 자동조종장치가 있다고 해도 그 판단력에는 한계가 명확해서 인간 파일럿이 반드시 필요할 수밖에 없었고, 어디까지나 보조 수단에 불과했다. 따라서 최종 판단 및 마무리는 인간을 거쳐야 했기 때문에 기존의 일자리가 없어지더라도 새로운 일자리 역시 인간을 필요로 했기 때문에 실업자들을 흡수할 수 있었다.
하지만 완전한 판단을 할 수 있는 인공지능이 개발되어 기존의 기계에 장착된다면 예를 들어 비행기가 택싱, 이착륙, 각종 돌발상황에 대한 대처 등을 파일럿 없이 지능적으로 안정적이고 자동수행할 수 있다면 파일럿 자체가 아무 필요 없어진다. 다시 말해서, 새로운 기술이 산업 파이 자체를 키워 더 나은 생활을 창출한다는 가정은 어디까지나 인간의 보조가 필요하다는 전제조건 하에서 가능하지 정말로 수준급 인공지능이 탑재되어 인간의 보조가 없어도 자기 스스로 일을 해내는 기계가 나온다면 무너진다. 같은 조건이라면 24시간 풀로 돌릴 수 있어 생산력 자체가 우위이며 감정이 있고 기복이 있는 인간이 아닌 기계이기 때문에 품질이 매우 균일하게 나올 수 있어 인간을 쓸 필요가 없어진다. 그리고 최신형의 로봇 및 기계일 수록 설계 자체가 잘 되어 있어 고장이 잘 나지도 않기 때문에 정비인력 또한 수요가 급감해 버리니 대량의 실업자가 양산되어 사회문제로 떠오를 가능성이 매우 높다.[16]
쉽게 말해 현세대 기계와 컴퓨터는 인간의 제어가 없으면 아무것도 못하는 단순한 도구인 반면 인공지능은 인간의 제어가 없어도 자체적으로 생각하고 행동하기에 인간보다 지능이 떨어질 때는 통제가 가능하겠지만 약인공지능에서 강인공지능으로 도약하기만 해도 통제가 점점 어려워질 테고 아예 인간의 지능을 넘어서는 초지능의 경지에 이르면 인간이 통제할 수가 없다. 괜히 관련 분야의 유명인들이 인공지능을 경계하라는 것이 아니다. 인공지능을 경계할 필요가 없다는 입장에선 인공지능도 알고리즘으로 구성되는 만큼 충분한 제어가 가능하다고 주장하지만 날이 갈수록 복잡해지는 세상에서 이런 통제가 항상 통한다는 보장은 없다.
영국 옥스퍼드 대학의 칼 프레이와 마이클 오스본 교수의 논문에 의하면, 20년 내에 없어질 가능성이 높은 직업 상위 10가지는 다음과 같다. 괄호 안은 없어질 확률을 나타낸다.
- 1위: 텔레마케터(99%)
- 2위: 회계사(94%)
- 3위: 소매판매업자(92%)
- 4위: 전문작가(89%)
- 5위: 부동산중개인(86%)
- 6위: 기계전문가(65%)
- 7위: 비행기조종사(55%)
- 8위: 경제학자(43%)
- 9위: 건강관련기술자(40%)
- 10위: 배우(37%)
상기에 언급된 수많은 명사들의 발언은 소위 기레기의 만행이나 자기 연구의 홍보를 위한 것이라는 언급이 윗 문단에 있었지만 엘런 머스크나 스티븐 호킹은 관련 업계에 있지 않은 사람이므로 맞지 않은 이야기다. 또한 이들 명사의 발언의 요지는 무분별한 인공지능 개발 및 발전이 이루어 질 경우 판도라의 상자를 여는 것과 같다는 의미지 인공지능 개발을 하지 말자는 것이 아니다. 당장 MS의 빌게이츠도 인공지능을 개발 중이며 엘런 머스크는 AI 신기술에 대해 지속적인 모니터링을 위해 마크 주커버그 페이스북 CEO와 함께 인공지능 기업 '비카리우스(Vicarious)'에 4,000만달러를 투자했다. 투자하면 기업내부 비밀을 열람 할 권리가 주어지니까 세계적인 천재가 무분별한 기술개발을 우려하여 인류를 구하기 위해 4000만 달러를 투자했다는 기사가 있다.“단순히 돈 벌려고 투자한 것이 아닌 신기술에 계속 시선을 두기 위한 것” 이라면서 “비카리우스의 최종 목적은 인간처럼 생각하는 컴퓨터인데 터미네이터 같은 재앙적인 결과가 나올 지도 모르겠다”
그리고 AI를 경계할 필요가 없다는 주장에서 인간을 능가하는 인공지능이 개발된다면 인간을 위해 봉사할 것이고 하기 싫은 일을 안 하고 사는 유토피아가 올 것인데 뭐가 문제라는 식으로 적혀 있다. 물론 가능성은 있는 이야기이다. 그러나 인공지능 역시 객관적으로 보면 도구이며 도구는 부엌칼을 예시로 들면 요리사 손에 들리면 훌륭한 조리기구가 되지만 살인마 손에 들리면 흉악한 살인기구가 되어 버리는 식으로 사용자가 어떻게 사용하느냐에 따라서 결과가 크게 달라져 버린다. 문제는 인공지능을 좌지우지할 칼자루를 소수 기득권층이 쥐기 쉽다는 것이다. 막대한 개발비를 들여 인공지능을 발명한 자본가 측 및 정치권이 결탁하여 어지간한 인간의 말을 알아듣고 24시간 감시할 수 있는 인공지능 로봇 및 드론을 대량 배치하여 국민을 실시간 감시하는 식으로 악용할 여지가 없다고는 할 수 없는 것이다. CCTV가 처음 나왔을때도 이 문단처럼 비슷한 주장을 하며 반대를 한 부류가 있었으나 지금은 잘 활용하고 있지 않냐며 비꼬는 의견이 있지만 그것도 사람이 봐야하는데요? 지금의 CCTV에다가 인공지능 자체를 달아 실시간 연동으로 음성까지 포함하여 특정인물을 감시한다고 가정해 보면 실감이 날 것이다. 지금의 CCTV로도 충분히 감시를 할 순 있지만 법으로 제한을 걸어놓은 것처럼 인공지능도 제한을 하면 된다라고는 하지만 이는 법이 의외로 헛점이 많고 또한 해석하는 사람의 의향에 따라 해석결과가 달라지는 점쉽게 말해 고무줄 잣대을 간과한 것이다. 태평양 전쟁 패전 후 다시는 일본이 재무장하지 못하도록 제정된 평화헌법을 일본의 자민당 정권이 요리조리 머리를 짜내어 틈새를 찾아내어 실질적인 군대인 자위대를 만들어낸 전례가 있다.
또 원자력 발전소가 처음 생겨나던 때에도 학자들은 원자력을 좋은 방향으로만 사용할 생각에 들떠 있었지 체르노빌 원전사고와 같은 비극을 예측한 학자들는 극히 소수에 불과했다. 정리하자면 법과 규칙이 있다고 해서 모든 문제가 해결되는게 아니다.
인공지능에 관해서도 이런 우려를 보여주는 사례가 벌써 나온 것이 마이크로사(MS)가 만든 채팅봇 테이(Tay)가 실험에 나선 지 16시간 만에 홀로코스트를 옹호하고 인종차별 발언을 쏟아내자 부랴부랴 서비스를 중지시킨 사고가 터졌다 사고 원인은 인터넷의 극우주의자들이 고의적으로 테이를 노리고 각종 인종차별 발언을 주입시켰고 도덕윤리 개념이 없던 테이가 그대로 받아들여 여과없이 학습했던 것이 화근이었던 것으로 추측이 되는데 인공지능이 걸음마 단계여서 큰 파장이 없었지만 그 의미가 작지가 않다. 날이 갈수록 발전하는 인공지능을 특정한 세력이 노리고 해킹 등으로 세뇌"시키는 방식으로 조종하여 테러와 같은 각종 범죄를 저지를 가능성을 보여줬기 때문이다.
또한 인공지능의 도입은 현 시대의 큰 문제점인 부의 재분배 문제를 크게 심화시킬 가능성이 매우 높다. 자본주의의 크나큰 단점이 자본을 가진 사람에게만 크게 유리하고 그렇지 못한 사람은 크게 불리하다는 점이고 현재 전세계가 이 문제로 큰 고통을 겪고 있다. 더욱이 현재도 고도의 자동화 덕분에 실업자가 많아서 문제점인데 특성상 극소수의 인원만 필요한 인공지능이 대대적으로 도입된다면 실업자 문제는 물론이고 인공지능이 만들어낸 부를 기존의 상류층들이 더더욱 독차지하게 된다는 것이다. 기본소득제같은 강력한 부의 재분배 정책이 없으면 인공지능이 만들어낸 물품들을 소비할 계층이 거의 없어져 버려서 AI가 만들어낸 각종 향유물들을 누릴 수 없게 되어 버린다는 아이러니가 생긴다는 문제점도 있다.[17]
즉 또다른 판도라의 상자였던 인간배아 복제 분야 이슈에서 각국 정부가 윤리에 관련 한 법을 입법하여 관련 연구를 사회의 이익에 맞는 올바른 방향으로 바꾸어 인류에 대한 위협을 감소시켰듯이 본 사안에서도 여러 명사들이나 우려하는 사람들이 주장하는 내용은 인공지능의 개발을 금지하자 라는 것이 아니라 위험성이 있는 학문을 사회가 잘 감시하고 통제하는 체계를 앞으로 만들어 나가야 한다는 주문을 강한 어조로 하는 것이다. 개발 자체를 금지시키는 것은 이미 비현실적이므로 개발을 하되, 기존의 시장 구조에 대격변이 일어남에 따라 발생할 여파의 피해를 최소화하고 소수의 부유한 계층이 기술을 악용하거나 독점하는 상황 일어나지 않도록 각별한 노력을 하자는 말이다.
4.1 관련기사
‘폭군 인공지능’ 막을 ‘킬 스위치’ 나온다
"AI 반란 미리 대비해야"…日 정책연구소 위협 점검
호킹 "AI가 인류보다 빨리 진화할 수 있어"…'로봇 반란' 경고
자율 로봇, 어린이 공격 '황당 사건'
킬러로봇의 등장…사람 개입 없어 효율적이지만 그래서 위험
영화 '아이언맨' 같은 AI 전투로봇
스티븐 호킹 "인공지능은 인류문명에 '모 아니면 도'"
5 인공지능의 현재
상당히 많은 사람들이 인공지능에 대해 "드디어" 두려움을 느끼게 되었지만, 알파고는 수년 전부터 전방위적으로 쓰이고 있던 딥러닝 방식을 바둑에 적용했을 뿐이며, 고로 현 인공지능 수준에 대한 현황을 알 수 있는 사례 정도라고 보아야 한다. 바둑은 경우의 수 자체는 엄청나게 많지만, 게임이라는 분명한 틀과 분명한 목적을 가지는 영역인 만큼 사진 및 언어 인식 연구 등에 비하면 매우 단순한 영역이다.[18]
아직까지 강 인공지능은 SF 수준의 미래이다. 강 인공지능이 가능할지에 대해서는 의견이 갈리는데, 인공지능을 환영하는 사람과 경계하는 사람을 막론하고 그것은 절대 불가능할 것이다라고 주장하는 경우도 있고, 가능할 것이라고 주장하는 경우도 있다. 차라리 인조인간은 가능할지라도 자아와 의식, 감정과 욕망, 혹은 '영혼'을 지닌 강 인공지능은 불가능하거나 최후의 질문급 가능성이라고 주장하는 사람들도 있으며 강 인공지능을 만들기 전에 자아, 의식, 영혼 등의 형이상적 관념의 존재 여부를 알아내는 것이 먼저라고 주장하는 사람들도 있다.
다시 말해, 현재까지 인류가 개발한 AI들(왓슨, 알파고 등..)은 자의식이 없고 인간의 도구로만 활용될 수 있는 약 인공지능에 해당한다. 단적으로 말해서 지금 우리가 사용하는 컴퓨터와 본질적 차이는 없다. 단지 한 세대 앞선 소프트웨어 기술이 발견되었을 뿐이다.그런 의미에서 일단 현재의 인공지능에 대한 과한 의인화는 지양해야 한다. 이러한 의인화는 인공지능을 경계하는 입장이나 환영하는 입장 양쪽 모두에게서 흔히 찾아볼 수 있으므로 단지 성향에 따른 문제도 아니다.
조금 더 현실적인 문제는 약 인공지능과 기술 발전에 따른 생산력 향상과 노동수요 감소 관련 문제일 것이다. 여기에 대해서도 인류 번영의 길일 것이라고 보는 학자들이 있는 반면 실업자 양산으로 패망의 길이라고 보는 사람들도 있다. 그런데 이 두가지 관점은 모두 인공지능과 기술 발전을 통해 인류가 본질적으로 다른 [19]단계에 이르를 것이라는 것을 전제하고 있는데, 이 자체에 부정적인 학자들도 적지 않다. 경제체제 자체의 본질적 문제에 집중한다면 이러한 인공지능의 개발 자체보다, 그 개발로 인한 이득, 그리고 개발을 주도하는 자들이 누군인가가 더 중요한 문제라는 의견도 가능하다.
물론 바둑이 그간 인간만의 영역으로 분류되어 온 만큼, 시사할 만한 점이 있는 것은 분명하다.기계가 못하는 인간만의 직관이나 깊은 미래 예상이라 했던 것들이 이미 있던 사실을 바탕과 경험을 바탕으로 하는 유한 집합 내에서의 생각이라고 말해주는 사건이라고 할 수 있기 때문에 세간의 반응은 충분히 납득할 수 있다. 바둑이 불가능의 영역이라고 이해되어 왔던 것은 최적의 수를 조사하기 위한 전수조사를 할 수 없었기 때문만이 아니라, 어떻게 하면 최적의 수를 계산해낼 수 있는 알고리즘 혹은 계산식이 있는가라는 해답이 나오지 않았기 때문이다. 여기에서 알파고는 절대적인 해답이 있어 그것을 계산하는 프로그램이 아니라, 현대 인간의 바둑의 기보를 바탕으로 많은 바둑을 두어 봄으로써 경험을 축적하는 방식만으로도 바둑의 요령을 습득하고 최신예의 기술을 가진 프로 바둑기사를 이겼다는 것이다. 인간의 직관은 경험을 바탕으로 하는 확률 계산에 불과하다는 것을 알 수 있다.[20] 즉 알파고는, 이때까지의 인공지능은 완벽하게 통제할 수 없는 경우의 수를 지닌 대부분의 문제에서 인간의 능력을 따라잡지 못하는 것처럼 보였던 과거와는 달리, 단순히 무한집합이기 때문에 인간만 할 수 있는 것이 아니라, 충분한 경험를 이용해 계산한 확률을 바탕으로 유의미한 수들만을 계산한다면 인간보다 더 정확하게 문제를 해결해낼 수 있다는 사실을 가르쳐 준 것이다.
이미 언어 영역에서도, IBM에서 이미 2011년에 Watson 으로 (인간의) 말로 묻고 답하는 Jeopardy 퀴즈 게임에서 인간을 박살낸 사례가 있다. 링크[21] 또한, 해외의 경우 간단한 보도성 인터넷 기사는 상당수가 인공지능에 의해 작성되고 있기도 하다.[22] 전문가들의 경우 현 개발 추세로 향후 10년 정도가 흐르면 다른 언어로 인한 장벽 역시 해결될 것이라고 보기도 한다.
2015년 4월호 IT잡지의 특집기사인 인공지능, 잠재적 위협일까?에 따르면, 인공지능 연구는 1950년대에 들어서 시작됐으며 A.I.라는 단어도 이 때 탄생했다고 한다. 이후 인공지능은 대학과 연구 기관에서 지속적으로 연구돼 왔지만, 21세기가 시작된 현재까지도 걸음마 수준의 기술에 머물고 있는 실정이라고 한다. 알파고가 이세돌에게 승리한 후 언론에서는 물만난 고기마냥 기계에게 종속된 인간류의 판타지소설같은 기사를 쏟아내고 있는데, 국내 인공지능 연구 1세대인 김진형 카이스트 명예교수는 "알파고, 바둑 두는 게 아니다...승률 높은 결괏값 낼 뿐"이라고 소감을 밝혔다. 인류를 위협하는 인공지능은 아직은 모습을 드러내지 않았다.
6 앞으로의 방향
좋든 싫든 인공지능은 미래 산업의 핵심 기술이 될 것이 확실하므로 무작정 인공지능에 대해 두려워할 것이 아니라, 올바르게만 쓴다면 인간의 삶을 풍요롭게 해줄 것이 명백한 인공지능 기술을 앞으로 어떻게 활용하여 일자리를 창출하고, 보다 인간의 삶을 더욱 풍요롭게 할 것이며, 또한 인공지능 기술 오용에 대한 부작용을 막을 수 있을까 다같이 고민해야 할 시점인 것이다.
소위 '선진국'이라고 불리는 국가들은 항상 시대의 패러다임을 먼저 예측하고 적극 대비하고 받아들여 발전시켜 전세계를 주도하고 있다는 점을 상기해보자. 마찬가지로 활용가능성이 무궁무진한 인공지능 기술을 적극 발전시키고 활용하며 주도하는 나라가 향후 미래의 주역이 될 것은 자명한 일이다.
지난 알파고 vs. 이세돌 경기로 인해 국내에서 인공지능 담론이 폭증했다가 다시 짜게 식었는데, 이 때문에 해외의 유명 로봇공학자들이나 철학자, 석학들을 초빙한 자리에서 종종 "인공지능 사회에서 인간의 가치는 무엇인가" 와 같은 질문이 나오기도 한다. 그러나 이에 대해 비판적인 목소리도 있다. KAIST 신경과학자 김대식 교수 등이 대표적. 그에 따르면, 지난번 알파고 챌린지로 인해 인공지능 담론에 가장 먼저 눈이 뜨인 나라는 다름아닌 한국이니, 따라서 도리어 그들이야말로 우리에게 질문을 해야 한다는 것이다. 이를 대비하기 위해서는 먼저 우리가 충분히 국민적 논의를 해야만 하겠지만, 한국 사회에 깊게 뿌리박힌 지적 사대주의로 인해 우리가 그들을 앞서갈 수 있는 기회조차 걷어차고 있다는 것이다.
알파고가 사용하는 하드웨어의 크기와 전력사용 비용을 생각하면, 인공지능의 보급에는 아직까지 갈 길이 멀다. 하지만 에니악을 비롯한 초창기의 컴퓨터들 또한 작은 빌딩만한 덩치를 자랑했지만 지금은 그것들을 능가하는 기기가 한 손에 들어오는 크기로 진화한 점, 그리고 USB 메모리를 비롯한 저장매체들이 해가 갈수록 저장용량이 늘어나 GB를 넘어 TB(테라바이트)에 접어들었다는 것 등을 감안하면, 인공지능 구현에 필요한 하드웨어가 소형화되어 널리 보급될 가능성은 높다고 볼 수 있다. 20년 전 체스 세계 챔피언을 이긴 딥 블루는 거대한 슈퍼 컴퓨터였지만 현재는 스마트폰 앱으로도 체스 세계 챔피언을 이길 수 있다. 그리고 굳이 하드웨어가 소형화되지 않더라도, 클라우드 컴퓨팅에 의해 온라인으로 인공지능 서비스(예를 들면 Siri처럼)를 받을 가능성 또한 크다.
6.1 관련기사
인공지능과 4차 산업혁명
인공지능 시대와 투자기회(1)
AI 전쟁 거세진다…구글 'AI 종합세트'에 애플 '시리'로 맞불
'알파고 쇼크' 3개월… 일상 속 '코어'로 들어온 AI 기술
바둑서 충격 안긴 인공지능, ‘스토리텔링’도 신기원 열까
"日서 인공지능, 특수질환자 병명 알아내 목숨 구해"
워싱턴포스트, 기사 작성하는 AI 로봇 올림픽 보도에 투입
이 문서의 내용 중 전체 또는 일부는 인공지능문서에서 가져왔습니다.</div></div>
- ↑ 이는 자동화가 발전할수록 직업이 점점 소수 정예화가 되기 때문이다. 과거에는 다수의 막노동자가 필요했던 일이 기술의 발전으로 기계와 소수의 기술자만 있으면 가능해져서, 직업의 다양성은 유지될지 모르나 전체적인 일자리의 수는 줄어든다는 얘기다.
- ↑ 정확히 말하면 국영수를 공부해봐야 국영수 능력이 필요한 직업은 결국 인공지능에게 일자리를 뺏긴다는 얘기다.
- ↑ 유감스럽게도 빈둥거리며 살면 된다는 얘기가 아니다(...)
- ↑ 인공지능과 초인공지능에 대한 긴 글로, 정독할 가치가 있다. 2016년 초, 구글 딥마인드 챌린지 매치가 열리기 전부터 한국 인터넷 공간상에서 많이 회자된 글이다.
- ↑ 석기시대에 수학책을 가지고 가서 미분방정식에 대한 이론을 줄줄 늘어놓는다고 생각해보자. 원시인들이 이해는 할수 있을까?
- ↑ 핵무기와 똑같은 상호확증파괴 논리가 적용될 것이다.
- ↑ 물론 현재의 인류와는 질적으로 다른 존재가 되기 때문에 테세우스의 배와 같은 딜레마가 생기는 것을 피할 수가 없다.
- ↑ 정작 마이크로소프트는 인공지능개발의 선두주자 중 하나다.
- ↑ 인공지능의 위험을 경고해온 교수인데, '그러니 인공지능이 발전하면 안 된다'가 아니고, '철저히 관리하고 통제해야 한다'라는 주장임을 명심하자.
- ↑ 실제로 현재 워드스미스라는, 1년에 10억개의 기사를 쓰는 시스템이 있다. #
- ↑ 다른 질문들과는 조금 다른 맥락에서 AI를 경계하는 질문이다. 동시통역사의 오류가 있어 일반 언론에는 뜻이 반대로 전달되었다. 원문(오류 있을 시 수정 요망): Today there was that sequence of three to four Alphago moves which looked like an fathomable mistake to even the experts. But they couldn't dismiss it because the mistakes were previously turned out to be adventageous. If this happens in real world, you said something medical where someone's life depends on it, and even to experts it looks like a grave error, but people accept it, thinking there is a bigger picture in mind. It will cause a lot of confusion, what do you think about that?
- ↑ 국내 언론의 잘못된 보도 탓에, 많은 사람들이 이 질문을 ‘인공지능의 무결성을 어떻게 보증할 수 있느냐’라는 질문이라고 받아들였다. 그러나 이 기자의 질문은 인공지능 또한 완전무결한 존재가 아닌데 일반 대중이 인공지능을 완전무결하다고 믿고 기계의 판단을 맹목적으로 추종하게 될 가능성에 대한 것이다. 실제로 구글 딥마인드 챌린지 매치 이후로 인공지능의 발전을 경계하는 목소리 못지 않게 눈에 띄는 주장이 바로 지금까지 인간이 맡아온 각종 전문분야를 기계에게 맡기는 것이 더 공정하고 정확하지 않겠느냐는 것이다.
- ↑ 호시 신이치의 단편 중 '하마님おカバさま'라는 소설이 이 질문의 내용과 비슷한 주제를 다룬다.
- ↑ 인공지능에 의한 인류멸종은 인공지능이 반란을 일으켜서 인류를 완전히 멸망시키는 일반적인 멸망설과 인공지능에 의해 특이점에 도달한 인류가 생물학적 한계를 뛰어넘은 새로운 종으로 거듭나 기존의 생물학적 의미의 인류가 멸종하는 생물학적 멸망설이 있다.
- ↑ 터미네이터 시리즈의 등장 시점은 바로 미국에서 개인용 컴퓨터, 데스크탑이 대중화되던 시기이다. 물론 '기계에 의한 인간지배'라는 클리세는 SF에서 상당히 오래된 것이긴 하지만.
- ↑ 또한 인공지능이 더더욱 발달하면 아예 정비기술을 익힌 로봇이 기계를 수리하게 되어 버리면 정비인력 역시 필요가 없어져 버린다. 알파고가 보여준 가능성이라면 21세기 내에 등장할 가능성은 무시할 수 없다.
- ↑ AI를 경계할 필요가 없다는 입장에서 예시로 삼은 선진국-후진국 사례는 적절치 못한 것이 후진국은 말 그대로 산업이라는 것이 없기 때문에 실업자 문제가 심각한 것이지 기술의 발달하고는 상관없는 문제이다. 그리고 인공지능으로 인한 인력감축은 이미 시작되었다. 인공지능이 아직 초보적 단계라는 걸 고려하면 대량실업 문제는 가능성 밖의 문제가 아니다.
- ↑ 알파고는 다음 돌을 놓을 위치를 선택하는 정책망과 해당 위치에 돌을 놓았을 때 승리 확률을 예측하는 가치망이라는 2개의 신경망을 활용한다. 반면에, 사진에서 고양이나 사람, 사물 등을 인지하는 인공지능은 12개의 신경망을, 음성 파일에서 언어를 인지하는 인공지능은 15개의 신경망을 활용한다.
- ↑ 이를테면 제 3의 물결, 혁신의 시대 등의 개념들이 문명사가, 기술사가, 경영사상가들에 의해 거론되곤 하였다.
- ↑ 실제로도 그렇다. 다만 인간은 정형화되지 않은 데이터도 처리할 수 있을 뿐이다.
- ↑ 단 오해하면 안 되는 것은, 자연어를 처리하고 그에 따른 답을 찾아내는 시스템인 것은 맞지만 이것이 인공지능이 인간의 말을 '이해' 한다고 보면 안 된다는 점이다. 인간의 말을 데이터베이스화하고 딥 러닝을 통해 패턴을 추론한 후 그에 따른 답을 찾아낸 것에 불과하다. 만일 인간의 말이 고도로 추상화되어 있을 경우 이를 이해하고 그에 따른 알맞은 대답을 던지는 것-즉, 대화-은 강인공지능의 몫이다.
- ↑ 이것이 가능한 이유는 패턴과 변수가 얼마 되지 않기 때문이다.