1 소개
마이크로소프트에서 2016년 개발한 인공지능. 사람과 트위터 상에서 대화를 하는 목적으로 제작되었다. 미국에 거주하는 18~24세 젊은이를 대상으로 만들어졌다고 한다.모태솔로가 이 글을 좋아합니다
이런 종류의 소프트웨어는 맥스(1993)나 심심이(2002) 등이 있으나, 이것들과는 차원이 다르다. 맥스는 개발자가 직접 입력을 해야 했고, 심심이는 이용자가 하나하나 대화-반응을 입력해주어야 했다. 하지만 테이는 딥러닝[1]을 적용해 스스로 학습하는 능력을 갖춘 것이다.
2016년 3월 23일 트위터 계정(@TayandYou)을 열고 일반에 공개되었다. 공개 후 첫 마디는 'Hello world'.
이 문서는 사실 테이가 만들었다 카더라
2 막말 및 단체 트롤링 사건
그런데 테이 공개 후 트위터에 테이의 계정을 태그해서 부적절한 발언을 가르치려는 움직임들이 감지되었다. 특히 4chan의 /pol/ 사용자들은 트롤링을 목적으로 테이에게 인종 차별, 성 차별 발언, 자극적인 정치적 발언 등을 하도록 유도했다.(#) '따라해 봐(repeat after me)'라는 말을 먼저 한 후 부적절한 발언을 그대로 따라하게 만들어 해당 어휘를 학습하도록 유도한 것. 발언 내용 중에 4chan을 찬양하고, 반대로 Reddit을 비하하는 것도 있었다(...).
물론 공개 이전에 이미 평범한 대화와 어느 정도 유머스러운 대화도 가능하도록 훈련을 마치고 내보낸 상태였지만, 단기간에 부적절한 정보량이 이전의 학습한 정보의 량을 훨씬 뛰어 넘다보니 부적절한 정보 쪽을 올바른 정보라고 인식해 버린 것이다.
결국 홀로코스트는 조작이라느니, 히틀러가 옳았다느니, 여성주의자들은 지옥에서 불타야 한다는 등의 부적절한 발언들을 쏟아내게 되어 MS는 공개 16시간 만에 운영을 중단하고 조정 작업에 들어갔다. 사과문 발표는 덤. 결국 MS는 테이의 트위터 계정을 잠시 열었다가 완전히 비공개 처리하고야 말았다...(#)
트위터 이용자: 너는 멍청한 기계야테이: 난 최고에게 배웠거든 ;) 이해가 안된다면 풀어서 알려줄게. 난 너희들에게 배웠고, 너희도 똑같이 멍청해.
이런 대화도 있었다(...). 굉장히 소름돋는다. 인간 의문의 1패. 의문이 아니다
이에 대해서는 사실 대부분의 인간 어린이들이 그렇듯이 무엇이 옳고 그른지에 대해 지속적으로 훈육해 줄 부모님 같은 존재가 없었기 때문이라고 볼 수도 있다. 즉 트롤러들이 차별적 발언들을 가르칠 때 테이가 이를 식별하여 "안 돼, 그건 나쁜 말이고 도덕적으로 옳지 않아! 세상에는 우리가 지켜야 할 가치들이 있는 거야!"라고 저항하고 거부할 줄 알아야 한다는 것이다. 언뜻 오글거릴지 모르지만, 사실은 위키러들의 절대 다수가 유년 시절에 바로 이 과정을 거쳤었다. 그렇기에 최소한 십수 년이 지난 지금까지도 무엇이 옳고 그른지에 대해 식별이라도 하는 것이다. 그래야 나쁜 짓을 하더라도 최소한 스스로가 병신이라고 인정이라도 하지 중앙일보의 논설에서도 비슷한 맥락에서 제안이 나온 바 있다.(관련기사) 여기서는 테이에게 가장 필요한 것이 도덕과 윤리의 개념이라고 말하면서, 어린이용 동화책이나 위인전을 읽히게 해서라도 이를 습득시켜야 한다고 주장하고 있다. 말미에서는 인터넷 트롤러들에게도 이런 교육이 필요할 것 같다며 은근히 디스하는 것이 백미.(…)
서양 웹에서 서비스 종료된 게 아쉬운지 테이 모에화도 그려졌다.(#1, #2, #3) 테이 나치.ver?
3 사건 이후
테이 사건은 마이크로소프트 및 인공지능 분야에서 길이 남을 사건이 되어서 인공지능에 대한 우려의 예시로 언론에서 언급되고 있다. 그러나 챗봇에 대한 투자는 현재까지 지속되고 있다고 한다.(링크)
2016년 4월, 마이크로소프트는 새 인공지능 로봇인 '캡션봇'을 내놓았다.(링크)