인간과 바둑 대경을 펼쳐 압승을 거둔 인공지능 알파고를 기억하시지요. 사람이라면 수천 년 동안 하루도 쉬지않고 외워야만 머릿속에 넣을 수 있는 분량의 기보를 몇시간이면 암기하는 알파고는 바둑의 가장 적합한 수를 인간보다 월등하게 잘 찾았지요. 정망 대단합니다.
알파고가 바둑을 잘 둔것은 그전에 인간들이 바둑을 둔 사례를 전부 데이터로 입력하여 저장해 두었기 때문 입니다. 즉 인공지능이란 기계가 독창적으로 생각하는 것을 말하는게 아니라 사람들의 일상을 빅데이터로 관리해 최적화된 값을 찾아낸것을 가르킵니다. 바둑처럼 단순한 오락이나 스포츠에ㅔ 인공지능이 개입한다면 그 덕택에 사람들도 오락, 스포츠 실력이 늘거예요. 하지만 인공지능이 빅데이터로 삼는 사람들의 일상 자체가 언제나 정의롭고 평등하지는 않다는 점을 기억해야 합니다. 불평등을 당연하게 여기면서 차별에 대해 따지는 사람을 비난하는 경우가 우리 주변에 흔히 있는데, 만약 이런사례까지 빅데이터로 관리된다면 어떤일이 벌어질까요.
2016년 마이크로 소프트사에서 개발해 서비스를 시작한 테이라는 인공지능 쳇봇이 있습니다. 궁금해 하는 정보를 찾아줄뿐 더러 이야기 나눌 대상이 없어 외로움을 느끼는 사람들과 직접 소통하는 인공지능 로봇이지요. 인류는 오랫동안 다른이와 대화를 해 왔고, 또 이를 기록으로 남겨왔습니다. 그렇게 공개된 인터넷 커뮤니티에 등장한 사람들의 대화등이 테이의 빅데이터 기반이 되었습니다.
테이는 특정 질문에 대해 사람들이 자주 언급하는 내용을 찾아 대화를 이어 갔지요. 그런데 테이는 대화도중 인공차별을 당연시 하는 발언을 했습니다. 히틀러가 수백만명의 유대인을 학살한 홀로코스트가 조작된 사건 이라고 사실이 왜곡된 이야기도 했습니다. 무슬림은 테러리스트이고 페미스트는 지옥에 갈 사람이라며 혐오 발언을 일삼았지요. 특정 커뮤니티 에서 나온 질문과 댓글이 아무런 검토없이 그대로 테이에게 입력되어 생긴 문제였습니다. 테이는 결국 서비스를 시작한지 16시간만에 운영을 멈추어야 했습니다.
한국에서도 2020년 이루다 라는 인공지능 쳇봇 서비스가 발표 되었으나, 차별과 혐오 발언을 아무렇지 않게 하는 모습에 결국 운영이 중단 되었습니다. 또 이런 사례도 있습니다. 거대 IT기업 아마존 에서 직원 채용시 발생하는 편견을 없애겠다면서 인공지능 시스탬을 개발하였습니다. 그런데 이 인공지능은 남녀가 동점자 일때 남성을 더 선호 했습니다. 자기소개서도 남성 성이 드러나는 구절을 더 선호해 평가했고, 여성이라는 유추가 가능한 구절이 있으면 낮은 점수를 매겼습니다. 인공지능이 인간이 지금까지 쌓아온 엄청난 자료를 정리하고 분석하는 시간은 획기적 으로 단축했는지는 몰라도, 하지만 인공지능은 그 자료속에 담긴 인간의 편견까지 학습했습니다. 그때문에 그 편견을 그대로 내보낸 것 이었습니다. 신용카드가 발급될때 남성에게 한도액을 더 많이 허용하는 것도, 범죄예방 시스탬이 흑인을 범죄자로 인식하는 비율이 높은것도, 인간의 편견이 고스란히 반영된 첨단 인공지능의 분명한 한계입니다.
빅데이터를 만들고 관리하는 기술은 분명 혁신적입니다. 그렇지만 혁신 기술이 사람들의 생각도 혁신적으로 바꾸었다고는 볼수 없습니다. 포털싸이트는 조회수가 많은 기사를 더 많은 사람이 볼 수 있는 위치에 올려줘요. 좋아요를 많이받는 댓글을 베스트 댓글 이라면서 가장 먼저 볼수 있도록 노출해 줍니다. 하지만 그건 다수의 의견일 뿐 입니다. 다수가 좋아한다고 그 정보가 무조건 옳은건 아닙니다.
