인공지능의 편향과 챗봇의 일탈

2021년 초, 챗봇 ‘이루다’의 짧은 활동 과정에서 벌어진 상황은 우리사회에 적지 않은 파장을 일으켰다. ‘이루다’는 이용자들에게서 성 노리개 취급을 받는가 하면, 그 스스로 소수자에 대한 혐오 발언을 내뱉는 등 논란의 중심이 되었다. 마이크로소프트사의 챗봇 ‘테이(Tay)’가 이미 비슷한 문제로 퇴출된 지 거의 5년이나 지난 시점에서 사실상 같은 문제가 다시 일어난 것이다. 인공지능은 무엇 때문에 반복적으로 논란의 중심에 서게 되는가?

인공지능에 대한 윤리 가이드라인이 각국에서 쏟아져 나오고 있지만, 현장의 개발자들에게 실질적인 효력이 있으리라 장담할 수 없는 상황이다. 올바른 윤리적 규제의 기준 혹은 이정표가 되어야 할 윤리 가이드라인은 오히려 지금까지 ‘윤리적 세탁’의 도구로 악용되어 왔다. 인공지능 기술을 개발하는 과정에서 우리가 진정 고민해야 할 지점이 어디쯤인지 논점을 던지고자 한다. 이 모든 쟁점은 인공지능을 개발하는 과정에서 문제를 일으키는 원인은 무엇인지 혹은 개발자들에게 주어지는 한계는 무엇인지, 인공지능과 챗봇이 사회와 상호작용하는 방법은 무엇인지 등 다각적인 측면을 돌아봐야 한다는 핵심적인 문제의식 던져준다.