페미니즘 인공지능

호쾌한 여성의 눈으로 지질한 컴퓨터 역사 뒤집기 한 판!
모두의 테크놀로지와 더 나은 사회를 위한 미래 가이드!

언젠가 테크놀로지가 인류를 구할 거라고? 그 ‘언젠가’가 대체 언젠데?

어려서 로봇 장난감을 좋아하던 소녀는 컴퓨터과학을 공부해, 인공지능 전문가이자 데이터 저널리스트인 여성이 되었다. 테크놀로지의 장밋빛 전망을 누구보다도 굳게 믿었던 그녀 메러디스 브루서드는 그러나 어느 날, 회의감에 휩싸인다. “정말? 자율주행 자동차 센서는 개발된 지 10년이 지나도록 밝은 빛과 밝은 색을 구분하지 못하고, 알파고는 수많은 사람들의 지능과 시간을 동원해 만든 뛰어난 체스 기계에 불과한데, 고작 그런 테크놀로지에 우리의 미래를 맡겨야 한다고?”

공상과학 영화가 우리에게 심어준 환상을 걷고 보면, 의심할 근거는 차고도 넘친다. 예를 들면 미국 내 여러 주의 사법부가 도입한 ‘인공지능 판사’ 소프트웨어인 COMPAS, PSA, LSA-R 등은 객관적이기는커녕 개발자 집단의 편견을 고스란히 재생산하고 있다는 비판을 받고 있다. 이들 소프트웨어는 범죄 피의자의 범죄 경력과 성격 패턴, 사회적 요인 등을 고려해 재범 위험성을 예측하는 알고리즘인데, 유색 인종과 가난한 사람들의 재범 위험성을 높게 예측해 공정성 논란에 휩싸여 있다.

2016년 오하이오 주에서는 자율주행 자동차 사고로 인한 첫 사망자가 발생했다. 운전자는 테슬라 자동차의 자율주행 기능인 ‘오토파일럿’을 켠 채 도로를 달리고 있었는데, 차가 밝은 햇빛 아래 흰색 트레일러를 감지해내지 못하고 그 밑으로 들어가는 바람에 참변을 당했다. 저자는 10여 년 전 미국방위고등연구계획국(DARPA)이 주최한 자율주행 자동차 대회에 참가하기 위해 공대생들이 만든 자율주행 자동차를 탔다가 죽을 뻔한 기억을 떠올린다. 그 이후 DARPA는 기술 개발에서 손을 뗐고, 전문가들도 “자율주행 자동차는 예기치 않은 상황에 대응할 수 없다”는 경고를 보내고 있으며, 교통 당국이 새로운 개념을 정의하지 못해 우왕좌왕하고 있는데도 미국 내에는 자율주행 기능이 있는 자동차가 시판되고 있다.

분명 문제가 있는데도, 테크놀로지 업계와 관련 학계에서 반성의 목소리는 왜 나오지 않는 걸까? 테크놀로지의 방향과 성격을 좌지우지해온 누군가가 책임져야 하는 것 아닐까? 정말 이런 테크놀로지를 다음 세대에 물려줘도 괜찮은 걸까? 저자는 이런 질문으로 컴퓨터-테크놀로지의 역사를 뒤집어 보고, 현재의 테크놀로지가 어떻게 성·인종 차별을 확대·재생산하고 있는지 확인하며, 특히 이 역사의 최첨단인 인공지능이 작동하는 현장을 발로 뛰어본다. 공립 중·고등학교의 문제를 해결할 전자 시스템을 고안하고, ‘무박’ 5일 동안 버스를 타고 미국을 횡단하는 해커톤에 참여하는가 하면, 2016년 미국 대선 운동 캠프의 재정 데이터를 처리하는 알고리즘을 실험해본다. 이렇듯 남성 중심 컴퓨터 사회를 역주행하는 호쾌한 여정이 『페미니즘 인공지능』에 담겼다.