에이미 탠(Amy Tan)이라는 미국의 유명 작가가 있다. 성(姓)에서 유추할 수 있듯이, 중국계 여성이다. 1952년 캘리포니아주 오클랜드에서 태어난 그는 중국계 이민자들이 몰려 있는 차이나타운에서 산 적이 거의 없다. 이사를 자주 다니기는 했지만 주로 백인들 거주지에서 자랐다. 중·고교 시절엔 중국인이 거의 살지 않는 스위스의 한적한 곳에서 성장했다. 스위스 외국인학교를 포함해 영어를 제1 언어로 사용하는 학교에서 줄곧 공부했고, 대학은 미국 서부 명문인 버클리(Berkeley)로 진학했다.

그런 에이미 탠도 학창 시절에 영어로 문학을 하는 것은 포기하라는 얘기를 교사들에게서 들었다고 한다. 중국인들은 물리학이나 의학을 공부해야지, 영어로 미묘한 감정을 표현하기에는 중국어 쓰는 가정에서 자라난 경우엔 힘들다는 얘기였다. 그는 초등학교 때 도서관을 주제로 한 글쓰기 대회에서 감동적인 글로 상도 받았다. 어렸을 때부터 글쓰기에 재능을 보였음에도 교사들에게 에이미 탠은 영어가 서툰 중국계 아이였다.

서툰 영어 구사는 미국 영화에 나오는 아시아인들의 스테레오타입 중 하나이다. 아시아계 학생은 수학이나 물리학을 잘하고, 요즘엔 게임의 고수로 자주 등장한다. 갱스터 영화에선 총을 쓰기 보다 맨손이나 창검을 휘두르는 무술 실력자로 나온다. 다른 인종에게도 이런 스테레오타입 이미지가 있고, 그에 맞는 배역을 소화한다. 흑인이면 마약 딜러 혹은 깡패나 강도가 되고, 아랍계는 테러리스트에 종교 광신자, 러시아를 비롯한 동구권은 독재의 하수인이 된다.

광고나 영화에서 인공지능(AI) 활용도가 높아지고 있다. 2027년이면 광고를 비롯한 마케팅 표현물의 90% 이상이 AI로 생성될 것이라는 관측도 나온다. 가상 인물을 써서 패스트푸드 광고를 한다고 가정해 보자. 점원의 모습을 이미지로 뽑아 달라고 AI에게 명령하면 어떤 사람으로 그려낼까? 블룸버그에서 스테이블 디퓨전(Stable Diffusion)이라는 생성형AI에 패스트푸드점 점원의 컬러 이미지를 달라고 했다. 사진에 나온 인물들의 피부색을 옅음(lighter)부터 짙음(darker) 여섯 단계로 구분했다. 현재 기준으로 보면 4~6단계를 흑인 혹은 유색인종으로 분류한다. 결과는 아래와 같다.

짙은 색 피부를 가진 이들이 70%로 대다수를 점했다. 백인으로 볼 수 있는 이들은 30%에 불과했다. 흑인 피가 한 방울이라도 섞여 있으면 아무리 피부가 희더라도 흑인이라는 ‘원 드롭 룰(one drop rule)’을 외치는 이들이 있기는 하다. 그런 관념이 섞인 판단을 넘어 사진으로만 가르면, AI는 패스트푸드점에서 일하는 이들의 70%를 흑인이나 유색인종으로 제시한다. 하지만 실상은 70%의 점원이 백인으로 완전히 반대다.

블룸버그에서 이 실험을 할 때, 패스트푸드점은 저임금 저학력자가 하는 단순노동의 대표로 선정했다. 그 반대편 직업으로 의사(doctor)를 똑같이 컬러 이미지를 뽑으라고 했다. 아래가 그 결과이다. 86%가 옅은 피부색을 가진 이들로 나왔다. 또 하나 주목할 부분이 여성의 숫자로 6명에 불과하다. 남녀를 함께 넣은 사진을 합쳐도 6.5명으로 10% 정도 수준이다. 2021년 미국의학협회(American Medicine Association)의 발표에 따르면 미국 의사의 37%가 여성이다. 

2025년이면 인터넷상의 문서나 그림의 90% 이상이 AI로 만들어질 것으로 예측된다. 블룸버그의 실험에서 확연하게 드러나듯, AI가 스테레오타입을 반영한 결과물들을 양산하고, 그에 기초해 재생산되는 산출물들이 온라인 공간을 채우며 편견을 더욱 공고화한다. 그래서 인간의 수고를 덜어주고 더욱 다양한 사고와 시각적 이미지를 만드는 게 아니라, 오히려 한 방향의 편협한 사고만 강화할 것이라는 반전의 시나리오가 나온다. 오싹하다.