조글로카테고리 : 블로그문서카테고리 -> 문학
나의카테고리 : 보물 + 뒷간
|
인공지능의 편견
/김대식(KAIST 교수.뇌과학)
예전 미국에 살 때 흑인 친구가 이런 이야기를 해주었다. 어릴 적 늦잠을 자버려 버스를 놓칠 뻔하다 뛰어 달려 겨우 탈 수 있었다고 엄마한테 이야기한 적이 있었단다. 그러자 깜짝 놀라며 어머니는 신신당부하셨단다. 절대 다시는 급하게 버스를 뒤쫓지 말라고. 왜냐고? 급하게 뛰는 흑인 남자를 보면 무언가 훔쳐 달아난다고 생각할 거라고.
경찰의 총을 맞을 수도 있다고. 한밤중에 집으로 돌아가던 흑인 청년은 강도로 오해받아 총에 맞고, 총을 쏜 백인 주인은 풀려난다. 같은 이력서를 흑인이나 아랍인 이름으로 제출하면 퇴짜당하지만, 백인이나 일본인 이름으로 제출하면 인터뷰 초대를 받는다. 인간의 편견. 백인만의 문제일까? 물론 아니다.
백인 앞에선 '쫄고' 흑인과 동남아시아인은 동물 취급하는 게 우리의 모습 아니던가? 그리고 둘째로 보편적인 사실은 본인만큼은 절대 그렇지 않다는 믿음이다. 인종, 돈, 권력에 영향을 받을 수밖에 없는 인간의 판단력. 그렇다면 차라리 정치인, 기업가, 판사, 검찰 모두 기계로 대체한다면 어떨까? 권력과 돈과 편견에 영향을 받지 않는 공정한 사회를 만들 수 있지 않을까? 하지만 여기서 문제가 하나 생긴다. 얼마 전 인공지능 얼굴 인식 프로그램이 작은 눈을 가진 동양인 사진을 '눈을 감고 찍어 인정할 수 없다'고 거절해 논란이 된 바 있다. 비슷하게 딥러닝 알고리즘은 흑인을 '고릴라'라고 잘못 인식하고, 인터넷에 올라온 글들을 학습한 인공지능 대화 프로그램은 순식간에 인종차별적 발언을 하기도 했다.
인간의 기록과 데이터를 기반으로 진화하고 잇는 최근 인공지능 기계들. 가장 잘살고 가장 발달된 나라의 테이터 중심으로 만들어지는 것은 어쩌면 너무나 당연한 일이겠다. 하지만 그렇다면 과거 인류의 편견과 불평등 모두 고스란히 미래 인공지능에 심어져 버릴 수도 있다는 말이다. |
[필수입력] 닉네임
[필수입력] 인증코드
왼쪽 박스안에
표시된 수자를 정확히 입력하세요.