“AI도 선입견이 있다.”

윤송이 엔씨소프트 사장이 지난달 엔씨 공식블로그에 게재한 칼럼, ‘AI 시대의 윤리’ 속 한 구절이다. 인간과 달리 감정에 좌우되지 않고, 완벽하게 계산한다는 AI도 편견에 빠질 수 있다는 사실이 우선 놀랍다. 

AI의 얼굴인식(편견)…백인남성 98% vs 유색인종 70%

윤송이 사장은 AI도 선입견이 있다는 주장의 근거로, 2018년 미국 MIT에서 발표한 연구결과를 들었다. 저작권 제한이 없어 널리 사용되는 얼굴인식 알고리즘에서, 피부색과 성별에 따른 인식률 차이가 크다는 사실이다. 백인남성은 98%의 정확도로 인식하지만, 유색인종의 경우 정확도가 70%에 미치지 못했다. 자율주행차가 이같은 알고리즘에 따라 왼쪽에는 사람, 오른쪽에는 유인원이 있다는 결론을 내릴 경우 “특정 인종에 불합리한 의사결정을 하게 될 수 있다는 결론에 이르게 된다”는 윤 사장의 지적이다. 

구글과 페이스북의 AI 알고리즘이 확증편향을 야기한다는 비판은 수년 전부터 제기된 문제다. 과거에는 ‘AI 윤리’ 문제의 대표적인 예시로 자율주행차의 안전을 거론했지만, 최근에는 정치·경제·사회 등 다양한 분야에서의 AI의 편견을 지목한다.  

AI 윤리에 대한 각종 가이드라인 수립은 이미 국제기구 차원에서 논의가 진행 중이다. 사회 전반의 문제임과 동시에, 국제적 문제라는 특징이 있기 때문이다. 

“AI 문제는 기후변화와 성격 유사”

5일 방송통신위원회와 정보통신정책연구원이 개최한 ‘2019 지능정보사회 이용자보호 국제컨퍼런스’에서 기조연설을 맡은 이상욱 한양대 교수는, “AI가 제기하는 여러 가지 윤리적·사회적 위험의 특징은 기후변화와 비슷하다”고 말했다. 클라우드 기술 등의 광범위한 활용으로, 어떤 특정국가가 AI 정책을 세우거나 규제를 했을 때, 그 국가를 떠나 다른 곳으로 떠나면 그만이라는 이유에서다. 

이상욱 교수는 인공지능 윤리에 관한 유네스코 예비보고서 집필 과정에서 “AI에 대해서 국제적으로 상당한 정도의 공감대를 확보할 수 있는 규제가 어느 정도 같이 마련되지 않으면, 산업적 혁신과 인권을 동시에 아우르는 AI 발전을 이룩하기에 어려울 것”이란 공감대가 형성됐다고 말했다.   ©중기이코노미

AI가 학습하는 데이터가 비중립적이라면, 그 결과물은?

2018년부터 유네스코 세계과학기술윤리위원회 위원을 맡고 있는 이상욱 교수는, AI 윤리에 관한 유네스코 예비보고서 집필에 참여한 바 있다. 이 과정에서 “AI에 대해 국제적으로 상당한 정도의 공감대를 확보할 수 있는 규제가 어느 정도 같이 마련되지 않으면, 산업적 혁신과 인권을 동시에 아우르는 AI 발전을 이룩하기에 어려울 것”이란 공감대가 형성됐다고 말했다. 기후변화 분야에는 이런 국제적 기구와 규범이 확립돼 있다. 

올해 3월 발간된 유네스코 보고서에 따르면 머신러닝에서 널리 쓰이는 딥러닝 등의 알고리즘은, 데이터에 기반해 AI 스스로 학습한다. 그런데 AI가 학습하는 데이터가 중립적이지 않다면, 각종 문제가 발생할 수 있다. 게다가 트레이닝 데이터를 수집하고 활용하는 과정을 사기업이 독점하고 있다면, 이 데이터를 이용해 생산한 결과물을 검증하기는 매우 어렵다. 유네스코 보고서에 담긴 문제의식은 앞서 윤송이 사장이 지적한 우려와 일맥상통한다. AI가 예측가능하거나 설명가능하지 않다는 특성과 맞물리면, AI윤리에 대한 우려가 더욱 커질 수밖에 없다.  

이런 우려를 반영해 전세계는 AI에 대한 각종 원칙이나 가이드라인을 제작 중이다. 독일 정부는 2017년 자율주행차에 대한 윤리규범을 만들었다. 같은 해 일본의 인공지능협회는 ‘전문가를 위한 인공지능 가이드라인’을 내놓았다. 올해 EU 집행위 산하 최고전문가그룹은 ‘신뢰할 수 있는 인공지능을 위한 윤리 가이드라인’, OECD는 ‘인공지능에 관한 OECD 원칙’을 제시했다. 대체로 추상적이고 선언적인 개념이 많지만, AI 윤리 및 규제에 대한 관심이 커지고, 그 논의가 국제적으로 활발하게 진행되고 있음을 알 수 았다.

“AI기술로 발견한 편견, 그것이 어디서 오는지 풀 실마리 될 수 있다”

한국에서는 카카오가 2018년 1월 ‘카카오 알고리즘 윤리헌장’을 제정했다. 차별을 경계하고, 학습데이터 수집과 활용은 사회윤리를 따르고, 데이터가 훼손·왜곡되지 않도록 독립적으로 관리한다는 등의 원칙을 담았다. 지난달에는 방송통신위원회와 정보통신정책연구원이 ‘이용자 중심의 지능정보사회를 위한 원칙’을 제시했다.

그러나 이런 가이드라인이나 AI 윤리에 대한 관심이 AI에 대한 반대나 발목잡기로 이해돼서는 안된다. 윤송이 사장은 앞서 소개한 칼럼에서 “AI 기술로 발견된 편견과 부당함은 오히려 편견이 어디서 오게 되었는지 풀 수 있는 실마리가 될 수 있다”며 가능성에 주목하기도 했다. 윤송이 사장은 “기술을 만드는 입장에서, 어떤 기준으로 기술을 만들고 발전시켜 나갈 것인지 고민하는 건 당연하다. 그리고 그 기준을 만드는데 참여하는 것은 의무”라며, 교육·정책·법률 등 다양한 부문이 이 문제를 함께 고민해야 한다고 제언했다. 중기이코노미 이창호 기자

<저작권자 ⓒ 중기이코노미. 무단전재 및 재배포 금지>

• 관련기사 ㅣ AI 결정, 투명성·책임성 어떻게 담보해야하나