SK텔레콤 5G 자율주행 버스가 서울 상암 DMC 지역을 자율주행으로 달리고 있다. AI와 자율주행 시대가 열리면서 AI의 윤리문제 판단에 대한 관심도 높아지고 있다. <사진=SK텔레콤>

편도 1차선의 도로를 따라 운행하던 차가 터널에 진입하려 하는데, 길 한가운데에 갑자기 어린이가 넘어졌다. 차량은 아이를 치거나, 좌우측 벽면에 충돌해 스스로 다치는 수밖에 없다. 이 경우 어떤 선택이 옳을까. 실제로 할 수 없는, 머릿속으로 상상하는 ‘사고실험’의 하나인 ‘트롤리 딜레마’를 다소 변형한 질문이다. 

트롤리 딜레마란 브레이크가 고장 난 트롤리 운전자가, 다수를 구하기 위해 소수(또는 자신)가 희생할 수 있는지를 판단해야하는 상황을 말한다. 현대 윤리학에서 많이 이뤄지는 사고실험 중 가장 유명한 딜레마로 손에 꼽히는 질문이다. 

트롤리의 딜레마가 최근 AI의 발전과, 특히 자율주행차의 등장으로 주목받는다. AI와 자율주행기술이 눈부시게 발달한 결과다. 

‘트롤리 딜레마’…AI, 어떤 결정을 해야하나

서울교대 윤리교육학과 변순용 교수는 24일 경실련이 개최한 ‘4차산업혁명 시민포럼 아카데미’ 4주차 토론 ‘AI·로봇 윤리와 기술의 도전과제’에서 이같은 질문의 배경으로 “법으로 규제할 수 없는 문제”가 있기 때문이라고 설명했다. 

자율주행차는 도로교통법을 준수하며 운행하도록 프로그램된다. 이때 트롤리 딜레마 상황 발생을 가정하면 프로그램을 적법하게 설계할 수 없다. 예를 들어, 사고에 직면했을 때 왼쪽으로 핸들을 꺾으면 5명의 사상자가 발생한다. 반면 오른쪽으로 핸들을 틀면 1명만 다치는 상황에서, 핸들을 오른쪽으로 틀라고 법을 정할 수 없기 때문이다. 

AI에 관한 윤리로 가장 유명한 것은 SF 작가인 아이작 아시모프의 ‘로봇 3원칙’이다. 영문 표기(Three Laws of Robotics) 덕분에 실제 로봇공학에서 사용되는 원칙으로 오해될 때도 있는데, 소설 속 설정일 뿐이다. 

AI 제작시 고려해야 할 ‘윤리인증’의 등장

인간에게 해를 끼쳐서는 안된다(1원칙)거나, 1원칙에 위배되지 않는 한 인간에 복종해야 한다(2원칙) 등의 내용은 인상적이다. 그러나 현실에서 AI가 직면하게 되는 윤리적 선택에 관한 문제와 다소 거리가 있다. 

‘AI로 인해 발생할 윤리적 문제’의 책임을 AI에 묻는 것이 합당하냐는 의문도 있다. 인간, 즉 AI를 제작하는 제작자의 문제 아니냐는 시각이다. AI에게 어떤 윤리적 판단을 하도록 할 것이냐는 질문은, 시간이 지나면서 AI 제작시 고려해야 할 원칙 또는 가이드라인이 무엇이냐는 질문으로 변했고, 한차원 발전했다. AI를 개발(디자인)함에 있어 내부인력이 준수하도록 제시한 2017년 MS 가이드라인이 대표적이다. 미국의 AI 개발자들이 자발적으로 만든 AI 원칙도 있다. 

가장 앞선 분야는 역시 자율주행차다. 현재 정부는 민관합동으로 한국형 자율주행차에 대한 윤리 가이드라인을 제작하고 있다. 현재 초안을 마련한 가운데, 산업계 의견을 반영해 두번째 버전을 제작 중이다. 변순용 교수는 “윤리가이드라인이란 것이 그렇지만 자세하게 규정하긴 어렵고, 대략의 큰 가치 중심으로 구성이 될 것 같다”고 말했다.  

24일 경실련이 개최한 4차 산업혁명 시민포럼 아카데미에서 서울교대 변순용 교수는 AI 윤리문제가 윤리인증의 수립으로 발전해가고 있다고 설명했다.   ©중기이코노미

이밖에 2018년 정보화진흥원이 ‘지능정보사회 윤리 가이드라인’을 만들었고, 같은해 로봇산업진흥원에서 ‘인공지능로봇에 대한 윤리 가이드라인’을 만들기도 했다. 민간에서는 카카오가 2018년 알고리즘 윤리헌장을 만들었다. 카카오의 윤리헌장에는 “알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다”는 등의 내용이 담겼다. 

AI 발전에 따라 실현하기 힘든 원칙 생겨

변순용 교수는 이런 AI 윤리인증에 꼭 필요한 요소로 책임성·투명성과 편향의 최소화를 꼽았다. 복수의 윤리 헌장이나 가이드라인에서 공통적으로 나타나는 내용이다. 문제는, 이것이 실제 실현 가능하냐는 것이다.  

예를 들어 투명성의 경우, 시스템이 내리는 결정의 과정과 이유를 추적하거나 설명하고, 검증 내지 해석할 수 있어야한다는 원칙이다. 영국의 AI 개발진들이 제시한 ‘로봇 투명성’이나 ‘윤리적 블랙박스’가 이같은 내용이다.

그러나 알파고의 바둑을 보고 제작자가 이 수를 왜 뒀는지 설명하는 게 불가능하듯, AI가 발전하면 할수록 투명성이라는 가치는 실현하기 불가능해진다. 또, 투명성에 대해 AI 개발진이 가지는 거부감도 있다. 카카오 윤리헌장에는 “기업 경쟁력을 훼손하지 않는 범위 내에서” 알고리즘에 대해 성실히 설명한다는 문구가 나오는데, 영업비밀의 범위를 폭넓게 해석할 경우 AI 윤리가 무력화될 수 있다는 문제도 있다. 

AI가 반란을 일으키는 상황은 지금으로썬 영화 속 장면에 불과하다. 하지만 AI의 윤리는 사용자 권리보호라는 측면에서 보다 실용적이고, 대단히 시급한 과제일 수 있다. 해법을 개별 기업이 마련하는 것보다는 사회적 합의가 필요하다는 지적이 나온다. 중기이코노미 이창호 기자

<저작권자 ⓒ 중기이코노미. 무단전재 및 재배포 금지>