여기 운전자 1명이 탑승한 자율주행차가 있다. 그런데 갑자기 차가 보행자 10명을 들이받을 위기에 처했다. 직진하면 보행자들은 모두 사망하고 운전자는 살 수 있다. 반면 핸들을 꺾으면 운전자만 사망하고 보행자들은 무사하다. 자율주행차는 어떤 선택을 할 것인가? 

대구경북과학기술원 손준우 박사가 국토교통부가 지난 22일 주최한 자율주행차 세미나에서 제시한 자율주행차의 윤리적 문제 사례다. 손 박사는 이날 세미나에서 “자율주행차의 윤리적 딜레마는 민감한 주제”라면서 “윤리적 판단을 알고리즘에 담기 위한 논의를 신속하게 진행해야 한다”고 말했다.

현재 대부분의 자동차회사들은 자율주행차를 개발 중이다. 우리가 알고 있는 자동차회사 중 자율주행차 개발을 안 하는 회사는 없다는 것이 현대모비스 신광근 연구위원의 말이다. 지난해 서울모터쇼 세미나에 참석한 신 연구위원은 “오는 2017년부터는 고속도로에서 자율주행할 수 있는 차들이 대거 시장에 나올 것”이라고 내다봤다.

문제는 사고가 발생했을 경우 누구에게 책임을 물을 것이냐다. 차 소유주, 제조사, 판매사, 설계자 등 다양한 관계자들이 얽혀있다. 설계 단계에서 인공지능의 알고리즘을 어떻게 짤 것이냐도 문제다.

사람과디지털연구소 구본권 소장은 23일 서울연구원이 주최한 로봇시대 인간의 일자리 포럼 발제에서 “인간은 교통사고에서 어떤 대응을 해도 면책이 돼 왔지만, 자율주행차는 이를 알고리즘으로 미리 설계해야 한다”면서 “그동안 상상만 했던 윤리적인 문제가 현실이 된 것”이라고 말했다.

보행자 10명과 운전자 1명 중 선택해야 한다면 보행자들을 살리는 것이 산술적으로는 맞다. 인간의 목숨을 숫자로 치환할 수 있느냐는 윤리적인 문제는 차치하더라도, 이같은 알고리즘에 동의하고 차를 구입할 운전자가 있겠냐는 지적도 나온다.

구 소장은 “자율주행차 알고리즘에서 어느 영역을 기본값으로 놓고 어느 영역부터는 소비자가 선택할 수 있게 할지, 인간의 권한과 책임을 어디까지로 놓을지가 관건”이라고 했다.

자율주행차가 상용화된다면 인간이 운전하는 것을 허용하지 않을 것이라는 예측도 있다. 테슬라모터스 엘론 머스트 대표는 지난해 한 기술컨퍼런스에서 “인간이 차를 운전하는 것은 너무 위험하다. 앞으로는 인간의 운전이 불법화될 것”이라고 전망했다.

구본권 소장 역시 “도로에 자율주행차만 다닌다면 문제가 되지 않는다. 그러나 자율주행차와 인간이 운전하는 차량이 공존하면 문제가 발생할 수 있다”며 “추후에는 인간의 운전을 허용할지의 문제로 이어질 수 있다”고 말했다.

자율주행 기술이 제대로만 정착한다면 인간이 운전하는 것보다 안전하다는 것이 전문가들의 공통된 견해다. 한국산업기술평가관리원 문종덕 스마트카 PD는 지난해 자동차산업 관련 세미나에서 “스마트카의 가장 큰 이슈는 운전자에 대한 편의가 아니라 교통사고를 줄이는 안전성”이라며 “교통사고의 90% 이상은 운전자의 과실로 발생한다”고 했다.