인공지능 부작용·역기능 제어할 법제화 시동을

프린트

Live 중기 ㅣ 산업뉴스 인공지능 부작용·역기능 제어할 법제화 시동을 공정성, 책임성, 투명성, 윤리의식…정부의 검증·조사·집행역량 필요

기사입력2023-07-20 00:00

채민선 기자 (iscra79@junggi.co.kr) ㅣ다른기사보기

지난해 11월 챗GPT가 등장한 이후 인공지능(AI)에 대한 관심이 커지면서, 그 기술의 효용성과 영향성이 증가하는 만큼 인공지능으로 인한 부작용과 역기능을 방지하기 위한 통제수단을 함께 마련해야 한다는 목소리도 높아지고 있다. 인공지능에 대한 단계적인 통제수단을 도입하고, 정부의 인공지능 검증·조사 및 집행역량을 확보해야 한다는 것이다.

국회입법조사처가 최근 발표한 ‘인공지능의 FATE(공정성·책임성·투명성·윤리의식)를 위한 입법논의 동향과 시사점’ 보고서는 인공지능이 현실에서 널리 사용되기 시작했고, 그에따른 사고 및 논쟁이 증가하면서 인공지능이 윤리적으로 오남용될 수 있다는 우려가 높아졌다고 지적했다.

또 스탠포드대학교 인간중심 인공지능연구소가 발표한 AI Index 2023에 따르면, 2012년 10건이었던 인공지능 사고 및 논쟁 수는 2021년 260건으로 26배 늘었다. 지난해 발생한 주요 사고 및 논쟁을 살펴보면, 화상회의 서비스에 인공지능을 활용해 학생 감정을 모니터링하는 시스템을 개발해 논란이 있었고, 런던 경찰청이 범죄조직의 잠재적 위험도를 평가하기 위해 사용하는 인공지능 도구에서 특정 민족과 인종을 차별하는 경향도 발견됐다.

인공지능의 공정성·책임성·투명성·윤리의식 논의

이처럼 위험 우려가 증가하면서, 인공지능 윤리로 논의됐던 내용이 구체적인 규제 논의로 이어지고 있다. 주요국에서 논의하고 있는 것은 ▲공정성(Fairness) ▲책임성(Accountability) ▲투명성(Transparency) ▲윤리의식(Ethics) 등이다.

◇공정성=이미지 생성 인공지능이 커피를 들고 있는 선글라스를 쓴 여성은 백인으로, 거리에서 음식을 팔고 있는 여성은 유색인으로 그리는 등 편향성이 드러났다. 편향과 차별의 재생산은 금융, 고용, 건강 등의 주요 부분에서 특정 집단에게 기회나 자원을 불공정하게 할당하거나, 특정 집단에 대한 고정관념을 갖게 해 사회적 약자를 계속 취약한 위치에 처하게 할 수 있다는 우려가 나온다. 즉 공정한 인공지능 개발 및 활용이 중요한 요소로 부각된 것이다.

◇책임성=인공지능을 설계·개발·배포·운용하는 자는 인공지능 시스템이 적절하게 기능하도록 설계하고, 지속적으로 관리·감독하는 체계를 구축해 자신의 인공지능으로 하여금 부작용이 발생하는 것을 방지해야 한다. 이러한 책임성은 법적 책임에 한정되는 것이 아니라 윤리적, 사회적 책임도 포함된다. EU 디지털법은 대규모 온라인 플랫폼서비스와 대규모 온라인 검색엔진에 대해서 알고리즘과 데이터 처리방식이 불법콘텐츠 유포, 기본권 침해, 선거과정 등에 미치는 위험을 평가해 그 위험을 완화하도록 하고 있다.

◇투명성=인공지능 기계학습은 서로 복잡하게 연결된 계층 내 수백만 개의 변수들이 상호작용하는 구조이기 때문에 인간이 결과가 도출된 이유를 파악하기 어려운 측면이 있다. 인공지능 판단이 중요한 영향을 미치는 영역에서는 인공지능이 사용된다는 사실뿐만 아니라 인공지능이 사용하는 데이터, 변수, 알고리즘 작동방식에 대한 기본정보가 제공될 필요가 있는 것이다.

◇윤리의식=음성을 복제하는 인공지능 기술이 보이스피싱에 이용되고, 인공지능이 생성한 미국 국방부 청사 화재 딥페이크 사진이 미국 주식시장에 영향을 주기도 하는 등 인공지능 기술의 파급력은 인간에게 해를 끼치는 방향으로 사용될 수 있다. 인공지능을 활용하는 사업자는 자신의 인공지능 시스템이 오남용되고 사회에 악영향을 끼칠 위험성이 있다는 것을 인식하고, 지속적으로 감시하며 이를 방지하기 위해 노력해야 한다.

<그래픽=채민선 기자> ©중기이코노미

인공지능이 준수해야 할 것…주요국 법제화 시동

따라서 세계 주요국은 그동안 윤리적 차원에서 논의했던 FATE(공정성·책임성·투명성·윤리의식)를 법제화 하고 있다.

EU는 2021년 인공지능에 관한 통일규범(인공지능법)을 제정하고, 일부 연합제정법들을 개정하기 위한 법안(EU 인공지능법안)을 발의한 후 논의를 진행했다.

EU 인공지능법안은 인공지능 시스템이 어디에 있든지 EU 시민들에게 영향을 주는 한 적용된다. EU 인공지능법안은 인간 중심의 접근을 위해 ▲인간에 의한 감독 ▲기술적 견고성과 안전성 ▲프라이버시 및 데이터 거버넌스 ▲투명성 ▲다양성·비차별성·공정성 ▲사회 및 환경·복지를 인공지능이 준수해야 할 일반원칙으로 제시하고 있다.

최근 미국에서도 인공지능에 대한 어느 정도의 규제가 필요하다는 목소리가 높아지고 있다. 미국 상하원은 알고리즘책임법안을 2021년 발의했다. 이 법안은 알고리즘을 개발·배포하는 일정 기준 이상의 기업으로 하여금 자동화된 의사결정시스템과 그 시스템을 중요한 의사결정에 활용하는 과정이 소비자에게 미치는 영향을 평가하도록 해 투명성과 책임성을 부과하고 있다.

국내에서도 인공지능 관련 규제 움직임을 보이고 있다. 과학기술정보통신부는 2020년 ‘인공지능 윤리기준’, 2021년 ‘신뢰할 수 있는 인공지능 실현전략’을 비롯해, 2023년부터는 인공지능 제품·서비스별 평가체계를 마련하기 시작했다. 또 개인정보보호위원회, 방송통신위원회, 금융위원회는 2021년 관련 자율점검표·가이드라인을, 2022년 국가인권위원회는 인공지능 개발과 활용에 관한 인권 가이드라인을 마련하기도 했다.

보고서는 인공지능 시스템의 FATE에 대한 규제가 어느정도 필요하다는 점에 대해서는 사회적 합의가 도출되고 있으며, 데이터의 출처·품질을 점검하고 인공지능 시스템의 기능과 보안을 평가하는 내부 거버넌스를 구축하고 그 위험을 평가해 경감조치를 취하도록 하는 방향으로 입법논의도 이뤄지고 있다고 분석했다.

보고서는 인공지능 기술이 어디까지 발전할지 예상하기 어려운 만큼, 규제를 한 번에 마련하기 보다는 지속적으로 논의해 단계적으로 도입할 필요가 있다고 했다. 또한 인공지능 규제의 실효성을 확보하기 위해서는 정부의 인공지능 검증, 조사 및 집행역량을 확보해야 한다고 덧붙였다. 중기이코노미 채민선 기자