AI 안전성 강화위해 ‘AI 안전연구소’ 설치 필요

프린트

오피니언 ㅣ 키워드이슈 AI 안전성 강화위해 ‘AI 안전연구소’ 설치 필요 “AI산업 육성하고, 각국 규제상황 분석해 ‘위험 규제’ 검토를”

기사입력2024-09-05 11:43

채민선 기자 (iscra79@junggi.co.kr) ㅣ다른기사보기

인공지능(AI)으로부터 발생하는 위험요소를 줄이기 위해 각국이 AI 규제법을 도입하고 있다. AI의 기술발전 속도만큼 빠르게 피해가 늘고 있어, 피해자를 보호하고 범죄를 예방하기 위해서다. 이러한 국민의 불신과 두려움을 해소하기 위해 윤리와 규제체계를 마련하고, 인공지능 경쟁력을 뒷받침하기 위한 인공지능 법 제도화가 필요한 것이다.

고환경 법무법인 광장 파트너 변호사는 조국혁신당 이해민 의원와 민주당 조승래 의원, 국민의힘 최형두 의원이 4일 주최한 ‘AI와 DX의 미래 정책방향’ 국회 포럼에서 ‘AI법제화의 방향’이라는 주제발표를 통해 법제도의 필요성을 제기했다.

고 변호사는 “AI 기술규제 필요성에 대한 목소리가 커지는 한편, 위험에 대한 과장을 경계하고 기술 자체가 아닌 서비스에 대한 규제를 해야 한다는 주장이 대립되고 있다”며, 각국 규제 상황을 면밀하게 분석하고 실증적인 AI의 위험이 확인된 후 규제 여부를 검토하는 것이 중요하다고 강조했다.

과학기술정보통신부에 따르면, AI가 한국 경제사회 전반에 성공적으로 도입된다면 2026년까지 연간 300조원 이상의 경제효과가 발생하고 국내 GDP는 연간 1.8%p 추가할 것으로 전망된다. 의료, 교통, 제조, 교육, 안전, 농수산업 등 다양한 분야에서 AI를 적용해 효율성과 생산성을 향상시키고 국민 삶의 질도 높아질 것으로 보인다.

반면 데이터의 편향성, 인권침해, 안전성 미흡, 기술 오남용, 개인정보 유출, 일자리 위기 등 다양한 사회적 문제를 야기할 수 있다는 우려가 적지 않다. AI가 사회 전반에 영향력을 확대함과 동시에 인간의 기본권에도 중대한 영향을 미칠 수 있어, AI 기술이 가져올 수 있는 디지털 양극화와 윤리적 문제에 대해 늦지 않게 논의를 시작해야 한다는 목소리가 높다.

<그래픽=채민선 기자> ©중기이코노미

◇글로벌 AI 법제 동향 살펴야=글로벌 AI 법제 동향을 주목할 필요가 있다. 미국의 경우, 캘리포니아에서 AI 규제 로드맵을 발표한데 이어 구체적인 규제 법안을 마련했다. 이는 AI의 무분별한 확산을 막고, 안전하고 책임있는 사용을 보장하기 위한 조치다. 또한 미국정부는 2021년 국가 인공지능 이니셔티브법을 제정하고 국가 인공지능 이니셔티브의 수립 및 시행을 법률로 규정했다.

유럽에서는 프랑스가 AI 기업들을 공격적으로 지원하고 있는 것이 눈에 띈다. 프랑스 정부는 AI 기술을 국가 경쟁력의 핵심으로 보고, 이를 육성하기 위한 다양한 정책을 펼치고 있다.

한편, EU는 전 세계 최초의 AI 규제법인 ‘EU 인공지능법’을 올해 5월 유럽 이사회에서 통과시키고, 8월1일부터 시행했다. EU 인공지능법은 AI 기술의 위험성을 기준으로 수인불가, 고위험, 제한된 위험, 최소위험 AI로 구분하고, 개발자, 이용자, 수입업자, 유통업자를 구분해 포괄적인 의무를 규정하고 있다.

글로벌 각국이 AI의 혁신적 잠재력을 인정하면서도, 이와 동시에 그 발전이 사회에 미칠 수 있는 부정적 영향을 최소화하기 위한 제도적 장치를 마련하고 있는 것이다.

◇국회, 인공지능 기본법안 발의=국내에서는 21대 국회에서 총 9건의 인공지능 기본법안이 발의됐다. 인공지능 기본법안은 2023년 12월14일 과학기술통신위원회 법안심사소위원회를 거쳐 대안 제안이 의결됐다. 대안은 인공지능의 우선 허용 및 사후규제 원칙 명시, 고위험 인공지능에 대한 신뢰성 확보를 위한 가이드라인 마련 준수 의무 정도만 부과하고 제재조항을 두지 않아 자율규제 방식을 취했다. 이 대안은 생성형 AI에 대한 규제를 비롯해 필요한 규제 내용이 충분히 필요하다는 신중론 등으로 인해 상임위원회에 상정되지 못해 국회 통과가 무산됐다.

22대 국회에서는 8월23일 기준 7개의 인공지능 관련 법안이 발의된 상태다. 22대 국회 발의안의 주요 내용을 살펴보면 ▲대통령 소속(혹은 국무총리 소속) 국가 인공지능위원회 창설 ▲인공지능 관련 위험을 연구, 분석하기 위한 인공지능 안전연구소의 설치 근거 규정 마련 ▲고위험영역 인공지능에 관한 사전고지 의무 ▲생성형 인공지능에 관한 사전고지 및 표시의무 그리고 학습에 사용된 누적 연산량이 일정 기준 이상인 생성형 인공지능에 대해서는 추가적인 위험관리체계 구축 의무 등을 부과 등을 포함하고 있다.

◇산업 육성하고, 안전성 강화를=고 변호사는 EU 인공지능법이 AI의 위험을 기반으로 과도한 규제를 시도해 시장의 실패를 가져올 뿐만 아니라 규제 자체도 실패할 우려가 있다는 지적이 있다고 했다. 특히 고위험 인공지능에 대한 포괄적인 규제방식이 규제준수 비용을 지나치게 높여, 결국 일부 빅테크나 대기업만이 준수할 수 있게 됨으로써 혁신적인 스타트업 출현을 어렵게 할 가능성도 있다고 했다.

고 변호사는 우리나라의 AI 도입률은 약 28%로 OECD국가 중 1위이며, AI의 확산이 활발히 이뤄지고 있다면서도, 다만 우리나라의 AI 기술 수준 및 경쟁력은 미국 등 AI를 선도하는 국가와 상당히 차이가 있다고 평가했다.

따라서 AI 기술과 산업을 육성해야 하는 우리나라의 AI 산업 상황을 고려한 법제화 방향 설정이 필요하다고 강조했다. 이를 위해 국가 인공지능 정책이 일관되게 추진될 수 있도록 인공지능위원회가 필요하며, 인공지능 기술에 대한 대규모 투자가 조속히 이뤄지도록 규제 불확실성을 해소할 필요가 있다고 했다.

이와 더불어 AI 안전 보장을 위한 AI 안전연구소 설치의 근거법률로서 기본법 제정이 필요하다고 했다. 세계 각국은 AI 안전성에 대한 실증적인 테스트와 연구를 위해 AI 안전연구소를 설립하거나 설립할 계획을 발표하고 있다는 것이다.

이밖에도 AI 기술을 통해 제공되는 서비스의 안전성, 보안, 소비자 보호 등은 기존 법률체계 하에서도 충분히 규제될 수 있도록 필요한 범위에서 법제도 개선이 필요하다고 강조했다. 예를 들어 공직선거법 제82조의8은 인공지능 기술 등을 이용해 만든 딥페이크 영상 등을 선거운동에 사용하는 행위를 규제하고 있다. 또한 정보통신망 이용촉진 및 정보보호 등에 관한 법률 제4조 제2항 제7의2는 인공지능 기술을 이용해 만든 거짓의 음향·화상 또는 영상 등의 정보를 식별하는 기술개발 보급에 관한 시책을 마련하도록 정하고 있다.