AI기본법, 국민보호 위한 최소한의 브레이크는

프린트

오피니언 ㅣ 키워드이슈 AI기본법, 국민보호 위한 최소한의 브레이크는 산업발전과 국민안전…AI 기본법이 넘어야 할 ‘딜레마’㊦

기사입력2025-11-22 00:00

AI 기본법은 이용자가 AI를 안전하게 쓸 수 있도록 돕는 내용도 담고 있는데, 주로 제4장에서 AI 윤리 및 신뢰성 확보에 관한 내용을 담고 있다. 그중 제29조는 AI가 국민의 생활에 미치는 잠재적 위험을 최소화하고, AI를 안전하게 이용하는 신뢰 기반을 조성하기 위해 정부가 시책을 마련해야 한다고 규정하고 있다. 제30조는 정부가 AI 안전성과 신뢰성 확보를 위한 사업을 추진할 수 있다고 명시해 두었다.

제31조는 AI 투명성 확보 의무를 담고 있는데, AI 사업자가 고영향 AI나 생성형 AI를 이용한 제품 또는 서비스를 제공하려는 경우, 제품 또는 서비스가 해당 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 한다. 제32조는 AI 안전성 확보 의무에 대해 다뤘다. AI 사업자는 AI 수명 주기 전반에 걸친 위험을 식별 및 평가하고, AI 관련 안전사고를 모니터링하고 대응하는 위험관리체계를 구축해야 한다.

제33조부터 제35조까지는 고영향 AI에 대한 내용을 담고 있다. AI 기본법에서 정의한 ‘고영향 AI’이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 일컫는다. AI 사업자는 고영향 AI 또는 이를 이용한 제품, 서비스를 제공하는 경우 안전성과 신뢰성을 확보하기 위해 위험관리 방안을 수립하고 운영해야 한다. 아울러 이용자 보호방안을 수립 및 운영하고, 고영향 AI에 대한 사람의 관리 및 감독이 이뤄져야 하며, 안전성과 신뢰성 확보를 위한 조치를 확인할 수 있는 문서를 작성하고 보관할 것을 의무로 규정했다. 고영향 AI을 이용한 제품이나 서비스를 제공하는 경우, 사전에 사람의 기본권에 미치는 영향을 평가하기 위해 노력해야 한다고 명시했다.

모호한 ‘고영향 AI’ 기준…산업계 혼란을 줄여야

AI 기본법은 AI 산업발전과 이용자의 안전을 모두 고려하고자 노력한 취지는 긍정적이나, 부족하다고 지적받는 부분도 있다.

AI 기본법에서 사업자들이 가장 관심을 모으는 부분이 바로 ‘고영향 AI’에 관한 내용인데, 고영향 AI가 어디까지를 포함하는 것인지 모호한 점이 있다. AI 기본법에서 고영향 AI란 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’을 일컫는다. 여기서 ‘중대한’이라는 기준은 구체적으로 무엇일까? 산업계는 고영향 AI의 범위가 폭넓게 적용될 경우, 복잡한 규제 의무를 짊어지고 혁신이 저해될 것이라고 우려하고 있다.

고영향 AI 사업자로 지정되면 제32조에서 의무로 규정하고 있는 위험관리방안 수립, 안전성과 신뢰성 확보 조치, 설명 방안 수립 등을 이행해야 한다. 물론 반드시 필요한 조치이지만, 이는 추가적인 인력과 시간, 비용을 요구한다. 상대적으로 인력과 자본이 부족한 중소기업과 스타트업에는 장벽이 될 수도 있다. 자칫 기업들이 규제가 덜한 AI에 집중하고, 잠재적 위험은 있으나 혁신을 불러올 수 있는 AI 기술개발에는 소극적으로 접근할 수도 있다.

정부와 과학기술정보통신부는 이같은 산업계의 우려를 해소하기 위해, 현재 하위법령(시행령 및 고시)을 통해 고영향 AI의 판단기준과 예시를 구체적으로 제시하는 작업을 진행 중이다.

이제 AI 기본법의 하위 법령을 정교하게 설계해, 국내 AI 산업의 육성과 국민의 안전이라는 두 가지 목표를 성공적으로 완수할 수 있도록 해야 한다. <이미지=클립아트코리아>

산업발전 무게추…‘국민 권리·안전’ 사각지대 우려

한편, AI 기본법의 정식 명칭인 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’에서 알 수 있듯이 이 법은 AI 산업발전에 초점을 두고 있으며, 상대적으로 이용자인 국민의 권익을 보호하는 내용은 부족하다는 우려가 크다.

예를 들어 제15조인 AI 학습용데이터 관련 시책의 수립에서는, 과학기술정보통신부장관이 관계 중앙행정기관의 장과 협의해 AI 개발, 활용에 사용되는 데이터의 생산, 수집, 관리, 유통 및 활용 등을 촉진하기 위해 필요한 시책을 추진하도록 되어 있다. 그런데 AI가 학습하는 데이터는 사람이 만든 것이고 저작권이 걸려 있다. AI 기본법에는 AI 가 학습하는 데이터가 되는 ‘저작물에 대한 저작권 보호’ 및 ‘원작자에게 동의를 받는 절차 또는 정당한 보상을 제공하는 의무’를 명시하지는 않았다. 이 때문에 지난 5월 문학, 방송, 음악 등 각 분야의 창작자를 대표하는 15개 단체가 AI 기본법 내 저작권 보호에 대한 대책 마련을 촉구한 바 있다. 이는 기존의 저작권법을 개정해서 해결을 도모할 수 있겠으나, 그 공백 기간 동안 저작권을 둘러싼 기업과 창작자 간의 분쟁이 커질 수 있다.

이용자에 대한 보호조치 역시 미흡하다는 평가를 듣는다. AI 기본법 제31조에 AI 사업자는 AI를 이용해 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 제공할 경우 해당 결과물이 AI를 통해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있도록 고지 또는 표시해야 한다고 명시했다.

그러나 뒤이어 이어진 내용이 다소 쟁점이 된다. ‘해당 결과물이 예술적, 창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다’라고 완화하는 내용이 붙었기 때문이다. AI 생성물 중 예술적, 창의적 표현물 또는 그 일부를 예외로 두는 예외조항은 자칫 악용될 소지가 있다. 일부 범죄자들이 사기 및 금융범죄, 명예훼손 및 성범죄, 허위정보 유포를 목적으로 딥페이크를 제작하고 이 조항을 통해 예외를 적용받으려고 시도할 우려가 있다. 예술적, 창의적 표현이 있다 하더라도 개인의 기본권과 공공의 안전, 사회 질서에 중대하고 부정적인 영향을 미칠 수 있다면 AI 생성물임을 명확하게 표시해야 대다수 이용자를 보호할 수 있다. AI 생성물임을 반드시 표시해야 하는 경우가 무엇인지 구체적으로 규정할 필요가 있다.

한국 AI, 신뢰 기반으로 3대 강국 도약하길 기대

AI 기본법이 제정되어 곧 시행을 앞두고 있으나, 이 법 하나만으로는 모든 부작용을 완벽하게 막기 어렵다. 이에 정부는 AI 기본법의 하위법령을 마련해 혼란을 줄이고 실효성을 높일 계획이다.

하위법령을 마련하는 과정에서는 대기업뿐만 아니라 중소기업과 스타트업, 소상공인, 일반 국민의 목소리에 골고루 귀 기울여 보완점을 찾아야 한다. 특히 노인, 장애인, 아동 청소년, 이주노동자 등 정보취약계층이 AI를 안전하게 이용할 수 있도록 보호하는 조치가 필요하다. 일반 국민을 보호하는 조치를 마련하는 것이 산업계에 압력을 주는 것이 아니라, AI 이용자와 시장에 신뢰를 부여하는 과정임을 설득하는 노력도 뒤따라야 한다.

지난달 31일, 아시아경제협력체(APEC)에서 엔비디아의 젠슨 황 CEO는 대한민국 정부와 삼성전자, SK그룹, 현대자동차그룹, 네이버 등에 26만장의 GPU를 공급한다고 발표했다. GPU는 AI가 연산, 학습, 추론을 하는 데 반드시 필요한 핵심부품으로, 한국의 AI 산업이 세계 3위권으로 도약할 수 있는 절호의 기회를 얻은 것으로 평가받는다.