중기이코노미

프린트

경영정보 ㅣ 정책법률 AI 투명성 고지의무…언제, 어떻게, 어디까지 AI가 단순 사내 문서작성 도구라면, 기업의 고지의무 면제②

기사입력2025-12-10 00:00

서유경 객원 기자 (artecolegal@artislawpro.com) ㅣ다른기사보기

법률사무소 아티스 서유경 대표변호사·변리사

2026년 1월 22일, 우리나라 최초의 ‘인공지능기본법’이 시행된다. 그동안 AI 규제는 선언적·원칙적 논의에 머무른 경우가 많았지만, 2025년 11월 12일 입법예고된 시행령 제정안은 기업 현장에서 실제로 어떤 변화가 필요한지를 가늠할 수 있는 기본적인 기준과 절차를 제시하고 있다.

이에 따라 많은 기업들은 자연스럽게 다음과 같은 질문을 던지기 시작한다.

“우리 서비스에 당장 어떤 변화가 필요한가.”

“화면에 ‘AI 기반’이라는 표시를 반드시 넣어야 하는가.”

“외부 모델을 연동하는 수준의 SaaS 기업도 위험관리 체계를 갖춰야 하는가.”

AI 기술이 이미 대부분의 산업 서비스에 자연스럽게 스며든 상황에서, 이 질문들은 더 이상 특정 기술기업만의 고민이 아니다.

시행령을 보면 오히려 ‘규제의 경계’가 명확해진다

시행령 제정안을 자세히 들여다보면, 중소기업이 우려할 만큼의 광범위한 규제가 일괄 적용되는 구조는 아니다. 제정안은 인공지능을 활용하는 모든 기업을 포괄적으로 규제하는 대신, 인공지능이 서비스에 어떤 방식으로 포함되는지에 따라 적용 의무를 세분화하는 체계를 취하고 있다.

다시 말해, 규제의 범위와 대상이 명확히 구분되는 최초의 기준선이 마련된 것이다.

▲인공지능 투명성 확보 의무의 이행 방법 및 예외(시행령 제22조)

▲인공지능 안정성 확보 의무의 대상 인공지능 시스템 기준(시행령 제23조)

▲고영향 인공지능 사업자 책무(시행령 제26조)

이는 결국 ‘지금 당장 준비해야 할 것’과 ‘알고만 있어도 되는 것’을 객관적으로 구분할 수 있게 해 준다는 점에서 중소기업에 중요한 의미가 있다. 즉, 시행령 제정안은 인공지능의 활용 방식과 영향 수준에 따라 적용 대상과 의무를 구체적으로 구분하는 첫 번째 제도적 기준선을 마련했다고 보는 것이 정확하다.

규제를 이해하는 첫 단계…“우리 기업은 어디에 해당하는가”

인공지능기본법 시행령 제정안을 이해하는 첫 단계는 의외로 단순하다. 우리 기업이 AI를 어떤 방식으로 활용하고 있는지 스스로의 위치를 파악하는 일이다. 시행령은 모든 기업에 동일한 의무를 부과하는 구조가 아니라, AI가 어디에서, 어떤 형태로, 어떤 영향 수준에서 사용되는지에 따라 규율을 달리 적용한다.

실무적으로는 다음의 세 가지 축으로 구분해 볼 수 있다. 이와 같은 구분이 이루어져야만 ▲우리 기업이 투명성 고지를 해야 하는지, ▲고영향 인공지능으로서 위험관리 체계를 마련해야 하는지, ▲아니면 별다른 조치 없이 기존 방식을 유지할 수 있는지 등에 대해 명확하게 판단할 수 있다.

① 단순 내부 이용(Internal Use Only)=즉 AI를 내부 업무에만 활용하는 경우다. 문서 작성, 분석 보조 등 사내 효율화를 위한 제한적 사용에 머문다면 법에서 말하는 ‘인공지능사업자’에 해당하지 않으며, 시행령상 투명성 고지나 위험관리 의무의 적용 대상이 아니다.

② SaaS·플랫폼처럼 AI 기능을 고객에게 제공하는 경우=외부 모델이나 API를 연동해 생성형 요약, 이미지 생성, 챗봇 등의 결과물을 서비스 기능으로 제시한다면, 이용자가 AI 결과물임을 알아볼 수 있도록 투명성 고지 의무가 적용될 수 있다. 다만 기능의 성격과 이용자의 오인 가능성에 따라 의무의 범위는 달라진다.

③ 의료·금융·채용 등 생명·권익에 영향을 미치는 판단을 제공하는 경우=이는 시행령이 규정한 ‘고영향 인공지능’에 해당할 수 있다. 이 경우에는 위험관리, 설명 가능성 확보, 운영 기록 보관, 책임자 지정 등 추가적인 규제 요건이 부과된다.

투명성 고지 의무의 실제 적용 범위와 실무적 조정 포인트

AI 기능을 서비스화하는 기업이 가장 먼저 확인해야 할 규정은 바로 ‘투명성 고지’다. 시행령 제22조는 인공지능 투명성 확보 의무의 적용 범위, 고지 방법, 예외 요건을 구체적으로 제시한다.

그러나 많은 기업이 이 조항을 “AI를 사용하면 무조건 화면에 ‘AI입니다’라고 표시해야 한다”는 식으로 오해해 불안감을 호소한다. 그러나 실제로 제22조가 요구하는 범위는 이보다 훨씬 제한적이며, 특정 조건이 충족되는 경우에만 고지 의무가 발생한다.

① 고지는 ‘AI가 생성한 결과물’을 이용자에게 제공하는 경우에만 발생한다

시행령 제22조의 핵심은 다음 두 가지 조건이다.

▲생성형 인공지능 또는 고영향 인공지능을 활용하여 결과물을 생성한 경우

▲그 결과물을 이용자에게 제공하여 오인할 가능성이 있는 경우

따라서 단순 내부 업무 자동화, 시스템 개선 목적의 AI 활용 등 이용자가 결과물을 직접 확인하지 않는 기능은 고지 대상에 해당하지 않는다. 반대로 텍스트 요약, 이미지 생성, AI 챗봇 응답처럼 결과물이 명확히 드러나는 경우에는 고지 여부를 검토해야 한다.

② 사전 고지는 계약서·약관 등으로도 가능하다

시행령 제22조는 투명성을 확보하기 위한 사전 고지에 대해, 단순한 화면 표기만을 의미하지 않는다. 법은 계약서, 이용약관, 또는 이에 준하는 문서에 고지하는 방식도 인정하고 있다.

따라서, 플랫폼 이용약관에 “본 서비스는 AI를 활용해 콘텐츠를 생성 또는 추천할 수 있습니다”라는 문구를 넣거나, 기업 고객 대상 B2B SaaS라면 계약서 조항으로 명시하는 것도 충분한 사전 고지가 될 수 있다. 이는 서비스 특성에 따라 고지 방식의 유연성을 확보하려는 취지다.

③ 고지 방식은 이용자의 특성(연령·신체 조건 등)을 고려해야 한다

법 제31조제3항 및 시행령 제22조는 고지 또는 표시를 할 때 주된 이용자의 연령·신체적 조건 등을 고려하도록 명시한다. 예를 들어, 노년층이 주 이용자인 금융 서비스라면 글자 크기·명도 대비가 중요하고, 어린이·청소년 대상 서비스라면 더 직관적이고 직접적인 안내가 요구될 수 있다.

즉, 동일한 문구를 붙이는 것이 아니라, “이용자가 실제로 알아볼 수 있는 형태로 안내해야 한다”는 원칙을 반영한 것이다.

④ 내부 업무에만 사용되는 경우는 투명성 확보 의무가 적용되지 않는다

시행령은 명확하게 다음과 같은 예외를 규정한다.

▲인공지능사업자 내부에서만 사용하는 AI

▲결과물이 외부 이용자에게 전달되지 않는 기능

이 경우 투명성 고지 의무는 면제된다. 단순 자동화 도구나 사내 문서 작성 도구를 사용하는 것만으로 기업이 고지 의무를 지는 것은 아니라는 의미다.

이는 중소기업이 가장 잘못 이해하는 부분이기도 하다. AI 기술을 내부 효율화 목적으로 쓰는 것만으로는 법적 의무가 발생하지 않는다.

시행령 제22조를 어떻게 읽어야 하는가…‘AI 사용=전면 고지’는 아니다

인공지능기본법 시행령 제22조를 둘러싸고, “AI 기능이 하나라도 있으면 모든 화면에 ‘AI 생성’ 표기를 해야 한다”는 식의 우려가 적지 않다. 이는 중소기업이 가장 잘못 이해하는 부분이기도 하다. AI 기술을 사내 문서작성 등 내부 효율화 목적으로 쓰는 것만으로는 법적 의무가 발생하지 않는다. <이미지=클립아트코리아>

시행령 제22조를 둘러싸고, “AI 기능이 하나라도 있으면 모든 화면에 ‘AI 생성’ 표기를 해야 한다”는 식의 우려가 적지 않다.

그러나 조문 구조와 입법예고안 설명 자료를 함께 놓고 보면, 그렇게까지 이해하는 것은 다소 과도한 해석에 가깝다.

제22조가 대상으로 삼는 것은 AI 사용 사실 전반이 아니라, 인공지능을 통해 생성된 결과물을 이용자에게 제공하는 행위다.

다시 말해, ① 생성형 또는 고영향 인공지능이 관여해 결과물이 만들어지고, ② 그 결과가 이용자에게 제공되는 과정에서 이용자가 비(非)인공지능 결과물로 오인할 우려가 있는 경우를 중심으로 고지 의무가 설계되어 있다.

이 관점에서 보면, 모든 AI 관련 기능이 동일하게 고지 대상이 되는 것은 아니다. 예컨대 기존 이미지를 약간 정제하거나 색감을 보정하는 수준, 해상도만 높여 주는 수준의 기능은, 새로운 의미 내용을 생성한다기보다 품질을 향상시키는 처리에 가깝기 때문에, 통상적인 생성형 결과물과는 구별될 여지가 있다. 이러한 경우까지 당연히 고지 의무가 발생한다고 단정하기보다는, ▲결과물의 변화 정도 ▲이용자가 받는 인상 ▲서비스 안내에서 이미 어느 정도 AI 활용을 전제하고 있는지 등을 종합적으로 살펴볼 필요가 있다.

라벨

‘라벨(label)’은 어떤 정보나 특성을 표시하는 짧은 표식이나 태그를 의미하는 것으로서, AI 규제의 맥락에서는 이용자가 보거나 시스템이 읽을 수 있도록 ‘AI 생성’임을 나타내는 표시 전체를 의미한다.

결국 중요한 것은 “어디에 라벨을 붙일 것인가”라는 기술적 문제 이전에, 자사의 서비스 흐름 중 어떤 요소가 법령상 ‘고지 대상이 되는 AI 생성 결과물’에 해당하는지를 정확히 파악하는 일이다. 이는 법령이 제시하는 기준(생성 여부·오인 가능성 등)을 바탕으로, 서비스 제공자가 자신의 기능을 그 기준에 비추어 검토·해석하는 과정에 가깝다.

따라서, 어떤 결과물이 고지 의무의 범위에 포함될 수 있는지를 사전에 식별하는 것은 기업의 실무적 규제준수(compliance)를 위해 필수적인 작업이라 할 수 있다.

시행령 제22조는 그 판단의 기본 축을 AI가 결과물을 생성했는지, 그 결과물에 대해 이용자의 오인 가능성이 존재하는지라는 두 가지 질문으로 제시하고 있고, 구체적인 서비스 유형마다 이 질문에 어떻게 답할 것인지는 앞으로의 사례와 가이드라인을 통해 더 정교해질 것으로 예상한다. (중기이코노미 객원=서유경 법률사무소 아티스 대표변호사·변리사)

공공기관 ‘수의계약’…투명성 높인다

객원전문 기자칼럼

이전 다음