콘텐츠 만들고 교감하는 것은 AI가 대체 못해

프린트

Live 중기 ㅣ 경제일반 콘텐츠 만들고 교감하는 것은 AI가 대체 못해 정보의 바다 인터넷이 오염되고 있다…원인은 AI로 만든 거짓정보㊦

기사입력2025-07-14 00:00

AI로 만든 가짜 정보의 확산은 갖가지 폐해를 낳는다. AI를 이용하면 많은 양의 정보를 빠르게 생성해 낼 수 있는데, 이로 인해 온라인상에 가짜 정보가 늘어나며 정보의 질이 점차 하락하고 있다. 가짜 정보는 겉보기에는 그럴싸하지만 실제로 검증되지 않았으며, 누군가가 피해를 입더라도 책임질 주체가 없다. 이같은 가짜 정보가 늘어나면 인터넷 이용자들은 무엇을 믿어야 할지 혼란을 겪거나, 신뢰할 수 있는 정보를 찾는 데 어려움을 느낄 수 있다.

또한 AI가 만든 가짜 정보가 온라인상에 퍼지고, 이를 AI가 학습 데이터로 삼을 경우 AI의 성능도 떨어질 수 있으며, AI는 또 잘못된 결과물을 생성하고, 이렇게 생성된 정보를 사람들이 또 다시 믿고 확산할 우려가 있다. 이러한 악순환이 반복된다면 온라인 세상은 점점 왜곡된 정보로 덮일 수 있다. 이를 ‘데이터 오염’이라 부른다. 데이터 오염이란, 의도적 또는 우연적인 행위 때문에 데이터의 의미가 바뀌거나 사라져 데이터의 무결성이 침해받는 현상을 일컫는다.

시간과 정성을 들여 블로그를 운영하던 사람들이 AI의 가짜 포스팅에 밀려 제대로 가치를 인정받지 못하게 될 우려도 있다. 사람이 운영하는 블로그 포스팅은 AI로 작성하는 것보다 느릴 수밖에 없고, 키워드 최적화에서도 불리할 수 있다. 사람이 직접 경험하고 작성한 블로그 포스팅이 밀려날 경우, 블로그 방문자와 수익이 줄어들어 블로그를 운영할 동기를 떨어뜨릴 수 있다. 블로그에서 주로 다루는 맛집과 여행, 요리, 육아, 지역 및 각종 생활 정보는 인간의 경험과 생각을 기반으로 하는 콘텐츠인데, 사람이 쓰는 후기는 줄어들고 AI가 그럴싸하게 만든 포스팅이 늘어난다면 온라인 전반의 콘텐츠 질이 하락할 수 있다.

기술적 조치는 한계…미디어 읽는 눈 키우는 ‘리터러시’ 역량 관건

네이버 블로그는 AI로 만든 사진 오른쪽 하단에 ‘AI 활용’이라고 워터마크 표시를 한다. <출처=네이버 전반 고객센터>

일명 ‘정보의 바다’라고 불리던 인터넷 세상이 점점 잘못된 정보로 오염되고 있다. 이러한 문제를 해결할 수 있는 기술이나 조치는 없을까? 무분별한 AI 블로그 포스팅을 걸러낼 수 있다면 좋겠지만, 현실적으로 완벽하게 대응하기는 매우 어렵다. 우선 블로그 이용자들이 AI를 활용했는지 아닌지 일일이 판별할 수 없다. 또한 블로그는 누구나 자유롭게 글을 쓰고 올릴 수 있는 공간이므로, 자칫 이용자들의 권리를 침해할 소지가 생길 수 있어 직접적으로 규제하기 어렵다.

그 대신 AI로 만든 콘텐츠는 AI를 활용했다는 사실을 의무적으로 표시하는 방법을 고려할 수 있다. 네이버는 지난 5월 21일부터 AI 기술을 활용한 콘텐츠임을 식별할 수 있도록 자사의 블로그, 카페, 네이버 TV, 클립 서비스에 ‘AI 활용’ 표시 기능을 도입했다. 이는 작성자가 AI 기술을 활용해 생성한 이미지나 동영상을 삽입할 때 AI 생성 여부를 명시하는 기능이다. 네이버는 AI 기술을 통해 생성되거나 편집된 이미지와 영상이 늘어남에 따라, 이용자가 실제와 AI콘텐츠를 혼동하지 않고 명확히 인지하도록 돕기 위해 이 기능을 도입했다고 밝혔다.

또한 네이버는 AI로 만든 가짜 블로그 포스팅이 알고리즘을 통해 검색 결과에 노출되는 빈도를 줄이고 있다. 블로그 이용자가 저품질의 블로그 포스팅을 도배성으로 게시할 경우, 운영 정책에 따라 수익을 지급하지 않는다. 블로그에 AI로 만든 가짜 정보가 횡행하는 이유가 수익 때문이라는 점을 떠올린다면, 수익으로 연결되는 통로를 제한하는 이같은 조치는 도움이 될 것으로 보인다. 유튜브도 7월 15일부터 재사용된 동영상, 복사된 콘텐츠, 낮은 노력으로 업로드된 동영상, 완전한 Al 생성 동영상은 수익 창출 자격이 없다고 명시했다.

한편, 미디어 리터러시가 앞으로는 점점 중요해질 전망이다. 미디어 리터러시는 미디어를 올바르게 이해하고 비판적으로 분석하며, 양질의 정보를 생산하고 책임감 있게 활용할 수 있는 능력을 뜻한다. 인터넷 이용자들은 검색 엔진을 이용할 때 정보가 노출된 순서보다 정보의 출처와 내용의 맥락, 사실 여부, 작성자의 의도를 분석하고 비판적인 관점에서 수용할 수 있어야 한다. 정보 생산자로서 무슨 정보를 어떻게, 왜 만드는지 책임 의식을 갖는 것 역시 매우 중요하다.

궁극적으로는 사람이 만들어내는 콘텐츠의 희소성과 진정성이 인정받는 문화가 정착될 필요가 있다. AI는 그럴듯해 보이는 글이나 사진은 만들어낼 수 있지만, 사람처럼 직접 음식을 맛보거나 호텔에서 잠을 자거나 해변에 몸을 담글 수 없으며, 여행지의 경치를 보며 어떠한 감정을 느끼지 못한다. 자신만의 관점과 의도를 갖고 세상에 어떤 영향을 주거나 타인을 돕고 싶어하는 마음을 갖고 콘텐츠를 만들며, 독자와 교감하는 것은 AI가 대체할 수 없는 인간 고유의 영역이다. 인간이 만든 콘텐츠가 제대로 가치를 인정받을 때, 데이터 오염의 우려도 비로소 줄어들 수 있을 것이다. 중기이코노미 안수영 기자