13일 서울디지털재단은 인공지능(AI)과 접목해 행정 서비스를 개선하려는 목적으로 인공지능(AI) 윤리 가이드라인을 발표했다. 개인정보와 저작권 침해, 보안과 데이터 오용 우려 등이 커진 데 따른 것으로, 지자체 최초다. 

서울디지털재단은 시민 AI 일상화 프로젝트 중 하나로 ‘서울시 생성형 AI 윤리 가이드라인’을 마련했다고 밝혔다. 

생성형 AI의 특성과 서울시 핵심가치를 기반으로 연구한 것이 특징이다. 민간 기업에 대한 규제적 접근이 아니라 이용자·운영자·개발자가 생성형 AI를 안전하게 활용할 수 있게 자율적으로 준수할 수 있는 규범을 제시하자는 취지다. 

산학연 전문가의 의견을 여러 차례 수렴해 윤리 가이드라인 추진 방향과 3대 기본원칙(이용자 중심·위험예방·지속가능성)을 도출했고, 이를 바탕으로 9대 핵심 요건을 제시했다. 

9대 핵심 요건은 이용자의 검증 역량, 책임성, 데이터 권리와 책임, 사용가능성 확보, AI 학습데이터 안전성, AI 윤리 소양, 공공성, 생태적 지속가능성, 보안성이다. 그 외에도 이해관계자가 준수해야 할 핵심 요건별 위험요건과 실제 사례, 주의사항도 제시했다.

강요식 서울디지털재단 이사장은 “생성형 AI가 널리 퍼지면서 가짜뉴스, 개인정보 침해 등 위험 우려도 커지는 상황”이라며 “시민의 안전을 위해 지자체 최초로 발표한 생성형 AI 윤리 가이드라인을 통해 시민이 안전하고 편리하게 AI를 활용하기를 기대한다”고 말했다. 중기이코노미 신지아 기자