오는 29일부터 딥페이크 영상을 활용한 선거운동이 금지된다. 다만 의정활동 보고, 통상적인 정당 활동, 당내 경선운동, 투표참여 권유활동에 딥페이크 영상 등을 활용하는 것은 가능하다.
중앙선관위는 18일 공직선거법 개정으로 (선거일 전 90일부터) 딥페이크 영상 등을 이용한 선거운동이 금지됨에 따라 위법행위 예방·단속 종합대책을 발표했다.
선관위는 관련 법규 운용 기준을 마련하고, 가용 역량을 총동원해 위법행위에 엄정 대응할 방침이다. <사진>
선거운동 활용이 금지되는 것은 딥페이크 영상처럼 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상임을 표시해서 활용하더라도 법 위반이 된다.
단 포토숍·그림판처럼 AI 기술을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용해 만든 이미지·영상 등은 선거운동에 활용할 수 있다.
AI 기술을 사용해 만든 이미지·영상 등도 총선 선거운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유 활동, 통상적인 정당 활동에는 활용할 수 있다.
선관위는 의심 사례를 찾으면 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가리기로 했다.
포털과 AI 플랫폼 관계사 등과 협조를 통해 위법성이 의심되는 콘텐츠를 선제적으로 삭제하고, 삭제 요청에 불응하면 과태료를 적극 부과할 방침이다. 또한 AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동 게시의 경우 사회 전체 여론을 왜곡할 수 있어 의심사례를 발견하면 수사기관에 신속히 통보할 예정이다.
강봉석 기자 kbs@kihoilbo.co.kr
기호일보 - 아침을 여는 신문, KIHOILBO