4·10 총선을 앞두고 딥페이크 게시물이 활개를 친다. 딥페이크는 원본 이미지 위에 다른 이미지를 중첩해 조작된 영상을 만들어 내는 기술이다. 문제는 AI를 이용해 만든 딥페이크가 소셜미디어 전파에 최적화돼 (허위 조작 정보로) 선동적 주장을 하고, 선거에 개입하며, 국가안보를 위협하는 수단으로 악용된다는 점이다. 선거관리위원회에 따르면 지난달 29일부터 이달 16일까지 19일간 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물만 129건에 달했다.
데이터 산업 발전은 인류를 더 가깝게 만들고, 삶의 질을 높이며, 민주주의 체제를 개선했다. 동시에 그만큼 다양한 부작용도 양산했다. 비슷한 생각을 가진 사람들과만 소통하며 편향성이 증폭되고(에코 챔버), 고객에 맞게 필터링된 정보는 거품처럼 사용자를 자신만의 세계에 가둬 버렸다(필터 버블). 소셜미디어를 통한 사적 담화가 권위 있는 담론을 대체하고 개인적 신념이 객관적 팩트에 우선하면서(탈진실의 함정) 급기야 감정적·집단적 사고가 여론 형성을 주도하고 체제를 위협하는 지경에 이르렀다.
딥페이크는 이런 편향된 시각과 경도된 논리를 전파하는 악마의 메아리다. 이번 총선에서 (후보자에 대한) 유권자의 판단력을 교란하는 행위가 발생하지 않도록 사법기관이 경각심을 갖고 적극적이며 선제적인 대응에 나서야 하는 이유다. 개정된 공직선거법을 위반하면 7년 이하 징역이나 1천만~5천만 원 벌금에 처하도록 돼 있다. 하지만 처벌만 무겁게 한다고 범죄가 줄어드는 건 아니다. 전담팀을 가동한 지 20일도 안 돼 100건이 넘는 법 위반 사례가 적발된 것만 봐도 그러하다. 실효적인 예방책 마련이 절실하다.
딥페이크 발생 경로에 따른 대응 방향은 크게 세 가지다. 첫째 기반모델(사전 학습된 초거대 인공신명망 모델) 제공자의 워터마킹 조치를 의무화하고, 둘째 워터마크 없이 딥페이크 제작이 가능한 애플리케이션을 규제·단속하며 셋째 플랫폼 업체는 이에 기반한 탐지 툴을 제공함으로써 딥페이크를 신속히 회피하거나 무력화해야 한다. 안타깝게도 이를 강제할 만한 구속력 있는 법적 수단이 없다. 우선 플랫폼 업체의 책임과 역할부터 재정의할 필요가 있다. 가장 큰 과실을 거두는 자가 살충제도 뿌리는 게 맞다.
기호일보 - 아침을 여는 신문, KIHOILBO