6·3 제9회 전국동시지방선거가 90일 앞으로 다가온 가운데, 국내 주요 인터넷 플랫폼사들이 인공지능(AI)을 활용한 불법 선거운동 차단을 위해 비상 대응 체제에 돌입했다.
5일 한국인터넷자율정책기구(KISO)와 중앙선거관리위원회는 선거 기간 인터넷 정보서비스 운영을 위한 간담회를 열고, 딥페이크 및 딥보이스 등 AI 생성물을 활용한 불법 선거운동 사례를 점검하며 강력한 대응 의지를 밝혔다.
이번 간담회에서 중앙선관위는 특히 ‘딥보이스(Deep Voice)’ 기술을 활용한 선거운동의 위험성을 경고했다.
선관위 측은 “특정 후보자를 당선 또는 낙선시킬 목적으로 딥보이스를 이용해 제작한 선거운동 노래를 게시하는 것 역시 명백한 불법”이라고 강조했다.
현행 공직선거법은 AI 기술로 만든 실제와 구분하기 어려운 가상의 이미지·영상뿐만 아니라 음향까지도 ‘딥페이크 영상 등’의 범주에 포함하고 있다.
이에 따라 선거일 전 90일부터는 AI 생성물임을 표기하더라도 이를 이용한 선거운동이 전면 금지된다.
중앙선관위는 과거 대선 과정에서 발생한 주요 위반 사례를 공유하며 플랫폼사들의 주의를 당부했다.
주요 사례로는 특정 후보자가 죄수복을 입고 수감된 모습이나 울고 있는 장면을 AI로 합성해 수십 차례 게시한 유포자가 선관위에 의해 고발됐으며, 현재 1심 재판을 받고 있다.
공직선거법에 따라 딥페이크를 이용한 불법 선거운동은 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금형에 처해질 수 있다.
KISO는 간담회 당일부터 전 회원사를 대상으로 ‘선거 관련 인터넷 정보서비스 기준에 관한 정책 규정’을 적용하기로 했다.
이에 따라 네이버, 카카오, 네이트 등 주요 포털과 뽐뿌, 인벤, 클리앙 등 대형 커뮤니티는 선거일까지 집중 모니터링을 시행한다.

앞으로 각 플랫폼사는 후보자 등이 선거 관련 게시물에 대해 삭제 요청을 할 경우, 이를 즉시 중앙선관위에 신고하고 선관위의 판단에 따라 삭제 등 필요한 조치를 취하게 된다.
KISO 관계자는 “국민의 알 권리를 보장하면서도 AI 기술이 선거의 공정성을 훼손하지 않도록 플랫폼사들과 긴밀히 협력해 나갈 것”이라고 밝혔다. 김상태 기자