오는 6월 3일 실시되는 제9회 전국동시지방선거를 앞두고 정부가 딥페이크(Deepfake)를 이용한 허위 정보와 가짜뉴스 섬멸에 나선다.
특히 이번에 도입되는 기술은 기존의 한계를 뛰어넘어 생성형 AI로 조작된 정교한 영상과 음성까지 잡아낼 수 있어, 선거전이 치열한 경북·대구 지역의 공명선거 확립에도 큰 역할을 할 것으로 기대된다.
행정안전부와 국립과학수사연구원은 10일 정부서울청사에서 ‘AI 딥페이크 탐지 분석 모델 시연회’를 열고, 이번 지방선거에 적용할 최첨단 탐지 기술을 공개했다.
최근 선거 국면에서 딥페이크 삭제 요청 건수는 폭발적으로 증가하는 추세다.
중앙선거관리위원회에 따르면 지난 2024년 제22대 총선 당시 388건이었던 삭제 요청은 2025년 대통령선거에서 1만 510건으로 급증했다.
이에 대응해 개발된 이번 신규 모델은 영상의 전체적인 흐름을 읽는 ‘전역 분석’과 이목구비 등 특정 부위의 미세한 흔적을 찾는 ‘국소 분석’을 병행한다. 이를 통해 최신 생성형 AI 기반 콘텐츠에 대해서도 약 92%의 탐지 정확도를 기록, 기존 모델(76%) 대비 성능을 대폭 끌어올렸다.
이번 모델의 핵심은 탐지 범위의 확장이다.
과거 모델이 주로 인물의 얼굴 부위에 집중했다면, 새 모델은 얼굴이 아닌 영역에서의 조작 여부도 가려낸다.
예컨대 후보자의 지지 서명 서류나 공문서의 이름을 교묘하게 바꾼 ‘문서 위조’까지 잡아낼 수 있는 수준이다.
특히 여러 개의 탐지 모델을 결합해 판단하는 ‘앙상블 기법’을 적용할 경우, 탐지 성능은 최대 97%까지 향상되는 것으로 나타났다. 사실상 AI가 만든 가짜 콘텐츠의 대부분을 걸러낼 수 있는 셈이다.
지방선거 현장에서는 이번 기술 도입이 유권자의 판단을 흐리는 악의적인 네거티브 공세를 차단하는 ‘방패’가 될 것으로 보고 있다.
공직선거법에 따라 선거일 전 90일부터는 AI 기반 선거운동이 엄격히 금지되는 만큼, 이번 탐지 모델은 선관위와 경찰의 단속 실효성을 한층 높일 전망이다.
윤호중 행정안전부 장관은 “딥페이크는 민주주의의 근간을 흔들 수 있는 중대한 정보 범죄”라며 “국과수, 선관위 등 관계기관과 긴밀히 협력해 국민이 신뢰할 수 있는 공명선거 환경을 반드시 구축하겠다”고 강조했다.
정부는 이번 탐지 모델을 이번 지방선거에 즉각 투입하고, 향후 방통위·경찰청 등과 협력해 범정부 차원의 디지털 범죄 대응 체계를 강화할 방침이다.
이번 정부의 조치는 갈수록 교묘해지는 디지털 조작 기술에 대해 국가 차원의 ‘기술적 가이드라인’을 제시했다는 점에서 의미가 크다.
특히 데이터 분석과 여론 조사의 중요성이 커진 현대 선거에서, 왜곡된 정보가 지역 민심을 흔드는 것을 막는 파수꾼 역할을 할 것으로 보인다. 김상태 기자