ⓒ News1 윤주희 디자이너


"대한민국을 중국 속국으로 만들겠다."
(서울=뉴스1) 이기범 기자 = A 씨는 얼마 전 한 영상을 보고 충격을 받았다. 이재명 더불어민주당 대통령 후보가 한국을 중국 속국으로 지칭하는 내용이 담겼기 때문이다. 아니나 다를까 해당 영상은 인공지능(AI)을 기반으로 이 후보 얼굴과 허위 내용을 합성한 '딥페이크 영상'이었다.


오는 6월 3일 제21대 대통령 선거를 앞두고 딥페이크 문제가 선거판을 흔들고 있다. 진짜 같은 후보자들의 허위 영상이 무분별하게 확산하면서 유권자들에게 혼란을 주고 있다. 자세히 뜯어보면 조악한 영상이 대부분이지만, 비대면 방식으로 쉽게 확대 재생산된다는 점에서 '딥페이크 선거 범죄'에 대한 우려가 커지고 있다.

14일 뉴스1 취재에 따르면 선관위가 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 대선 관련 딥페이크 영상물은 지난달 4일부터 전날까지(12일 오후 2시 기준) 총 897건으로 집계됐다. 지난해 총선 기간(2024년 1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상 388건의 2배를 넘어선 수치다.


딥페이크 영상은 사회관계망서비스(SNS)를 중심으로 퍼지고 있다. 수의를 입고 구치소에 있는 이재명 더불어민주당 대통령 후보, 스스로 가발을 벗는 한동훈 국민의힘 대선 경선 후보 등 딥페이크를 이용한 허위 사실·비방 등이 화제가 됐다.

특히 이 후보가 "대한민국을 신전체주의로 만들겠다", "같이 나라 말아먹자", "시진핑 형님께 속국 하나 추가했다"고 말하는 듯한 허위 영상이 공유되자 이 후보 측은 해당 영상 유포자들을 경찰에 고발한 바 있다.


김문수 국민의힘 대통령 후보 관련 딥페이크 영상도 SNS상에서 유포되고 있다. 한덕수 전 국무총리와의 단일화 국면에서 서로 고함을 지르는 영상, 분노하며 물을 쏟는 영상 등 실제와 허위를 섞은 합성 영상물을 어렵지 않게 찾아볼 수 있다.

이준석 개혁신당 대통령 후보를 놓고는 정치브로커 명태균 씨가 이른바 '황금폰'을 꺼내자 다급히 도망가는 영상, 황금폰 비밀번호를 알려달라며 우는 영상 등이 확인됐다.


경찰은 딥페이크 등 허위사실 유포를 5대 선거 범죄로 규정하고 강도 높은 단속을 진행 중이다. 선관위는 위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청하고, 악의적인 딥페이크 영상물이 발견되면 고발할 방침이다.

현재 딥페이크 영상을 이용한 선거 운동이나 허위사실 유포는 지난해 1월 공직선거법 개정안 시행에 따라 선거 범죄로 처벌받을 수 있다.

현행 공직선거법 제82조의 8은 딥페이크 영상 등을 이용한 선거 운동을 금지하는 내용을 담고 있다. 이에 따라 선거일로부터 90일 동안 실제와 구분하기 어려운 딥페이크를 이용한 선거 운동은 전면 금지된다. 이를 어기면 7년 이하 징역 또는 1000만 원 이상, 5000만 원 이하 벌금에 처한다.

또 해당 기간이 아니더라도 선거 운동을 위해 딥페이크 영상을 제작하거나 유포할 경우 AI 기술을 이용해 만든 가상 정보라는 사실을 명확하게 인식할 수 있도록 표시해야 한다. 이를 어기면 1000만 원 이하 과태료를 부과한다.

딥페이크 영상이라는 점을 명시해도 특정 후보자의 당선이나 낙선을 목적으로 허위사실을 공표하거나 비방할 경우 허위사실공표죄, 후보자비방죄에 해당하며 각각 7년 이하 징역 또는 1000만~5000만 원의 벌금, 3년 이하 징역 또는 500만 원 이하 벌금에 처할 수 있다.

더불어민주당 이재명 대선 경선 예비후보 선거대책위원회 관계자들이 16일 오전 서울 종로구 서울경찰청 앞에서 이재명 예비후보 딥페이크 영상 유포자를 명예훼손과 공직선거법 위반 혐의로 경찰에 고발하며 취지를 설명하고 있다. 2025.4.16/뉴스1 ⓒ News1 오대일 기자


현재 경찰은 대선 관련 딥페이크 범죄와 관련해 총 8건, 18명에 대한 수사를 진행 중이다.

경찰은 딥페이크 선거 범죄 대응을 위해 국립과학수사연구원(국과수)의 첨단 기술을 활용한 감정 절차를 거치고 있다. 국과수는 한국전자기술연구원(KETI)과 함께 AI 기반 영상·음성 분석 기술을 적용한 딥페이크 감별 소프트웨어 시제품을 개발한 상태다. 중앙선거관리위원회는 지난달 9일부터 딥페이크 특별대응팀을 운영하며 해당 프로그램을 활용 중이다.

이주호 대통령 권한대행 부총리 겸 교육부 장관은 대선 공식 선거운동 첫날인 지난 12일 "불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄"라며 사전 예방과 엄정한 단속을 법무부와 경찰청에 지시했다.

이호영 경찰청장 직무대리도 지난달 28일 정례 기자간담회를 통해 "한 달 앞으로 예정된 대통령 선거 대비에 만전을 기하겠다"며 "최근 문제가 된 딥페이크 등 허위사실 유포, 중요 선거범죄에 대해 엄정 대응하겠다"고 강조했다.

선관위 관계자는 "위반 소지가 있다고 인정되면 (딥페이크 영상에 대한) 삭제 요청을 하고 있다"며 "삭제 요청 이후에도 위법 행위가 반복되면 경찰 수사 의뢰 등 더 강한 조치를 취하고 있다"고 밝혔다.