딥페이크에 칼 빼든다… 정부, 플랫폼 사업자 규제 강화

정부는 생성형 인공지능(AI)을 이용한 딥페이크 성범죄물에 대응하기 위해 국내외 플랫폼 사업자에 대한 규제를 강화한다. 사진은 딥페이크 대응 범정부 TF 단장인 김종문 국무조정실 국무1차장이 지난 6일 서울 종로구 정부서울청사에서 딥페이크 성범죄 대응 강화 방안 브리핑을 하고 있다. /사진=뉴시스

정부는 생성형 인공지능(AI)을 이용한 딥페이크 성범죄물에 대응하기 위해 국내외 플랫폼 사업자에 대한 규제를 강화한다. 그동안 불법 성범죄물 유포의 주된 경로로 지적됐으나 해외 사업자라는 이유로 규제하기 어려웠던 텔레그램도 협조를 유도해 국내 규제 대상에 포함시키겠다는 방침이다.
7일 IT(정보기술) 업계에 따르면 정부는 국무조정실을 중심으로 딥페이크 성범죄 대응을 위해 플랫폼 사업자의 의무 강화 방침을 발표했다. 방송통신위원회(방통위)는 정보통신망법 및 전기통신사업법 등 관련 법령을 적극 해석, 개정해 텔레그램 등 국내외 플랫폼 사업자 규제를 추진하기로 했다.

오픈채널 접속 링크와 비밀번호를 불특정 다수에게 배포, 접속을 유도하는 것도 청소년유해물 제공·매개 및 '불법촬영물 등' 유통에 해당된다고 적극 해석해 사업자 규제를 추진하기로 했다고 방통위는 설명했다.


방통위는 텔레그램 등을 청소년유해물 제공·매개자로 보고 청소년보호책임자 관련 자료요구와 지정의무를 통보한 뒤, 국내대리인 지정 의무대상을 통보하고 시정명령 등 의무사항을 요구하고 이를 미이행 시 과태료 등 제재를 가할 예정이다.

네이버와 메타 등 플랫폼 사업자에 대해서도 '불법촬영물 등' 유통방지 의무 불이행 시 시정명령과 과징금 등을 적극 부과하기로 했다. 투명성 보고서를 부실, 허위 제출했을 경우에도 전기통신망법 개정을 통해 플랫폼 사업자에 과태료 부과하는 조항을 신설하는 것을 추진한다. 성적 허위영상물 등 디지털 성범죄물 게재자에 대해 서비스 이용 중단과 탈퇴 등 제재도 추진한다.

방통위는 여성가족부와 협력해 인력 증원과 신기술 도입 등으로 해외 사회관계망서비스(SNS) 모니터링을 집중 실시하고, 범죄예방을 강화한다는 방침이다. 다만 텔레그램 등 해외에 서버를 둔 플랫폼 기업들이 규제에 협조적이지 않은 것이 한계로 지적된다. 방송통신심의위원회와 경찰청은 텔레그램과 핫라인 구축, 실무협의 정례화 등에 합의했다.

경찰청은 지난 9월 말 텔레그램과 소통채널을 구축했고 텔레그램은 수사 관련 협조의사를 표명했다. 경찰청은 해외 플랫폼 사업자도 한국 법원과 수사기관 공문 등에 대해 가입자 정보제공 등 신속하게 협조토록 공조를 강화한다는 방침이다.

이밖에도 방통위는 사업자가 삭제요청을 받았을 때 성범죄물 여부 판단이 어려운 경우, 선차단 후 방심위에 심의 요청을 의무화하는 방안도 추진한다. 불법촬영물 등 삭제 요청이 있을 시 24시간 시한을 명시하고 삭제 결과를 방심위에 제출하는 것이 의무화된다.