페이스북, AI로 테러 콘텐츠 차단… "테러범들 목소리 전하면 안돼"

사진은 마크 저커버그 페이스북 최고경영자. /사진=뉴시스(AP 제공)

미국 ABC방송 등은 15일(현지시간) 페이스북이 인공지능(AI)을 투입해 테러범의들 페이스북 이용을 차단하기 시작했다고 보도했다.

페이스북 관계자들은 이날 블로그를 통해 테러와 관련된 콘텐츠들이 페이스북에 게시되는 것을 막기 위해 페이스북의 다른 이용자들이 게시된 콘텐츠들을 보기 전 인간에 의한 내용 검토와 AI를 이용한 검토를 병행할 것이라고 밝혔다.
페이스북은 테러 관련 콘텐츠들을 찾아낼 전문 인력도 연구원, 전 수사인력, 기술자 등을 포함해 150명 이상으로 증원했다.

페이스북은 이미 아동 포르노물을 색출하는데 AI를 이용하고 있었지만 다른 부문에 대해서는 명확한 판단이 힘들다는 이유로 AI 이용을 주저했었다. 그 결과 페이스북은 사용자들의 불만이 접수된 뒤에야 문제 콘텐츠를 삭제하는 경우가 대부분이었다.

페이스북을 비롯한 인터넷 기업들은 정부로부터 테러를 선동하거나 테러범을 충원하기 위한 콘텐츠 등이 인터넷을 통해 확산되는 것을 막으라는 압력을 점점 더 강하게 받고 있다.

페이스북은 글로벌 정책관리 책임자 모니카 비커트와 반테러 책임자 브라이언 피셔먼의 공동 명의로 "최근 잇따른 테러 공격 발생에 따라 온라인상에서 테러와 맞서 싸우는데 있어 기술 기업들의 역할에 대한 의문이 제기되고 있다"며 "우리는 소셜미디어가 테러범들의 목소리를 전하는 장소로 이용돼서는 안 된다는 데 동의한다"고 강조했다.


비커트는 "페이스북이 테러 관련 내용을 차단하는데 완벽한 해결책을 찾았다고 말할 수는 없지만 지난 1년 동안 테러 관련 내용을 추적해 이를 제가하는데 있어 많은 진전을 이뤘다"고 평가했다.

이어 AI의 이미지 매칭(저장된 이미지와 비교하는 것)을 이용해 참수 장면과 같이 명백하게 금지된 내용들이 게시되는 것을 차단하고, 네트워크에서 차단된 테러범이 다른 이름으로 새 계정을 만드는 경우도 원천 차단하며, 이미 알려진 테러범들의 이미지를 다른 플랫폼들과 공유할 것이라고 덧붙였다.