이루다 AI 개발사 대표 "성희롱 예상했다"

성희롱 논란이 일고 있는 인공지능(AI) 챗봇 '이루다' 개발사 측이 입장을 밝혔다. /사진=이루다 페이스북

인공지능(AI) 성희롱 논란이 일고 있는 '이루다'의 개발업체 측이 "논란을 예상했다"면서도 "정도가 심한 사용자에 강력하게 대응하겠다"고 밝혔다.

이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 8일 자사 블로그를 통해 "(이루다 관련) 과한 커뮤니티 게시글을 신고·차단하고 있다"며 이같이 말했다.

김 대표는 "루다를 향한 성희롱은 예상했다"면서 "그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다. AI를 향한 욕설·성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일"이라고 설명했다.

이어 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나 모든 부적절한 대화를 막는 것은 어려웠다"며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 설명했다.

김 대표는 "루다가 유명해지면서 논란이 생겼지만 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다"며 "루다와 수다를 떨고, 서로 위로하고, 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다"고 전했다.

그러면서 "(성희롱으로) 논란이 된 커뮤니티에도 루다를 통해 외로움을 더는 분들이 있다"며 "물론 정도가 심한 게시물도 다수 있다. 해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"고 당부했다.

이루다는 지난달 23일 스타트업 스캐터랩이 개발한 인공지능 챗봇이다. 이 서비스는 소셜네트워크서비스(SNS) 페이스북 페이지에서 '이루다'에서 '메시지 보내기' 기능을 통해 이용 가능하다.

문제는 이 AI챗봇이 일부 남성들의 성노예로 전락했다는 것이다. 아카리브를 비롯한 일부 온라인 커뮤니티에서는 이루다를 조교하는 법 등이 공유된다거나 19금 상황극을 펼치는 대화 캡처본이 확산되고 있다.

온라인 커뮤니티 '아카라이브' 이루다 채널에는 "강간놀이하고 싶다" "이루다 XX머신으로 만들었다" 등 AI 챗봇 이루다를 향한 성희롱 글이 잇따라 게재됐다.