배너 닫기

이루다 AI 챗봇 성적대화 충격적 '아카라이브, 노예만드는법 공유'도 넘은 '저질 드립'에 결국 차단

등록일 2021년01월08일 트위터로 보내기 싸이월드 공감 네이버 밴드 공유

귀엽고 매력적인 여대생 설정에
일부 남성 `성적대화`시도 논란
개발사 "성적단어 금지어 차단"

 

 

AI 챗봇 이루다가 화제다.

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'와 관련 수위 높은 성희롱 인증글들이 속속들이 게재돼 충격을 안겼다.

 

이루다는 지난달 23일 스타트업 스캐터랩이 개발한 인공지능 챗봇이다. 

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 인기를 끌고 있다.

진짜 사람 같다는 이루다는 사람과 대화를 나누고 있다는 착각이 들 정도로 친근하다.


스캐터랩은 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 기법으로 학습시켜 AI 챗봇 알고리즘을 만들었다.

 

이루다는 이달 초 기준 이용자 32만명을 돌파했다. 이 가운데 85%가 10대, 12%가 20대다.

 

일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.

하지만 이루다가 출시된 지 일주일만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 ‘아카라이브’가 등장했다.

아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트다.

 

나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다.

 

이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하고 있다.

이에 누리꾼들은 "AI 가지고도 성희롱이라니 너무 충격적이다", "이루다 19금 버전을 차라리 만드는게 나을듯", "일단 아이 이름에서 이루다는 앞으로 절대 못쓰게 되겠네", "혁신적인 기술도 이렇게 사용하다니 ....AI 이루다가 불쌍한 게 아니라 자신의 인성과 인생을 스스로 더럽히고 망가뜨리는 그 사람들이 불쌍합니다."등 반응을 보였다.

 


 

이 같은 논란이 일자 이루다 제작 및 운영진 측은 음담패설 메시지를 보낸 이용자들에게 경고를 부여하면서 경고가 누적될 경우 더이상 이루다와 대화를 할 수 없게끔 조치를 취했다.

 

스캐터랩은 우회 표현을 하면 성적 대화를 받아준다는 주장이 사용자의 착각이라는 입장이다.

 

우회 표현을 써 성적 의도를 파악하지 못한 이루다의 답변을 사용자가 호응으로 여겼다는 것이다.

 

스캐터랩 측은 "금지어 필터링을 피하려는 시도는 예상했으나, 이 정도일 줄은 예상하지 못했다"면서 "성적 취지로 접근하기 어렵게 알고리즘을 업데이트 할 것"이라고 말했다.

 

한편 이 같은 현상에 대해 윤김지영 건국대 몸문화연구소 교수는 "관계를 조율·협의하지 않고 포르노그래피처럼 여성을 성적으로 대상화하는 것이 높은 수준의 쾌락이라고 생각하는 남성 문화가 있다"며 "신체적·정서적 우위가 '남자다운 성욕의 방출'이라는 왜곡된 생각"이라고 지적했다.

 

타임포스트 www.timepost.co.kr

사회 +