스캐터랩, 이루다 폐기 결정
[MHN 문화뉴스 이한영 기자] 인공지능(AI) 챗봇 이루다의 개발사 스캐터랩에서 '이루다'의 데이터베이스(DB) 및 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기하기로 결정했다.
이루다는 페이스북 메신저를 기반으로 한 AI 챗봇이다. 친구와 대화하는 것처럼 편하게 대화를 나눌 수 있다는 특징으로 큰 호응을 얻었고, 사용자가 75만명에 이르렀다.
하지만, 이루다는 혐오 발언 및 개인정보 유출의 문제로 출시 3주만이던 지난 11일 잠정 중단되었다. 특정 유저들이 AI를 향한 성적 모욕 발언을 하여 AI를 향한 성희롱이 성립될 수 있는지 여부가 구설수에 오르기도 했다.
당시 스캐터랩 측은 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다."며 개선 의지를 표명했으나, 개인정보 유출과 관련하여 청원까지 등장하자 결국 폐기 결정을 내렸다.
스캐터랩 측에 따르면, 이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다. 또한 딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 없다. 그러나 이용자들의 불안감을 고려하여 이번 인공지능 '이루다'의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 했다.
스캐터랩은 현재 한국인터넷진흥원(KISA) 및 개인정보보호위원회의 조사를 받고 있으며, 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다는 방침이다.
기존 '연애의 과학'과 '텍스트앳'에서 이용자의 동의를 받고 수집되었던 기존 데이터는 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후, 해당 이용자의 데이터를 모두 삭제할 예정이며, 이는 향후 딥러닝 대화 모델에도 이용되지 않는다.
관련 후속 조치는 각 어플리케이션 공지를 통해 안내 받을 수 있으며, 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이다.
--
[공식] AI 챗봇 이루다 개인정보 유출 및 혐오발언 논란으로 폐기 결정
- 스캐터랩, 이루다 폐기 결정