이루다 학습 데이터인 '연애의 과학' 이용자들 집단 소송
과태료를 무는 수준에서 끝날 것이란 지적도

챗봇 이루다, 사진=스캐터랩 제공

[MHN 문화뉴스 김종민 기자] 실제와 같은 대화로 주목 받은 인공지능(AI) 챗봇 '이루다'가 개인정보 논란에 휘말렸다. 

논란은 이루다와의 대화에서 이름, 주소, 계좌번호 등 개인정보가 고스란히 드러나며 점화됐다.

스타트업 '스캐터랩'에서 작년 23일 출시한 AI 챗봇 이루다는 실제 카카오톡 대화 데이터를 사용해 제작됐다. 사용된 데이터는 같은 회사의 '연애의 과학' 앱을 이용해 수집됐다. 앱에는 카카오톡 대화를 기반으로 상대방과의 애정도 등을 예측-분석하는 유료 서비스가 있는데, 서비스 이용자들이 제공한 대화 목록이 이루다를 학습하는 목적으로도 사용된 것이다. 그 과정에서 데이터 익명화가 제대로 적용되지 않아 학습 데이터인 '연애의 과학' 앱 이용자의 개인정보가 노출됐다.

연애의과학, 사진=스캐터랩 제공

이에 연애의 과학 앱 이용자들은 자신이 제공한 대화 목록이 의도와는 다르게 사용됐다면서 소송을 준비하겠다고 밝혔다.

이용자들은 연애의 과학 가입 및 서비스 이용 당시 '카톡 대화가 신규 서비스 개발에 활용될 수 있다'는 정도만 고지받았을 뿐, 자신의 문장이나 표현이 고스란히 챗봇에 학습될 줄은 몰랐다고 비판했다.

또한 카카오톡 대화는 2명이 나눈 것인데, 연애의 과학은 2명 중 1명의 동의만 받고 양쪽의 카톡 대화를 모두 수집했으므로 이는 부적절하다는 지적도 제기됐다.

이어 이용자들은 이루다가 특정인의 실명이나 집 주소, 계좌번호 등을 갑자기 말하는 등 제대로 데이터 익명화가 적용되지 않았다고 주장한다.

사진=SNS 캡처

이와 같은 논란에 11일 정부가 조사에 착수했다.

개인정보보호위원회-한국인터넷진흥원(KISA)는 제작사 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다. 

조사 관계자는 스캐터랩에 자료를 요구할 계획이고, 필요하면 현장 조사도 실시해 위법 사항을 검토할 예정이라고 밝혔다.

다만 일각에서는 스캐터랩에서 개인정보 관련 위법 사항이 발견되더라도 수천만원 수준의 과태료를 받는 데 그칠 거라는 지적도 제기됐다. 현황 개인정보보호법은 관계 법령을 위반한 기관-기업에 많으면 5천만원 이하, 적으면 1천만원 이하의 과태료를 부과하도록 정하고 있다는 점이 그 근거다.

----

'AI 이루다' 개인정보 유출로 만들어졌나...정부 조사 나서

이루다 학습 데이터인 '연애의 과학' 이용자들 집단 소송
과태료를 무는 수준에서 끝날 것이란 지적도

주요기사
관련기사

 
저작권자 © 문화뉴스 무단전재 및 재배포 금지