동성애자·여성·장애인 등 특정집단 차별·혐오 발언
AI 학습과정에서 카카오톡 대화 속 개인정보 추출
개인정보보호위 조사, 집단소송, 국민청원 이어져
혐오 발언 등의 논란을 야기한 AI 챗봇 ‘이루다’가 서비스를 중단했다. 하지만 이루다를 개발하기 위해 정보를 수집하는 과정에서 개인정보보호법 위반 등의 의혹이 제기되면서 논란이 끊이지 않고 있다.
‘이루다’는 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇으로 자연스러운 대화능력이 화제가 되면서 최근 이용자가 75만명에 달했다.
하지만 출시 직후 일부 커뮤니티 등에서 이루다를 성적 도구로 취급해 논란이 된데 이어, 이루다 자체가 동성애자, 장애인, 여성 등 특정 집단에 대한 차별과 혐오 발언을 내놓으면서 비판을 받아왔다. 여기에 스캐터랩이 사전 동의없이 이루다의 개발에 카카오톡 대화 등 개인정보를 활용했다는 의혹이 제기되면서 피해자들이 집단소송을 예고하고 있다.
이루다의 개발사인 스캐터랩은 11일 입장문을 발표하고 “이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 발생한 것에 대해 진심으로 사과드린다”며 “일정 시간의 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다”고 밝혔다.
스캐터랩은 “이루다는 이제 막 대화를 시작한 어린 아이와 같다”며 “배우는 과정에서 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지에 대한 판단을 함께 학습하게 될 것”이라고 말했다.
혐오와 차별에 관한 부적절한 대화를 제공한 점에 대해 “특정 집단을 비하하는 혐오 표현의 경우 베타테스트 기간 동안 발견 즉시 필터링을 진행해 기존에 알려진 사례들은 이미 개선을 완료했다”며 “새롭게 발견되는 표현을 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선할 것”이라고 밝혔다.
개인정보보법 위반 의혹 등과 관련해서는 “데이터 활용시 사용자 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거돼 있다”며 “전화번호, 주소, 이메일에 포함된 모든 숫자와 영어 정보를 삭제하는 등 데이터 비식별화 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다”고 주장했다.
그러면서 “개발에 사용된 정보들은 사전 동의가 이뤄진 개인정보취급방침에 따라 활용된 것으로 연애의 과학 사용자분들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다”고 덧붙였다.
이루다는 개발과정에서 ‘연애의 과학’ 사용자의 카카오톡 대화 빅데이터 100억 건을 학습했다. 하지만 이 과정에서 사전 동의 없이 이름, 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. ‘연애의 과학’ 앱은 사용자들이 5000원 정도의 비용을 지불하고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 토대로 연인과의 친밀도를 분석해주는 서비스를 제공하고 있다.
논란이 계속되자 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 스캐터랩이 개인정보보호법을 위반했는지 확인하기 위해 조사에 착수했다고 밝혔다. 법령 위반이 확인되면 과징금이 부과되고 중대한 위반의 경우 형사 고발될 수 있다. 이와 함께 개인정보를 이용당했다고 주장하는 피해자들이 집단소송을 준비하고 있다.
이날 청와대 국민청원 게시판에 “이용자들 개인정보를 무단 활용·유출한 스캐터랩에 데이터 폐기 및 서비스 종료를 요구합니다”라는 글을 게시됐다. 작성자는 “스캐터랩은 ‘연애의 과학’ 이용자들의 데이터를 어떤 고지와 동의 없이 플랫폼 외부로 반출해 AI를 사업화했으며, 개인정보 보호 작업도 제대로 하지 않았다”고 주장했다.
