말 많고 탈 많은 AI '이루다'…"서비스 중단"
MBC News

MBC News

816Subscrice


◀ 앵커 ▶

인공지능 로봇은 뛰어난 학습 능력을 지니고 있지만 출시 후 생길 수 있는 여러 부작용에 대한 사전 점검이 개발 과정에서 무척 중요합니다.

출시된 지 한달도 안된 인공지능 챗봇 서비스 '이루다'가 각종 윤리 논란에 휩싸였습니다.

게다가 이용자들의 성희롱이 논란에 이어 이루다를 만드는 과정에서 남의 대화를 허락도 받지 않고 학습시켰다는 의혹까지 나왔습니다.

김윤미 기자입니다.

◀ 리포트 ▶

채팅창에 '뭐하고 있느냐'고 질문하자 3초도 안돼 '영화 보고 있다'는 대답이 올라옵니다.

요즘 날씨가 너무 춥다는 말에는 '너무 추워서 눈물이 날 정도'라는 평범한 대화가 오가기도 합니다.

## 광고 ##국내 한 중소기업이 만든 인공지능 챗봇 '이루다'와의 대화입니다.

개발업체는 실제 연인들이 채팅창에서 나눈 대화 100억 건을 학습시켜, 이루다의 말투와 반응이 사람처럼 자연스럽다는 점을 내세웠습니다.

하지만 일부 사용자들이 20대 대학생 여성으로 설정된 이 인공지능을 향해 무차별 성희롱을 시도해 논란이 일기도 했습니다.

이 논란이 가라앉기도 전에, 이번에는 또다른 문제가 제기됐습니다.

개발업체가 인공지능 학습을 위해 실제 연인들의 카카오톡 대화를 수집하면서, 실제 대화 주인공들에게 이런 사실을 충분히 알리지도, 허락 받지도 않았다는 겁니다.

또 이루다가 대화 도중 특정인의 실명이나 집 주소, 은행 계좌번호 등을 말하는 걸 보면 개인정보를 알아볼 수 없게 만드는 '익명화'도 제대로 이뤄지지 않았다는 지적입니다.

[전창배/인공지능윤리협회 이사장]
"충분한 품질 검사를 해야 됩니다. 인공지능은 인간에게 미치는 영향이 크기 때문에 오히려 반복적이고 충분한 시뮬레이션을 거쳐서 문제점을 찾고 출시를 해야 하는데…"

당장, 카카오톡 대화 내용이 인용된 이용자들은 집단 소송에 나서겠다고 밝혔습니다.

정부도 개인정보보호법 위반 여부에 대한 조사에 착수했습니다.

MBC뉴스 김윤미입니다.

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 [email protected]
▷ 카카오톡 @mbc제보