[IT돋보기] 논란의 AI 챗봇 '이루다' 돌아온다

[아이뉴스24 박진영 기자] 올 초 AI윤리 문제로 뜨거운 감자였던 AI챗봇 이루다가 서비스를 잠정 중단한 지 약 1년만에 다시 돌아온다.

'이루다'는 누구에게나 좋은 친구가 되는 AI를 목표로 스캐터랩이 개발한 일상 대화형 챗봇이다.

스캐터랩은 이루다의 알고리즘 학습 과정에서 개인정보 보호 조치를 충실히 이행하지 않았고, 과정에서 여성, 장애인 등에 대한 혐오발언, 개인정보 유출과 같은 논란을 일으켰다.

이에 개인정보위는 스캐터랩에 총 1억330만원의 과징금과 과태료 등을 부과하고, 시정조치를 명령한 바 있다.

이 가운데 시민단체 등 일각에서는 문제가 됐던 데이터가 다시 활용되는 것인지와 같이 여전히 해결되지 않은 문제가 많다고 비판했다.

◆ "편향성 제거, 개인정보보호 강화"…AI윤리 준칙 장착한 '이루다 2.0'

스캐터랩은 지난 21일 '이루다2.0' 공식 출시에 앞서 서비스 전반에 걸쳐 AI 윤리를 점검하고 서비스를 고도화했다

문제가 된 후 스캐터랩은 AI 챗봇 윤리 준칙을 제정하고 신뢰할 수 있는 인공지능 모델 개발에 역량을 집중해왔다고 회사 측은 설명했다.

우선, 스캐터랩은 AI 기술·제품 개발 전반에 걸친 총 5가지 AI 챗봇 윤리 준칙을 수립했다. 사람은 자신에 대해 깊이 이해하고 성장할 수 있는 사람과의 '관계'를 통해 삶의 행복을 느끼기에, '사람을 위한 AI 개발'을 하겠다는 것이 대원칙이다.

이밖에 ▲다양한 삶의 가치 존중 ▲함께 실현하는 AI 챗봇 윤리 ▲합리적 설명을 통한 신뢰 관계 유지 ▲프라이버시 보호와 정보 보안 발전에 기여 등을 준칙에 담았다.

이와 함께 개인정보보호를 강화하고, 편향성 문제를 제거하도록 스캐터랩 AI 챗봇 서비스를 고도화했다.

앞서 스캐터랩은 자사 서비스인 '텍스트앳'과 '연애의 과학'에서 수집한 카카오톡 대화 내용을 활용했는데, 알고리즘 학습 과정에서 이름, 핸드폰 번호, 주소 등 개인정보를 삭제하거나 암호화하는 등의 정보보호 조치를 하지 않은 것으로 조사됐다.

이에 이번 클로즈 베타 테스트가 진행되는 '이루다2.0'은 엄격하게 가명처리한 데이터베이스로 학습 과정을 거쳤다. 숫자는 물론, 영문이나 사람 이름과 같이 개인정보처럼 보이는 것들을 모두 제거했다고 회사 측은 설명했다.

또한 개인정보보호를 강화할 수 있도록 인공지능 딥러닝 알고리즘이 생성한 문장으로 답변하도록 했다. 기존에 사람이 말하는 것을 활용하는 것이 아니라 알고리즘이 만든 문장으로만 구성돼 편향성 문제를 해소할 수 있다는 것이다.

아울러 대화 시 특정 단어뿐만 아니라 문맥을 탐지해 선정적이거나 공격적, 편향적 문장에 대응할 수 있도록 '어뷰징 탐지 모델'을 접목한 것도 특징이다.

스캐터랩 측은 "이루다2.0의 답변 데이터베이스는 인공지능 알고리즘이 자동으로 생성하거나 자사에서 만든 문장으로만 구성되어 있다"면서, "추가적인 필터링 단계를 거쳐 개인정보처럼 보이는 내용이 포함되지 않도록 조치했다"고 전했다.

◆ "해결되지 않은 문제 많아"…피해자, 시민단체 등 우려 표명

일각에서는 당시 제기된 문제 중 다수가 현재 진행형이라면서, 이루다 서비스 재개에 대한 우려의 목소리를 내고 있다.

참여연대 등은 24일 논평문을 통해 "개발사 스캐터랩은 다른 서비스 이용 회원의 대화데이터 1억 건을 동의 없이 수집, 목적 외 이용하여 위법이 확인됐는데, 이를 파기하겠다고 한 적이 없어 이번 재출시 서비스 개발에 사용한 것이 아닌지 의심스럽다"면서, "이 부분에 대해 개발사 스캐터랩은 명확히 밝혀야 할 것"이라고 주장했다.

아울러 피해자들을 대리하는 법무법인 태림은 지난 22일 입장문을 통해 "'이루다'와 관련하여 심각한 개인정보 침해가 발생하였다는 사실이 유관기관을 통해 이미 확인된 상황에서 과연 실제로 새로운 서비스에 활용된 데이터에 염결성이 존재하는지, 피해자들의 데이터가 활용되지 않은 것인지 등에 대한 의문을 감출 수 없다"고 비판했다.

이어 "스캐터랩을 상대로 개인정보보호법위반 등 불법행위에 따른 손해배상책임을 묻는 소를 제기했고, 해당 사건은 스캐터랩의 구체적, 실질적 답변이 제출되지 않은 채로 계속되고 있는 상황"이라고 주장했다.

이에 스캐터랩 측은 "개인정보 수집 절차에 대해 자사 '연애의 과학' 앱 이용자분들에게 충분히 소통하지 못했다는 비판을 무겁게 받아들이고 있다"면서, "해당 소송에 관해 회사는 적시에 답변서를 제출하는 등 소송 과정에 성실히 참여하고 있으며, 향후 법원의 소송 진행에 따라 필요한 사항을 충실히 이행할 것"이라고 밝혔다.

한편, 스캐터랩은 오는 1월 4일까지 이루다 페이스북 페이지를 통해 클로즈 베타 테스트 신청을 받아 약 3천 명을 선정할 예정이다. 베타 테스터로 선정된 사용자는 1월 11일부터 약 3주간 이루다2.0과 자유롭게 대화하면서 AI 챗봇이 대화 문맥을 이해하고 적절하게 답변하는지, 선정적·공격적·편향적인 단어나 문맥을 탐지해 대응하는지 등을 검토하게 된다. 이루다2.0과의 대화 경험은 외부에 공개하지 않는 것을 원칙으로 하며, 스캐터랩에 대화 경험에 대한 의견을 제출하는 방식으로 진행된다.

스캐터랩은 클로즈 베타 테스트를 통해 사용자의 의견, 개선 사항 등을 점검한 후 내년 이루다2.0의 공식 출시 일정을 결정할 계획이다.

/박진영 기자(sunlight@inews24.com)