스캐터랩, '이루다2.0' 오픈 베타 테스트 17일부터 진행

[아이뉴스24 박진영 기자] 지난해 인공지능(AI) 윤리 논란을 일으킨 챗봇 이루다2.0가 돌아온다.

그동안 내부적으로 기술 안전성에 대한 지속적인 점검을 거쳤으며, 당시 편향성·선정성으로 문제가 됐던 상황에 대응할 수 있도록 시스템을 개선했다는 입장이다.

AI 스타트업 스캐터랩(대표 김종윤)은 누구에게나 좋은 친구가 되는 AI를 목표로 개발한 일상 대화형 챗봇 ‘이루다2.0’의 오픈 베타 테스트를 오늘 17일부터 2단계에 걸쳐 진행한다고 14일 발표했다.

이루다2.0은 개인정보보호 조치를 강화하면서 새롭게 데이터베이스를 구축하고 이용자의 어뷰징 발화에 더 잘 대응할 수 있도록 개선책을 마련해 왔으며, 지난 1월부터 약 8천여 명이 참여한 클로즈 베타 테스트를 통해 개선사항 검증 절차를 거쳤다.

이루다2.0은 딥러닝 알고리즘이 만든 생성 문장으로 답변할 수 있도록 구성해 개인정보보호를 강화하고, 선정적·공격적·편향적인 어뷰징에 대응할 수 있도록 인공지능 모델 및 시스템을 도입한 것이 가장 큰 특징이다.

먼저, 스캐터랩은 이루다2.0의 연구용 및 답변 데이터베이스를 새롭게 구축했다. 이루다 2.0 학습을 위한 '연구용 데이터베이스'는 개정된 개인정보보호법에 따라 대화 데이터를 엄격하게 가명처리 한 후 과학적 연구 목적으로 학습에 활용했다.

특히 이루다2.0이 이용자와 대화에서 사용하는 문장이 담겨있는 '루다 답변 데이터베이스'는 딥러닝 기술을 활용해 기계가 만들어낸 생성 문장으로 구성했으며, 스캐터랩에서 작성한 문장도 일부 포함되어 있다.

과거 이루다1.0과 달리 실제 사람의 발화를 사용하지 않고, 기계가 새롭게 만들어낸 문장으로 구성된 답변 데이터베이스에서 답변을 가져오는 구조다. 또한 스캐터랩은 이루다2.0이 어뷰징 발화에 잘 대응할 수 있도록 총 3가지 기술 및 시스템을 마련했다.

'어뷰징 탐지 모델'을 개발해 이루다2.0에 적용하고, 사회적으로 안전한 발화를 지향하도록 ‘대화 모델' 학습을 고도화하고, '어뷰저 패널티 시스템'을 도입했다.

이루다와 이용자가 대화하는 모든 문장은 어뷰징 탐지 모델을 먼저 거친다. 선정적·공격적·편향적인 문맥으로 탐지 및 분류된 문장이 있을 경우, 이루다는 해당 카테고리에 적합한 어뷰징 대응 답변을 내보내게 된다.

현재 어뷰징 탐지 모델이 인지하지 못한 어뷰징 문맥이 있더라도 우리 사회의 보편적인 가치관을 반영한 답변이 나올 수 있도록 대화 모델의 답변 역량도 고도화했다. 이에 더해 어뷰저 패널티를 도입해 지속적으로 어뷰징 발언이 이어질 경우 이용이 제한되도록 했다.

스캐터랩은 17일부터 이루다2.0을 오픈 베타 테스트로 전환해 시스템 운영의 안정성 및 대규모 이용자와 AI 챗봇의 사용자 경험을 추가로 점검하는 단계로 돌입한다.

매일 일정 인원을 제한적으로 승인하는 '제한적 오픈 베타 테스트' 단계를 먼저 진행하고, 시스템 안정성이 확인한 이후 누구든 자유롭게 신청해서 바로 이야기 나눌 수 있는 '오픈 베타 테스트'로 전환할 계획이다.

김종윤 스캐터랩 대표는 "이루다2.0은 데이터베이스부터 새롭게 구축하는 것을 시작으로 인공지능 모델을 학습시키고 클로즈 베타 테스트를 통해 안전성을 반복적으로 점검하는 등 전 과정에 있어 문제 해결에 매진해 왔다"면서, "이루다가 많은 사람들에게 소중한 친구로 남을 수 있도록 지속적으로 기술 개선에 노력할 계획이며, 이를 위해 주기적으로 이루다의 어뷰징 대응 유효성을 확인하고 조치를 취할 예정"이라고 밝혔다.

박진영 기자의 다른 기사 보기

• 1억330만원 과징금 '이루다 AI' 스캐터랩…'개인정보위 시정조치 적극 이행"

• 이루다 사태 그 후…AI윤리 어디까지 왔나