로블록스(Roblox), 구글 및 OpenAI 등과 함께 안전을 위한 오픈소스 비영리단체의 창립 파트너로 참여
지난 20년간 안전 및 매너를 증진하는 것은 로블록스의 기반이 되어왔으며, 이번 비영리 재단 ‘루스트(ROOST·Robust Open Online Safety Tools) 이니셔티브의 창립 파트너로 참여해 온라인 안전에서 로블록스의 영향력을 넓히게 된 것을 기쁘게 생각합니다.
로블록스는 플랫폼 내의 안전을 넘어 온라인 커뮤니티 전반의 안전 강화에 기여할 수 있도록 로블록스의 AI 모델을 오픈소스화하는 기회를 지속적으로 모색하고 있습니다. 이러한 여정은 로블록스가 2024년 9,400만 개의 파라미터로 구성된 음성 안전 분류 모델을 오픈소스화하면서 시작되었습니다. 해당 모델은 플랫폼 내에서 매일 최대 40만 시간의 활성 음성을 처리하며, 매일 수백만 분의 음성 활동 수준에 대해 검열 담당자보다 더 정확하게 정책 위반을 감지할 수 있습니다. 이 모델은 오픈소스화 된 이후 현재까지 약 22,000회 다운로드되었습니다.
또한 로블록스는 음성 안전 분류 모델의 업데이트 버전을 새롭게 공개할 예정입 했습니다. 해당 모델은 한국어, 스페인어, 독일어, 프랑스어, 포르투갈어, 이탈리아어, 일본어 등 7개의 새로운 언어를 처리하며, 모델의 효율을 높이기 위해 인력에 의한 레이블링의 미세 조정, 규정 위반 헤드 확장, 보다 효율적인 특징 추출, 시간 단축 레이어 추가를 위한 커리큘럼 교육 아키텍처 등의 새로운 기술을 적용했습니다. 로블록스는 이 새로운 버전을 2025년 1분기 말까지 오픈소스화 할 계획이며, 올해 후반에는 다른 양식에 대한 분류 모델도 오픈 소스화할 계획입니다.
로블록스는 루스트 이니셔티브의 창립 파트너로서 루스트 커뮤니티의 머신러닝 모델 전문성을 활용해 안전 관련 기술을 함께 발전시키고 공유할 예정입니다. 또한 로블록스는 루스트 이니셔티브 기술 자문 위원회(technology advisory committee)의 공동 의장 역할을 맡아 로블록스의 인사이트를 공유하며 단체의 업무와 기술 전략을 알리고 지원할 계획입니다.
플랫폼 내 안전을 위한 로블록스의 노력과 루스트 이니셔티브에 관련된 자세한 내용은 블로그를 통해 확인하실 수 있습니다.
| 이장원 기자 inca@ruliweb.com |
