Roblox вместе с сообществом ROOST выпустила три инструмента безопасности ИИ — обновлённый PII Classifier, Roblox Sentinel и последнюю версию voice safety classifier, а также новый набор оценочных данных для проверки собственных классификаторов. Все три модели уже используются на платформе Roblox. Отдельно компания опубликовала и датасет для PII Classifier: в нём собраны синтетические англоязычные чаты нескольких пользователей, сымитированные по образцу приёмов, которыми обычно обходят фильтры персональных данных.
Roblox Sentinel выявляет ранние признаки возможной угрозы безопасности ребёнка. Последняя версия voice safety classifier модерирует голосовой чат в реальном времени и учитывает отзывы сообщества ROOST. Новый набор данных для оценки поддерживает модерацию на 30 языках и по восьми категориям нарушений.
Вице-президент по безопасности Нарен Конеру (Naren Koneru) считает, что публикация моделей поможет и другим площадкам.
ROOST — независимая некоммерческая организация, которая развивает и поддерживает open-source-инфраструктуру для онлайн-безопасности. Roblox стала сооснователем сообщества в 2025 году вместе с Google, OpenAI и Discord.
Как вам кажется, Roblox действительно помогает индустрии, или это попытка смягчить давление со стороны Сената США?
Источник новости: vgtimes.ru
