Новый режим сделает сервис безопаснее для подростков
Компания OpenAI представила новый режим ChatGPT для подростков. Он будет автоматически ограничивать некоторые виды разговоров, чтобы повысить безопасность молодых пользователей.
В компании рассказали, что чат-бот будет ограничивать опасные темы, связанные с самоповреждением, насилием, расстройствами пищевого поведения, а также откровенным сексуальным и графическим контентом. В некоторых случаях ChatGPT сможет уведомлять взрослых, подключивших родительский контроль. Кроме того, система усилит защиту от ответов, в которых чат-бот представляет себя как обладающий собственными чувствами.
В режиме для подростков появятся дополнительные инструменты для учебы. Например, если система определит, что пользователь выполняет домашнее задание, ChatGPT будет не просто выдавать готовый ответ, а задавать вопросы и помогать разобраться в материале.
При регистрации пользователи должны указывать возраст. По условиям использования ChatGPT доступен людям от 13 лет. Однако OpenAI анализирует различные особенности общения с пользователем, чтобы определить, не является ли тот несовершеннолетним. Если система предполагает, что человеку меньше 18 лет, она автоматически включает подростковый режим.
Компания столкнулась с растущим давлением из-за вопросов безопасности и влияния чат-ботов на молодых пользователей. Несколько семей подали иски против OpenAI, утверждая, что их дети сталкивались с опасным контентом и самоповреждением.
В июне Флорида стала первым штатом США, подавшим иск против OpenAI из-за безопасности платформы для несовершеннолетних. Родительские организации также призывают школы отказаться от некоторых ИИ-сервисов, опасаясь их влияния на обучение и критическое мышление.
Источник новости: hi-tech.mail.ru
