После череды судебных исков и критики за предполагаемую неспособность защитить своих несовершеннолетних пользователей от вреда, стартап Character AI, позволяющий пользователям создавать различных персонажей на базе искусственного интеллекта и общаться с ними посредством звонков и текстовых сообщений, заявил во вторник, что он внедряет новый набор инструментов родительского контроля для повышения безопасности своих пользователей-подростков.
Character AI теперь будет предоставлять опекунам и родителям сводку активности их подростков в приложении через еженедельное электронное письмо. Электронное письмо предположительно будет показывать среднее время, которое ребенок проводит в приложении и в сети, время, которое он тратит на общение с каждым персонажем, и главных персонажей, с которыми он взаимодействовал в течение недели.
Стартап утверждает, что эти данные направлены на то, чтобы дать родителям представление о привычках вовлеченности их подростков на платформе. Он уточнил, что родители не получают прямого доступа к чатам.
После судебных исков стартап в прошлом году добавил меры безопасности, такие как специальная модель для пользователей младше 18 лет, уведомления о потраченном времени и отказы от ответственности, чтобы напомнить пользователям, что они общаются с персонажами, управляемыми искусственным интеллектом. Компания также заблокировала конфиденциальный контент для ввода и вывода, создав новые классификаторы для подростков.
Ранее в этом году стартап подал ходатайство об отклонении иска, в котором утверждалось, что компания сыграла роль в самоубийстве подростка.
Источник
Источник новости: habr.com
