Служба чат-ботов Character.AI добавляет новую функцию «Parental Insights», которая позволит детям отправлять еженедельный отчёт об использовании чат-ботов на адрес электронной почты родителей.
Отчёт будет включать среднее время за сутки, проведённое в сети, данные об ИИ-персонажах, с которыми пользователь чаще всего взаимодействовал, а также статистику по каждому из них.
Для того, чтобы получать эти данные, родителям не требуется заводить учётную запись на платформе.
Компания отмечает, что функция даёт только обзор активности подростков, но не раскрывает содержимое их разговоров.
Character.AI представляет новые функции для несовершеннолетних с прошлого года. Так, она перевела пользователей младше 18 лет на модель, обученную избегать «чувствительного» вывода, и добавила более заметные уведомления о том, что боты не являются реальными людьми.
В 2024 году стартап дважды оказывался в центре разбирательств. Сначала Character.AI обвинили в самоубийстве подростка, который до момента смерти много общался с персонажем платформы. После этого стартап столкнулся с иском от родителей двух несовершеннолетних пользователей. Они заявили, что чат-боты компании показывали их детям непристойный контент и писали сомнительные сообщения, включая описание селфхарма и намёки на убийство родителей.
Источник новости: habr.com
