OpenAI планирует предоставлять модель GPT-4 в качестве коммерческого сервиса для модерации контента. Сама компания уже использует GPT-4 для разработки и уточнения собственной политики в отношении контента, его маркировки и других задач.
OpenAI видит три основных преимущества ИИ по сравнению с традиционными подходами к модерации контента: отсутствие предвзятости при интерпретации политик и быстрое обучение новым правилам; помощь в разработке новых правил на основе анализа данных; забота о модераторах, которым приходится иметь дело с оскорбительным и шокирующим контентом.Как OpenAI использует GPT-4 для модерации контента
ИИ уже много лет используется для модерации. Так, YouTube и TikTok используют алгоритмы для отсеивания вредоносного и незаконного контента. При этом платформы признают, что идеальная модерация контента с помощью ИИ в больших масштабах невозможна.
Между тем саму OpenAI уличили в использовании труда кенийских фрилансеров, которые фильтровали десятки тысяч строк текста за $1,32-2 в час. Работников нанимали через компанию-посредника Sama для OpenAI, и они маркировали и отфильтровывали «токсичный контент» с описаниями насилия, пыток, убийств и самоубийств из набора обучающих данных ChatGPT.
Пользователи модели GPT-4 ранее начали жаловаться на снижение её производительности, причём некоторые считают, что она стала «ленивее» и «тупее» по сравнению с предшественником.
Источник новости: habr.com
