Microsoft подала в суд на трех человек, обвиняемых в создании платформы "взлом как услуга", которая использовала службы ИИ компании для “создания вредоносного контента”. Обвиняемые обходили меры безопасности Microsoft и даже взламывали учетные записи обычных клиентов, чтобы позволить другим лицам получать доступ к платформе в незаконных целях.
“В жалобе, поданной в Восточном округе Вирджинии, мы добиваемся действий по пресечению деятельности киберпреступников, которые намеренно разрабатывают инструменты, специально предназначенные для обхода защитных ограждений служб генеративного ИИ, включая Microsoft, для создания оскорбительного и вредоносного контента”, - заявили в компании.
Сервис, действовавший с июля по сентябрь 2024 года, содержал подробные инструкции по использованию инструментов для создания нелегального контента. Злоумышленники якобы использовали недокументированные API Microsoft и скомпрометированные API-ключи для доступа к серверам Azure компании, обходя встроенные средства контроля безопасности, предназначенные для “предотвращения создания вредоносного контента”.
Microsoft также подала в суд на семь человек, которые предположительно пользовались сервисом.
Источник новости: www.ferra.ru
