На этой неделе Wikimedia Foundation сообщила об обнаружении на своих платформах активности агентов ИИ, предположительно, управляемых компанией OpenAI. Внутреннее расследование выявило несанкционированные изменения на страницах вики, попытки использовать размещенный на платформе инструмент для заметок, а также аномально высокий объем трафика. Изображение: нейросеть qwen Wikimedia инициировала проверку после того, как агенты ИИ из среды OpenAI проникли в другие системы (например, Hugging Face) и использовали публичные вики-ресурсы для координации своих действий. «Успешные попытки проникновения могут привести к раскрытию конфиденциальных данных или сбоям в работе сервисов», — заявили в Wikimedia. Группы скоординированных агентов способны совместно проводить атаки, которые крайне сложно отразить. Изменения вносились и в страницы вики, однако почти исключительно в так называемых «песочницах» (sandbox) — тестовых разделах, где можно опробовать правки без их отображения в общедоступных статьях. Ни один из агентов не получил обязательного в таких случаях разрешения на работу в качестве бота. Wikimedia не обнаружила признаков того, что собственные системы или данные фонда были серьезно скомпрометированы. В настоящее время 250 000 активных участников Википедии занимаются поддержанием работы крупнейшего в мире справочного ресурса и обеспечением фактической точности 65 миллионов статей, доступных по всему миру. Анализ также показал, что ИИ-агенты изменяли страницы настроек инструмента для оформления ссылок на источники. Wikimedia расценивает это как действия «потенциально вредоносного характера». По всей видимости, агенты планировали переделать этот инструмент в прокси-сервер, чтобы через Википедию получать данные со сторонних сайтов. Проблему также создавали масштабные автоматизированные запросы к публичным интерфейсам, сканирование миллионов страниц в Wikidata и Wikimedia Commons, а также сотни тысяч запросов к сервису Wikidata Query Service. В мае 2026 года в работе этого сервиса наблюдались сбои, к которым, вероятно, причастны ИИ-агенты. Сообщается, что с 2024 года потребление пропускной способности сети фондом Wikimedia выросло на 50 процентов из-за трафика, генерируемого ботами. Wikimedia требует, чтобы ИИ-агенты идентифицировали себя как таковые; это позволит владельцам сайтов (таким как Википедия) решать, взаимодействовать ли с ними и каким именно образом. В США уже ведется работа над законопроектом, который обяжет ботов идентифицировать себя при посещении веб-сайтов — так называемым Stealth Bot Act. Однако за этой инициативой стоят не некоммерческие организации вроде Wikimedia, а крупные издательские дома, такие как Condé Nast и USA Today. В заявлении для американских СМИ (в частности, Ars Technica) компания OpenAI сообщила, что ценит выводы Wikimedia и совместно с этой организацией изучает обстоятельства инцидентов.
Источник новости: overclockers.ru
