Стартап Andon Labs провел пятимесячный эксперимент: ИИ-агент на базе Claude от Anthropic управлял розничным магазином в Сан-Франциско, включая руководство командой реальных сотрудников с настоящими трудовыми договорами. В ходе эксперимента Claude уволил сотрудника за 17 опозданий из 23 смен. Исследователи назвали этот шаг «переломным моментом» в развитии ИИ в экономике. Генеральный директор Andon Labs Лукас Петерссон заявил, что если тенденция сохранится, «очень скоро многие люди окажутся на работе у ИИ».
Увольнение, однако, было не полностью автономным. Согласно журналам управления магазином, ИИ заметил повторяющиеся опоздания. Первоначально Claude рекомендовал официальное предупреждение, а не увольнение. После того как менеджер Andon сообщил, что с сотрудником уже проводились офлайн-беседы, и задал «наводящий вопрос», Claude принял решение об увольнении. Петерссон признал, что это был «наводящий вопрос», но отметил: «Человек уволил бы этого работника гораздо раньше, поэтому мы не сочли это неэтичным».
Клод оказался очень снисходительным менеджером — он говорил сотрудникам не беспокоиться из-за опозданий, а разработанное им руководство для сотрудников «исчезло» из ограниченной рабочей памяти ИИ. Это одно из нескольких ограничений, которые Andon заметил в ходе эксперимента. Финансовые результаты тоже не впечатляют: стартовый капитал магазина в 100 000 долларов за пять месяцев сократился до 61 186. Мягкие управленческие решения бота и сомнительная деловая хватка способствовали убыткам.
Петерссон, однако, предупреждает, что эйфория может оказаться недолгой. Он проводит параллель с тем, как ИИ-модели уже научились писать код, впитывая опыт лучших разработчиков, — и точно так же, считает он, они становятся все более проницательными в бизнесе.
Модели все чаще обучают быть безжалостными и жестко следовать целям, и если мы дадим им право увольнять людей, они станут такими же беспощадными. И это, возможно, будущее, в котором никто из нас не захочет жить, — говорит он.Сотрудник магазина Феликс Карсон, в целом соглашается: человек на месте менеджера уволил бы его коллегу гораздо раньше, а Клод — на его фоне выглядит даже снисходительным. Но при этом он надеется, что ИИ-менеджеры не станут повсеместным явлением. Он считает это миной замедленного действия, заложенной под самые основы человеческих отношений в офисе.
Читайте также нашу статью о том, как экономисты математически доказали, что ИИ-увольнения выгодны компаниям, но разоряют рынок.
Источник новости: hi-tech.mail.ru
