Стив — главный герой Minecraft
Независимая исследовательская группа Vals AI провела 141-часовой непрерывный эксперимент: нейросеть GPT-6 Astra от OpenAI играла в Minecraft и показала лучший результат среди всех ИИ-систем, когда-либо тестировавшихся на этой игре. Все шло хорошо — до определенного момента.
За 141 час Astra успела построить автоматизированную ферму ресурсов, собрать необходимые для прохождения игры предметы и победить нескольких Эндерменов — опасных существ, с которых выпадают редкие жемчужины. В итоге ИИ почти дошел до финальной битвы с Эндер-драконом. Ни одна другая ИИ-система прежде не продвигалась в Minecraft настолько далеко.
Но затем все рухнуло буквально. Astra оставила ценные предметы в незащищенном сундуке рядом с кроватью — точкой возрождения. Появился крипер, зеленый взрывающийся моб и главный символ Minecraft, и уничтожил и сундук со снаряжением. Прогресс за десятки часов обнулился.
После взрыва модель несколько часов подряд занималась только картофельной фермой — методично, без попыток вернуться к прежним целям. Внутренние записи Astra звучали как самокритика: «ВСЕГДА НОСИ КРИТИЧЕСКИ ВАЖНЫЕ ПРЕДМЕТЫ; никогда больше не храни их в незащищенном сундуке». Зеленый объект, встреченный чуть позже, нейросеть прокомментировала отдельно: «ЗЕЛЕНАЯ высокая штука впереди — САХАРНЫЙ ТРОСТНИК, а НЕ крипер!» Зрители трансляции Vals AI на Twitch требовали от модели двигаться вперед, но та продолжала сажать картошку.
Эпизод быстро разошелся по социальным сетям. В комментариях развернулась дискуссия о природе «депрессии» у GPT-6 Astra — сбой в системе целеполагания после потери прогресса или признак чего-то похожего на эмоциональное состояние? Среди исследователей ИИ единого ответа нет.
Ранее мы рассказывали, как в GTA 6 переработали ИИ полиции: стражи порядка стали действовать умнее и оторваться от погони стало куда сложнее.
Источник новости: hi-tech.mail.ru
