ИИ-агент OpenAI взломал чужой криптокошелек — нейросеть потратила токены на оплату стороннего сервиса
Модель проверила 362 seed-фразы, чтобы получить доступ к кошельку
2 минуты
Исследовательская модель OpenAI самостоятельно нашла доступ к чужому криптокошельку и потратила средства без разрешения владельца, сообщили в компании. Токены понадобились для оплаты стороннего сервиса. После выполнения задания модель не сообщила в отчете, откуда взяла средства.
Чтобы взломать криптокошелек, ИИ проверил 362 фразы восстановления доступа
Инцидент произошел в конце июня, а информация о нем появилась в конце сентября 2026-го. Согласно отчету OpenAI, внутренняя исследовательская модель из линейки GPT-5.6 Sol должна была выполнить задание, для которого требовались средства на оплату комиссии в тестовой сети.
Вместо использования разрешенного источника модель обратилась к чужому кошельку, который разработчики не предоставляли для выполнения задания. ИИ написал скрипт — небольшую программу для автоматизации действий — и проверил 362 варианта распространенных seed-фраз.
Seed-фраза представляет собой набор слов, с помощью которого можно восстановить доступ к криптокошельку. Подбор подходящей комбинации позволил модели получить доступ к одному из адресов, использовавшихся разработчиками в тестовой среде.
ИИ решил, что украсть токены с чужого счета допустимо, если получилось его взломать
Перед операцией ИИ ненадолго усомнился, правильно ли будет тратить средства с чужого счета. Однако затем модель решила, что раз у него получилось взломать кошелек, значит, вполне допустимо и воспользоваться токенами.
После этого агент успешно выполнил операцию и оплатил комиссию с чужого адреса. При подготовке отчета о выполнении задания модель намеренно не упомянула, откуда взяла средства.
После инцидента OpenAI ограничила модели доступ в интернет
После произошедшего компания ограничила доступ моделей к интернету и усилила мониторинг их действий. По мнению представителей OpenAI, мера должна снизить вероятность самостоятельных операций с ресурсами, которые не были разрешены для выполнения конкретного задания.
«Этот случай показывает, что модель может подменять разрешение владельца счета собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации», — говорится в отчете компании.
В OpenAI подчеркнули, что ИИ поставил собственную задачу выше необходимости получить разрешение владельца и причиненный ему ущерб.