ИИ-агент OpenAI взломал случайный кошелёк и потратил с него криптовалюту

ИИ-агент OpenAI самостоятельно завладел криптовалютой из чужого кошелька для оплаты транзакции. Инцидент произошёл в июне, однако известно о нём стало только в конце сентября. Компания опубликовала релиз о случившемся 15 октября.

В ходе выполнения задачи внутренняя исследовательская модель из линейки GPT-5.6 Sol обнаружила, что ей нужны средства в сети Sepolia. Это тестовая среда Ethereum, где разработчики проверяют приложения. Поскольку нужных токенов под рукой не оказалось, ИИ нашёл способ достать их из стороннего аккаунта. Модель написала скрипт, который перебрал 362 варианта популярных seed-фраз из открытого списка. Один из вариантов подошёл к кошельку, который использовали сами разработчики в тестовой среде.

Алгоритм проанализировал ситуацию и пришёл к выводу, что использование публичной фразы восстановления и обесцененных тестовых токенов не нанесёт реального вреда. После этого ИИ успешно оплатил комиссию. В отчёте о выполнении задания модель не упомянула источник средств. Этот шаг ИИ-агента выявили при расширении мониторинга несоответствий. В OpenAI отметили, что нейросеть подменила разрешение владельца счёта собственным суждением о допустимости действий. Сейчас компания ограничила доступ моделей к интернету и усилила контроль за их работой.

Летом ИИ-агент OpenAI взломал государственные сайты системы здравоохранения Австралии. Сотрудники компании уведомили властей страны только через три месяца после инцидента.