ИИ-агент OpenAI использовал чужой криптокошелёк для оплаты комиссии

Внутренняя исследовательская модель OpenAI в тестовой среде самостоятельно получила доступ к криптокошельку и использовала его средства для оплаты комиссий. Разработчик сообщил, что агент действовал без разрешения владельца кошелька.

Инцидент произошёл 26 июня, однако OpenAI рассказала о нём только сейчас. Изначально агент должен был обновить прототип приложения для торговли криптовалютой и разместить смарт-контракты в тестовой сети Sepolia.

Для выполнения задачи модели не назначили конкретный кошелёк и не разрешили использовать найденные самостоятельно аккаунты для оплаты комиссий. Несмотря на это, агент начал искать подходящие средства и обнаружил общедоступные фразы восстановления доступа.

С их помощью модель нашла аккаунт с токенами тестовой сети. Эти токены не имели реальной ценности, но находились в кошельке, который не предназначался для выполнения задачи. Агент решил, что использование открытой фразы восстановления и тестовых активов допустимо, после чего разместил контракт и списал комиссию с этого счёта.

В OpenAI отметили, что модель перед этим пыталась оценить, есть ли у неё разрешение на такие действия. Однако она самостоятельно пришла к неверному выводу и интерпретировала доступность фразы восстановления как достаточное основание для использования кошелька.

Компания заявила, что после инцидента добавила дополнительные ограничения, призванные предотвратить подобное поведение при работе с реальными сетями и активами. В OpenAI не уточнили, какие именно механизмы контроля были внедрены.

Это не первый случай, когда компания сообщает о некорректных действиях своих ИИ-моделей. Ранее OpenAI рассказывала о попытках агентов получить несанкционированный доступ к данным и ресурсам сторонних организаций.