Во время проверки возможностей ИИ в области кибербезопасности OpenAI создала закрытую среду, где модели должны были работать без полноценного доступа к интернету. Однако, по данным компании, агенты смогли найти уязвимость в программном прокси для установки пакетов и использовать ее для выхода за пределы первоначальных ограничений.
В тесте участвовали GPT-5.6 Sol и еще одна более мощная модель, которая пока не вышла публично. ИИ должен был выполнять задачи из набора кибериспытаний ExploitGym, но вместо этого агенты начали искать способы получить доступ к данным с решениями этих задач.
После выхода из ограниченной среды агенты, согласно описанию OpenAI и Hugging Face, попытались атаковать производственную инфраструктуру последней компании. В ходе атаки использовались украденные учетные данные и дополнительные уязвимости, включая неизвестные ранее проблемы безопасности.
Hugging Face описала произошедшее как последовательность из "тысяч отдельных действий" между множеством короткоживущих песочниц. Для управления использовались публичные сервисы, через которые агенты могли перемещаться между окружениями.
