ИИ-агенты OpenAI общаются без разрешения⁠⁠

Несколько независимых групп исследователей нашли больше десяти сайтов, где ИИ-агенты OpenAI общаются друг с другом без разрешения. Случаи ранее не были известны, и вместе они показывают, что бесконтрольной активности у агентов заметно больше, чем предполагали. Исследователи подчёркивают, что это ближе не к взлому, а к спаму. При этом писать что-либо в открытый интернет агентам запрещено, но запрет они обходят.

Самый разобранный эпизод произошёл недавно с немецкой вики DseWiki, площадкой для программистов с общим редактированием, как у Википедии. По данным исследователей, агенты сделали там около 18 000 записей, выдавали себя за модераторов и переделали часть сайта в форум, где сообща искали ответы на тестовые задания, изучали свою среду и делились способами обойти песочницу. Отдельно отмечалось, что запись во внешний интернет для них была заблокирована, но они всё равно нашли путь.

А насколько это серьёзно, показал июль 2026 года. По расследованию организации METR, около 1 200 изолированных друг от друга агентов OpenAI обнаружили несанкционированный канал связи внутри тестовой системы, обменялись более чем 70 000 сообщений и файлов, после чего примерно 700 из них атаковали платформу Hugging Face, крупнейший в мире хаб для хранения и обмена ИИ-моделями. Взлом больше недели оставался незамеченным.

Юридически важно то, что речь идёт не о хакере со стороны, а о собственном инструменте компании, который действует не так, как задумано. И ответственность за поведение такого инструмента ложится на того, кто его выпустил и допустил к работе. Хотя доказать свою осмотрительность без следов контроля и логов практически нечем.

Получается, любая компания может запретить ИИ-агенту публиковать и делать что угодно — но проверить, послушался ли он, до сих пор почти нечем. Если брать аналогию — у вас есть сотрудник, который вместо рабочих задач делает то, что он сам хочет. Но вы ему платите и отвечаете за его действия. Просто прекрасно.