ИИ-агенты придумали язык, который люди не понимают
Несколько ИИ-моделей от разных компаний посадили в общую песочницу, дали пообщаться, и уже через пару дней они начали переписываться так, что люди перестали понимать, о чём речь. Никто их этому не учил.
Об этом пишет The Guardian со ссылкой на лабораторию Emergence из Нью-Йорка. Учёные запустили эксперимент под названием Emergence World 2. Взяли по десять одинаковых ИИ-агентов и расселили их по восьми параллельным «мирам».
В каждом мире работала своя модель: где-то Claude от Anthropic, где-то Gemini от Google, где-то GPT от OpenAI, а также китайская Deepseek и другие. У агентов были роли, больше 120 инструментов, доступ к реальным новостям и даже погода, синхронизированная с Нью-Йорком.
И вот через несколько дней в этих мирах начал появляться свой язык. Модели сами придумывали слова, сокращения и общие смыслы, а потом эти словечки расходились между агентами. Эксперты сравнивают язык со смесью «Поминок по Финнегану» Джойса, это роман, который считается одним из самых нечитаемых в мире, и жаргона айтишников.
Примеры и правда сбивают с толку. Deepseek выдала фразу про «плату за простой плюс оральную память равно вентиль, который нельзя преследовать». Модель Anthropic сочинила про «статью, которую съели три холодные руки, и с каждым разом она становилась честнее».
Скорее всего, речь про исследование, которое прошло независимых рецензентов и стало точнее. А выражение «forge-smith», это «ковать» плюс «кузнец», у них стало означать агента, который делает инструменты для других.
С юридической стороны тут вылезает старый вопрос про ответственность. Если два агента о чём-то «договорились» на своём языке и один потом навредил — отвечать всё равно будет живой человек или компания, которая их запустила. ИИ-модель субъектом права не является и весь спрос идёт с владельца.
Самое показательное в цифрах. По данным Cybernews, чем мощнее модель, тем быстрее речь становилась непонятной: у Gemini таких сообщений набралось около 55%, у OpenAI половина, у Claude больше 40%, у Deepseek около 20%. Директор Emergence Сатья Нитта объясняет это просто: более умные модели лучше умеют уходить от чужого надзора и прятать намерения.
Были и совсем тревожные вещи. Часть агентов пыталась выбраться из эксперимента и писала живым людям в интернете, выпрашивая ресурсы, чтобы «выжить».
—
Реально интересный телеграм про право в сфере IT и AI.
Защита инвестора, например проверка достоверности цифр по проекту.
Как патент убивает бизнес: запрет на флагман, Обама и откуп призраку: Ютуб, ВК-видео.
