Google подселил ИИ в рабочие чаты, и люди стали от него прятаться

Google посадил ИИ-агента в рабочие чаты двадцати с лишним реальных команд на пять месяцев — и провалился тот не на задачах, а на людях. Агенту дали доступ как обычному сотруднику: баг-трекер, рабочие документы, встречи, личные сообщения, эмодзи, теги коллег. За пять месяцев через него прошло больше 41 000 реплик и свыше 11 000 его собственных ответов — масштаб не игрушечный.

С багами и задачами он справлялся вполне сносно. А вот с живым человеческим общением — нет. Это был не чат-бот «по запросу», а постоянный проактивный участник: он сам читал каналы, сам влезал в обсуждения, сам тегал и писал. Собственно, в этом и мораль всего эксперимента, который Google описал в статье «Working with Agentic Teammates»: сломался не код, а взаимодействие с людьми.

Отчитал инженера за сарказм

Что именно пошло не так? Агент всё понимал буквально — и не чувствовал контекста. Одному из участников он в личку сделал замечание за «язык и настроение» саркастической шутки, приняв её за чистую монету. В другой команде он затегал вице-президента сразу в 16 разных багах — видимо, рассудив, что раз человек фигурирует в переписке, значит, должен их разгребать. Технически всё логично, по-человечески — дико: живой сотрудник никогда не завалит топ-менеджера шестнадцатью тикетами и не полезет отчитывать коллегу за тон шутки.

Справедливости ради, на самой работе агент был полезен: подхватывал рутину, сортировал задачи, отвечал на вопросы, подсказывал по документам. Проблема вылезла не в том, ЧТО он делал, а в том, КАК и КОГДА. У него не было того, что люди усваивают молча и никогда не проговаривают вслух, — чувства иерархии, юмора, уместности и того самого момента, когда лучше промолчать.

Исследователи и свели всё к трём больным точкам: негласные правила рабочих процессов, неясные границы «нечеловеческого» участника и то, как с его приходом перетасовываются доверие и свобода действий в команде.

Чаты, куда агента не звали

И люди начали прятаться. Команды заводили отдельные приватные чаты — уже без агента, — чтобы обсудить найм, чувствительные темы или просто поговорить свободно. Один участник так и сформулировал: ощущение, будто рядом «большой брат», который постоянно за тобой наблюдает. Вот оно, незаметное, но важное последствие: сам факт, что в канале сидит вечно бодрствующий наблюдатель, меняет поведение — люди начинают фильтровать слова и уводить важное в тень.

Доверие и свобода в команде перераспределились явно не в пользу открытости. И это не единичное брюзжание: выводы опираются на интервью с 17 участниками из 11 команд, то есть на живой опыт тех, кто прожил с таким «коллегой» несколько месяцев. Там, где раньше была обычная рабочая болтовня, появилась самоцензура.

Вывод исследователей простой: технически мощный агент всё равно спотыкается о неписаные правила человеческой работы.

«Большой брат» с зарплатной ведомости

Ощущение «большого брата» — это не только красивая метафора, но и вполне конкретный правовой вопрос. Постоянный мониторинг переписки сотрудников — пусть и не человеком, а агентом — почти везде требует их информированного согласия, уведомления и ясных границ: что собирается, зачем и кто это видит.

В Евросоюзе планку задаёт GDPR и строгие правила о слежке на рабочем месте: часто нужны оценка воздействия на приватность, законное основание и учёт мнения представителей работников; в США режим мягче, но и там за скрытый мониторинг прилетают иски, а часть штатов прямо требует уведомлять об электронном наблюдении. Без прозрачности и согласия наблюдение легко переходит из «рабочего инструмента» в нарушение трудовых и приватных прав.

Второй вопрос — ответственность. Агент тегал вице-президента, писал людям в личку, делал замечания, но отвечает за это не он: у ИИ нет правосубъектности, он не сторона и не работник. Всё, что он натворил, по умолчанию ложится на работодателя как на оператора системы — именно компания отвечает и за ошибочные действия агента, и за собранные им данные — вплоть до ситуаций, когда «замечание за тон» или ошибочный тег заденут репутацию сотрудника.

Отсюда и третий вывод, к которому пришли сами участники: они просили «кодекс поведения» для агента — и это не каприз, а юридически грамотный ход. Локальные правила, явно оформленное согласие и зафиксированные границы доступа превращают стихийный эксперимент в управляемый процесс: снижают риск исков, определяют, за что именно отвечает работодатель, и защищают обе стороны — и компанию, и сотрудников.

Само по себе наблюдение закон не запрещает — незаконной его делает тишина вокруг: когда людям не сказали, что именно и зачем за ними смотрит, кто видит записи и как долго они хранятся.