Военные США готовились перехватить китайское судно из-за ошибки ИИ
Американские военные самолёты уже были в воздухе, а бойцы готовились взять на абордаж китайское судно, когда кто-то в последний момент перепроверил отчёт разведки и понял: всё это придумал чат-бот.
Как пишет CNN со ссылкой на четырёх осведомлённых людей, случилось это весной, в разгар войны США с Ираном. По военным пошёл разведывательный отчёт с тревожным выводом: китайское судно на Ближнем Востоке везёт компоненты для ядерной программы. Такое поднимает по тревоге мгновенно, и армия начала готовить перехват.
История отчёта простая и потому пугающая. Аналитик Тихоокеанского командования спецопераций, которое базируется на Гавайях, попросил чат-бот разобрать разведданные о грузе судна. Бот соединил информацию из открытых источников с секретной радиоэлектронной разведкой, то есть с данными перехвата сигналов, и сделал ложный вывод про ядерный груз. На основе этого вывода аналитик и составил отчёт, а отчёт запустил всю подготовку.
Дальше события шли к точке невозврата. Двое источников CNN говорят, что вооружённые военные уже готовились подняться на борт. Ещё двое подтверждают: самолёты были в воздухе. Оставалось совсем немного до начала операции.
Спасла обычная перепроверка. Перед самым стартом кто-то решил ещё раз просмотреть исходные разведданные и увидел, что вывод про ядерное оружие неверный. Один из источников назвал отчёт полностью ложным и сказал, что тот чуть не развязал войну: удар по китайскому судну легко мог перерасти в вооружённое столкновение США и Китая.
Что на самом деле везло судно, выяснить так и не удалось. Каким именно ботом пользовался аналитик, тоже неизвестно: военные применяют сразу несколько. И это не первый случай, когда ИИ выдал в разведке галлюцинацию, то есть уверенно сообщил то, чего нет.
Фон у истории острый. В Пентагоне давят на скорейшее внедрение ИИ, боясь отстать от того же Китая. В январе министр обороны Пит Хегсет выпустил отдельную стратегию по ускорению ИИ в армии. А случай с судном показывает обратную сторону этой гонки.
Опаснее всего, что бот смешал открытое с секретным. Он взял данные из интернета и закрытые данные радиоразведки и слепил из них один гладкий вывод. На выходе получился отчёт, по которому уже не понять, где проверенный факт, а где догадка ИИ. Именно эта неразличимость и довела дело до самолётов в воздухе.
Что судно везло на самом деле и каким именно ботом пользовался аналитик, до сих пор неизвестно.
—
Телеграм про право в IT и AI. IT юристы — PravoWeb.com
