Google нанимает ядерщиков, чтобы её ИИ не выдал секрет бомбы

Google нанимает физиков-ядерщиков — и явно не ради мирного атома. В её ИИ-лаборатории DeepMind открыли вакансии для специалистов по ядерному оружию с опытом работы в американских оборонных лабораториях. Собирать бомбы они не будут. Наоборот — их задача сделать так, чтобы нейросеть Gemini не начала выдавать рабочие инструкции по созданию ядерных устройств.

Звучит парадоксально, но логика прямая. Чтобы защитить модель от злоупотреблений, нужен тот, кто мыслит как оружейник. Поэтому в команду CBRNE внутри подразделения Responsible Development and Innovation зовут людей, которые всю карьеру занимались делением, синтезом и радиационной гидродинамикой.

Речь не о единичном найме. DeepMind набирает целую профильную команду — химиков, биологов, специалистов по радиологии и ядерной инженерии, — которая проверяет Gemini и следующие модели на весь спектр оружейных рисков. То есть оборону компания выстраивает системно, а не затыкает одну дыру.

Красная команда против Gemini

Зачем это Google? Чем умнее ИИ в науке, тем выше шанс, что он поможет не учёному, а злоумышленнику. Поэтому новобранцы будут атаковать собственную модель вопросами про деление, синтез и термоядерное оружие — выискивая, где Gemini проговаривается лишнее.

По сути это красная команда: она ломает модель раньше, чем до неё доберётся кто-то снаружи. Задача — построить «карты угроз», собрать наборы каверзных физических запросов и выжать из модели максимум, чтобы затем закрыть именно те места, где она даёт опасную подсказку. И всё это — не убив научную пользу модели.

Любопытный контраст: к ядерной теме Google подходит сразу с двух сторон. Та же DeepMind сотрудничает с Commonwealth Fusion Systems, применяя ИИ к управлению термоядерной плазмой, и помогает оптимизировать реактор SPARC через открытый симулятор TORAX. Одной рукой компания двигает мирный термояд, другой — страхует мир от оружейного сценария.

Лос-Аламос в резюме

Платят за такую работу солидно. Как пишет профильное издание, вилка — от 174 до 252 тысяч долларов в год плюс бонус около 15%. А в требованиях — опыт в структурах вроде NNSA, МАГАТЭ и DARPA и работа на лазерных установках уровня NIF и JLF.

По сути это резюме мечты для бывшего сотрудника оружейной лаборатории. И здесь же кроется неудобный вопрос: тот, кто умеет искать слабые места в модели, по определению умеет и усиливать её по оружейной теме. Критики такой двойственности и опасаются — концентрация подобных знаний в частной компании сама по себе чувствительна.

И Google тут не первопроходец. Ещё в начале 2025 года OpenAI подписалась с американскими национальными лабораториями — включая Лос-Аламос, где в 1945-м собрали первую атомную бомбу. Тогда речь шла о доступе тысяч учёных к передовым моделям и о задачах ядерной безопасности.

Один шаг за черту — и это уже гостайна

Вся вакансия построена вокруг одной оговорки. Работать разрешено только с несекретными и не подпадающими под экспортный контроль данными — это прямо прописано в тексте, вплоть до требования строить «прокси» из гражданской науки вместо реальных оружейных тем. Это не бюрократия, а способ законно изучать опасную область, не задевая режим гостайны и нераспространения.

Сам факт такого найма юридически значим. Компания фактически признаёт: её модель способна помочь с оружием — иначе зачем держать штат оружейников. А значит, если однажды утечка случится, сослаться на непредвиденность уже не выйдет — риск был известен и задокументирован заранее. Той же логикой, к слову, прикрывается и индустрия: OpenAI, работая с нацлабораториями, обосновала ядерную часть как вклад в снижение риска ядерной войны и в нацбезопасность.

Но здесь же и главная развилка. Частная компания строит модели ядерных угроз, а эта область плотно обложена нераспространением и экспортными ограничениями. Один шаг за черту — и мирное исследование превращается в информацию, которую контролирует государство.

Отсюда и риск посерьёзнее: временный, «исследовательский» режим слишком легко становится тем, что уже не отпускают обратно в открытый доступ.