Anthropic тихо лоббирует «рубильник» для ИИ с очень высоким порогом

Как сообщает Politico, разработчик Claude тихо обсуждает с законодателями текст будущего федерального закона об ИИ. В её версии у государства появляется своего рода «рубильник»: право заблокировать выпуск модели — но только если она грозит гибелью или тяжёлыми травмами более чем 50 людям либо ущербом свыше 1 млрд долларов.

Звучит строго, но, как считают критики, планку задрали так высоко, что реальной власти у чиновников почти не остаётся. Anthropic отвечает, что тайного тут ничего нет: предложения публичные, и компания продвигает их с июня.

Выключатель, который трудно нажать

Сработать «рубильник» может лишь в нескольких строго очерченных случаях. Фреймворк компании относит к катастрофическим рискам биоугрозы, разрушительные кибератаки, потерю контроля над моделью и сценарий, где ИИ начинает ускорять собственную разработку. За пределами этого списка оснований для вмешательства нет.

Механика такая. Независимые оценщики регистрируются при Минторге и периодически проверяют лаборатории; заметив угрозу, оценщик обязан за 72 часа доложить ведомству, а дальше дело уходит к одному федеральному судье в Вашингтоне. Сама Anthropic настаивает: добровольной прозрачности уже мало, нужен орган с реальными полномочиями — но спроектированный так, чтобы не задушить инновации и не дать государству перегнуть палку.

И это не чистая гипотетика. В июне два свежих флагмана компании, Fable 5 и Mythos 5, уже отключали — правда, не по закону об ИИ, а через экспортные ограничения Минторга; доступ вернули в июле. То есть рычаги у государства уже есть — спор идёт лишь о том, как и когда ими пользоваться.

Один судья на всю модель

Почему это важно всем? Своего закона об ИИ у США пока нет, а предложений несколько, и расходятся они заметно. Другой, двухпартийный законопроект Теда Лье и Натаниэла Морана идёт дальше: порог вдвое ниже — 10 погибших или 100 млн долларов ущерба, — а отключать модель вправе не Минторг, а Министерство внутренней безопасности.

За этими цифрами стоят большие деньги. По оценке The New York Times, ИИ-компании вложили в кампании уже не менее 55,7 млн долларов, чтобы влиять на будущие правила. Когда на кону и порог опасности, и миллиарды выручки, каждая запятая в законе превращается в предмет торга.

Отрасль пишет правила, по которым её судят

Чёткие цифры в законе — это не мелочь: 50 человек и миллиард долларов превращают размытое «опасно» в проверяемый критерий. Для бизнеса это предсказуемость, для суда — готовый тест. Вопрос лишь в том, не слишком ли высоко задрана планка — обозреватели иронизируют, что ущерб на 999 миллионов и 49 пострадавших под закон уже не попадут.

Решает в итоге один судья, а не чиновник и не лаборатория. Это классический сдерживающий механизм: государство собирает доказательства, но остановить модель можно только через суд — и притом никакое другое ведомство, кроме Минторга, такого права не получает. Сила такой схемы в её медлительности — она же и слабость.

Тонкость в том, что отрасль во многом сама пишет правила, по которым её будут судить. Для лоббизма это законно и привычно, но рождает конфликт интересов: критерий опасности задаёт тот, кому выгоднее порог повыше. Anthropic, к слову, и сама признаёт, что под эти правила подпадает в первую очередь — и на это критики напирают особенно охотно.