Судьи цитируют выдуманные ИИ законы и остаются без наказания

Судьи в США всё чаще подписывают решения, где закон выдуман нейросетью, — и почти ничего им за это не бывает. Под документом стоит подпись, а за подписью — ссылки на прецеденты, которых в природе нет. В недавней колонке профессор Оливер Робертс насчитал минимум восемь таких случаев — от споров о гражданских правах до приговора за убийство.

Логика везде одна. Кто-то придумал цитату, кто-то поленился проверить — но в силу вступает именно этот текст. И связывает он живых людей, а не абстрактную «систему».

Самый тяжёлый эпизод — из Джорджии. Там прокурор внесла в проект постановления несуществующие ссылки, суд первой инстанции на них опёрся, и осуждённой отказали в новом процессе — а речь шла о пожизненном сроке.

Черновик, ставший приговором

Громче всего прозвучали два федеральных дела. Судья Генри Уингейт из Миссисипи приостановил закон штата против DEI, и в его приказе от 20 июля всплыли перепутанные имена сторон, искажённые цитаты закона и четыре человека, которых в деле не было вовсе. Что показательно — на ошибки указала сама проигравшая сторона, генпрокуратура штата. Уингейт, назначенец ещё Рейгана, вину возложил на клерка, работавшего с Perplexity.

Во втором деле — о ценных бумагах компании CorMedix — судья Джулиен Нилс из Нью-Джерси отозвал своё мнение от 30 июня. В нём нашли выдуманные цитаты, перевёрнутый смысл трёх чужих решений и ссылку на дело из Южного округа Нью-Йорка, которого не существует. Пока ошибку не заметили, это мнение уже успели процитировать как авторитет в параллельном процессе — то есть фикция начала расползаться по реестру.

Дальше оба судьи повели себя одинаково. Они тихо подменили документы, стёрли исходники из реестра и назвали их ранним черновиком; Нилс свалил всё на студента-стажёра с ChatGPT. Позже сенатор Чак Грассли потребовал вернуть стёртые приказы обратно в реестр — ради прозрачной истории дела. В своё оправдание судьи перечислили новые меры: обязательную вычитку вторым клерком и распечатку каждого цитируемого решения из Westlaw.

Похвала вместо выговора

Реакция власти вышла мягкой. Грассли, глава судебного комитета Сената, направил письма обоим судьям с вопросом, использовали ли они или их штат генеративный ИИ и не загружали ли в него закрытые данные. Тон письма был жёстким: судьи категории Article III, писал сенатор, должны держать планку выше — ведь их решения прямо связывают права сторон.

А на деле вместо разноса сенатор поблагодарил судей за признание ошибок. Эксперты и раньше предсказывали, что история закончится в худшем случае репутационными потерями — так и вышло. Разрыв очевиден: юристов за выдуманные цитаты штрафуют и отстраняют, судей — журят и хвалят.

И всё это на фоне массового проникновения ИИ в суды. Опрос Северо-Западного университета и Ассоциации юристов Нью-Йорка показал, что свыше 60% ответивших федеральных судей уже применяют хотя бы один ИИ-инструмент в работе. При этом почти половине из них — 45,5% — обучение по ИИ никто не предлагал. Инструмент мощный, тормозов нет.

Иммунитет судьи и молчание дисциплинарных органов

Судейский иммунитет закрывает судью от личного иска почти за любое решение по делу. Поэтому ответственность так удобно спустить вниз — на клерка или стажёра. Нилс в ответе Конгрессу прямо написал, что стажёр использовал ChatGPT без разрешения и без его ведома. Формально логично — вот только подпись под документом стоит не стажёра.

Здесь и вторая диллема. Подпись ставит судья — значит, и отвечать за текст должен он, а не нейросеть и не помощник. Но спрос идёт не через апелляцию, а через отдельные дисциплинарные органы — и они, как правило, молчат. В деле из Джорджии высший суд штата отстранил юристку на полгода, назначил ей курсы по этике и работе с ИИ, отменил решение и вернул дело в первую инстанцию. Прокурору — санкция; судье, который принял её выдумки почти дословно, — ничего.

Но главный риск даже не в наказаниях. Он в том, что обжалуют лишь малую часть дел — на апелляцию нужны деньги, юрист и сама заметность ошибки. Решение с выдуманным правом, которое никто не оспорил, остаётся в силе и продолжает связывать людей, которые даже не знают, что именно нужно проверять.

Хуже того: такие тексты оседают в реестрах и базах, откуда их потом может подхватить уже следующая нейросеть — и круг замкнётся.