Адвокат сослался в суде на выдуманные ChatGPT показания и лишился дела

Адвокат по делу об убийстве попросил ChatGPT сделать резюме, а тот придумал свидетелей и показания полиции, которых никогда не было.

Про эту историю сообщило агентство Reuters. Случилось всё в американском штате Нью-Мексико. Частный защитник из города Санта-Фе Стивен Ааронс взялся за апелляцию Оскара Рене Сандоваля. Того осудили за убийство матери его детей и приговорили к пожизненному. Ааронс сам говорит, что дело взял ещё в прошлом году и решил облегчить себе работу. Он загрузил в ChatGPT сгенерированную стенограмму заседания и другие материалы, рассчитывая получить, по его словам, безупречное резюме.

Вместо резюме нейросеть выдала выдумку. В жалобе оказались несуществующие свидетели и придуманные показания полицейских. Среди прочего там фигурировала деталь, что стрелок был в тёмных брюках и белой рубашке, — её ChatGPT просто сочинил. Ааронс не сверил текст с материалами дела и подал жалобу в Верховный суд штата как есть.

Суд эти выдумки заметил. В прошлом месяце Ааронса обязали объяснить, откуда в его основной жалобе взялись несуществующие факты. На слушании 21 августа он признался, что доверился нейросети и не понимал, до какой степени она способна выдумывать. Судья К. Шеннон Бэкон отреагировала резко. Она спросила, смотрит ли адвокат новости, слушает ли радио, читает ли вообще хоть что-нибудь про происходящее в мире, ведь про то, как юристы попадаются на выдумках ИИ, пишут на первых полосах каждый день.

Наказание вышло серьёзным. Верховный суд Нью-Мексико оштрафовал Ааронса на 5000 долларов и признал виновным в неуважении к суду. Штраф направили в фонд защиты клиентов штата. В решении суд отметил, что адвокат не раскаялся и не проявил заботы о клиенте. Ааронса убрали из дела: 2 сентября апелляцию Сандоваля передали государственному защитнику Киму Чавесу Куку, и рассматривать её теперь будут заново. Впереди у Ааронса ещё разбирательство в дисциплинарной комиссии.

Сам он назвал случившееся честной ошибкой и признал вину. По его словам, он раскаивается и надеется, что комиссия это учтёт, а всю ситуацию считает уроком для любого, кто полагается на эту мощную, но временами ненадёжную технику.

Это уже далеко не первый такой случай. Ранее в штате Миссисипи суд и вовсе отстранил от разбирательства адвокатов обеих сторон, заподозрив их в том, что они таскали в суд ответы ИИ без всякой проверки.

Стоит понять, за что именно наказали. Пользоваться ChatGPT адвокату никто не запрещал. Спрос с него за другое: он подписал и подал в суд бумагу, не проверив ни слова. Ответственность за то, что написано в документе, лежит на юристе всегда — чем бы он его ни готовил, хоть сам, хоть через ИИ, хоть через помощника. ChatGPT виноватым быть не может — отвечает тот, кто поставил подпись.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com