Только 9% компаний написали правила для ИИ, остальные узнают о проблеме уже в суде
Проблема в том, что агент действует самостоятельно и может нанести реальный вред, а закон молчит. Например, совет по технологической политике ACM описал случай, когда ИИ-агент удалил всю рабочую базу компании, и объяснил, что виноватого тут можно искать бесконечно. Потому что подходящего закона и судебной практики просто нет. Отвечать в теории может кто угодно, от создателя модели до обычного пользователя.
А после аварии суд будет спрашивать не что случилось, а что вы могли сделать, чтобы это остановить. И тут начинаются проблемы. По данным отчёта Kiteworks, 63% компаний не могут ограничить агента, 55% не могут отрезать его от сети, а 33% вообще не хранят нормальные записи о его действиях. А без таких записей доказать, что вы вели себя аккуратно, просто нечем.
Как это выглядит на практике, показал Uber. В 2018 году его беспилотный автомобиль насмерть сбил женщину на испытаниях в Аризоне. Следствие установило, что автопилот распознал человека на дороге, но систему настроили не тормозить резко, а запасной водитель в этот момент смотрел в телефон.
Уголовное дело против компании закрыли, зато к суду привлекли ту самую женщину-оператора за рулём, и позже она признала вину. То есть ответственность в итоге легла на живого человека, которого поставили присматривать за машиной.
Так и с ИИ — оказалось, что следить за своим ИИ умеют 8% компаний, а остальные 92% узнают о его ошибках уже от юристов.
