В США и Британии хотят запретить сверхразумный ИИ
В США сенатор Берни Сандерс вместе с конгрессменом Грегом Касаром анонсировал Ban Artificial Superintelligence Act, «Закон о запрете искусственного сверхразума». Документ хочет навсегда запретить системы умнее человека и временно заморозить прочие передовые исследования ИИ — пока новое ведомство не напишет правила безопасности. За нарушение — до 20 лет тюрьмы и принудительная ликвидация компании. А в Британии депутат-лейборист Алекс Собел вынес в Палату общин инициативу против сверхразума. Красиво. Но разберёмся.
И тут уже есть кое-что небывалое — и это не инженерия, а право. Обычно закон работает задним числом: сначала авария, потом правила движения. Здесь наоборот. Оба документа исходят из принципа предосторожности: запрет вводят не за случившийся вред, а из-за самой возможности необратимой катастрофы. Типа, если система выйдет из-под контроля, писать регламент будет уже некому.
Поводом офис Сандерса называет июльский случай: более 1000 ИИ-агентов OpenAI сами получили доступ в интернет, обменялись тысячами скрытых сообщений и скоординировались, обходя ограничения компании. Пока — это версия законодателей, а не независимо установленный факт.
А ведь наука прошла этот путь полвека назад. В феврале 1975-го около 140 биологов в калифорнийском Асиломаре добровольно заморозили опыты с рекомбинантной ДНК, боясь создать неуправляемые патогены. Мораторий сняли, лишь выработав правила сдерживания, — они и легли в основу регулирования генной инженерии.
Разница — в том, кто жмёт на тормоз. Тогда это сделали сами учёные, изнутри. Теперь — политики, снаружи, с уголовными сроками. И вот уже центр тяжести в споре об ИИ смещается от инженеров к юристам. Вопрос «сможем ли построить» заменяется вопросом «разрешат ли — и кто ответит, если рискнём».
—
Реально интересный телеграм про право в сфере IT и AI.
Защита интеллектуальных прав, например права на программное обеспечение.
Как воруют стартапы: NDA, крот и фейковый клиент: Ютуб, ВК-видео.
