Искусственный интеллект приравняли к урагану, чтобы обойти NDA

С 1 января в Калифорнии заработал SB 53 – закон, который обязывает разработчиков ИИ-моделей раскрывать информацию. Закон де-факто признает топовые нейросети не программным продуктом, а стихийным бедствием. Штат считает, что раз, мол, вы не можете контролировать свои «черные ящики», мы будем регулировать их как лесные пожары или наводнения. Именно поэтому отчеты о критических сбоях теперь нужно слать в OES (офис чрезвычайных ситуаций).

Закон касается только передовых моделей — тех, что требуют больше 10²⁶ FLOPS для обучения, и только компаний с выручкой от 500 миллионов долларов. Они обязаны публиковать документы с описанием рисков, методов их оценки и планов реагирования на ЧС. А также публичные «transparency reports» (отчёты о прозрачности) на каждую новую модель: для чего создана, как может навредить, кто проверял. Критические инциденты, внутренние оценки рисков и другие сообщения остаются закрытыми, но их видят законодатели и губернатор.

Переведя де-факто ИИ в статус «угрозы общественной безопасности» (наравне с прорывом плотины), законодатели получили возможность обойти NDA. Теперь работники могут легально «стучать», хотя раньше сливы внутренней информации наказывались разорительными для кошелька и репутации исками. Штрафы компаниям назначили до миллиона долларов за нарушение, но это, конечно, немного, важнее прецедент: Нью-Йорк уже скопировал схему, другие штаты смотрят в ту же сторону.