Закон обязывал бы крупные компании проверять на безопасность их ИИ-системы, и обеспечить возможность их полного отключения. OpenAI выступила против проекта, а Илон Маск его поддержал.
Губернатор Калифорнии, демократ Гэвин Ньюсом наложил вето на законопроект об обязательной проверке систем на основе искусственного интеллекта (ИИ) на безопасность.
В случае принятия законопроект SB 1047 мог бы стать одним из первых всеобъемлющих законов сфере ИИ в Соединенных Штатов. Он обязывал бы крупные компании, в том числе Google и OpenAI, проверять на безопасность их ИИ-системы, и обеспечить возможность их полного отключения на случай непредвиденных обстоятельств. OpenAI выступила против проекта, а Илон Маск его поддержал.
Ньюсом пояснил, что это решение не основано на эмпирическом анализе траектории систем и возможностей ИИ. По его словам, любая структура для эффективного регулирования нейросети должна идти в ногу с самой технологией.
Губернатор в письме, адресованном сенату Калифорнии, подчеркнул, что 32 из 50 лидирующих компании в мире в сфере ИИ находятся в штате. Вместе с тем Ньюсом сообщил о подписании закона, расширяющего полномочия департамента Калифорнии по ЧС до ИИ-угроз критической инфраструктуре штата.
Ранее киберэксперт Богданов указал на риски милитаризации нейросетей для будущего человечества.