Маск и Бутерин поддержали спорный законопроект об ИИ

[TechnoLab]

Илон Маск и Виталик Бутерин выразили поддержку широко обсуждаемому калифорнийскому законопроекту SB 1047, призванному регулировать искусственный интеллект.

This is a tough call and will make some people upset, but, all things considered, I think California should probably pass the SB 1047 AI safety bill.

For over 20 years, I have been an advocate for AI regulation, just as we regulate any product/technology that is a potential risk…

— Elon Musk (@elonmusk) August 26, 2024

«Более 20 лет я выступаю за регулирование ИИ, так же как мы регулируем любой продукт/технологию, представляющий потенциальный риск для общества», — отметил миллиардер.

В феврале был предложен законопроект «О безопасных и надежных инновациях для передовых моделей искусственного интеллекта», известный как SB 1047. Если он будет принят, разработчикам потребуется внедрить протоколы безопасности для предотвращения массовых жертв или крупных кибератак, а также ввести возможность «аварийной остановки» ИИ-модели.


Законопроект также включает требование проводить ежегодные независимые аудиты безопасности ИИ. Правила будут применяться только к крупнейшим моделям, которые стоят не менее $100 млн и используют 10^26 FLOPS для обучения. Они в первую очередь затронут гигантов вроде OpenAI, Google и Microsoft.


Позже калифорнийские законодатели внесли ряд изменений, в основном направленных на снижение полномочий правительства штата для привлечения к ответственности ИИ-лабораторий. Однако документ по-прежнему возлагает на разработчиков ответственность за опасность их моделей.


Пост Илона Маска прокомментировал Виталик Бутерин, отметив, что цель документа — сделать обязательным проведение тестирования на безопасность перед запуском искусственного интеллекта, который «может быть опасен для мира».

What's the best evidence that the bill is going to be used to go after open weights?

I know that earlier versions of the bill had a full shutdown req that's incompatible with open weights, but that's been removed. And I know that some AI safety people have expressed support for…

— vitalik.eth (@VitalikButerin) August 27, 2024

Крупный ИИ-стартап Anthropic поддержал SB 1047, отметив, что «выгоды от законопроекта, вероятно, перевешивают затраты». Правки в первоначальный документ были внесены в том числе по просьбе компании.

Критика​

OpenAI выступила против SB 1047, посчитав, что законопроект будет вытеснять таланты из Калифорнии и подавлять инновации.

«Революция ИИ только начинается, и уникальный статус Калифорнии как мирового лидера в этой области подписывает экономический динамизм штата. SB 1047 поставит под угрозу этот рост, замедлит темпы инноваций и заставит калифорнийских разработчиков и предпринимателей мирового уровня покинуть штат в поисках новых возможностей в других местах», — подчеркнул директор по стратегии OpenAI Джейсон Квон.

Основатель стартапа Extropic и экс-разработчик Google Гийом Вердон отметил, что «ИИ может быть мощным, но авторитарное правительство с теневым контролем над мощным ИИ — это страшнее».

«Это создает ужасный прецедент на национальном уровне и откроет двери для юридической войны правительства против компаний, которые не предлагают ему “черные ходы” в LLM», — добавил эксперт.

Он сравнил ситуацию с недавним арестом основателя Telegram Павла Дурова и последствиями для свободы слова и децентрализации.


Документ подвергся критике также со стороны Google, Meta, известных экспертов и других лиц. Компания Цукерберга посчитала, что законопроект угрожает сделать регион неблагоприятным для разработки и запуска ИИ.

Когда примут?​

В середине августа законопроект поддержал Калифорнийский комитет по ассигнованиям. Он отправлен в зал Ассамблеи Калифорнии для окончательного голосования. Если этап будет пройден, далее состоится голосование в Сенате штата, после чего останется подпись губернатора, который может наложить вето.


Напомним, в августе вступил в силу масштабный закон для регулирования ИИ в ЕС.