Что означает законопроект «Killswitch» для децентрализованного ИИ

Автор Роберт Найт через CoinTelegraph.com,

Отраслевые данные разделились по спорному законопроекту об искусственном интеллекте в Калифорнии, который был принят 28 августа.

Новое законодательство заставит компании ИИ внедрять новые протоколы безопасности, включая кнопку «чрезвычайной остановки» для моделей ИИ.

Закон о безопасных и безопасных инновациях для моделей пограничного искусственного интеллекта (SB 1047) был принят Сенатом Калифорнии 29-9 августа 28.

Теперь законопроект будет передан на ратификацию губернатору Гэвину Ньюсону.

Илон Маск был среди тех, кто высказался в поддержку законопроекта. На X он сказал, что это был «жесткий вызов», но поддержал законодательство из-за «потенциального риска» ИИ.

Источник: Elon Musk

Однако не все технологические фигуры одинаково убеждены. Главный стратегический директор OpenAI Джейсон Квон является одним из тех, кто критиковал законодательство.

Калантия Мэй, соучредитель децентрализованной сети искусственного интеллекта Masa, сказала, что она не поддерживает новые правила, предполагая, что они являются результатом неоправданной спешки с принятием законов.

«Преждевременные правила, подобные этому, не только вытеснят таланты из Калифорнии, но и вытеснят таланты из Америки», — сказал Мэй. Она добавила:

«Риск заключается в вероятной возможности того, что нынешняя и предлагаемая нормативная база Америки ограничивает рост индустрии ИИ. "

Рахиль Говинджи, генеральный директор децентрализованного проекта ИИ DecideAI, высказал противоположную точку зрения.

«Мы выступаем за законодательство», — сказал Говинджи Cointelegraph.

Говинджи сказал: Решите ИИ поддерживает коммутатор, контролируемый децентрализованной автономной организацией (DAO), которая предлагает демократизировать и децентрализовать аварийную остановку.

ИИ — быстро развивающаяся отрасль

Быстрый характер индустрии искусственного интеллекта вызвал опасения по поводу ее беспрепятственного развития.

В письме от 22 августа бывший персонал и осведомители OpenAI предупредили: «Разработка пограничных моделей ИИ без надлежащих мер предосторожности создает предсказуемые риски катастрофического ущерба для общественности. "

Но для других быстрый темп развития ИИ — это то, что нужно праздновать, а не бояться.

«В отличие от других трансформационных технологий, скорость инноваций в области ИИ не имеет себе равных. Строители ежедневно поставляют новые продукты, функции и приложения, - сказал Мей.

«Мы, как строители, даже не знаем, где находится потолок ИИ; как правительство узнает потолок ИИ? Устанавливать лимиты на высокопотенциальные технологии неразумно. "

Мэй предупредил, что окончательная стоимость законопроекта будет заключаться в том, чтобы «вытеснить таланты из США», поскольку он «сделал это с криптовалютой».

Те, кто за

Говинджи предлагает, чтобы «контролируемый ДАО коммутатор убийств» мог поддерживать требования законодательства, сохраняя при этом «коллективное и прозрачное принятие решений». "

В законопроекте говорится, что любая модель ИИ должна быть в состоянии «быстро принять полное отключение», но не может быстро определить значение, оставляя значительное пространство для интерпретации.

Пока неизвестно, будет ли модель DAO и ее демократическая система голосования достаточно быстрой, чтобы удовлетворить законодателей. Говинджи уверен, что так и будет. По словам Говинджи, DecideAI «будет опережать кривую в предоставлении ИИ, который является социальным благом. "

Компания Anthropic также публично поддержала законопроект.

В открытом письме губернатору Ньюсому генеральный директор Anthropic Дарио Амодей сказал: «Системы ИИ развиваются чрезвычайно быстро, что дает большие перспективы для экономики Калифорнии и значительный риск для экономики». Мы считаем, что SB 1047, особенно после недавних поправок, вероятно, представляет собой осуществимое бремя соблюдения для таких компаний, как наша, в свете важности предотвращения катастрофического злоупотребления. "

Более ранняя версия законопроекта предусматривает уголовные наказания для компаний, которые не выполнили требования. После консультаций с промышленностью это положение было смягчено только до гражданских санкций.

Билл СБ 1047

Законопроект SB 1047 будет применяться только к «покрытым моделям» с определением того, какие модели покрываются с течением времени.

При внедрении крытая модель будет представлять собой ИИ, разработка которого обойдется более чем в 100 миллионов долларов, или «Модель искусственного интеллекта, обученная с использованием вычислительной мощности, превышающей 1026 целочисленных или плавающих точек. "

Федеральное агентство по операциям правительства будет рассматривать любые изменения порога вычислительной мощности.

В письме губернатору Ньюсому Квон из OpenAI утверждал, что законодательство в отношении ИИ должно рассматриваться только на федеральном уровне, а не в виде лоскутного одеяла законов штата. "

Учитывая огромную концентрацию технологических и ИИ-компаний в Калифорнии, SB 1047 может быть де-факто национальным законодательством.

Ситуация может измениться, если законодательство заставит фирмы ИИ бежать в другие штаты, но чтобы полностью избежать SB 1047, фирмам также придется прекратить все операции и услуги в Калифорнии.