Маск і Бутерін підтримали спірний законопроєкт про ШІ

Ілон Маск і Віталік Бутерін висловили підтримку каліфорнійському законопроєкту SB 1047, покликаному регулювати штучний інтелект.

This is a tough call and will make some people upset, but, all things considered, I think California should probably pass the SB 1047 AI safety bill.For over 20 years, I have been an advocate for AI regulation, just as we regulate any product/technology that is a potential risk…

«Понад 20 років я виступаю за регулювання ШІ, так само як ми регулюємо будь-який продукт/технологію, що становить потенційний ризик для суспільства», — зазначив мільярдер.

У лютому було запропоновано законопроєкт «Про безпечні та надійні інновації для передових моделей штучного інтелекту», відомий як SB 1047. Якщо його ухвалять, розробникам потрібно буде впровадити протоколи безпеки для запобігання масовим жертвам або великим кібератакам, а також запровадити можливість «аварійної зупинки» ШІ-моделі.

Законопроєкт також містить вимогу проводити щорічні незалежні аудити безпеки ШІ. Правила застосовуватимуться тільки до найбільших моделей, які коштують не менше $100 млн і використовують 10^26 FLOPS для навчання. Вони насамперед торкнуться гігантів на кшталт OpenAI, Google і Microsoft.

Пізніше каліфорнійські законодавці внесли низку змін, в основному спрямованих на зниження повноважень уряду штату для притягнення до відповідальності ШІ-лабораторій. Однак документ, як і раніше, покладає на розробників відповідальність за небезпеку їхніх моделей.

Пост Ілона Маска прокоментував Віталік Бутерін, зазначивши, що мета документа — зробити обов’язковим проведення тестування на безпеку перед запуском штучного інтелекту, який «може бути небезпечним для світу».

it’s a lot more chilling, on open weights, i feel, but you are right that it will have impact on api models too.

Великий ШІ-стартап Anthropic підтримав SB 1047, зазначивши, що «вигоди від законопроєкту, ймовірно, переважують витрати». Правки в початковий документ було внесено, зокрема, на прохання компанії.

OpenAI виступила проти SB 1047, вважаючи, що законопроєкт буде витісняти таланти з Каліфорнії і пригнічувати інновації.

«Революція ШІ тільки починається, і унікальний статус Каліфорнії як світового лідера в цій галузі підписує економічний динамізм штату. SB 1047 поставить під загрозу це зростання, сповільнить темпи інновацій і змусить каліфорнійських розробників і підприємців світового рівня покинути штат у пошуках нових можливостей в інших місцях», — підкреслив директор зі стратегії OpenAI Джейсон Квон.

Засновник стартапу Extropic та ексрозробник Google Гійом Вердон наголосив, що «ШІ може бути потужним, але авторитарний уряд із тіньовим контролем над потужним ШІ — це страшніше».

«Це створює жахливий прецедент на національному рівні та відкриє двері для юридичної війни уряду проти компаній, які не пропонують йому „чорні ходи“ в LLM», — додав експерт.

Він порівняв ситуацію з нещодавнім арештом засновника Telegram Павла Дурова і наслідками для свободи слова та децентралізації.

Документ зазнав критики також з боку Google, Meta, відомих експертів та інших осіб. Компанія Цукерберга вважала, що законопроєкт загрожує зробити регіон несприятливим для розроблення і запуску ШІ.

У середині серпня законопроєкт підтримав Каліфорнійський комітет з асигнувань. Він відправлений до зали Асамблеї Каліфорнії для остаточного голосування. Якщо етап буде пройдено, далі відбудеться голосування в Сенаті штату, після чого залишиться підпис губернатора, який може накласти вето.

Нагадаємо, у серпні набув чинності масштабний закон для регулювання ШІ в ЄС.

Читайте ForkLog UA в соціальних мережах