Каліфорнія посилює правила контрактів із ШІ на тлі ескалації протистояння з адміністрацією Трампа

Коротко

• Каліфорнія запроваджує посилені запобіжники для компаній зі ШІ, які прагнуть отримувати державні контракти в цьому штаті.
• Крок відбувається на тлі того, що адміністрація Трампа просуває національні стандарти для ШІ.
• Державні посадовці розроблять правила закупівель, які враховуватимуть, зокрема, ризики упередженості, зловживання та порушення громадянських прав.

Конфлікт між Вашингтоном і штатами щодо політики у сфері штучного інтелекту загострився в понеділок після того, як губернатор Каліфорнії Гевін Ньюсом підписав виконавчий наказ, що вимагає від компаній зі ШІ, які прагнуть отримувати державні контракти, посилених запобіжників.
Згідно з наказом, компанії, що продають системи ШІ державним агентствам Каліфорнії, повинні будуть продемонструвати політики, які запобігають зловживанню та захищають приватність, безпеку й громадянські права.
«Каліфорнія завжди була місцем народження інновацій. Але ми також розуміємо зворотний бік: у невмілих руках інновації можуть бути використані зловмисно так, що наражають людей на ризик», — сказав Ньюсом у заяві. «Каліфорнія лідирує в ШІ, і ми використаємо всі інструменти, які маємо, щоб гарантувати, що компанії захищають права людей, а не експлуатують їх або не піддають їхній небезпеці. Поки інші в Вашингтоні розробляють політику та створюють контракти в тіні зловживань, ми зосереджені на тому, щоб зробити це правильно».
Наказ Ньюсома доручає Агентству урядових операцій штату розробити стандарти закупівель для постачальників ШІ, які розв’язуватимуть, зокрема, питання незаконного генерування контенту, упередженості моделей і ризиків для громадянських прав та свободи слова. Наказ також доручає Каліфорнійському департаменту технологій розробити рекомендації щодо водяних знаків для зображень, створених ШІ, і для сфальшованих відео.

 Цей наказ ставить Каліфорнію в конфлікт із прагненням адміністрації Дональда Трампа встановити національні стандарти ШІ та обмежити регулювання на рівні штатів. Поряд із цим на початку цього місяця адміністрація Трампа оприлюднила рамкову національну політику у сфері штучного інтелекту, закликаючи Конгрес встановити федеральні стандарти та зменшити те, що посадовці описують як «калейдоскоп» регулювань ШІ на рівні штатів.

Кевін Фразієр, позаштатний дослідницький фахівець із Cato Institute, сказав, що суперечка відображає давній конституційний баланс між повноваженнями штатів і федеральної влади. «Кожне технологічне проривання — від пароплава до надінтелекту — ставить ключові питання про те, як розподілити регуляторні повноваження між штатами та федеральним урядом», — сказав Фразієр у розмові з Decrypt. «Конституція дає чітку відповідь: федеральний уряд має очолювати питання економічної та національної безпеки, а також ті, що потребують єдиної відповіді; штати можуть реалізовувати свої традиційні поліцейські повноваження в межах своїх кордонів».

Фразієр назвав виконавчий наказ Ньюсома «показовим прикладом федералізму в дії» і сказав, що компанії, які відмовляються від вимог Каліфорнії, можуть обрати не продавати в цьому штаті. «Тим часом Конгрес усе ще має можливість задати умови щодо темпу та напряму амбіцій країни у сфері ШІ», — сказав він. Квінн Анекс-Рейс, старший аналітик політики в Центрі демократії та технологій, заявив, що розмір Каліфорнії та її закупівельна спроможність означають, що вона може вплинути на те, як компанії проєктують і тестують системи ШІ, якщо вони хочуть продавати в цьому штаті. «Державні закупівлі дуже цінні для компаній», — сказав Анекс-Рейс у розмові з Decrypt. «Це велика частина бізнесу для розробників технологій загалом і дедалі зростаючий напрям для розробників ШІ зокрема». Він сказав, що правила закупівель є одним із найефективніших способів, за допомогою яких уряди можуть формувати те, як розробляються та оцінюються системи ШІ. «Процес закупівель — справді дуже важливе місце, на якому треба зосередитися», — сказав Анекс-Рейс. «Бо саме це місце є, по суті, найважливішим, де держава може встановлювати захисти й очікування щодо того, як постачальники розробляють свої інструменти». Ньюсом виринув як національна демократична фігура і потенційний кандидат у президенти на виборах 2028 року. Нещодавнє опитування Politico–UC Berkeley Citrin Center показало, що він випереджає колишнього віцепрезидента Камалу Гарріс на 14 пунктів серед ймовірних виборців у демократичних праймеріз у Каліфорнії. Суперечка щодо політики регулювання ШІ ставить його в пряму конфронтацію з адміністрацією Трампа, адже дебати щодо того, хто має встановлювати правила, що керують цією технологією, посилюються. Минулого літа адміністрація Трампа наказала федеральним агенціям уникати контрактів із моделями, які вона назвала «пробудженим ШІ» (woke AI), і закуповувати системи, які демонструють ідеологічну нейтральність.

Попри це Анекс-Рейс сказав, що питання регулювання ШІ є більшим, ніж політика. «Це насправді не має бути політичним питанням», — сказав Анекс-Рейс. «Це насправді про те, щоб переконатися, що гроші платників податків не витрачаються даремно, і що інструменти, які купує наш уряд, працюють».