Kalifornien verschärft die Regeln für KI-Vertragsabschlüsse, während der Streit mit der Trump-Administration wächst

Kurz gesagt

• Kalifornien ordnet stärkere Schutzmaßnahmen für KI-Unternehmen an, die staatliche Verträge anstreben.
• Die Maßnahme erfolgt, während die Trump-Regierung nationale KI-Standards vorantreibt.
• Behörden auf Landesebene werden Beschaffungsregeln ausarbeiten, die Themen wie Voreingenommenheit, Missbrauch und Risiken für die Bürgerrechte adressieren.

Der Konflikt zwischen Washington und den Bundesstaaten über die KI-Politik hat sich am Montag ausgeweitet, nachdem Kaliforniens Gouverneur Gavin Newsom eine Durchführungsverordnung unterzeichnet hatte, die von KI-Unternehmen, die staatliche Verträge anstreben, stärkere Schutzmaßnahmen verlangt.
Laut der Anordnung müssen Unternehmen, die KI-Systeme an kalifornische Behörden verkaufen, nachweisen, dass sie Richtlinien haben, die Missbrauch verhindern und die Privatsphäre, Sicherheit und Bürgerrechte schützen.
„Kalifornien war schon immer der Geburtsort von Innovation. Aber wir verstehen auch die Kehrseite: In den falschen Händen kann Innovation auf Weisen missbraucht werden, die Menschen gefährden“, sagte Newsom in einer Erklärung. „Kalifornien führt bei KI, und wir werden jedes Werkzeug, das wir haben, einsetzen, um sicherzustellen, dass Unternehmen die Rechte der Menschen schützen – nicht ausnutzen oder sie in Gefahr bringen. Während andere in Washington Politik entwerfen und Verträge im Schatten des Missbrauchs erstellen, konzentrieren wir uns darauf, das auf die richtige Weise zu tun.“ Newsoms Anordnung weist die Behörde für Regierungsorganisationen des Staates an, Beschaffungsstandards für KI-Anbieter zu entwickeln, die Themen wie die Erzeugung illegaler Inhalte, Modell-Voreingenommenheit sowie Risiken für Bürgerrechte und die Freiheit der Meinungsäußerung behandeln. Die Anordnung weist außerdem das California Department of Technology an, Empfehlungen für Watermarking von durch KI erzeugten Bildern und manipuliertem Video zu entwickeln.

 Die Anordnung bringt Kalifornien in Konflikt mit der Bemühung der Donald-Trump-Regierung, nationale KI-Standards festzulegen und die Regulierung auf Bundesstaatsebene zu begrenzen. Anfang dieses Monats hatte die Trump-Regierung einen nationalen Rahmen für eine KI-Politik veröffentlicht, der den Kongress dazu drängt, bundesweite Standards festzulegen und das zu verringern, was Regierungsvertreter als Flickenteppich aus KI-Vorschriften der Bundesstaaten beschreiben. Kevin Frazier, ein außerordentlicher Research Fellow am Cato Institute, sagte, die Auseinandersetzung spiegelte ein lange bestehendes verfassungsrechtliches Gleichgewicht zwischen staatlicher und föderaler Autorität wider. „Jeder technologische Durchbruch – vom Dampfschiff bis zur Superintelligenz – wirft zentrale Fragen darüber auf, wie man die Regulierungsbefugnis zwischen den Bundesstaaten und der Bundesregierung aufteilt“, sagte Frazier zu Decrypt. „Die Verfassung gibt eine klare Antwort: Die Bundesregierung muss bei Fragen der wirtschaftlichen und nationalen Sicherheit sowie bei solchen, die eine einheitliche Reaktion verlangen, führen; Bundesstaaten können ihre traditionellen polizeilichen Befugnisse innerhalb ihrer Grenzen ausüben.“

Frazier bezeichnete Newsoms Durchführungsverordnung als „ein Paradebeispiel für Föderalismus in der Praxis“ und sagte, Unternehmen, die von Kaliforniens Anforderungen absehen, könnten sich dafür entscheiden, nicht an den Staat zu verkaufen. „Währenddessen ist der Kongress jedoch weiterhin in der Lage, die Bedingungen dafür festzulegen, in welchem Tempo und in welche Richtung die KI-Ambitionen des Landes gehen“, sagte er. Quinn Anex-Reis, ein leitender Politikanalyst am Center for Democracy and Technology, sagte, Kaliforniens Größe und Kaufkraft bedeuteten, dass es darauf Einfluss nehmen könnte, wie Unternehmen KI-Systeme entwerfen und testen, wenn sie an den Staat verkaufen wollen. „Staatliche Auftragsvergabe ist für Unternehmen sehr wertvoll“, sagte Anex-Reis zu Decrypt. „Das ist im Allgemeinen ein großer Teil des Geschäfts für Technologieentwickler und speziell eine zunehmend bedeutende Geschäftsperspektive für KI-Entwickler.“ Er sagte, Beschaffungsregeln seien eine der effektivsten Möglichkeiten, wie Regierungen beeinflussen können, wie KI-Systeme entwickelt und bewertet werden. „Der Beschaffungsprozess ist wirklich ein ganz wichtiger Ort, um darauf zu achten“, sagte Anex-Reis. „Denn das ist im Grunde der wichtigste Ort, an dem der Staat nachsetzen kann, um Schutzvorkehrungen und Erwartungen festzulegen, wie Anbieter ihre Werkzeuge entwickeln.“ Newsom ist als nationale demokratische Führungspersönlichkeit aufgetaucht und gilt als potenzieller Präsidentschaftskandidat für 2028. Eine aktuelle Politico–UC Berkeley Citrin Center-Umfrage fand, dass er in Kalifornien bei wahrscheinlichen Wählern in der demokratischen Vorwahl den früheren Vizepräsidenten Kamala Harris um 14 Punkte anführt. Der politische Streit um die KI-Regulierung stellt ihn in direkten Konflikt mit der Trump-Regierung, während die Debatten zunehmen darüber, wer die Regeln festlegen sollte, die die Technologie steuern. Letzten Sommer hatte die Trump-Regierung Bundesbehörden angewiesen, Verträge mit sogenannten „woke AI“-Modellen zu vermeiden und Systeme zu beschaffen, die ideologische Neutralität demonstrieren.

Trotzdem sagte Anex-Reis, dass die Frage der KI-Regulierung größer sei als Politik. „Das sollte wirklich kein politisches Thema sein“, sagte Anex-Reis. „Es geht im Kern darum, sicherzustellen, dass Steuergelder nicht verschwendet werden und dass die Werkzeuge, die unsere Regierung kauft, auch funktionieren.“