Elon Musk, CEO von Tesla und Gründer des xAI Chatbots Grok, hat sich hinter den Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (Senate Bill 1047) in Kalifornien gestellt. Sollte das Gesetz die Staatsversammlung passieren und noch diese Woche von Gouverneur Gavin Newsom abschließend gebilligt werden, würde es erstmals Sicherheitsvorkehrungen für KI-Technologien einführen. Das Gesetz sieht unter anderem vor, dass Entwickler Sicherheitsprotokolle erstellen, die Möglichkeit zur Abschaltung von außer Kontrolle geratenen KI-Modellen haben, Sicherheitsvorfälle melden, Whistleblower-Rechte stärken und Maßnahmen gegen die Nutzung von KI durch böswillige Hacker ergreifen müssen.
Trotz der Unterstützung von Musk stößt der Gesetzentwurf auf Widerstand bei Risikokapitalgebern wie Marc Andreessen und wird auch innerhalb der KI-Experten kontrovers diskutiert. Während Meta's Chief AI Officer Yann LeCun den Entwurf ablehnt, unterstützt Geoffrey Hinton, Mitentwickler von AlexNet, den Vorschlag. Musk selbst sprach sich dafür aus, das Gesetz zu verabschieden, nachdem er auf das öffentliche Risiko durch KI hingewiesen hatte.
Der einzige bisher existierende regulatorische Rahmen in den USA beschränkt sich auf die größten Supercomputer mit 10^26 FLOPS, die mehr als 100 Millionen Dollar in der Ausbildung kosten. Diese Regelung ist jedoch kein Bundesgesetz, sondern eine Exekutivanordnung der Biden-Administration und könnte vom nächsten Präsidenten rückgängig gemacht werden.
Der Gesetzesentwurf SB 1047 könnte zumindest teilweise für rechtliche Klarheit sorgen und wäre ein bedeutender Fortschritt für Technologieunternehmen wie OpenAI, Anthropic und Google, selbst wenn sie nicht unbedingt damit einverstanden sind. Kalifornischer Staatsabgeordneter Scott Wiener, der das Gesetz einbrachte, beschrieb SB 1047 als "einfaches, vernünftiges und leichtes Gesetz, das auf der Exekutivanordnung von Präsident Biden aufbaut".
Das kalifornische Wirtschaftsvolumen beläuft sich auf etwa 4 Billionen Dollar und ist vergleichbar mit den Größenordnungen Deutschlands oder Japans. Wiener betonte, dass Kalifornien eine Führungsrolle übernehmen sollte, da der Kongress Schwierigkeiten habe, techbezogene Gesetzgebungen endgültig zu verabschieden.
Die Verabschiedung des Gesetzentwurfs muss noch diesen Monat erfolgen, bevor das Parlament vor den bevorstehenden Wahlen in die Pause geht. Auch nach einer erfolgreichen Verabschiedung müsste Gouverneur Newsom bis Ende September zustimmen. Die U.S. Handelskammer hat bereits letzte Woche Newsom dazu aufgerufen, das Gesetz zu verhindern.
In der Zwischenzeit sorgen eine Reihe von Abgängen hoher Sicherheitsexperten bei OpenAI für Aufsehen. In einem Interview enthüllte der ehemalige Sicherheitsforscher Daniel Kokotajlo, dass fast die Hälfte der KI-Governance-Mitarbeiter das Unternehmen aus Enttäuschung verlassen haben. Musk könnte das Gesetz ebenfalls persönlich betreffen, da er im vergangenen Jahr sein eigenes Unternehmen für künstliche allgemeine Intelligenz, xAI, gegründet hat.