Mit dem Inkrafttreten des Gesetzes über Künstliche Intelligenz (KI) legt die Europäische Union den Grundstein für eine strengere und einheitlichere Regulierung dieser Schlüsseltechnologie. Die Mitgliedsstaaten haben nun zwei Jahre Zeit, die Richtlinien in nationales Recht zu überführen, um Grundrechte, Demokratie und Rechtsstaatlichkeit im Umgang mit KI besser zu schützen.
Das neue Gesetz soll sicherstellen, dass KI-Systeme transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein zentraler Punkt ist die menschliche Überwachung dieser Systeme. Anhand von verschiedenen Risikokategorien wird festgelegt, welche Anwendungen strengeren Vorschriften unterliegen, insbesondere in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen.
Kritische Anwendungen, die gegen EU-Werte verstoßen, sind verboten. Dazu zählen etwa sozial bewertende Systeme wie das 'Social Scoring' in China, das Menschen nach ihrem Verhalten einstuft. Auch Gesichtserkennung im öffentlichen Raum und Emotionserkennung am Arbeitsplatz sind grundsätzlich untersagt.
Unternehmen und Bürger sollen durch das Gesetz besser geschützt werden. KI-Anwendungen müssen künftig transparent gekennzeichnet sein, um Verbrauchern die Identifikation zu erleichtern. Des Weiteren können Verstöße bei nationalen Behörden gemeldet werden.
Ein Verhaltenskodex für KI-Anbieter soll bis April nächsten Jahres abgeschlossen sein. Einige Regelungen, etwa das Verbot von als besonders risikoreich eingestuften Systemen, müssen bereits innerhalb von sechs Monaten greifen. Die Mehrheit der Vorschriften muss nach zwei Jahren umgesetzt sein, während besonders risikoreiche Systeme drei Jahre Zeit haben.
Bei Verstößen drohen empfindliche Strafen von bis zu 35 Millionen Euro oder bis zu sieben Prozent des weltweiten Jahresumsatzes. Kleinere Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes geahndet werden.
Mit wachsender Kritik fragen Experten, ob die Regulierung den technologischen Fortschritt hemmen könnte. Ein Schlüsselfaktor dürfte die nationale Umsetzung sein. Der Grünen-Abgeordnete Tobias Bacherle warnte vor den Gefahren biometrischer Überwachung für Freiheitsrechte. Bundesdigitalminister Volker Wissing hingegen sieht die Regelungen als zu weit gefasst und fordert eine innovationsfreundlichere und bürokratiearme Umsetzung.
Die EU-Kommission kündigte an, die Liste der 'hochriskanten' Anwendungen jährlich zu prüfen und bei Bedarf zu aktualisieren, um die schnelle technologische Entwicklung zu berücksichtigen.