Das nach Angaben der EU weltweit erste Gesetz zur Regulierung von Künstlicher Intelligenz (KI) tritt zum 1. August in Kraft. Ein Überblick über Ziele, Vorhaben und Schwachstellen.
Das laut EU weltweit erste Gesetz zur Regelung von Künstlicher Intelligenz (KI) tritt zum 1. August in Kraft. Die Europäische Union will Vorreiterin bei der Regulierung von Künstlicher Intelligenz sein. Die europaweiten Vorgaben für KI sollen die Nutzung der neuen Technologie sicherer machen. Dazu werden Anwendungen in Risikogruppen eingeteilt.
Die EU-Kommission teilt KI-Systeme in vier Risikogruppen ein: von grün über gelb und orange bis hin zu rot. In der ersten Stufe liegt kein Risiko oder nur ein minimales vor. Die große Mehrheit der KI-Systeme fällt nach Einschätzung der EU-Kommission in diesen grünen Bereich. Sie bleiben daher auch in Zukunft unreguliert.
In die nächsthöhere Risikostufe (gelb) fallen zum Beispiel Chatbots wie ChatGPT sowie mithilfe von KI erzeugte oder veränderte Bilder und Videos. Für sie gelten in erster Linie neue Transparenzpflichten. Nutzer müssen informiert werden, wenn ein Inhalt durch KI generiert wurde. Außerdem muss nachvollziehbar sein, mit welchen Daten die Systeme trainiert wurden. Gibt es schwerwiegenden Vorfälle, müsse diese der Kommission gemeldet werden.
In die dritte Risikogruppe (orange) fallen Anwendungen mit einem „hohen Risiko“. Die Kommission befürwortet die Nutzung auch solcher Systeme grundsätzlich, gleichzeitig sieht sie ein hohes Risiko für Grundrechte, Sicherheit oder Gesundheit. Sie sollen daher reguliert werden, bevor sie auf den Markt kommen.
Geht mit KI-Systemen ein „unannehmbares Risiko“ einher, fallen sie in die vierte und höchste Risikostufe (rot) und werden verboten. Das betrifft etwa Anwendungen zur Erkennung von Emotionen am Arbeitsplatz oder in der Schule. Auch das Bewerten von sozialem Verhalten mit KI, das sogenannte Social Scoring, wie es in China eingesetzt wird, ist verboten. Der Einsatz von KI bei der vorausschauenden Polizeiarbeit wird ebenfalls eingeschränkt.
Sowohl die EU als auch die Mitgliedsstaaten sind für die Durchsetzung der Regeln zuständig. Bei Verstößen drohen den Unternehmen Strafen in Millionenhöhe. Nationale Behörden sind verantwortlich, wenn es um die allgemeine Marktaufsicht geht. Daneben gibt es in der Kommission ein europäisches KI-Büro (AI Office) mit Experten aus allen EU-Staaten. Das Büro soll Europa als führend bei der ethischen und nachhaltigen Entwicklung von KI-Technologien positionieren.
Am 1. August tritt das KI-Gesetz in Kraft. Die Verbote gelten ab dem 2. Februar 2025. Der Großteil aller anderen Bestimmungen greift ab dem 2. August 2026. Im „AI Pact“ haben rund 700 Unternehmen erklärt, Vorschriften schon früher anzuwenden.
Grundsätzlich begrüßen viele das Gesetz. KI schaffe neue Möglichkeiten und damit auch neue ethische Fragen. Gerade in einer solchen Situation sei es gesellschaftlich wichtig, den Anspruch zu erheben, die technologische Entwicklung bewusst und aktiv zu steuern, sagt Claudia Paganini, Professorin für Medienethik an der Hochschule für Philosophie in München, dem Evangelischen Pressedienst (epd).
„Dabei muss die zentrale Frage lauten: Was gewinnen wir und was verlieren wir durch KI? Wo können wir die Qualität des Zusammenlebens steigern und wovon geht Gefahr aus?“ Genau diese Thematik werde vom KI-Gesetz der EU adressiert.
„Auch wenn davon auszugehen ist, dass sich angesichts der Geschwindigkeit des Fortschritts die Notwendigkeit ergeben wird, Anpassungen vorzunehmen, ist es dennoch wichtig, eine rechtliche Grundlage zu schaffen“, betont Paganini. Besonders positiv bewertet sie den hohen Stellenwert der Transparenz und dass eine Art Beschwerdesystem geschaffen wird.
Kritiker befürchten Schlupflöcher für eine biometrische Massenüberwachung. Das KI-Gesetz verbietet die Massenüberwachung im öffentlichen Raum zwar, schafft aber gleichzeitig Ausnahmen. Paganini hält das für problematisch. „weil sich in der Vergangenheit oft genug gezeigt hat, dass derartige Ausnahmeregelungen sehr schnell (missbräuchlich) gegen politisch Andersdenkende angewendet werden können“.
Kritik äußert auch Cornelia Ernst, die bis Juni als Linken-Abgeordnete im EU-Parlament saß und die Verhandlungen um das Gesetz eng verfolgt hat. Sie rügt, dass das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum durch eine lange Liste von Ausnahmen praktisch gekippt worden sei. Eine weitere Riesenlücke in der Verordnung sei, dass es keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext gebe. „Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor gemacht. Das ist inakzeptabel“, sagte Ernst.
