Am 8. Dezember 2023 erzielten die Unterhändler des EU-Parlaments und des EU-Rates eine vorläufige Einigung über das KI-Gesetz. Dieses Regelwerk zielt darauf ab, grundlegende Rechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz vor hochriskanter KI zu schützen, während es gleichzeitig Innovation fördert und Europa in diesem Bereich zum Vorreiter macht. Die Regeln definieren Verpflichtungen für KI, basierend auf deren potenziellen Risiken und Auswirkungen.
Klassifizierung von KI-Anwendungen
Die Klassifizierung von KI-Anwendungen in drei Kategorien ist eine der wichtigsten Neuerungen des KI-Gesetzes. Diese Kategorien basieren auf dem potenziellen Risiko, das von den Anwendungen ausgeht. Die Klassifizierung von KI-Anwendungen ist ein wichtiger Schritt, um die Sicherheit und Ethik der KI-Entwicklung und -Anwendung zu gewährleisten. Sie ermöglicht es den zuständigen Behörden, angemessene Vorschriften für die verschiedenen Arten von KI-Anwendungen zu erlassen.
- Problemlose KI: Diese Anwendungen stellen ein minimales Risiko dar und unterliegen einer minimalen behördlichen Aufsicht. Dazu gehören Anwendungen wie KI-gestützte Übersetzungsdienste, KI-gestützte Empfehlungssysteme oder KI-gestützte Spamfilter.
- Hochrisiko-KI: Anwendungen, die potenziell erheblichen Schaden verursachen könnten, fallen unter diese Kategorie. Dazu gehören Anwendungen, die in kritischen Infrastrukturen eingesetzt werden, wie KI-gestützte Verkehrssteuerungssysteme oder KI-gestützte Gesundheitssysteme. Auch Anwendungen, die sich auf die Rechte von Personen auswirken können, wie KI-gestützte Personalauswahlsysteme oder KI-gestützte Kreditvergabesysteme, fallen unter diese Kategorie.
- KI mit unzulässigem Risiko: Anwendungen, die Grundrechte bedrohen, sind strikt verboten. Dazu gehören Anwendungen wie wahllose Überwachung oder soziale Ranglistensysteme, die auf sensiblen Merkmalen wie Rasse, Religion oder sexueller Orientierung basieren.
Regulierung von Foundation-Modellen
Foundation-Modelle, wie große Sprachmodelle (LLMs), sind besonders leistungsstarke KI-Systeme, die in einer Vielzahl von Anwendungen eingesetzt werden können. Dazu gehören Anwendungen wie KI-gestützte Übersetzungsdienste, KI-gestützte Chatbots oder KI-gestützte Kreativsysteme.
- Transparenz: Entwickler von Foundation-Modellen müssen umfassende Dokumentation bereitstellen, die Trainingsdaten, Trainingsmethoden und Leistungsdaten enthält.
- Rechenschaftspflicht: Entwickler von Foundation-Modellen müssen Maßnahmen zur Vermeidung von Diskriminierung und anderen negativen Auswirkungen aufgrund von sensiblen Merkmalen ergreifen.
- Benutzerrechte: Benutzer von Foundation-Modellen müssen das Recht haben, Beschwerden einzureichen und Erklärungen für Entscheidungen zu erhalten, die ihre Rechte betreffen.
Biometrie und Verbraucherrechte
Die Verwendung biometrischer Daten ist ein sensibles Thema, das mit Datenschutzbedenken und Diskriminierungsrisiken verbunden ist. Das KI-Gesetz schränkt die Verwendung biometrischer Daten in öffentlichen Räumen stark ein.
Die Verwendung von biometrischen Daten zur Identifizierung von Personen ist nur in Ausnahmefällen zulässig, wie bei der Suche nach vermissten Personen oder bei der Verhinderung von terroristischen Anschlägen. In diesen Fällen ist eine vorherige richterliche Genehmigung erforderlich.
Überdies ermächtigt das Gesetz Verbraucher …
- Beschwerden über KI-Systeme, insbesondere Hochrisiko-KI-Systeme, einzureichen, und
- klare Erklärungen für Entscheidungen von KI-Systemen zu erhalten, die ihre Rechte betreffen.
Durchsetzung und Compliance
Die Einhaltung des KI-Gesetzes wird von einer neuen KI-Behörde innerhalb der Europäischen Kommission überwacht. Diese Behörde wird auch Sanktionen gegen Unternehmen verhängen, die gegen das Gesetz verstoßen.
Ferner werden nationale Behörden zusammenarbeiten, um KI-Systeme zu überwachen und sicherzustellen, dass die Gesetze einheitlich in der EU angewendet werden.
Bußgelder und Sanktionen bei Nichteinhaltung
Die Nichteinhaltung des KI-Gesetzes kann zu erheblichen Geldbußen führen, die von 7,5 Millionen Euro oder 1,5 % des weltweiten Umsatzes für geringfügige Verstöße bis zu 35 Millionen Euro oder 7 % für schwere Vergehen reichen.
Förderung von Innovation und KMUs
Das KI-Gesetz fördert Innovationen, insbesondere bei kleinen und mittleren Unternehmen (KMU), indem es Regulierungs-Sandboxes und Möglichkeiten für „Real-World-Tests“ einrichtet. Diese Initiativen bieten KMU eine sichere Umgebung, um AI-Lösungen zu entwickeln und zu testen, bevor sie auf den Markt kommen.
Globale Auswirkungen und zukünftige Entwicklungen
Das KI-Gesetz ist ein bedeutender Schritt in Richtung globaler KI-Regulierung. Sein umfassender Ansatz, der ethische Grundsätze in den Mittelpunkt stellt, wird voraussichtlich die Entwicklung und Regulierung von KI weltweit beeinflussen.
Das Gesetz wird wahrscheinlich fortlaufende Anpassungen erfordern, um seine Wirksamkeit im Zuge der Weiterentwicklung von KI-Technologien zu erhalten.
Nächste Schritte
Die vorläufige Vereinbarung zum KI-Gesetz ist ein wichtiger Meilenstein, aber die Verordnung wurde noch nicht endgültig erlassen. Die förmliche Annahme durch das Europäische Parlament und den Rat steht noch aus, wonach sie EU-Recht wird. Der Ausschuss des Parlaments für den Binnenmarkt und die Bürgerrechte wird über die Vereinbarung in seinen bevorstehenden Sitzungen abstimmen.
Fazit
Das EU-KI-Gesetz ist ein bedeutender Schritt in Richtung verantwortungsbewusster und ethischer KI-Entwicklung, der Innovation mit dem Schutz der Grundrechte in Einklang bringt. Wenn diese Verordnung auf die endgültige Verabschiedung und Umsetzung zusteuert, wird sie die KI-Landschaft in Europa und darüber hinaus tiefgreifend und über die Grenzen Europas hinaus beeinflussen und einen hohen Standard für die Entwicklung und Nutzung von KI.
