In einem bahnbrechenden Schritt hat die Europäische Kommission eine bahnbrechende und umfassende Verordnung über künstliche Intelligenz (KI) vorgeschlagen, um die Sicherheit von KI-Systemen zu gewährleisten und bestehende Gesetze zu Grundrechten und Werten der Union zu respektieren. Dieser wichtige Schritt ist eine direkte Antwort auf die politische Verpflichtung von Präsidentin von der Leyen in ihren Leitlinien für die Kommission für den Zeitraum 2019-2024, eine Union anzustreben, die mehr will und das Ansehen der EU fördert.
Aufbau eines vertrauenswürdigen KI-Ökosystems: Die vier Säulen des KI-Gesetzes
Der Vorschlag umfasst vier Hauptziele, die die Grundlage für die Vision der EU für die KI-Governance bilden.
Erste Säule: Stärkung von Rechten und Sicherheit
Das KI-Gesetz ist ein solider Rahmen, der sicherstellen soll, dass KI-Systeme, unabhängig davon, ob sie in der Union genutzt, eingesetzt oder vermarktet werden, strenge Sicherheitsstandards einhalten und den bestehenden Rechtsrahmen in Bezug auf die Grundrechte und die Werte der Union respektieren.
Diese Säule legt ausdrückliche Anforderungen an KI-Systeme und Verpflichtungen für alle Teilnehmer der Wertschöpfungskette fest und schafft so Rechtsklarheit, die Investitionen und Innovationen im Bereich der KI fördern soll. Darüber hinaus werden die Governance und die Durchsetzung bestehender Gesetze über Grundrechte und Sicherheitsanforderungen für KI-Systeme gestärkt, indem die zuständigen Behörden mit neuen Befugnissen, Ressourcen und klaren Regeln für die Konformitätsbewertung ausgestattet werden.
Diese Säule ist integraler Bestandteil der EU-Strategie für den digitalen Binnenmarkt und soll eine Fragmentierung des Binnenmarktes aufgrund potenziell widersprüchlicher nationaler Rahmenregelungen verhindern. Sie soll gleiche Wettbewerbsbedingungen gewährleisten, alle Menschen schützen und den Wettbewerbsvorteil und die industrielle Basis Europas im Bereich der KI stärken.
Zweite Säule: Die Wahrung einer vertrauenswürdigen KI
Die zweite Säule des EU-KI-Gesetzes führt einen verhältnismäßigen, risikobasierten Ansatz zur Regulierung der Entwicklung, Vermarktung und Nutzung von KI-Systemen in der Union ein.
Diese Säule zielt darauf ab, ein Gleichgewicht zwischen Innovation und Schutz herzustellen, indem die für KI-Systeme geltenden Vorschriften auf der Grundlage ihrer potenziellen Risiken harmonisiert werden. Sie verbietet bestimmte KI-Praktiken, die als schädlich angesehen werden und gegen die Werte der Union verstoßen, und schlägt spezifische Beschränkungen und Schutzmaßnahmen für den Einsatz biometrischer Fernidentifizierungssysteme in der Strafverfolgung vor. Der risikobasierte Ansatz dieser Säule soll sicherstellen, dass KI-Systeme mit hohem Risiko, die erhebliche Gefahren für die Gesundheit, die Sicherheit oder die Grundrechte des Einzelnen mit sich bringen, den verbindlichen Anforderungen an vertrauenswürdige KI entsprechen. Diese Systeme müssen gründliche Konformitätsbewertungsverfahren durchlaufen, bevor sie für das Inverkehrbringen auf dem EU-Markt zugelassen werden.
Durch die Verfolgung eines risikobasierten Ansatzes soll der EU-KI-Gesetzentwurf verantwortungsvolle Innovationen fördern und gleichzeitig den Schutz des Einzelnen und die Wahrung der Werte der Union in der sich entwickelnden KI-Landschaft gewährleisten.
Dritte Säule: Durchsetzung von KI-Vorschriften in der gesamten Union
Die dritte Säule des EU-KI-Gesetzes konzentriert sich auf Governance und Durchsetzung und zielt darauf ab, die Umsetzung und Durchsetzung bestehender Gesetze in Bezug auf Grundrechte und Sicherheitsanforderungen für KI-Systeme zu verbessern.
Im Rahmen dieser Säule wird ein Governance-System auf Ebene der Mitgliedstaaten eingeführt, das auf bestehenden Strukturen aufbaut und gleichzeitig durch die Einrichtung des Europäischen Ausschusses für künstliche Intelligenz einen Kooperationsmechanismus auf Unionsebene vorsieht. Das Governance-System sorgt für eine konsequente Durchsetzung des KI-Gesetzes auf nationaler Ebene, indem es das Fachwissen und die Ressourcen der Mitgliedstaaten nutzt. Gleichzeitig erleichtert der Europäische Ausschuss für künstliche Intelligenz die Zusammenarbeit, harmonisiert die Praktiken und gewährleistet eine einheitliche Durchsetzung der Vorschriften in der gesamten Union.
Durch die Einführung robuster Governance- und Durchsetzungsmechanismen soll der EU-KI-Rechtsakt die Rechenschaftspflicht stärken und sicherstellen, dass die in der Union eingesetzten KI-Systeme innerhalb der rechtlichen Grenzen arbeiten, die Rechte des Einzelnen schützen und das Vertrauen der Öffentlichkeit in KI-Technologien fördern.
Vierte Säule: Schaffung eines europäischen Binnenmarktes für KI
Die vierte Säule der EU-KI-Akte konzentriert sich darauf, die Entwicklung eines Binnenmarktes für rechtmäßige, sichere und vertrauenswürdige KI-Anwendungen zu erleichtern und gleichzeitig eine Fragmentierung des Marktes zu verhindern.
Diese Säule zielt darauf ab, ein Umfeld zu schaffen, das Innovationen, Investitionen und den Einsatz von KI-Technologien begünstigt. Es wird betont, wie wichtig es ist, gleiche Wettbewerbsbedingungen für KI-Systeme in der Union zu schaffen, einen fairen Wettbewerb zu gewährleisten und Hindernisse für den Marktzugang zu beseitigen. Der Rechtsakt fördert die Harmonisierung von Vorschriften und Normen für KI-Systeme, die eine nahtlose Interoperabilität ermöglichen und den freien Verkehr von KI-Anwendungen in den Mitgliedstaaten begünstigen. Darüber hinaus sollen die Herausforderungen, die sich durch KI-Systeme mit grenzüberschreitenden Auswirkungen ergeben, einschließlich solcher, die in öffentlichen Verwaltungen eingesetzt werden, durch die Förderung der Zusammenarbeit und des Informationsaustauschs zwischen den zuständigen Behörden angegangen werden.
Durch die Erleichterung der Entwicklung eines Binnenmarktes für KI zielt die vierte Säule der EU-KI-Akte darauf ab, das volle Potenzial der KI-Technologien zu erschließen und gleichzeitig die Interessen des Einzelnen zu schützen und die digitale Wettbewerbsfähigkeit Europas zu fördern.
UN schlägt Verhaltenskodex für digitale Integrität vor
In einer Zeit, in der digitale Plattformen für viele zur Hauptinformationsquelle geworden sind, ist die Integrität der über diese Plattformen verbreiteten Informationen zu einem wichtigen Anliegen geworden. In ihrem „Our Common Agenda Policy Brief 8: Information Integrity on Digital Platforms“, das im Juni 2023 veröffentlicht wurde, gehen die Vereinten Nationen direkt auf dieses Problem ein.
Das Dokument unterstreicht die dringende Notwendigkeit, die Informationen auf digitalen Plattformen zu verbessern. Es vertritt die Ansicht, dass die Abschwächung der Auswirkungen von Fehlinformationen, Desinformationen und Hassreden entscheidend dazu beiträgt, unsere Bemühungen, um eine nachhaltige Zukunft voranzutreiben und Inklusivität zu gewährleisten. Der Bericht plädiert für eine solide globale Zusammenarbeit als einzig wirksames Mittel zur Bewältigung dieser Herausforderungen und schlägt eine Reihe von Grundsätzen für einen Verhaltenskodex der Vereinten Nationen für die Integrität von Informationen auf digitalen Plattformen vor.
Die Schattenseiten der digitalen Plattformen
Der Bericht scheut jedoch nicht davor zurück, auch die Schattenseiten digitaler Plattformen zu beleuchten. Diese Plattformen verbinden zwar die Welt, sind aber auch zu Kanälen für die rasche Verbreitung von Unwahrheiten und Hass geworden, die auf globaler Ebene erheblichen Schaden anrichten. Sie warnt davor, dass die Verbreitung von Hassreden und Desinformationen über soziale Medien zu Gewalt und sogar zu Todesfällen führen kann. Die Möglichkeit, Desinformationen im großen Stil zu verbreiten, die wissenschaftlich gesicherte Fakten untergraben, stellt eine schwerwiegende existenzielle Bedrohung für die Menschheit dar, gefährdet demokratische Institutionen und verstößt gegen grundlegende Menschenrechte.
Die Rolle der KI bei der Informationsintegrität
Das Dokument weist auch auf die erhöhten Risiken hin, die mit dem raschen Fortschritt der Technologie, insbesondere der generativen künstlichen Intelligenz, verbunden sind. Es stellt fest, dass diese Risiken durch diese Fortschritte eskaliert sind. Die Vereinten Nationen, so heißt es in dem Dokument, beobachten aktiv, wie Fehlinformationen, Desinformationen und Hassreden den Fortschritt bei der Verwirklichung der Ziele für nachhaltige Entwicklung behindern können, und kommen zu dem Schluss, dass die Beibehaltung des Status quo keine praktikable Option ist.
Die Reaktion der Vereinten Nationen und zukünftige Pläne
Das Sekretariat der Vereinten Nationen plant umfassende Konsultationen zur Entwicklung des Verhaltenskodex der Vereinten Nationen, der auch Mechanismen für die Weiterverfolgung und Umsetzung umfasst. Dazu könnte die Einrichtung einer unabhängigen Beobachtungsstelle gehören, die sich aus anerkannten Experten zusammensetzt, um die Handlungen derjenigen zu bewerten, die sich an den Verhaltenskodex halten, sowie andere Berichtsmechanismen. Der Generalsekretär wird ein spezielles Team innerhalb des Sekretariats der Vereinten Nationen einrichten, um die Reaktion auf Fehlinformationen, Desinformationen und Hassreden im Internet zu verbessern, die die Umsetzung der Mandate und inhaltlichen Prioritäten der Vereinten Nationen beeinträchtigen.
Der Ausblick
Der von der Europäischen Union vorgeschlagene KI-Gesetzesvorschlag ist ein wichtiger Schritt zur Schaffung eines umfassenden Rechtsrahmens für künstliche Intelligenz. Der Rechtsakt, über den derzeit verhandelt wird, zielt darauf ab, die Sicherheit von KI-Systemen zu gewährleisten, die Grundrechte zu wahren und ein vertrauenswürdiges KI-Ökosystem zu fördern. Es verfolgt einen risikobasierten Ansatz und führt harmonisierte Vorschriften und spezifische Beschränkungen für KI-Systeme mit hohem Risiko ein. Das Gesetz soll außerdem für Rechtssicherheit sorgen, die Governance verbessern und eine Fragmentierung des Marktes verhindern, um so Investitionen und Innovationen im Bereich der KI zu erleichtern. Die weitere Entwicklung des Gesetzes wird zweifellos die Zukunft der KI in der Europäischen Union prägen und möglicherweise als Modell für andere Rechtssysteme weltweit dienen.
Der Umsetzungszeitplan
Der Zeitplan mit den wichtigsten Meilensteinen in der Entwicklung des von der Europäischen Union vorgeschlagenen KI-Gesetzes, von seinem ursprünglichen Vorschlag bis zu den jüngsten Aktualisierungen.
| 14. Juni 2023 | Die EU-Abgeordneten haben die Verhandlungsposition des Parlaments zum KI-Gesetz angenommen. |
|---|---|
| 11. Mai 2023 | Der Ausschuss für den Binnenmarkt und der Ausschuss für bürgerliche Freiheiten haben einen Verhandlungsauftrag für das KI-Gesetz angenommen. |
| 6. Dezember 2022 | Der Rat der EU hat seinen gemeinsamen Standpunkt („allgemeine Ausrichtung“) zum KI-Gesetz verabschiedet. |
| 28. September 2022 | Die Europäische Kommission hat eine gezielte Harmonisierung der nationalen Haftungsregeln für KI vorgeschlagen, um zivilrechtliche Schadensersatzansprüche zu erleichtern und das KI-Gesetz zu ergänzen. |
| 5. September 2022 | Der Rechtsausschuss (JURI) im Europäischen Parlament hat seine Stellungnahme zum KI-Gesetz als letzter Ausschuss im Parlament angenommen. |
| 17. Juni 2022 | Die tschechische Ratspräsidentschaft hat ein Diskussionspapier mit den wichtigsten Prioritäten des KI-Gesetzes für andere EU-Regierungen geteilt. |
| 15. Juni 2022 | Die französische Ratspräsidentschaft hat ihren endgültigen Kompromisstext vor dem Wechsel zur tschechischen Präsidentschaft verteilt. |
| 1. Juni 2022 | Deadline für die politischen Fraktionen im Europäischen Parlament, Änderungsanträge zum KI-Gesetz einzureichen. Insgesamt wurden Tausende von Änderungsanträgen eingereicht und kurz zusammengefasst. |
| 13. Mai 2022 | Die französische Ratspräsidentschaft hat den Text zum Artikel 4a veröffentlicht, der darauf abzielt, Allzweck-KI-Systeme zu regulieren, die in der Lage sind, eine Vielzahl von Aufgaben auszuführen, wie zum Beispiel das Verstehen von Bildern und Sprache, das Generieren von Audio und Videos, das Erkennen von Mustern, das Beantworten von Fragen und das Übersetzen von Texten. |
| 20. April 2022 | Brando Benifei und Dragoș Tudorache, Mitglieder des Europäischen Parlaments und federführend beim KI-Gesetz in den Ausschüssen IMCO und LIBE, haben ihren Entwurfsbericht veröffentlicht. |
| 2. März 2022 | Der Rechtsausschuss (JURI) im Europäischen Parlament hat seine Änderungsanträge zum KI-Gesetz veröffentlicht. Der Ausschuss für Industrie, Forschung und Energie (ITRE) im Europäischen Parlament hat einen Tag später seine Stellungnahme zum KI-Gesetz veröffentlicht. |
| 3. Februar 2022 | Die französische Ratspräsidentschaft hat einen Kompromisstext für die Artikel 16-29 des vorgeschlagenen KI-Gesetzes verbreitet, der die Pflichten der Benutzer und Anbieter von Hochrisikosystemen behandelt. Später hat die französische Ratspräsidentschaft einen weiteren Kompromisstext für die Artikel 40-52 verbreitet, die harmonisierte Standards, Konformitätsbewertungen und Transparenzpflichten für bestimmte KI-Systeme betreffen. |
| 2. Februar 2022 | Die Europäische Kommission hat eine neue Standardisierungsstrategie vorgestellt, in der ihr Ansatz für Standards im Binnenmarkt und global erläutert wird. Standards bilden das Fundament des EU-Binnenmarkts und der globalen Wettbewerbsfähigkeit. |
| 25. Januar 2022 | Die federführenden Ausschüsse des Europäischen Parlaments, der Ausschuss für den Binnenmarkt und der Ausschuss für bürgerliche Freiheiten, haben ihren ersten gemeinsamen Meinungsaustausch zum Vorschlag des KI-Gesetzes abgehalten. |
| 1. Dezember 2021 | Die Ausschüsse für den Binnenmarkt und für bürgerliche Freiheiten des Europäischen Parlaments werden gemeinsam die Verhandlungen zum KI-Gesetz führen, wobei Brando Benifei (S&D, Italien) als Hauptverhandlungsführer zusammen mit Dragoş Tudorache (Renew, Rumänien) aus dem Ausschuss für bürgerliche Freiheiten fungieren wird. |
| 29. November 2021 | Die rotierende Ratspräsidentschaft des EU-Rates hat einen ersten Kompromisstext zum Entwurf des KI-Gesetzes mit wesentlichen Änderungen in den Bereichen soziale Bewertung, biometrische Erkennungssysteme und Hochrisikoanwendungen geteilt. |
| 6. August 2021 | Eine Studie zur Analyse des Einsatzes biometrischer Techniken aus ethischer und rechtlicher Sicht, beauftragt vom Politischen Ausschuss des Europäischen Parlaments für Bürgerrechte und Konstitutionelle Angelegenheiten, wurde veröffentlicht. |
| 6. August 2021 | Die öffentliche Konsultationsphase zum KI-Gesetz durch die Europäische Kommission endete. Die Kommission erhielt 304 Beiträge, die hier eingesehen werden können. |
| 20. Juli 2021 | Die slowenische Ratspräsidentschaft des Rates der Europäischen Union organisierte eine virtuelle Konferenz über die Regulierung künstlicher Intelligenz, Ethik und Grundrechte. |
| 21. April 2021 | Die Kommission hat einen Vorschlag zur Regulierung künstlicher Intelligenz in der Europäischen Union veröffentlicht. |
