Gesetz über künstliche Intelligenz

aus Wikipedia, der freien Enzyklopädie
Zur Navigation springen Zur Suche springen
Flagge der Europäischen Union

Vorschlag für eine Verordnung

Titel: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung bestimmter Rechtsakte der Union
Kurztitel: Vorschlag für ein Gesetz über künstliche Intelligenz
Bezeichnung:
(nicht amtlich) 		KI-Verordnung, AI Act
Rechtsmaterie: Medienrecht
Grundlage: AEUV, insbesondere Artikel 16 und 114
Verfahrensübersicht: Europäische Kommission
Europäisches Parlament
IPEX Wiki
Volltext Grundfassung
Regelung ist ein aktueller Vorschlag im Rechtsetzungsprozess.
Hinweis zur geltenden Fassung von Rechtsakten der Europäischen Union

Das Gesetz über künstliche Intelligenz (informell meist KI-Verordnung, englisch AI Act) ist ein Gesetzeswerk im Entwurfsstadium der Europäischen Union für eine EU-Verordnung über die Regulierung von künstlicher Intelligenz.[1] Es wäre weltweit eine der ersten umfassenden Regulationen von KI.[2][3]

Inhalt[Bearbeiten | Quelltext bearbeiten]

Die KI-Verordnung sieht einen Ansatz vor, der weitgehend risikobasiert ist. KI-Technologien werden demnach in vier verschiedene Risikokategorien eingegliedert, die von „KI-Systemen mit inakzeptablem Risiko“ über „KI-Systemen mit hohem Risiko“ und „KI-Systemen mit Transparenzanforderungen“ bis zu „KI-Systemen mit keinem/niedrigem Risiko“ reichen. Daran werden verschiedene Verbote bzw. Compliance- und Informationspflichten gekoppelt. Technologien mit einem inakzeptablen Risiko wie Social Scoring oder Teile von biometrischer Videoüberwachung und subtiler Verhaltensbeeinflussung sollen komplett verboten werden.[4]

Darüber hinaus soll es Regeln geben speziell für leistungsfähige Sprachmodelle, vor allem für multimodale Modelle (im AI Act auch „General Purpose AI“, GPAI genannt) und solche, die besonders hohe Rechenleistungen haben.[5] Diese Sonderregelung, die von der Risikokategorisierung abweicht, ist eine Reaktion auf das schnelle Aufkommen von GenAI in 2023.[6]

Außerdem ist die Schaffung eines Europäischen Ausschusses für künstliche Intelligenz vorgesehen, zur Durchsetzung sollen auf nationaler Ebene Behörden mit der Möglichkeit von Bußgeldern geschaffen werden.[7] Der AI Act selbst droht sehr hohe Bußgelder an, wenn Unternehmen gegen ihn verstoßen. Der Entwurf sieht hier Strafen bis zu 7 Prozent des weltweiten Vorjahresumsatzes oder 35 Millionen Euro vor – dies ist deutlich mehr, als bei DSGVO-Verstößen drohen.[8]

Das Gesetz stuft u. a. folgende Anwendungsbereiche in die hohe Risikokategorie und damit als erlaubt ein:[9]

  • Bewertung von Schülern
  • Zugangsprüfungen zur Universität
  • Bewerberauswahl, Beförderungen und Kündigungen im Arbeitsleben
  • Anspruch auf Sozialhilfe
  • Prognose von Rückfälligkeit bei Straftaten
  • Einschätzung von Sicherheitsrisikos oder eines ausgehenden Gesundheitsrisikos von Einzelnen bei Migration, Asyl sowie Grenzkontrolle

Verfahren[Bearbeiten | Quelltext bearbeiten]

Kommissionspräsidentin von der Leyen hatte eine Regulierung von KI bereits 2019 in ihrer Bewerbungsagenda angekündigt.[10]

Dem Vorschlag vorangegangen waren 2018 das Strategiepapier Künstliche Intelligenz für Europa[11] und der Koordinierte Plan für künstliche Intelligenz,[12] 2019 der Bericht einer Expertenkommission[13] und 2020 das Weißbuch zur Künstlichen Intelligenz[14] der EU-Kommission.

Gesetzgebungsverfahren[Bearbeiten | Quelltext bearbeiten]

Die EU-Kommission veröffentlichte ihren Entwurf am 21. April 2021, aufgrund vieler Änderungsanträge fand die erste Plenarsitzung des EU-Parlaments dazu erst im Oktober 2022 statt. Bis Ende 2022 brachten die Parlamentsausschüsse und Mitgliedstaaten ihre Stellungnahmen und Änderungsvorschläge ein, der Rat der EU veröffentlichte seinen in einigen Punkten abgeschwächten Entwurf am 6. Dezember 2022[15], die beiden federführenden Ausschüsse des EU-Parlaments verabschiedeten ihre Position am 11. Mai[16], der finale Vorschlag des Parlaments wurde am 14. Juni verabschiedet[17][18]. Das Verfahren befindet sich damit aktuell in den Trilog-Verhandlungen zwischen den EU-Gesetzgebungsorganen[19][20] Mit einer Einigung wurde Ende 2023 oder 2024 gerechnet[21][22][23], die spanische Ratspräsidentschaft wollte die Verhandlungen noch 2023 abschließen[24]. Die Verordnung würde dann (mit einer kleinen Ausnahme für die Notifizierung) zwei Jahre später Anwendung finden.[4][25]

Die neuen Diskussionen rund um den KI-Chatbot ChatGPT haben den ursprünglichen Zeitplan verzögert.[26][16] Das EU-Parlament will solche sogenannte Allzweck-KI stärker in die Regulierung aufnehmen.[20]

Im Dezember 2023 einigten sich die EU-Gesetzgebungsinstitutionen auf die Grundzüge des Gesetzes.[27][28] Im Januar wurde der Text des finalen Entwurfs bekannt.[29] Im Februar 2024 stimmten alle Mitgliedsländer der EU zu, und der zuständige Parlamentsausschuss in Brüssel gab ebenfalls grünes Licht, im März folgte die Zustimmung des Parlaments insgesamt.[30][31] Sobald der EU-Ministerrat abschließend über das Gesetz beraten hat, könnte es noch vor der Europawahl 2024 in Kraft treten.[32] Nach China wäre die EU dann die zweite wichtige Instanz in der Welt, die eine umfassende KI-Regulierung hätte.

Allgemeines[Bearbeiten | Quelltext bearbeiten]

Die federführenden Ausschüsse des EU-Parlaments sind der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE), Berichterstatter sind Brando Benifei (S&D) und Dragoş Tudorache (ALDE).[33]

Am 28. September 2022 hat die Kommission in dem Zusammenhang auch den Entwurf einer Richtlinie über Produkthaftung[34] und einer Richtlinie über KI-Haftung veröffentlicht.[35] Haftungsfragen waren zuvor aus der Verordnung herausgenommen worden.[36] In dem Kontext steht auch die Überarbeitung der Maschinenrichtlinie zur EU-Maschinenverordnung, die am 14. Juni 2023 in Kraft getreten ist.[37]

Diskussion[Bearbeiten | Quelltext bearbeiten]

Die weitgehenden Definitionen, Verbote und komplizierten Compliance-Vorschriften im ursprünglichen Vorschlag lösten Kritik der Industrieverbände (u. a. Bitkom und KI-Verband) aus. Der Kompromissentwurf des Rates wurde dahingehend in einigen Punkten abgeschwächt. Außerdem wird eine große Rechtsunsicherheit[38], der hohe bürokratische Aufwand und Doppelregulierung, z. B. im Medizinbereich kritisiert.[39][40] Auch sei die geforderte fehlerfreie Auswahl von Trainingsdaten nahezu unmöglich.[25]

Auch die Bundesregierung warnt vor Überregulierung.[41] Nach einer Studie würde die Verordnung zu einem hohen Aufwand bei einem großen Teil der KI-Anwendungen führen.[42]

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch) und z. B. der DGB[43] den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[44] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[45][46] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[47] Gemäß der Version vom 11. Mai soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[48]

Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.

Weblinks[Bearbeiten | Quelltext bearbeiten]

Deutsch

Einzelnachweise[Bearbeiten | Quelltext bearbeiten]

  1. ↑ Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM/2021/206 final), abgerufen am 31. Januar 2023
  2. ↑ Daniel Leisegang: Offener Brief zu KI: Opfer des Hypes. In: Netzpolitik.org. 31. März 2023, abgerufen am 14. April 2023.
  3. ↑ Matthias Sander: China verabschiedet weltweit erste Regeln für Chat-GPT und Co. In: Neue Zürcher Zeitung. 14. Juli 2023, ISSN 0376-6829 (nzz.ch [abgerufen am 21. Februar 2024]).
  4. ↑ a b Falk Steiner: KI unter Kontrolle. In: c't. Heise, 17. Dezember 2022, abgerufen am 31. Januar 2023.
  5. ↑ Fünf Erkenntnisse zu general purpose AI aus dem geleakten AI Act. 26. Januar 2024, abgerufen am 29. Februar 2024.
  6. ↑ Timm Rotter: Das KI-Gesetz kommt: Das bedeutet der AI Act für Unternehmen. In: disruptive-muenchen.de. 20. Februar 2024, abgerufen am 29. Februar 2024 (deutsch).
  7. ↑ David Roth-Isigkeit: Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie? In: Zeitschrift für Rechtspolitik. Nr. 6, 2022, S. 187 (beck.de).
  8. ↑ EU AI Act – ein Fahrplan. Abgerufen am 29. Februar 2024 (deutsch).
  9. ↑ Johannes Caspar: Wir Datensklaven. Wege aus der digitalen Ausbeutung. Berlin 2023, S. 215 f.
  10. ↑ Ursula von der Leyen: Eine Union, die mehr erreichen will. Amt für Veröffentlichungen der Europäischen Union, 2019, ISBN 978-92-76-09905-5, S. 16, doi:10.2775/23027.
  11. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Künstliche Intelligenz für Europa (COM/2018/237 final) , abgerufen am 31. Januar 2023
  12. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Koordinierter Plan für künstliche Intelligenz (COM/2018/795 final) , abgerufen am 31. Januar 2023
  13. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz (COM/2019/168 final), abgerufen am 5. Februar 2023
  14. ↑ Weissbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM/2020/65 final) , abgerufen am 31. Januar 2023
  15. ↑ Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern. Rat der Europäischen Union, 6. Dezember 2022, abgerufen am 4. Februar 2023.
  16. ↑ a b Überblick über die KI-Verordnung der EU (AI Act). Taylor Wessing, abgerufen am 31. Januar 2023.
  17. ↑ Parlament bereit für Verhandlungen über Regeln für sichere und transparente KI. Europäisches Parlament, 14. Juni 2023, abgerufen am 26. Juli 2023.
  18. ↑ Stefan Krempl: Biometrische Massenüberwachung: EU-Abgeordnete wollen KI demokratisieren. In: Heise Online. 11. Mai 2023, abgerufen am 26. Mai 2023.
  19. ↑ Proposal for a Regulation on a European approach for Artificial Intelligence. In: Legislative Train Schedule. European Parliament, 20. Mai 2023, abgerufen am 7. Juni 2023 (englisch).
  20. ↑ a b Carsten Volkery: Strenge Auflagen für KI. In: Handelsblatt. 18. April 2023, S. 12 (handelsblatt.com).
  21. ↑ Kirsten Girschick: Verschläft Deutschland die KI-Entwicklung? In: Tagesschau. 31. Januar 2022, abgerufen am 11. Februar 2022: „Im Sommer soll die KI-Verordnung […] fertig sein“
  22. ↑ Gillmann, Neuerer, Stiens: „Man kann Technologie nicht mit Verboten aufhalten“: Diskussion um ChatGPT-Regulierung in Deutschland. In: Handelsblatt. 3. April 2023, abgerufen am 14. April 2023: „im besten Fall noch dieses Jahr verabschiedet“
  23. ↑ Barbara Gillmann: Regeln statt Verbote. In: Handelsblatt. 13. April 2023, S. 16: "im günstigsten Fall schon 2023 verabschiedet - vermutlich aber noch später"
  24. ↑ Aktuelles zur KI-VO: Logbuch zur geplanten Verordnung. Schürmann Rosenthal Sreyer, 2023, abgerufen am 26. Juli 2023: „wahrscheinlicher erscheint jedoch ein Inkrafttreten ab 2024“
  25. ↑ a b Philipp Müller-Peltzer, Sebastian Schneider: Die geplante KI-Verordnung der EU. In: REthinking: Law. Band 2022, Nr. 6, Juni 2022 (owlit.de).
  26. ↑ Friedhelm Greis veröffentlicht am: Hype um Chatbots bringt EU in die Bredouille. In: Golem. 8. April 2023, abgerufen am 14. April 2023.
  27. ↑ Wie Europa Chat-GPT & Co. Zügel anlegt, SZ, 9. Dezember 2023
  28. ↑ Weltweit restriktivste Regulierung von Künstlicher Intelligenz, von Holger Schmidt, FAZ, 9. Dezember 2023
  29. ↑ Luca Bertuzzi. In: X. 22. Januar 2024, abgerufen am 1. Februar 2024 (englisch).
  30. ↑ Eric Voigt, Mathis Gann, Reuters, AFP: AI Act: EU-Länder stimmen Regulierung von künstlicher Intelligenz zu. In: Die Zeit. 2. Februar 2024, ISSN 0044-2070 (zeit.de [abgerufen am 21. Februar 2024]).
  31. ↑ Künstliche Intelligenz: EU-Parlament stimmt für umfassendes KI-Gesetz. In: Der Spiegel. 13. März 2024, ISSN 2195-1349 (spiegel.de [abgerufen am 14. März 2024]).
  32. ↑ Golem.de: IT-News für Profis. Abgerufen am 21. Februar 2024.
  33. ↑ Procedure File: 2021/0106(COD). In: Legislative Observatory. Europäisches Parlament, abgerufen am 26. Juli 2023 (englisch).
  34. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES über die Haftung für fehlerhafte Produkte (COM(2022) 495 final), abgerufen am 11. Februar 2023
  35. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung) (COM/2022/496 final), abgerufen am 3. Februar 2023
  36. ↑ Falk Steiner: Im Regulierungsrausch. In: c't. Heise, Dezember 2022, abgerufen am 2. Februar 2023.
  37. ↑ Jens Ferner: Verordnung über sichere Maschinenprodukte. Ferner Alsdorf, 15. Oktober 2022, abgerufen am 26. Mai 2023.
  38. ↑ Sachverständige bewerten EU-Verordnung zur KI unterschiedlich. In: Deutscher Bundestag. 26. September 2022, abgerufen am 7. Juni 2023.
  39. ↑ Christof Kerkmann: Künstliche Intelligenz: Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act. In: Handelsblatt. 6. Dezember 2022, abgerufen am 4. Februar 2023.
  40. ↑ Britta Rybicki: Stillstand für neue Gesundheitstechnologien. In: Handelsblatt Inside. 26. Januar 2023, abgerufen im Februar 2023.
  41. ↑ Mareike Kürschner: Justizministerium sieht Gesetzgebung bei Künstlicher Intelligenz in EU-Hand. In: Mittelbayerische. 8. Februar 2023, abgerufen am 11. Februar 2023.
  42. ↑ Studie: EU-Regeln bremsen Anwendung von künstlicher Intelligenz aus. In: Redaktionsnetzwerk Deutschland. 7. März 2023, abgerufen am 14. April 2023.
  43. ↑ DGB-Positionspapier zur KI-Verordnung der EU-KOM. DGB, 26. Juni 2021, abgerufen am 11. Februar 2022.
  44. ↑ Marco Wedig: »Es gibt Schlupflöcher in diesem Gesetzentwurf«. In: Der Spiegel. 26. Oktober 2022, abgerufen am 4. Februar 2022.
  45. ↑ Benedikt Kohn: Der „Artificial Intelligence Act“. Taylor Wessing, 20. April 2021, abgerufen am 31. Januar 2023.
  46. ↑ Markus Reuter: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz. In: Netzpolitik.org. 7. Dezember 2022, abgerufen am 31. Januar 2023.
  47. ↑ Alexander Fanta, Chris Köver, Serafin Dinges: NPP 239 zum AI Act des EU-Parlaments. In: Netzpolitik.org. 23. Oktober 2021, abgerufen im Februar 2022.
  48. ↑ Daniel Leisegang, Chris Köver, Sebastian Meineck: Die sechs größten Probleme im AI Act. In: netzpolitik.org. 10. Mai 2023, abgerufen am 10. Mai 2023.
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Gesetz_über_künstliche_Intelligenz&oldid=244159247“