Gesetz über künstliche Intelligenz

aus Wikipedia, der freien Enzyklopädie
Zur Navigation springen Zur Suche springen
Flagge der Europäischen Union

Vorschlag für eine Verordnung

Titel: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung bestimmter Rechtsakte der Union
Kurztitel: Vorschlag für ein Gesetz über künstliche Intelligenz
Bezeichnung:
(nicht amtlich) 		KI-Verordnung, AI Act
Rechtsmaterie: Medienrecht
Grundlage: AEUV, insbesondere Artikel 16 und 114
Verfahrensübersicht: Europäische Kommission
Europäisches Parlament
IPEX Wiki
Volltext Grundfassung
Regelung ist ein aktueller Vorschlag im Rechtsetzungsprozess.
Hinweis zur geltenden Fassung von Rechtsakten der Europäischen Union

Das Gesetz über künstliche Intelligenz (informell meist KI-Verordnung, englisch AI Act) ist ein Gesetzeswerk der Europäischen Union zur Regulierung von künstlicher Intelligenz.[1] Die EU-Verordnung ist weltweit die erste derart umfassende Regulation von KI. Sie wurde zwischen 2019 und 2024 ausgearbeitet und am 21. Mai 2024 von den 27 EU-Mitgliedstaaten endgültig verabschiedet.[2]

Inhalt[Bearbeiten | Quelltext bearbeiten]

Die KI-Verordnung folgt einem weitgehend risikobasierten Ansatz. KI-Technologien, darunter auch Generative KI, werden demnach in vier verschiedene Risikokategorien eingegliedert, die von „KI-Systemen mit inakzeptablem Risiko“ über „KI-Systemen mit hohem Risiko“ und „KI-Systemen mit Transparenzanforderungen“ bis zu „KI-Systemen mit keinem/niedrigem Risiko“ reichen. Daran werden verschiedene Verbote bzw. Compliance- und Informationspflichten gekoppelt. Technologien mit einem inakzeptablen Risiko wie Social Scoring oder Teile von biometrischer Videoüberwachung und subtiler Verhaltensbeeinflussung sollen komplett verboten werden.[3]

Darüber hinaus sieht der AI Act Regeln speziell für leistungsfähige Sprachmodelle vor, vor allem für multimodale Modelle (im AI Act auch „General Purpose AI“, GPAI genannt) und solche, die besonders hohe Rechenleistungen haben.[4] Diese Sonderregelung, die von der Risikokategorisierung abweicht, ist eine Reaktion auf das schnelle Aufkommen von GenAI im Jahr 2023.[5]

Außerdem ist die Schaffung eines Europäischen Ausschusses für künstliche Intelligenz vorgesehen, zur Durchsetzung sollen auf nationaler Ebene Behörden mit der Möglichkeit von Bußgeldern geschaffen werden.[6] Der AI Act selbst droht sehr hohe Bußgelder an, wenn Unternehmen gegen ihn verstoßen. Der Entwurf sieht hier Strafen bis zu 7 Prozent des weltweiten Vorjahresumsatzes oder 35 Millionen Euro vor – dies ist deutlich mehr, als bei DSGVO-Verstößen drohen.[7]

Das Gesetz stuft u. a. folgende Anwendungsbereiche in die hohe Risikokategorie und damit als erlaubt ein:[8]

  • Bewertung von Schülern
  • Zugangsprüfungen zur Universität
  • Bewerberauswahl, Beförderungen und Kündigungen im Arbeitsleben
  • Anspruch auf Sozialhilfe
  • Prognose von Rückfälligkeit bei Straftaten
  • Einschätzung von Sicherheitsrisikos oder eines ausgehenden Gesundheitsrisikos von Einzelnen bei Migration, Asyl sowie Grenzkontrolle

Die Vorgabe des AI Acts gelten nicht ab sofort nach dem Inkrafttreten. Vielmehr sind Übergangsfristen zwischen 6 und 36 Monaten vorgesehen.[9] Bis dahin setzt die Europäische Kommission auf freiwillige Selbstbeschränkungen der Wirtschaft.[10]

Verfahren[Bearbeiten | Quelltext bearbeiten]

Kommissionspräsidentin von der Leyen hatte eine Regulierung von KI bereits 2019 in ihrer Bewerbungsagenda angekündigt.[11]

Dem Vorschlag vorangegangen waren 2018 das Strategiepapier Künstliche Intelligenz für Europa[12] und der Koordinierte Plan für künstliche Intelligenz,[13] 2019 der Bericht einer Expertenkommission[14] und 2020 das Weißbuch zur Künstlichen Intelligenz[15] der EU-Kommission.

Gesetzgebungsverfahren[Bearbeiten | Quelltext bearbeiten]

Die EU-Kommission veröffentlichte ihren Entwurf am 21. April 2021, aufgrund vieler Änderungsanträge fand die erste Plenarsitzung des EU-Parlaments dazu erst im Oktober 2022 statt. Bis Ende 2022 brachten die Parlamentsausschüsse und Mitgliedstaaten ihre Stellungnahmen und Änderungsvorschläge ein, der Rat der EU veröffentlichte seinen in einigen Punkten abgeschwächten Entwurf am 6. Dezember 2022[16], die beiden federführenden Ausschüsse des EU-Parlaments verabschiedeten ihre Position am 11. Mai 2023[17], der finale Vorschlag des Parlaments wurde am 14. Juni 2023 verabschiedet[18][19]. Das Verfahren befand sich damit in den Trilog-Verhandlungen zwischen den EU-Gesetzgebungsorganen,[20][21] mit einer Einigung wurde zunächst für Ende 2023 oder 2024 gerechnet.[22][23]

Die neuen Diskussionen rund um den KI-Chatbot ChatGPT hatten den ursprünglichen Zeitplan verzögert.[24][17] Das EU-Parlament wollte solche sogenannte Allzweck-KI stärker in die Regulierung aufnehmen.[21]

Im Dezember 2023 einigten sich die EU-Gesetzgebungsinstitutionen auf die Grundzüge des Gesetzes.[25][26] Im Januar 2024 wurde der Text des finalen Entwurfs bekannt.[27] Im Februar 2024 stimmten alle Mitgliedsländer der EU zu, und der zuständige Parlamentsausschuss in Brüssel gab ebenfalls grünes Licht, im März folgte die Zustimmung des Parlaments insgesamt.[28][29] Die 27 Mitgliedsländer stimmten dem Gesetzwerk am 21. Mai 2024 zu, sodass es, nach Veröffentlichung im Amtsblatt der EU und einer weiteren 20-Tage-Frist, in Kraft treten kann.[30] Die Verordnung soll dann (mit einer kleinen Ausnahme für die Notifizierung) zwei Jahre später Anwendung finden.[3][31] Nach China wäre die EU damit die zweite wichtige Instanz in der Welt, die eine umfassende KI-Regulierung hat.

Allgemeines[Bearbeiten | Quelltext bearbeiten]

Die federführenden Ausschüsse des EU-Parlaments sind der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE), Berichterstatter sind Brando Benifei (S&D) und Dragoş Tudorache (ALDE).[32]

Am 28. September 2022 veröffentlichte die Kommission in dem Zusammenhang auch den Entwurf einer Richtlinie über Produkthaftung[33] und einer Richtlinie über KI-Haftung.[34] Haftungsfragen waren zuvor aus der Verordnung herausgenommen worden.[35] In dem Kontext steht auch die Überarbeitung der Maschinenrichtlinie zur EU-Maschinenverordnung, die am 14. Juni 2023 in Kraft getreten ist.[36]

Diskussion in Deutschland[Bearbeiten | Quelltext bearbeiten]

Die weitgehenden Definitionen, Verbote und komplizierten Compliance-Vorschriften im ursprünglichen Vorschlag lösten Kritik der Industrieverbände (u. a. Bitkom und KI-Verband) aus. Der Kompromissentwurf des Rates wurde dahingehend in einigen Punkten abgeschwächt. Außerdem wird eine große Rechtsunsicherheit[37], der hohe bürokratische Aufwand und Doppelregulierung, z. B. im Medizinbereich kritisiert.[38][39] Auch sei die geforderte fehlerfreie Auswahl von Trainingsdaten nahezu unmöglich.[31]

Auch die Bundesregierung warnt vor Überregulierung.[40] Nach einer Studie würde die Verordnung zu einem hohen Aufwand bei einem großen Teil der KI-Anwendungen führen.[41]

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch) und z. B. der DGB[42] den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[43] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[44][45] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[46] Gemäß der Version vom 11. Mai soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[47]

Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.

Weblinks[Bearbeiten | Quelltext bearbeiten]

Deutsch

Einzelnachweise[Bearbeiten | Quelltext bearbeiten]

  1. ↑ Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM/2021/206 final), abgerufen am 31. Januar 2023
  2. ↑ BMDV – Erstes KI-Gesetz der Welt verabschiedet. Abgerufen am 21. Mai 2024.
  3. ↑ a b Falk Steiner: KI unter Kontrolle. In: c't. Heise, 17. Dezember 2022, abgerufen am 31. Januar 2023.
  4. ↑ Fünf Erkenntnisse zu general purpose AI aus dem geleakten AI Act. 26. Januar 2024, abgerufen am 29. Februar 2024.
  5. ↑ Timm Rotter: Das KI-Gesetz kommt: Das bedeutet der AI Act für Unternehmen. In: disruptive-muenchen.de. 20. Februar 2024, abgerufen am 29. Februar 2024 (deutsch).
  6. ↑ David Roth-Isigkeit: Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie? In: Zeitschrift für Rechtspolitik. Nr. 6, 2022, S. 187 (beck.de).
  7. ↑ EU AI Act – ein Fahrplan. Abgerufen am 29. Februar 2024 (deutsch).
  8. ↑ Johannes Caspar: Wir Datensklaven. Wege aus der digitalen Ausbeutung. Berlin 2023, S. 215 f.
  9. ↑ Timm Rotter: Das KI-Gesetz kommt: Das bedeutet der AI Act für Unternehmen. 21. Mai 2024, abgerufen am 21. Mai 2024 (deutsch).
  10. ↑ Tagesschau: KI-Gesetz ist endgültig beschlossen. In: tagesschau.de. Norddeutscher Rundfunk, 21. Mai 2024, abgerufen am 21. Mai 2024.
  11. ↑ Ursula von der Leyen: Eine Union, die mehr erreichen will. Amt für Veröffentlichungen der Europäischen Union, 2019, ISBN 978-92-76-09905-5, S. 16, doi:10.2775/23027.
  12. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Künstliche Intelligenz für Europa (COM/2018/237 final) , abgerufen am 31. Januar 2023
  13. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Koordinierter Plan für künstliche Intelligenz (COM/2018/795 final) , abgerufen am 31. Januar 2023
  14. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz (COM/2019/168 final), abgerufen am 5. Februar 2023
  15. ↑ Weissbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM/2020/65 final) , abgerufen am 31. Januar 2023
  16. ↑ Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern. Rat der Europäischen Union, 6. Dezember 2022, abgerufen am 4. Februar 2023.
  17. ↑ a b Überblick über die KI-Verordnung der EU (AI Act). Taylor Wessing, abgerufen am 31. Januar 2023.
  18. ↑ Parlament bereit für Verhandlungen über Regeln für sichere und transparente KI. Europäisches Parlament, 14. Juni 2023, abgerufen am 26. Juli 2023.
  19. ↑ Stefan Krempl: Biometrische Massenüberwachung: EU-Abgeordnete wollen KI demokratisieren. In: Heise Online. 11. Mai 2023, abgerufen am 26. Mai 2023.
  20. ↑ Proposal for a Regulation on a European approach for Artificial Intelligence. In: Legislative Train Schedule. European Parliament, 20. Mai 2023, abgerufen am 7. Juni 2023 (englisch).
  21. ↑ a b Carsten Volkery: Strenge Auflagen für KI. In: Handelsblatt. 18. April 2023, S. 12 (handelsblatt.com).
  22. ↑ Kirsten Girschick: Verschläft Deutschland die KI-Entwicklung? In: Tagesschau. 31. Januar 2022, abgerufen am 11. Februar 2022: „Im Sommer soll die KI-Verordnung […] fertig sein“
  23. ↑ Gillmann, Neuerer, Stiens: „Man kann Technologie nicht mit Verboten aufhalten“: Diskussion um ChatGPT-Regulierung in Deutschland. In: Handelsblatt. 3. April 2023, abgerufen am 14. April 2023: „im besten Fall noch dieses Jahr verabschiedet“
  24. ↑ Friedhelm Greis veröffentlicht am: Hype um Chatbots bringt EU in die Bredouille. In: Golem. 8. April 2023, abgerufen am 14. April 2023.
  25. ↑ Wie Europa Chat-GPT & Co. Zügel anlegt, SZ, 9. Dezember 2023
  26. ↑ Weltweit restriktivste Regulierung von Künstlicher Intelligenz, von Holger Schmidt, FAZ, 9. Dezember 2023
  27. ↑ Luca Bertuzzi. In: X. 22. Januar 2024, abgerufen am 1. Februar 2024 (englisch).
  28. ↑ Eric Voigt, Mathis Gann, Reuters, AFP: AI Act: EU-Länder stimmen Regulierung von künstlicher Intelligenz zu. In: Die Zeit. 2. Februar 2024, ISSN 0044-2070 (zeit.de [abgerufen am 21. Februar 2024]).
  29. ↑ Künstliche Intelligenz: EU-Parlament stimmt für umfassendes KI-Gesetz. In: Der Spiegel. 13. März 2024, ISSN 2195-1349 (spiegel.de [abgerufen am 14. März 2024]).
  30. ↑ Einigung der EU-Staaten: KI-Gesetz ist endgültig beschlossen. Abgerufen am 21. Mai 2024.
  31. ↑ a b Philipp Müller-Peltzer, Sebastian Schneider: Die geplante KI-Verordnung der EU. In: REthinking: Law. Band 2022, Nr. 6, Juni 2022 (owlit.de).
  32. ↑ Procedure File: 2021/0106(COD). In: Legislative Observatory. Europäisches Parlament, abgerufen am 26. Juli 2023 (englisch).
  33. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES über die Haftung für fehlerhafte Produkte (COM(2022) 495 final), abgerufen am 11. Februar 2023
  34. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung) (COM/2022/496 final), abgerufen am 3. Februar 2023
  35. ↑ Falk Steiner: Im Regulierungsrausch. In: c't. Heise, Dezember 2022, abgerufen am 2. Februar 2023.
  36. ↑ Jens Ferner: Verordnung über sichere Maschinenprodukte. Ferner Alsdorf, 15. Oktober 2022, abgerufen am 26. Mai 2023.
  37. ↑ Sachverständige bewerten EU-Verordnung zur KI unterschiedlich. In: Deutscher Bundestag. 26. September 2022, abgerufen am 7. Juni 2023.
  38. ↑ Christof Kerkmann: Künstliche Intelligenz: Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act. In: Handelsblatt. 6. Dezember 2022, abgerufen am 4. Februar 2023.
  39. ↑ Britta Rybicki: Stillstand für neue Gesundheitstechnologien. In: Handelsblatt Inside. 26. Januar 2023, abgerufen im Februar 2023.
  40. ↑ Mareike Kürschner: Justizministerium sieht Gesetzgebung bei Künstlicher Intelligenz in EU-Hand. In: Mittelbayerische. 8. Februar 2023, abgerufen am 11. Februar 2023.
  41. ↑ Studie: EU-Regeln bremsen Anwendung von künstlicher Intelligenz aus. In: Redaktionsnetzwerk Deutschland. 7. März 2023, abgerufen am 14. April 2023.
  42. ↑ DGB-Positionspapier zur KI-Verordnung der EU-KOM. DGB, 26. Juni 2021, abgerufen am 11. Februar 2022.
  43. ↑ Marco Wedig: »Es gibt Schlupflöcher in diesem Gesetzentwurf«. In: Der Spiegel. 26. Oktober 2022, abgerufen am 4. Februar 2022.
  44. ↑ Benedikt Kohn: Der „Artificial Intelligence Act“. Taylor Wessing, 20. April 2021, abgerufen am 31. Januar 2023.
  45. ↑ Markus Reuter: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz. In: Netzpolitik.org. 7. Dezember 2022, abgerufen am 31. Januar 2023.
  46. ↑ Alexander Fanta, Chris Köver, Serafin Dinges: NPP 239 zum AI Act des EU-Parlaments. In: Netzpolitik.org. 23. Oktober 2021, abgerufen im Februar 2022.
  47. ↑ Daniel Leisegang, Chris Köver, Sebastian Meineck: Die sechs größten Probleme im AI Act. In: netzpolitik.org. 10. Mai 2023, abgerufen am 10. Mai 2023.
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Gesetz_über_künstliche_Intelligenz&oldid=245226448“