Zum Inhalt springen

Verordnung über künstliche Intelligenz

aus Wikipedia, der freien Enzyklopädie
Flagge der Europäischen Union

Verordnung (EU) 2024/1689

Text von Bedeutung für den EWR
Titel: Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828
Kurztitel: Verordnung über künstliche Intelligenz
Bezeichnung:
(nicht amtlich) 		KI-Verordnung, AI Act
Geltungsbereich: EWR
Rechtsmaterie: Medienrecht
Grundlage: AEUV, insbesondere Artikel 16 und 114
Verfahrensübersicht: Europäische Kommission
Europäisches Parlament
IPEX Wiki
Datum des Rechtsakts: 13. Juni 2024
Veröffentlichungsdatum: 12. Juli 2024
Inkrafttreten: 1. August 2024
Anzuwenden ab: größtenteils 2. August 2026, sonst 2. Februar 2025, 2. August 2025 und 2. August 2027
Fundstelle: ABl. L, 2024/1689, 12. Juli 2024
Volltext Konsolidierte Fassung (nicht amtlich)
Grundfassung
Regelung größtenteils in Kraft getreten
Hinweis zur geltenden Fassung von Rechtsakten der Europäischen Union
Verordnung über künstliche Intelligenz (2023)

Die Verordnung über künstliche Intelligenz (informell KI-Verordnung, KI-VO, englisch AI Act oder EU AI Act) ist ein Rechtsakt der Europäischen Union zur Regulierung von künstlicher Intelligenz. Die EU-Verordnung ist weltweit die erste derartige Festlegung harmonisierter Vorschriften zur umfassenden Regulation von KI.[1][2]

Sie wurde ab 2019 ausgearbeitet, am 21. Mai 2024 von den 27 EU-Mitgliedsstaaten endgültig verabschiedet[3] und am 12. Juli desselben Jahres im Amtsblatt der Europäischen Union verkündet.[4] Offiziell in Kraft getreten ist sie zum 1. August 2024.[5] Gemäß Art. 113 der Verordnung gelten ihre Regelungen mit einigen Ausnahmen überwiegend seit dem 2. August 2026.[6]

Inhalt

[Bearbeiten | Quelltext bearbeiten]

Allgemeines

[Bearbeiten | Quelltext bearbeiten]

KI-Systeme sind Produkte die in das Neue Konzept für die Produktkonformität in der Europäischen Union fallen[7]. Mit diesem Konzept werden regulatorische Vorgaben auf dem Gebiet der technischen Harmonisierung, der Normung und für das Inverkehrbringen von Produkten (EU-Wirtschaftsrecht) harmonisiert. Dazu werden, wie in dieser Verordnung, harmonisierte Vorschriften erlassen und mit einer Konformitätsbewertung dem spezifischen Produkt eine EU-Konformitätserklärung gegeben. Mit der EU-Konformitätserklärung wird die Einhaltung der harmonisierten Vorschriften bestätigt.

Die EU-Kommission beauftragt, auf Grundlage der Verordnung (EU) Nr. 1025/2012 (Normungsverordnung) die europäischen Normungsorganisationen zur Entwicklung von harmonisierten Normen und gemeinsame Spezifikationen.[8]

Mit der Verordnung (EU) 2019/1020 zur Marktüberwachung werden die staatenübergreifende Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen geregelt. Somit ist die Einhaltung der harmonisierten Vorschriften innerhalb der EU überprüfbar.

Für Hochrisiko-KI-System ist eine CE-Kennzeichnung vorgeschrieben.[9]

Da KI-Systeme in vielen Produkten enthalten sind, hat sich die Kommission die Befugnis zum Erlass delegierter Rechtsakte übertragen, um mit den delegierten Rechtsakten andere Produktvorschriften wie Verordnung (EU) 2023/1230 (EU-Maschinenverordnung) zu ändern. Dazu wird die Kommission von einem Ausschuss unterstützt (Komitologie).

Die Haftung bei fehlerhaften KI-Systemen wird in der Richtlinie über Produkthaftung geregelt. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Einen Vorschlag für eine spezielle Richtlinie über KI-Haftung hat die EU-Kommission im Oktober 2025 zurückgezogen.[10]

Risikoeinstufung

[Bearbeiten | Quelltext bearbeiten]

Die KI-Verordnung folgt einem weitgehend risikobasierten Ansatz. KI-Technologien, darunter auch generative KI (GenAI), werden in 4 verschiedene Risikoklassen eingeordnet:

  1. KI-Systemen mit inakzeptablem Risiko
  2. KI-Systeme mit hohem Risiko (Hochrisiko-KI-Systeme)
  3. KI-Systeme mit begrenztem Risiko
  4. KI-Systemen ohne Risiko.

Während KI-Systeme mit inakzeptablem Risiko nicht erlaubt sind (verbotene Praktiken, Art. 5 KI-VO), unterliegt der Betrieb von Hochrisiko-KI-Systemen besonderen rechtlichen Anforderungen (Art. 6ff KI-VO).

KI-Systeme ohne hohes Risiko sind grundsätzlich erlaubt. Bei bestimmten Einsatzarten und Interaktionsmöglichkeiten mit Endnutzern geht die KI-Verordnung jedoch von einem begrenzten und dennoch bestehenden Risiko aus, das durch entsprechende Informationen an die Nutzenden gemindert werden kann und soll. Um diese Risiken zu bewältigen, definiert die KI-VO bestimmte Transparenzpflichten, die sich an Anbieter und Betreiber richten (Art. 50 KI-VO).

KI-Systeme, die sich außerhalb der vorgenannten Risikoklassen bewegen (KI-Systeme ohne Risiko), unterliegen keiner gesonderten Beschränkung und können frei genutzt werden.

Verbote

[Bearbeiten | Quelltext bearbeiten]

Art. 5 verbietet Technologien mit einem inakzeptablen Risiko wie Social Scoring oder Teile von biometrischer Videoüberwachung bzw. Gesichtserkennung sowie automatisierter Emotionserkennung und subtiler Verhaltensbeeinflussung.[11] Für Strafverfolgungsbehörden, das Militär und Geheimdienste gibt es jedoch weitreichende Ausnahmen.[12]

Hochrisiko-KI-Systeme

[Bearbeiten | Quelltext bearbeiten]

Definition der Hochrisiko-Systeme

[Bearbeiten | Quelltext bearbeiten]

Zu den Hochrisiko-Systemen gehören:[13][14]

  • Systeme, die biometrische Daten verarbeiten
  • Systeme, die in der kritischen Infrastruktur zum Einsatz kommen
  • Bewertung von Lernprozessen in Bildungseinrichtungen
  • Zugangsprüfungen zur Universität
  • Bewerberauswahl, Beförderungen und Kündigungen im Arbeitsleben
  • Anspruch auf Sozialhilfe
  • Prüfung der Kreditwürdigkeit
  • Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen
  • Prognose von Rückfälligkeit bei Straftaten
  • Einflussmöglichkeit auf Wahlen
  • Einschätzung von Sicherheitsrisiken oder eines von Einzelnen ausgehenden Gesundheitsrisikos bei Migration, Asyl sowie Grenzkontrolle.

Darüber hinaus sieht die KI-Verordnung Regeln speziell für leistungsfähige Sprachmodelle vor, vor allem für multimodale Modelle (in der KI-Verordnung auch „General Purpose AI“, GPAI genannt) und solche, die besonders hohe Rechenleistungen haben.[15] Darunter fallen bspw. besonders leistungsfähige GenAI-Modelle wie ChatGPT.[16] Diese Sonderregelung, die von der Risikokategorisierung abweicht, ist eine Reaktion auf das schnelle Aufkommen generativer KI im Jahr 2023.[17]

Anforderungen an den Betrieb

[Bearbeiten | Quelltext bearbeiten]

Anbieter von Hochrisiko-KI-Systemen müssen verschiedene Anforderungen erfüllen. Dazu zählt es u. a., ein Risikomanagementsystem einzurichten, Anforderungen an die Datenqualität zu erfüllen und menschliche Aufsicht über die KI sicherzustellen.[18] Ferner hat ein Konformitätsbewertungsverfahren nachzuweisen, dass die Anforderungen erfüllt werden. Nach Artikel 6 der EU-KI-Verordnung[19] gelten KI-Systeme im medizinischen Bereich, insbesondere in der Geburtshilfe und Pränataldiagnostik, als Hochrisiko-KI-Systeme. Betreiber müssen eine dauerhafte menschliche Aufsicht sicherstellen und über nachweisbare KI-Kompetenz verfügen. In der medizinrechtlichen Diskussion wird betont, dass Ärzte und Kliniken trotz automatisierter Entscheidungen weiterhin verantwortlich bleiben („Arzt als ultima ratio“).[20] Ist das Produkt nicht nur Hochrisiko-KI-System, sondern etwa auch Medizinprodukt, sind die Anforderungen an Hochrisiko-KI-Systeme im medizinprodukterechtlichen Konformitätsbewertungsverfahren mitzuprüfen.[21]

Betreiber von KI-Modellen mit allgemeinem Verwendungszweck müssen unter anderem offenlegen, mit welchen Daten die KI trainiert wurde, ob Internetseiten automatisch ausgelesen wurden und welche Maßnahmen zum Schutz von Urheberrechten ergriffen wurden.[22][23]

KI-Kompetenz

[Bearbeiten | Quelltext bearbeiten]

Artikel 4 regelt die KI-Kompetenz, die für alle Risikostufen von KI erforderlich ist: „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Fortbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind. Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.“

Kennzeichnungspflichten

[Bearbeiten | Quelltext bearbeiten]

Maschinenlesbare Kennzeichnung aller KI-Werke

[Bearbeiten | Quelltext bearbeiten]

Anbieter von KI-Systemen müssen KI-generierte Bilder, Videos, Texte und Tonaufnahmen in maschinenlesbarer Form seit 2. August 2026 als künstlich kennzeichnen.

Die EU hat Leitlinien[24] zu Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme entwickelt und veröffentlicht.[25][26] Hierzu wurden auch beispielhafte Icons zur Kennzeichnung der KI-generierten Inhalte veröffentlicht, welche verwendet werden können, jedoch nicht in dieser Form verwendet werden müssen. Es müssen entsprechend Artikel 50 der Verordnung KI generierte und veränderte Inhalte als solche gekennzeichnet werden, durch welche Art der Beschriftung ist jedoch offen, das Verwenden der Icons, welche von der EU-Kommission veröffentlicht wurden, garantiert in sich keine Rechtskonformität.[27] Die Kennzeichnung von KI-Inhalten soll, gestützt auf Artikel 50 der Verordnung, folgendermaßen geschehen:

Symbol Wann zu verwenden Anwendungsbeispiele
Grundlegendes Symbol

Wenn KI an der Erstellung von Deep-Fake-Inhalten (Bild, Audio, Video) oder veröffentlichtem Text beteiligt war

 Deep-Fake-Video mit der Textbezeichnung „Stimmen generiert mit“, gefolgt vom Basissymbol
Vollständig KI-generiert

Wenn der gesamte Deep-Fake-Inhalt (Bild, Audio, Video) oder Text vollständig von KI generiert wird

 Vollständig KI-generierte Deep-Fake-Videos mit Politikern oder fiktiven Ereignissen

Vollständig KI-komponierte Musik oder Kunst

Teilweise KI-modifiziert

Vorhandene, von Menschen erstellte Inhalte wurden teilweise durch KI verändert

 Ein Gesicht auf einem authentischen Foto wird mithilfe von KI gegen das Gesicht eines Politikers ausgetauscht

Abgesehen von den beispielhaften Icons der EU-Kommission gibt es bereits eine Vielzahl anderer Icons und Symbole die für die Deklarierung solcher Inhalte verwendet werden. Medienunternehmen wie der ORF nutzen diese Freiheit um zu ihrem Corporate Design passende Icons zu verwenden.

Beispiel für ein anderes mögliches Label

Allgemein für Werke die durch KI verändert und/oder erzeugt wurden.

Kennzeichnung von KI-Deepfakes

[Bearbeiten | Quelltext bearbeiten]

Wer mithilfe von KI Deepfakes (laut Gesetz ein KI-Werk, das „einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“) erstellt, muss diese bei Veröffentlichung seit 2. August 2026 entsprechend kennzeichnen; es sei denn, das KI‑System wird nur privat verwendet. Ausnahmen gelten für die Strafverfolgung und für künstlerische oder satirische Werke.

Kennzeichnung von KI-Texten

[Bearbeiten | Quelltext bearbeiten]

Wer mithilfe von KI Texte erzeugt oder verändert, die „über Angelegenheiten von öffentlichem Interesse“ informieren, muss dies seit 2. August 2026 offenlegen; es sei denn, das KI‑System wird nur privat verwendet. Diese Kennzeichnungspflicht entfällt, wenn die Inhalte redaktionell geprüft bzw. überarbeitet wurden sowie einer redaktionellen Verantwortung unterliegen.

Kritik an der Kennzeichnung

[Bearbeiten | Quelltext bearbeiten]

Die Kennzeichnung von KI-erzeugten Inhalten hat Kritik hervorgerufen, die eine Trügerische Transparenz bemängelt.[28][29]

Weitere Transparenzpflichten

[Bearbeiten | Quelltext bearbeiten]

Ebenso muss Nutzern stets klar sein, dass sie mit einem KI-System interagieren.[30] Mittels der Kennzeichnungs- und Transparenzpflicht soll laut dem österreichischen Rechtswissenschaftler Marlon Possard unter anderem eine Risikominimierung von Wahlbeeinflussung erzielt werden.[31]

Durchsetzung

[Bearbeiten | Quelltext bearbeiten]

Der AI Act selbst droht sehr hohe Bußgelder an, wenn Unternehmen gegen ihn verstoßen. Artikel 99 sieht hier Strafen bis zu 7 Prozent des weltweiten Vorjahresumsatzes oder 35 Millionen Euro vor – dies ist deutlich mehr, als bei DSGVO-Verstößen drohen.[32] Außerdem ist die Schaffung eines Europäischen Gremiums für Künstliche Intelligenz (KI-Gremium)[33] vorgesehen, zur Durchsetzung sollen auf nationaler Ebene Behörden mit der Möglichkeit von Bußgeldern geschaffen werden.[34]

Verfahren

[Bearbeiten | Quelltext bearbeiten]

Kommissionspräsidentin von der Leyen hatte eine Regulierung von KI bereits 2019 in ihrer Bewerbungsagenda angekündigt.[35][2]

Dem Vorschlag vorangegangen waren 2018 das Strategiepapier Künstliche Intelligenz für Europa[36] und der Koordinierte Plan für künstliche Intelligenz,[37] 2019 der Bericht einer Expertenkommission[38] und 2020 das Weißbuch zur Künstlichen Intelligenz[39] der EU-Kommission.

Gesetzgebungsverfahren

[Bearbeiten | Quelltext bearbeiten]

Die EU-Kommission veröffentlichte ihren Entwurf am 21. April 2021,[40] aufgrund vieler Änderungsanträge fand die erste Plenarsitzung des EU-Parlaments dazu erst im Oktober 2022 statt. Die federführenden Ausschüsse des EU-Parlaments sind der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE), Berichterstatter sind Brando Benifei (S&D) und Dragoş Tudorache (ALDE).[41] Bis Ende 2022 brachten die Parlamentsausschüsse und Mitgliedstaaten ihre Stellungnahmen und Änderungsvorschläge ein, der Rat der EU veröffentlichte seinen in einigen Punkten abgeschwächten Entwurf am 6. Dezember 2022,[42] die beiden federführenden Ausschüsse des EU-Parlaments verabschiedeten ihre Position am 11. Mai 2023,[43] der finale Vorschlag des Parlaments wurde am 14. Juni 2023 verabschiedet.[44][45] Das Verfahren befand sich damit in den Trilog-Verhandlungen zwischen den EU-Gesetzgebungsorganen,[46][47] mit einer Einigung wurde zunächst für Ende 2023 oder 2024 gerechnet.[48][49]

Die neuen Diskussionen rund um den KI-Chatbot ChatGPT hatten den ursprünglichen Zeitplan verzögert.[50][43] Das EU-Parlament wollte solche sogenannte Allzweck-KI (GPAI) stärker in die Regulierung aufnehmen.[47]

Im Dezember 2023 einigten sich die EU-Gesetzgebungsinstitutionen auf die Grundzüge des Gesetzes.[51][52] Im Januar 2024 wurde der Text des finalen Entwurfs bekannt.[53] Im Februar 2024 stimmten alle Mitgliedsländer der EU zu, und der zuständige Parlamentsausschuss in Brüssel gab ebenfalls grünes Licht, im März folgte die Zustimmung des Parlaments insgesamt.[54][55] Die 27 Mitgliedsländer stimmten dem Gesetzwerk am 21. Mai 2024 zu, sodass es, nach Veröffentlichung im Amtsblatt der EU und einer weiteren 20-Tage-Frist, in Kraft treten kann.[56] Die Verordnung soll dann mit Ausnahmen zwei Jahre später Anwendung finden.[11][57]

Zeitplan

[Bearbeiten | Quelltext bearbeiten]

Stand: 3. August 2026 (inklusive Berücksichtigung der Novellierung)

Vergangen:

  • 1. August 2024: Inkrafttreten der Verordnung.
  • 2. Februar 2025: Anwendung der Verbote für KI-Systeme mit „inakzeptablem Risiko“ sowie der Bestimmungen zur KI-Kompetenz (AI Literacy).
  • 2. August 2025: Anwendung der Regeln für Allzweck-KI (GPAI) und der geforderten Governance-Strukturen (u. a. Benennung nationaler Behörden).
  • 2. August 2026 Hauptanwendungsdatum. Die meisten Bestimmungen werden verbindlich, insbesondere die allgemeinen Transparenzpflichten.

Bevorstehend:

  • 2. Dezember 2026: Verbot bestimmter Formen von Deepfake-Pornographie (neu in die KI-VO aufgenommen, siehe „Novellierung“).
  • 2. Dezember 2027: Hochrisiko-KI-Systeme (gemäß Anhang III)
  • 2. August 2028: Anwendung der Regeln für Hochrisiko-KI-Systeme, die als Sicherheitskomponenten in bereits regulierten Produkten (nach Anhang I, z. B. Medizinprodukte oder Fahrzeuge) fungieren.

Novellierung

[Bearbeiten | Quelltext bearbeiten]

Am 19. November 2025 veröffentlichte die Europäische Kommission einen Vorschlag zu einer Novellierung der Verordnung über künstliche Intelligenz mit dem Ziel der Vereinfachung (Digital-Omnibus-Verordnung zur KI).[58] Der Rat hat seine Position dazu am 13. März 2026, das EU-Parlament am 26. März 2026 verabschiedet[59][60]. Am 7. Mai 2026 erzielten Parlament und Rat in den Trilog-Verhandlungen eine vorläufige Einigung über Änderungen an bestimmten Vorschriften der Verordnung. Die Einigung muss noch förmlich von Parlament und Rat angenommen werden. Für Hochrisiko-KI-Systeme sollen die Pflichten erst ab dem 2. Dezember 2027 gelten; für KI-Systeme, die als Sicherheitskomponenten eingesetzt werden und unter EU-Sektorvorschriften zu Sicherheit und Marktüberwachung fallen, erst ab dem 2. August 2028. Außerdem sollen KI-Systeme verboten werden, die Material über sexuellen Kindesmissbrauch erstellen oder ohne Einwilligung intime Körperteile einer identifizierbaren Person bzw. diese Person bei sexuell expliziten Handlungen darstellen; das Verbot erfasst sowohl das Inverkehrbringen entsprechender Systeme als auch deren Nutzung: Unternehmen sollen bis zum 2. Dezember 2026 Zeit haben, ihre Systeme entsprechend anzupassen.[61] Im Juni 2026 wurde die Novelle final vom Europäischen Parlament und Rat beschlossen,[62] sie tritt drei Tage nach Kundmachung in Kraft.[63] Die Kundmachung erfolgte am 24. Juli 2026 und das Inkrafttreten am 27. Juli 2026.[64]

Durchführung der KI-Verordnung in den Mitgliedstaaten

[Bearbeiten | Quelltext bearbeiten]

Deutschland

[Bearbeiten | Quelltext bearbeiten]

Im September 2025 legte das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) einen ersten Entwurf zur Durchführung der KI-Verordnung vor, der u. a. ein neu zu schaffendes Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) vorsieht. Schwerpunkt des Entwurfs ist die Einrichtung eines sogenannten Koordinierungs- und Kompetenzzentrum für die KI-Verordnung (KoKIVO) bei der Bundesnetzagentur (BNetzA), das andere zuständige Behörden unterstützen und eine einheitliche Rechtsauslegung gewährleisten soll. Deutschland hätte bereits zum 2. August 2025 eine entsprechende Marktüberwachungsbehörde ernennen bzw. einrichten müssen, hat diese Frist jedoch verfehlt. Der Entwurf zur Durchführung der KI-Verordnung enthält zudem Vorschriften zur Innovationsförderung; insbesondere soll die BNetzA ein sogenanntes KI-Reallabor errichten und betreiben. Im Februar 2026 wurde der Gesetzesentwurf von der Bundesregierung beschlossen, am 20. März 2026 erfolgte die erste Lesung des Bundestags.[65] Zuletzt fand am 23. März 2026 eine öffentliche Anhörung zum Gesetzesentwurf im Ausschuss für Digitales und Staatsmodernisierung statt.[66] Als Nächstes hatte der Digitalausschuss eine Beschlussempfehlung für das Plenum zu erstellen.

Am 22. Juli 2026 wurde nunmehr das -in Kurzform genannte- Gesetz zur Durchführung der Verordnung über künstliche Intelligenz verabschiedet[67] und am 28. Juli 2026 im Bundesgesetzblatt veröffentlicht.[68] Nach Art. 1 dieses Rahmengesetzes wird das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz – KI-MIG)[69] mit Wirkung ab 29. Juli 2026[70] in Kraft gesetzt.

Österreich

[Bearbeiten | Quelltext bearbeiten]

In Österreich fehlt (Stand Juli 2026) das nationale Durchführungsgesetz, sodass die zuständigen Behörden bisher nicht festgelegt wurden.[71]

Diskussion in Deutschland

[Bearbeiten | Quelltext bearbeiten]

Die weitgehenden Definitionen, Verbote und komplizierten Compliance-Vorschriften im ursprünglichen Vorschlag lösten Kritik der Industrieverbände (u. a. Bitkom und KI-Verband) aus. Der Kompromissentwurf des Rates wurde dahingehend in einigen Punkten abgeschwächt. Außerdem wird eine große Rechtsunsicherheit,[72] der hohe bürokratische Aufwand und Doppelregulierung, z. B. im Medizinbereich, kritisiert.[73][74] Auch sei die geforderte fehlerfreie Auswahl von Trainingsdaten nahezu unmöglich.[57]

Auch die Bundesregierung warnt vor Überregulierung.[75] Nach einer Studie würde die Verordnung zu einem hohen Aufwand bei einem großen Teil der KI-Anwendungen führen.[76]

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch) und z. B. der DGB[77] den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[78] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[79][80] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[81] Gemäß der Version vom 11. Mai 2023 soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[82]

Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.

Literatur

[Bearbeiten | Quelltext bearbeiten]
[Bearbeiten | Quelltext bearbeiten]
Commons: Artificial Intelligence Act – Sammlung von Bildern, Videos und Audiodateien

Artikel

[Bearbeiten | Quelltext bearbeiten]

Einzelnachweise

[Bearbeiten | Quelltext bearbeiten]
  1. ↑ EU AI Act: first regulation on artificial intelligence. Europäisches Parlament, 8. Juni 2023, abgerufen am 24. Mai 2024.
  2. 1 2 Georg Baur, Daniel Gebhardt: Die Verordnung über Künstliche Intelligenz (KI-Verordnung). In: juris PraxisReport Bank- und Kapitalmarktrecht. Band 2024, Nr. 4, 23. April 2024 (juris.de).
  3. ↑ Erstes KI-Gesetz der Welt verabschiedet. Bundesministerium für Digitales und Verkehr, 1. August 2024, abgerufen am 21. Mai 2024.
  4. ↑ Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)Text von Bedeutung für den EWR. 13. Juni 2024 (europa.eu [abgerufen am 12. Juli 2024]).
  5. ↑ KI-Verordnung tritt in Kraft – Europäische Kommission. Abgerufen am 25. Dezember 2024.
  6. ↑ Prof Christian Solmecke: Fahrplan nach Inkrafttreten: AI-Act wird schrittweise anwendbar. 18. Dezember 2024, abgerufen am 25. Dezember 2024.
  7. ↑ Europäische Kommission und Rat: Erwägungsgrund 46. In: EUR-Lex. Europäische Kommission und Rat, 13. Juni 2024, abgerufen am 7. August 2026.
  8. ↑ Europäische Kommission und Rat: ABSCHNITT 5 Normen, Konformitätsbewertung, Bescheinigungen, Registrierung. In: EUR-Lex. Europäische Kommission und Rat, 13. Juni 2024, abgerufen am 7. August 2026.
  9. ↑ Europäische Kommission und Rat: ABSCHNITT 3 Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter. In: EUR-Lex. Europäische Kommission und Rat, 13. Juni 2024, abgerufen am 7. August 2026.
  10. ↑ EUR-Lex: Verfahren 2022/0303/COD. 6. Oktober 2025, abgerufen am 3. August 2026.
  11. 1 2 Falk Steiner: KI unter Kontrolle. In: c't. Heise, 17. Dezember 2022, abgerufen am 31. Januar 2023.
  12. ↑ Art. 2 AI-Act
  13. ↑ Johannes Caspar: Wir Datensklaven. Wege aus der digitalen Ausbeutung. Berlin 2023, S. 215 f.
  14. ↑ Anhang III AI-Act
  15. ↑ Fünf Erkenntnisse zu general purpose AI aus dem geleakten AI Act. 26. Januar 2024, abgerufen am 29. Februar 2024.
  16. ↑ Michael Schwarz, Fabio Griehl, Dr Christian Temath: Was der AI Act für Unternehmen bedeutet. 28. Mai 2024, abgerufen am 25. Dezember 2024.
  17. ↑ Timm Rotter: Das KI-Gesetz kommt: Das bedeutet der AI Act für Unternehmen. In: disruptive-muenchen.de. 20. Februar 2024, abgerufen am 29. Februar 2024.
  18. ↑ KI-Verordnung (Kapitel III Abschnitt 2 – Anforderungen an Hochrisiko-KI-Systeme). Europäische Union, abgerufen am 23. September 2024.
  19. ↑ „AI Act Einstufungsvorschriften für Hochrisiko-KI-Systeme – Legal Text“, abgerufen am 8. Oktober 2025, https://ai-act-law.eu/de/artikel/6/
  20. ↑ Sven Wilhelmy: „Haftungsrecht im Kreißsaal der Zukunft“, Vortrag auf dem 8. MonsTabor-Symposium Personenschadenrecht 2025, Quirmbach & Partner. (PDF) https://ihr-anwalt.com/files/haftungsrecht-im-kreisssaal.pdf
  21. ↑ Michael Kolain, Jonas Lange: ePA, DiGA, SaMD & Co. – Regulatorische Trends und Entwicklungen einer datengetriebenen Medizin. In: Gabriele Buchholtz, Laura Hering (Hrsg.): Digital Health und Recht. Duncker & Humblot, Berlin 2024, ISBN 978-3-428-18889-5, S. 89–126, S. 104, doi:10.3790/978-3-428-58889-3.
  22. ↑ Neue EU-Regeln schreiben ab sofort Transparenz für KI-Modell-Anbieter vor. In: derstandard.de. 3. August 2025, abgerufen am 5. August 2025.
  23. ↑ KI-Tools mit neuen Auflagen für mehr Transparenz für Nutzer. In: mdr.de. 2. August 2025, abgerufen am 5. August 2025.
  24. ↑ Europäische Kommission und Rat: Artikel 96 Leitlinien der Kommission zur Durchführung dieser Verordnung. In: EUR-Lex. Europäische Kommission und Rat, 13. Juni 2024, abgerufen am 7. August 2026.
  25. ↑ Guidelines on transparency obligations for providers and deployers of certain AI systems | Shaping Europe’s digital future. Abgerufen am 3. August 2026 (englisch).
  26. ↑ Quick Facts: Transparency rules for AI systems | Shaping Europe’s digital future. Abgerufen am 3. August 2026 (englisch).
  27. ↑ EU Icons for labelling AI-generated content | Shaping Europe’s digital future. Abgerufen am 3. August 2026 (englisch).
  28. ↑ Felix Koltermann Unternehmenskommunikation; CISPA Helmholtz Center for Information Security: Transparenz ist nicht gleich Wahrheit: was Plattformen bei der Kennzeichnung von KI-Bildern beachten müssen. In: idw-Informationsdienst Wissenschaft. idw-Informationsdienst Wissenschaft, 1. Juni 2026, abgerufen am 3. August 2026.
  29. ↑ Was die neuen KI-Labels bringen und was nicht. In: netzpolitik.org. 31. Juli 2026, abgerufen am 3. August 2026.
  30. ↑ Art. 50 AI-Act
  31. ↑ Kurier TV: Urnengänge: Wie Deepfakes Wahlen beeinflussen können. 5. November 2024, abgerufen am 1. Januar 2025.
  32. ↑ Felix Kraft, Christoph Wockel: EU AI Act – ein Fahrplan. EY, 24. Januar 2024, abgerufen am 29. Februar 2024 (deutsch).
  33. ↑ Artikel 65 AI Act https://eur-lex.europa.eu/eli/reg/2024/1689/oj. Abgerufen am 29. März 2026.
  34. ↑ David Roth-Isigkeit: Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie? In: Zeitschrift für Rechtspolitik. Nr. 6, 2022, S. 187 (beck.de).
  35. ↑ Ursula von der Leyen: Eine Union, die mehr erreichen will. Amt für Veröffentlichungen der Europäischen Union, 2019, ISBN 978-92-76-09905-5, S. 16, doi:10.2775/23027.
  36. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Künstliche Intelligenz für Europa (COM/2018/237 final) , abgerufen am 31. Januar 2023
  37. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Koordinierter Plan für künstliche Intelligenz (COM/2018/795 final) , abgerufen am 31. Januar 2023
  38. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz (COM/2019/168 final), abgerufen am 5. Februar 2023
  39. ↑ Weissbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM/2020/65 final) , abgerufen am 31. Januar 2023
  40. ↑ Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM/2021/206 final), abgerufen am 31. Januar 2023
  41. ↑ Procedure File: 2021/0106(COD). In: Legislative Observatory. Europäisches Parlament, abgerufen am 26. Juli 2023 (englisch).
  42. ↑ Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern. Rat der Europäischen Union, 6. Dezember 2022, abgerufen am 4. Februar 2023.
  43. 1 2 Überblick über die KI-Verordnung der EU (AI Act). Taylor Wessing, abgerufen am 31. Januar 2023.
  44. ↑ Parlament bereit für Verhandlungen über Regeln für sichere und transparente KI. Europäisches Parlament, 14. Juni 2023, abgerufen am 26. Juli 2023.
  45. ↑ Stefan Krempl: Biometrische Massenüberwachung: EU-Abgeordnete wollen KI demokratisieren. In: Heise Online. 11. Mai 2023, abgerufen am 26. Mai 2023.
  46. ↑ Proposal for a Regulation on a European approach for Artificial Intelligence. In: Legislative Train Schedule. European Parliament, 20. Mai 2023, abgerufen am 7. Juni 2023 (englisch).
  47. 1 2 Carsten Volkery: Strenge Auflagen für KI. In: Handelsblatt. 18. April 2023, S. 12 (handelsblatt.com).
  48. ↑ Kirsten Girschick: Verschläft Deutschland die KI-Entwicklung? In: Tagesschau. 31. Januar 2022, abgerufen am 11. Februar 2022: „Im Sommer soll die KI-Verordnung […] fertig sein“
  49. ↑ Gillmann, Neuerer, Stiens: „Man kann Technologie nicht mit Verboten aufhalten“: Diskussion um ChatGPT-Regulierung in Deutschland. In: Handelsblatt. 3. April 2023, abgerufen am 14. April 2023: „im besten Fall noch dieses Jahr verabschiedet“
  50. ↑ Friedhelm Greis: Hype um Chatbots bringt EU in die Bredouille. In: Golem. 8. April 2023, abgerufen am 14. April 2023.
  51. ↑ Wie Europa Chat-GPT & Co. Zügel anlegt, SZ, 9. Dezember 2023
  52. ↑ Weltweit restriktivste Regulierung von Künstlicher Intelligenz, von Holger Schmidt, FAZ, 9. Dezember 2023
  53. ↑ Luca Bertuzzi. In: X. 22. Januar 2024, abgerufen am 1. Februar 2024 (englisch).
  54. ↑ Eric Voigt, Mathis Gann, Reuters, AFP: AI Act: EU-Länder stimmen Regulierung von künstlicher Intelligenz zu. In: Die Zeit. 2. Februar 2024, ISSN 0044-2070 (zeit.de [abgerufen am 21. Februar 2024]).
  55. ↑ Künstliche Intelligenz: EU-Parlament stimmt für umfassendes KI-Gesetz. In: Der Spiegel. 13. März 2024, ISSN 2195-1349 (spiegel.de [abgerufen am 14. März 2024]).
  56. ↑ Einigung der EU-Staaten: KI-Gesetz ist endgültig beschlossen. In: Tagesschau.de. 21. Mai 2024, abgerufen am 21. Mai 2024.
  57. 1 2 Philipp Müller-Peltzer, Sebastian Schneider: Die geplante KI-Verordnung der EU. In: REthinking: Law. Band 2022, Nr. 6, Juni 2022 (owlit.de).
  58. ↑ Vorschlag zur Digital-Omnibus-Verordnung zur KI. 19. November 2025, abgerufen am 23. Februar 2026.
  59. ↑ Artificial Intelligence Act: delayed application, ban on nudifier apps | News | European Parliament. 26. März 2026, abgerufen am 1. April 2026 (englisch).
  60. ↑ MEPs support postponement of certain rules on artificial intelligence | News | European Parliament. 18. März 2026, abgerufen am 1. April 2026 (englisch).
  61. ↑ AI Act: deal on simplification measures, ban on “nudifier” apps | News | European Parliament. 7. Mai 2026, abgerufen am 7. Mai 2026 (englisch).
  62. ↑ Rat der Europäischen Union: Künstliche Intelligenz: Rat gibt endgültig grünes Licht für Vereinfachung und Straffung der Vorschriften. 29. Juni 2026, abgerufen am 30. Juni 2026.
  63. ↑ Siehe Art. 4 des beschlossenen Gesetzestextes: Rat der Europäischen Union: https://data.consilium.europa.eu/doc/document/PE-30-2026-INIT/de/pdf. (PDF) 29. Juni 2026, abgerufen am 30. Juni 2026.
  64. ↑ EUR-Lex: Verordnung (EU) 2026/1744 des Europäischen Parlaments und des Rates vom 8. Juli 2026 zur Änderung der Verordnungen (EU) 2024/1689, (EU) 2018/1139 und (EU) 2023/1230 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI). 24. Juli 2026, abgerufen am 27. Juli 2026.
  65. ↑ Götz Hausding: Deutscher Bundestag - Umsetzung von EU-Vorgaben im Bereich der Künstlichen Intelligenz. Abgerufen am 20. März 2026.
  66. ↑ Deutscher Bundestag - Anhörung zum Gesetzesentwurf zur Durchführung der Verordnung über KI. Abgerufen am 20. März 2026.
  67. ↑ Im Bundesrat beschlossen: Innovationen durch KI fördern, Informationen (Stand: 10. Juli 2026) auf den Seiten der deutschen Bundesregierung (Abruf: 28. Juli 2026)
  68. ↑ Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) (BGBl. 2026 I Nr. 223 vom 28. Juli 2026)
  69. ↑ Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz – KI-MIG); über buzer.de
  70. ↑ Art. 5 des Gesetzes zur Durchführung der Verordnung über künstliche Intelligenz
  71. ↑ Grüne kritisieren fehlende KI-Aufsicht. In: ORF.at. 30. Juli 2026, abgerufen am 31. Juli 2026.
  72. ↑ Sachverständige bewerten EU-Verordnung zur KI unterschiedlich. In: Deutscher Bundestag. 26. September 2022, abgerufen am 7. Juni 2023.
  73. ↑ Christof Kerkmann: Künstliche Intelligenz: Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act. In: Handelsblatt. 6. Dezember 2022, abgerufen am 4. Februar 2023.
  74. ↑ Britta Rybicki: Stillstand für neue Gesundheitstechnologien. In: Handelsblatt Inside. 26. Januar 2023, abgerufen im Februar 2023.
  75. ↑ Mareike Kürschner: Justizministerium sieht Gesetzgebung bei Künstlicher Intelligenz in EU-Hand. In: Mittelbayerische. 8. Februar 2023, abgerufen am 11. Februar 2023.
  76. ↑ Studie: EU-Regeln bremsen Anwendung von künstlicher Intelligenz aus. In: Redaktionsnetzwerk Deutschland. 7. März 2023, abgerufen am 14. April 2023.
  77. ↑ DGB-Positionspapier zur KI-Verordnung der EU-KOM. DGB, 26. Juni 2021, abgerufen am 11. Februar 2022.
  78. ↑ Marco Wedig: »Es gibt Schlupflöcher in diesem Gesetzentwurf«. In: Der Spiegel. 26. Oktober 2022, abgerufen am 4. Februar 2022.
  79. ↑ Benedikt Kohn: Der „Artificial Intelligence Act“. Taylor Wessing, 20. April 2021, abgerufen am 31. Januar 2023.
  80. ↑ Markus Reuter: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz. In: Netzpolitik.org. 7. Dezember 2022, abgerufen am 31. Januar 2023.
  81. ↑ Alexander Fanta, Chris Köver, Serafin Dinges: NPP 239 zum AI Act des EU-Parlaments. In: Netzpolitik.org. 23. Oktober 2021, abgerufen im Februar 2022.
  82. ↑ Daniel Leisegang, Chris Köver, Sebastian Meineck: Die sechs größten Probleme im AI Act. In: netzpolitik.org. 10. Mai 2023, abgerufen am 10. Mai 2023.
Bitte den Hinweis zu Rechtsthemen beachten!
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Verordnung_über_künstliche_Intelligenz&oldid=269466977“