AI-Act


Kurzzusammenfassung

Der AI-Act wurde im Dezember 2023 beschlossen und tritt nach der formellen Zustimmung des EU-Parlaments und der Ratsformation in vollem Gesetzesumfang 2026 in Kraft. Er soll die Grundrechte von Bürgerinnen und Bürgern der EU schützen und gleichzeitig Raum für Innovation in der Entwicklung von KI-Anwendungen schaffen.


Klassifizierung nach Risiko

Der AI-Act schreibt vor, dass KI-Anwendungen nicht missbraucht werden dürfen. Ebenso muss der Schutz der Grundrechte gewährleistet sein. Gleichzeitig benötigen Wissenschaft und Wirtschaft Freiraum für Innovationen. Der AI-Act verfolgt einen sogenannten risikobasierten Ansatz, um KI-Anwendungen in diesem Spannungsfeld zu klassifizieren. Das heißt, je höher das Risiko bei der Anwendung eingeschätzt wird, desto strenger sind auch die Vorgaben.
Erlaubt sind demnach niedrig riskant eingestufte KI-Anwendungen, z.B. ChatGPT.
Künstlich erzeugte oder bearbeitete Bilder bzw. Audio- und Videoinhalte (sogenannte Deepfakes) müssen in Zukunft eindeutig als solche gekennzeichnet werden.


Verboten sind ...

  • KI-Anwendungen, die die Rechte der Bürgerinnen und Bürger bedrohen.
  • biometrische Kategorisierungen auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken.
  • Emotionserkennungssysteme am Arbeitsplatz und in der Schule.
  • das Bewerten von sozialem Verhalten durch KI (Social-Scoring-Systeme).
  • „vorausschauende Polizeiarbeit“, die der vorsorglichen Profilerstellung oder Bewertung von Personen anhand von Merkmalen dient.
  • KI, die das Verhalten von Menschen beeinflussen oder deren Schwächen ausnutzen soll.


Einsatz im Bereich der Strafverfolgung

Grundsätzlich ist der Einsatz von KI bei der Strafverfolgung verboten, aber es gibt bestimmte, eng abgegrenzte Ausnahmefälle:

  • Echtzeit-Fernidentifizierung: Erlaubt mit behördlicher oder gerichtlicher Genehmigung und unter Einhaltung zeitlicher und räumlicher Beschränkungen; z.B. für die Suche nach vermissten Personen oder zur Verhinderung von Terroranschlägen.
  • Nachträgliche Fernidentifizierung: Als hochriskant eingestuft und nur mit gerichtlicher Genehmigung in Verbindung mit einer Straftat zulässig.
  • Kritik an Ausnahmen: Bedenken wegen potenzieller Ausweitung der öffentlichen Überwachung und Einschränkung der Freiheitsrechte; Forderungen nach strikteren Regelungen auf nationaler Ebene.


Maßnahmen zur Förderung von Innovationen und KMU (kleine und mittlere Unternehmen)

Mitgliedstaaten müssen Reallabore einrichten, in denen kleine und mittlere Unternehmen sowie Start-ups unter realen Bedingungen innovative KI-Systeme entwickeln und testen können, um deren Markteinführung zu fördern.