Nach rund 3 Jahren hat das Verfahren für eine gesetzliche Reglung zu Künstlicher Intelligenz (KI) mit der Verabschiedung der KI-Verordnung durch das EU-Parlament seinen Abschluss gefunden. Das Regelwerk gilt als die weltweit erste umfassende Kodifizierung zu Rechtsfragen Künstlicher Intelligenz. Ziel der KI-Verordnung (englisch: AI Act) ist ein sektorübergreifender Rechtsrahmen, wobei ein risikobasierter Ansatz verfolgt wird. Je höher die potentiellen Gefahren einer Anwendung sind, umso höher sollen die rechtlichen Anforderungen sein. Bestimmte KI-Anwendungen werden zudem gänzlich verboten. Vorgaben zu gewerblichen Schutzrechten bzw. Urheberrechten trifft die Verordnung nur am Rande.

Die Verordnung enthält u.a. folgende Regelungen:

• Verbotene Praktiken: KI-Lösungen mit unannehmbarem Risiko sind auf der Basis der Verordnung verboten. Hierzu gehören z.B. Anwendungen zum Social Scoring, d.h. der Bewertung von menschlichem Verhalten.
• Hochrisiko-KI-Systeme: Zulässig, aber sehr stark reguliert, wird der Einsatz von Hoch-Risiko-Systemen, worunter z.B. Medizin-, Bankprodukte oder kritische Infrastrukturen fallen. In diesen Fällen ist ein umfangreicher Pflichtenkatalog zu erfüllen. Hierzu zählen Dokumentations- und Transparenzpflichten sowie Anforderungen an die Sicherheit.
• Begrenztes Risiko/Minimales oder kein Risiko: KI-Systeme mit begrenztem Risiko sind z.B. solche, die beim Kundenservice eingesetzt werden wie Chatbots. Für diese gelten Transparenzpflichten. Die geringste Risikostufe wird bei minimalen bzw. keinem Risiko angesetzt, deren Nutzung frei ist. Hierzu zählen Systeme, die Produktionsprozesse minimieren oder auch Spamfilter.
• Allzweck-KI: Daneben gelten für bestimmte KI-Systeme ergänzende Sonderregeln. So sieht die Verordnung für General-Purpose AI (GPAI) ebenfalls bestimmte Transparenzpflichten sowie Vorgaben zur Einhaltung von Urheberrechten vor. Dies betrifft z.B. KI-Systeme, die Texte oder Bilder generieren wie ChatGPT.

Die Richtlinie ist noch vom Rat zu bestätigen. Sodann tritt die die KI-Verordnung in Kraft, wobei die Vorgaben – von einigen Ausnahmen abgesehen – innerhalb von zwei Jahren in den EU-Mitgliedsstaaten Anwendung finden. Der angenommene Text der Verordnung kann hier abgerufen werden.