Neue EU-Verordnung über Künstliche Intelligenz (KI)

Immer mehr Maschinen, Anlagen oder elektrische Geräte nutzen selbstlernende Algorithmen, um den Kunden- bzw. Anwendernutzen zu erhöhen. In Bezug auf die Produktsicherheit stellt dies ein Novum dar. Das Verhalten von Produkten weist nun nicht mehr zwangsläufig einen bestimmten Funktionsumfang zum Zeitpunkt des Inverkehrbringens auf. Dieser kann sich aufgrund der selbstlernenden Softwarekomponenten entsprechend verändern oder erweitern.

Um diesen Herausforderungen zu begegnen hat die EU-Kommission einen Gesetzesvorschlag für ein europäisch gesteuertes Konzept zu künstlicher Intelligenz (KI) vorgelegt. Dieser Gesetzesrahmen fördert die Nutzung von KI und versucht gleichzeitig die Risiken zu berücksichtigen, welche im Zusammenhang mit künstlicher Intelligenz entstehen können. Am Ende dieser Initiative soll eine Verordnung mit harmonisierten Vorschriften stehen, welche die Entwicklung, das Inverkehrbringen sowie die Anwendung solcher KI-Systeme in der EU regelt.

„Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist.“ Mit diesen Worten fasst Exekutiv-Vizepräsidentin Margrethe Vestager das Vorhaben zusammen.

Link und Zeitpunkte

• Hier finden Sie einen Link zum aktuellen Komromissvirschlag der geplanten Verordnung (Englisch).
• Die im Entwurf vorgeschlagenen Punkte sind weder bereits gültig, noch ist fix, dass diese tatsächlich umgesetzt werden. 
• Der Entwurf sieht vor, dass die neue Verordnung 30 Monate nach ihrer offiziellen Veröffentlichung anzuwenden ist. (Das Datum bezieht sich auf die tatsächlich angenommene Verordnung, nicht auf den Entwurf, der sich ggf. noch an vielen Stellen ändern kann).
• Die neue KI-Verordnung sollte ursprünglich als Ergänzung zur neuen Maschinenverordnung (EU) 2023/1230 dienen. Deswegen hatten beide Entwürfe dasselbe Ausgabedatum, die Maschinenverordnung wurde jedoch bereits früher, am 29.6.2023, veröffentlicht.
• Am 11.5.2023 haben die Ausschüsse für Binnenmarkt und Verbraucherschutz (IMCO) sowie bürgerliche Freiheiten, Justiz und Inneres (LIBE) die endgültigen Kompromissänderungsanträge zur EU-Verordnung angenommen.
• Am 13. Juni 2023 erfolgte die Abstimmung im EU-Parlament. Somit kann der Trilog, die finale Abstimmung in EU-Rat, EU-Kommission und EU-Parlament, starten.
   

Inhalte des Entwurfs (Auswahl)
 

Hintergrund: Regulierungsbedarf für Künstliche Intelligenz

Gerade in den letzten Jahren haben KI-Systeme eine rasante technische Entwicklung erfahren. Hier sieht die EU-Kommission Handlungsbedarf zu einer abgestimmten, europäischen Regulierung, um den Herausforderungen von KI-Systemen entgegenzutreten. Das Ziel ist ein gemeinsamer europäischer Rechtsrahmen, welcher sowohl positive Aspekte als auch Risiken solcher Systeme berücksichtigt. Dadurch wird versucht sowohl Grundrechte als auch Anwender zu schützen und eine legale Basis in die sich rasch weiterentwickelnde KI zu schaffen.
 

Risikoeinstufungen

Mit der neuen Verordnung verfolgt der Gesetzgeber einen risikobasierten Ansatz. Dieser besagt, dass „Art und Inhalt solcher Vorschriften auf die Intensität und den Umfang der Risiken zugeschnitten werden, die von KI-Systemen ausgehen können“. Dies bedeutet, dass KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, strengstens verboten wären. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.

Der Entwurf der Kommission sieht eine Einstufung solcher Risiken in 4 Stufen vor. Diese decken anhand von Anwendungsfällen die Schwere der potentiell auftretenden Risiken:

• Unannehmbares Risiko
• Hohes Risiko
• Software-Updates
• Geringes Risiko
• Minimales Risiko

KI-Systeme mit unannehmbarem Risiko werden somit verboten, da sie eine Sicherheitsbedrohung für Anwender darstellen. Besteht für ein System ein hohes Risiko, so müssen strenge Auflagen erfüllt werden bevor es auf dem Markt zugelassen wird. Für ein geringes Risiko weist die Verordnung lediglich auf mögliche Gefahren hin, bei einem minimalen Risiko soll in die freie Anwendung solcher Systeme möglichst kein Eingriff erfolgen.
 

Hochriskante KI

Im neuen Komprmissvorschlag vom Mai 2023 haben die EU-Abgeordneten die Klassifizierung der Hochrisikobereiche um die Gefährdung der Gesundheit, der Sicherheit, der Grundrechte oder der Umwelt erweitert. Sie fügten auch KI-Systeme zur Beeinflussung von Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern gemäß dem Gesetz über digitale Dienste) verwendet werden, der Liste der Hochrisikobereiche hinzu.
 

Zusammenspiel mit der neuen Maschinenverordnung (EU) 2023/1230

Die zukünftige Verordnung für KI-Systeme und die Maschinenverordnung 2023/1230 sollen sich gegenseitig ergänzen. Die KI-Verordnung deckt vorrangig von KI-Systemen ausgehende Sicherheitsrisiken ab, welche Sicherheitsfunktionen einer Maschine steuern. Als Ergänzung dazu soll die Maschinenverordnung die Integration des KI-Systems in die Gesamtmaschine sicherstellen, um so die Maschinensicherheit als Ganzes nicht zu gefährden. Die Maschinenverordnung verwendet dieselbe Definition des Begriffs "KI-System" wie die KI-Verordnung.

Zudem betont die Kommission, dass Hersteller für beide Verordnungen nur eine Konformitätsbewertung durchführen müssen.
 

Künstliche Intelligenz im Zusammenspiel mit Normen

Der Entwurf sieht für die harmonisierte Normen eine Schlüsselrolle in der Einhaltung der Bestimmungen der KI-Verordnung vor. Dies soll unter anderem mit dem Bereitstellen technischer Lösungen für Anwender gewährleistet werden.

Einen Ansatz, die Grenzen maschinellen Lernens in eine Maschine zu integrieren, verfolgt der vor kurzem erschienene ISO/TR 22100-5:2021-01 „Safety of machinery - Relationship with ISO 12100 - Part 5: Implications of artificial intelligence machine learning“.

Weitere solcher Ansätze werden für die KI-Verordnung noch folgen, wenn die europäischen Normungsinstitute mit der Erstellung solcher speziellen KI-Normen betraut werden.
 

Weiteres Vorgehen

Bis August 2021 konnten Interessierte die ausgearbeiteten Entwürfe zur Verordnung für KI-Systeme und die Maschinenverordnung kommentieren. Im Mai 2023 haben die Ausschüsse für Binnenmarkt und Verbraucherschutz (IMCO) sowie bürgerliche Freiheiten, Justiz und Inneres (LIBE) die endgültigen Kompromissänderungsanträge zur EU-Verordnung für Künstliche Intelligenz angenommen. Nach Abschluss des Trilogs, der finalen Abstimmung in EU-Rat, EU-Kommission und EU-Parlament, kann die neue Verordnung im EU-Amtsblatt veröffentlicht werden.
 

Fazit

• Die Nutzung von KI-Systemen in Steuerungen hat zugenommen, weshalb der Gesetzgeber hier einen Handlungsbedarf zu einer Regulierung dieser Nutzung erkannt hat.
• Der Entwurf zu einer Verordnung zu künstlicher Intelligenz erscheint zeitgleich mit dem Entwurf für eine Maschinenverordnung. Dies bedeutet, dass die EU-Kommission künftige Rechtsvorschriften (Verordnungen und Richtlinien) eng miteinander verzahnen möchte.
• Hersteller, die KI-Systeme bereits nutzen oder dies planen, sollten sich am besten frühzeitig mit den regulativen Anforderungen auseinandersetzen. So können sie nachträgliche Anpassungen der Systeme vermeiden und reduzieren.
• Über unseren kostenlosen CE-InfoService informieren wir Sie, sobald uns neue Erkenntnisse zur neuen Verordnung über Künstliche Intelligenz vorliegen. Melde Sie sich direkt an und verpassen Sie keine wichtigen Updates!

Verfasst am: 29.06.2023 (Letzte Aktualisierung)