KI ACT vom EU-Parlament beschlossen

KI ACT vom EU-Parlament beschlossen - Am gestrigen Mittwoch, den 13. März 2024, stimmte das EU-Parlament mit Mehrheit für den KI ACT, das global erste KI Gesetz. Mit diesem KI ACT sollen KI Anwendungen in ein System Risikogruppen eingeteilt werden. Je höher das allgemeine Risiko einer KI Anwendung angesehen wird, desto höher sind die Anforderungen an Sicherheitsmaßnahmen für eine solche KI Anwendung und auch an die Transparenz.

Vor allem KI Anwendungen, die gegen EU-Werte verstoßen könnten, sind nach dem KI ACT gänzlich verboten in der EU. Dazu gehören:
- Social Scoring – die Bewertung von sozialem Verhalten
- Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen
- Gesichtserkennung im öffentlichen Raum (mit Ausnahmeregelung für Polizei und Sicherheitsbehörden: diese dürfen Gesichtserkennung im öffentlichen Raum nutzen, um bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen)

Für die Unternehmen mit KI Anwendungen sind allerdings vor allem die Anforderungen an Sicherheit und Transparenz aus dem KI ACT interessant. Was ist in der Hinsicht beschlossen?

Anforderungen an die Transparenz

„KI-Systeme für allgemeine Zwecke (GPAI) und die GPAI-Modelle, auf denen sie basieren, müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte“, heißt es in der jetzt veröffentlichen Pressemitteilung des EU-Parlaments.

Dies wirft weitere Fragen auf bezüglich des Urheberrechts und der Daten, die zum Training einer KI genutzt werden. Antworten werden derzeit vor den Gerichten gesucht:

In den USA klagt die New York Times gegen OpenAI und die Autorin Silverman gegen die KI von META: wurde die generative KI unter Verletzung von Urheberrechten trainiert? Mehr...

Und gibt es ein Urheberrecht für KI generierte Werke, die ohne menschliches Zutun entstehen? Dazu gibt es bereits ein Urteil aus den USA. Mehr...

Training der KI im Patentanspruch - nachvollziehbar offenbart in einer Europäischen Patentanmeldung? Das Europäische Patentamt hat dazu bereits mehrfach entschieden. Mehr...

KI-Systeme mit Risiko behaftet

Die Anforderungen an die Risiko- und Cybersicherheit steigen, je höher KI-Systeme mit Risiko bewertet sind.
Dazu können auch GPAI-Modelle zählen.

„Für die leistungsfähigeren GPAI-Modelle, die systemische Risiken darstellen könnten, gelten zusätzliche Anforderungen, darunter die Durchführung von Modellbewertungen, die Bewertung und Abschwächung systemischer Risiken und die Berichterstattung über Vorfälle.“, heißt es in der jetzt veröffentlichten Pressemitteilung des EU-Parlaments.

Gelten diese Anforderungen nur bei sehr hohem Computeraufkommen? Es bleibt abzuwarten, welche GPAI Modelle als so leistungsfähig eingestuft werden, dass sie systemische Risiken darstellen.

Es ist eine EU-Datenbank vorgesehen, in der Hochrisiko-KI-Systeme registriert werden.

Kennzeichnung von KI generierten Inhalten

"Darüber hinaus müssen künstlich generierte oder manipulierte Bilder, Audio- oder Videoinhalte ("Deepfakes") eindeutig als solche gekennzeichnet werden", heißt es in der jetzt veröffentlichten Pressemitteilung des EU-Parlaments.

Ausblick für KI Innovation in Europa

Der KI ACT befürwortet gleichzeitig die Unterstützung von KI Innovation in Europa und von Startups und KMUs, die KI Anwendungen nutzen. Auf nationaler Ebene sollen daher regulatorische „Sandboxes“ und Praxistests eingerichtet und für Startups und KMUs zugänglich gemacht werden. Dies soll ermöglichen, dass innovative KI Anwendungen entwickelt werden können bis zur Marktreife in Europa.

Hier finden Sie die Version des KI ACTs als vollständigen Entwurfstext vom 24. Januar 2024, Quelle: EU Data Consilium.

Wie geht jetzt weiter?
Die gestrige Zustimmung zum KI ACT macht den Weg frei für das Gesetz laut Pressemitteilung des EU-Parlaments. Es wird noch einmal im Detail aufgearbeitet und dann im Amtsblatt der EU veröffentlicht. 20 Tage nach der Veröffentlichung im Amttsblatt tritt es in Kraft und ist 24 Monate später in der gesamten EU anzuwenden.

Haben Sie Fragen zu Innovation oder einer Erfindung mit Anwendung von Maschinellem Lernen oder KI?
Unsere Patentanwaltskanzlei Köllner & Partner bietet dazu ein hoch qualifiziertes Team und viel Expertise.
Sprechen Sie uns gerne unverbindlich an, telefonisch unter +49 (0)69 69 59 60-0 oder unter info@kollner.eu.