Die EU hat das weltweit erste umfassende KI-Gesetz verabschiedet

(SeaPRwire) –   (LONDON) — Die Gesetzgeber der Europäischen Union haben am Mittwoch dem Gesetz über künstliche Intelligenz des 27-Nationen-Blocks die endgültige Zustimmung erteilt und damit den Weg für das weltweit führende Regelwerk geebnet, das später in diesem Jahr in Kraft treten soll.

Die Gesetzgeber im Europäischen Parlament stimmten mit überwältigender Mehrheit für den Artificial Intelligence Act, fünf Jahre nachdem erstmals Vorschriften vorgeschlagen wurden. Das KI-Gesetz soll anderen Regierungen als globale Orientierungshilfe dienen, die sich mit der Regulierung der sich schnell entwickelnden Technologie auseinandersetzen.

„Der KI-Act hat die Zukunft der KI in eine menschenzentrierte Richtung gelenkt, in eine Richtung, in der der Mensch die Kontrolle über die Technologie hat und in der sie – die Technologie – uns hilft, neue Entdeckungen, Wirtschaftswachstum, gesellschaftlichen Fortschritt und menschliches Potenzial auszuschöpfen“, erklärte Dragos Tudorache, ein rumänischer Gesetzgeber, der Co-Leiter der Parlamentsverhandlungen über den Gesetzesentwurf war, vor der Abstimmung.

Große Technologieunternehmen haben zwar generell die Notwendigkeit einer Regulierung von KI unterstützt, aber gleichzeitig Lobbyarbeit betrieben, um sicherzustellen, dass alle Regeln zu ihren Gunsten funktionieren. Sam Altman, CEO von OpenAI, sorgte letztes Jahr für einen kleinen Aufruhr, als er andeutete, dass der Hersteller von ChatGPT sich aus Europa zurückziehen könnte, wenn er den KI-Act nicht einhalten könne – bevor er zurückruderte und sagte, dass es keine Pläne zum Rückzug gebe.

Hier ist ein Blick auf das weltweit erste umfassende Regelwerk für KI:

Wie funktioniert der KI-Act?

Wie viele EU-Verordnungen sollte der KI-Act zunächst als Verbraucherschutzgesetz dienen und einen „risikobasierten Ansatz“ für Produkte oder Dienste verfolgen, die künstliche Intelligenz nutzen.

Je riskanter eine KI-Anwendung, desto mehr Kontrolle unterliegt sie. Die überwiegende Mehrheit der KI-Systeme wird voraussichtlich ein geringes Risiko darstellen, wie z. B. Systeme zur Empfehlung von Inhalten oder Spamfilter. Unternehmen können sich dafür entscheiden, freiwillige Anforderungen und Verhaltenskodizes einzuhalten.

Hochriskante Nutzungen von KI, z. B. in medizinischen Geräten oder kritischen Infrastrukturen wie Wasser- oder Stromnetzen, unterliegen strengeren Anforderungen wie der Verwendung hochwertiger Daten und der Bereitstellung klarer Informationen für Nutzer.

Einige KI-Anwendungen sind verboten, weil sie als inakzeptabel riskant gelten, wie z. B. soziale Bewertungssysteme, die das Verhalten von Menschen regeln, bestimmte Arten der prädiktiven Polizeiarbeit und Systeme zur Erkennung von Emotionen in Schulen und am Arbeitsplatz.

Andere verbotene Nutzungen sind das polizeiliche Scannen von Gesichtern in der Öffentlichkeit mit Hilfe von KI-gestützten „biometrischen Identifizierungssystemen“, außer bei schweren Verbrechen wie Entführung oder Terrorismus.

Was ist mit generativer KI?

Die frühen Entwürfe des Gesetzes konzentrierten sich auf KI-Systeme, die eng begrenzte Aufgaben ausführen, wie z. B. das Scannen von Lebensläufen und Bewerbungen. Der erstaunliche Aufstieg von Allzweck-KI-Modellen, wie z. B. ChatGPT von OpenAI, ließ die EU-Politiker ins Schwitzen kommen, um Schritt zu halten.

Sie fügten Bestimmungen für so genannte generative KI-Modelle hinzu, die Technologie, die KI-Chatbot-Systemen zugrunde liegt und einzigartige und lebensnah erscheinende Antworten, Bilder und mehr produzieren kann.

Entwickler von Allzweck-KI-Modellen – von europäischen Start-ups bis hin zu OpenAI und Google – müssen eine detaillierte Zusammenfassung der Texte, Bilder, Videos und anderen Daten im Internet bereitstellen, die zum Trainieren der Systeme verwendet werden, sowie das EU-Urheberrecht einhalten.

Von KI generierte Deepfake-Bilder, -Videos oder -Audios von existierenden Personen, Orten oder Ereignissen müssen als künstlich manipuliert gekennzeichnet werden.

Für die größten und leistungsfähigsten KI-Modelle, die „systemische Risiken“ darstellen, gibt es zusätzliche Kontrollen, darunter GPT4 von OpenAI – sein fortschrittlichstes System – und Gemini von Google.

Die EU befürchtet, dass diese leistungsstarken KI-Systeme „schwerwiegende Unfälle verursachen oder für weitreichende Cyberangriffe missbraucht werden könnten.“ Sie befürchtet zudem, dass generative KI „schädliche Vorurteile“ in vielen Anwendungen verbreiten und viele Menschen betreffen könnte.

Unternehmen, die diese Systeme bereitstellen, müssen die Risiken bewerten und mindern; alle schwerwiegenden Zwischenfälle melden, wie z. B. Fehlfunktionen, die zum Tod oder zu schweren Gesundheits- oder Sachschäden führen; Cybersicherheitsmaßnahmen ergreifen; und offenlegen, wie viel Energie ihre Modelle verbrauchen.

Beeinflussen die europäischen Regeln den Rest der Welt?

Brüssel schlug erstmals 2019 KI-Regelungen vor und übernahm damit eine vertraute globale Rolle bei der verstärkten Kontrolle aufstrebender Industriezweige, während andere Regierungen versuchen, Schritt zu halten.

In den USA unterzeichnete Präsident Joe Biden im Oktober eine umfassende für KI, die voraussichtlich durch Gesetze und globale Abkommen gestützt wird. In der Zwischenzeit arbeiten Gesetzgeber in mindestens sieben US-Bundesstaaten an einer eigenen KI-Gesetzgebung.

Der chinesische Präsident Xi Jinping hat seine Global AI Governance Initiative für eine gerechte und sichere Nutzung von KI vorgeschlagen, und die Behörden haben „ “ für den Umgang mit generativer KI erlassen, die für Texte, Bilder, Audio, Video und andere Inhalte gilt, die für Menschen in China erstellt wurden.

Andere Länder, von Brasilien bis Japan, sowie globale Gruppierungen wie die und die Gruppe der sieben Industrienationen, erarbeiten derzeit KI-Leitplanken.

Was passiert als Nächstes?

Der KI-Act wird voraussichtlich bis Mai oder Juni offiziell in Kraft treten, nach einigen letzten Formalitäten, darunter einem Segen der EU-Mitgliedsstaaten. Die Bestimmungen werden schrittweise in Kraft treten, wobei die Länder verpflichtet sind, verbotene KI-Systeme sechs Monate nach Inkrafttreten des Regelwerks zu verbieten.

Die Regeln für Allzweck-KI-Systeme wie Chatbots gelten ein Jahr nach Inkrafttreten des Gesetzes. Mitte 2026 tritt das gesamte Regelwerk in Kraft, einschließlich der Anforderungen für Hochrisikosysteme.

In Sachen Durchsetzung wird jedes EU-Land eine eigene KI-Aufsichtsbehörde einrichten, bei der Bürger eine Beschwerde einreichen können, wenn sie glauben, Opfer eines Verstoßes gegen die Vorschriften geworden zu sein. Brüssel wird derweil ein KI-Büro einrichten, das mit der Durchsetzung und Überwachung des Gesetzes für Allzweck-KI-Systeme beauftragt ist.

Verstöße gegen den KI-Act können mit Bußgeldern von bis zu 35 Millionen Euro (38 Millionen Dollar) oder 7 % des weltweiten Umsatzes eines Unternehmens geahndet werden.

Dies ist nicht das letzte Wort von Brüssel zu KI-Regeln, sagte der italienische Gesetzgeber Brando Benifei, Co-Leiter der Parlamentsarbeit zu dem Gesetz. Weitere KI-bezogene Gesetze könnten nach den Sommerwahlen kommen, auch in Bereichen wie KI am Arbeitsplatz, die das neue Gesetz teilweise abdeckt, sagte er.