Die KI kann kommen: Mit dem ersten KI-Gesetz der Welt reguliert die EU den KI-Hype

Spätestens seit dem Durchbruch von Chat-GPT Ende 2022 hat sich ein echter Goldrausch rund um das Thema Künstliche Intelligenz (KI) entwickelt. Diese Woche wurde nun das „erste KI-Gesetz der Welt“ in der Europäischen Union verabschiedet. Das EU-Parlament hat sich mit deutlicher Mehrheit, d.h. mit 523 Ja- zu 46 Nein-Stimmen und 49 Enthaltungen, für den „AI Act“ ausgesprochen, also für ein Gesetzespaket zur Regulierung von Künstlicher Intelligenz innerhalb der Mitgliedsstaaten der Europäischen Union, das voraussichtlich 2026 in Kraft tritt. Doch warum braucht es Regulierung?

Künstliche Intelligenz beschreibt Computersysteme, die in der Lage sind, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern und umfasst u.a. die Anwendungsbereiche „Maschinelles Lernen“, „Deep Learning“ und „Generative KI“, d.h. Computersysteme, die ohne explizite Programmierung lernen können, die neuronale Netze verwenden, um komplexere Muster zu verarbeiten und die neue Daten erzeugen, anstatt sie nur zu analysieren.

Dass das Potential, aber auch die Risiken als immens eingestuft werden, zeigt das „Statement on AI Risk“, das 2023 von 600 Wissenschaftlern, KI-Experten und Unternehmern unterschrieben wurde: „Die Minderung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“

Mit dem am 13. März verabschiedeten Gesetzespaket setzt die EU nun ihr Zeichen, den KI-Markt zu regulieren, um sicherzustellen, dass KI-Systeme transparent, sicher, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. KI-Systeme werden dabei in vier Kategorien eingeteilt, nach denen sie unterschiedlich hohe Anforderungen und Transparenz-Standards erfüllen müssen:

• Schädlich, z.B. manipulative Techniken, „Social Scoring“, biometrische Identifizierung in öffentlich zugänglichen Räumen (ausgenommen davon eine begrenzte Anzahl von Anwendungsbereichen wie z.B. zur Strafverfolgung, Terrorismus, Suche von vermissten Kindern)  
• Hohes Risiko, z.B. Luftfahrt, Autos, Spielzeug, medizinische Geräte, Aufzüge  
• Limitiertes Risiko, z.B. Chatbots, Emotionserkennungssysteme, Systeme zur biometrischen Kategorisierung und KI-Systeme, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, z.B. Deepfakes
• Geringes oder minimales Risiko, bei denen Anbieter von KI-Systemen keinen zusätzlichen rechtlichen Pflichten unterliegen, sich aber an einen Verhaltenskodex halten und freiwillig die verbindlichen Anforderungen für KI-Systeme mit hohem Risiko einhalten sollen

Verstöße gegen das KI-Gesetz werden mit Bußgeldern in Höhe von bis zu 30 Mio. € oder 6 % des gesamten weltweiten Jahresumsatzes geahndet. Nach Inkrafttreten des Gesetzes im Jahr 2026 müssen verbotene Systeme innerhalb von sechs Monaten und Systeme mit hohem Risiko innerhalb von 24 Monaten abgeschafft werden, während geplante Verhaltenskodizes spätestens nach neun Monate vorliegen müssen.

Dabei stehen die Mitgliedsstaaten der EU gar nicht unmittelbar auf den vordersten Plätzen, wenn es darum geht, wie vorbereitet die weltweiten Regierungen auf den Einsatz von KI bei der Erbringung ihrer öffentlichen Dienstleistungen für ihre Bürger sind. Unser Chart der Woche zeigt den Government AI Readiness Index von Oxfordinsights, der auf 39 Indikatoren bezüglich der Strategieausrichtung der Regierung, digitaler Kapazitäten, Unternehmer- und Innovationsfreundlichkeit und Daten- und Infrastrukturverfügbarkeit basiert. Finnland rangiert als erstes Land der EU auf Platz vier hinter den USA, Singapur und Großbritannien. Deutschland sichert sich einen respektablen 8. Platz von 193 betrachteten Ländern, was eine Verbesserung um 7 Plätze gegenüber dem Ranking 2022 bedeutet. Der KI-Aktionsplan, mit dem das Bundesministerium für Bildung und Forschung (BMBF) die Erforschung, Entwicklung und Anwendung, u.a. durch die Verbesserung der Computerinfrastruktur in der laufenden Legislaturperiode mit 1,6 Milliarden Euro fördert und Leitlinien für KI in der Bildung erarbeitet, ist ein zentraler Grund für die Verbesserung der Position. Nachholbedarf besteht dagegen nach wie vor im Bereich „Technologiesektor“, also ob ein Land über einen reifen AI-Unternehmensmarkt verfügt, wie viel geforscht und investiert wird und ob Fähigkeiten und Verfügbarkeit von Fachpersonal vorhanden ist. Schlusslicht der EU bilden Rumänien und Kroatien, die noch über keine nationalen AI-Strategien verfügen, aber daran arbeiten.

Tatsächlich stehen einer flächendeckenden Implementierung von KI-Systemen und vor allem generativer KI aber noch mehrere Hindernisse gegenüber: Datenverfügbarkeit zum Trainieren der Modelle, Investitionen in KI-Anwendungen und Humankapital, Infrastruktur und Ressourcenverfügbarkeit. Um die Arbeit mit generativer KI zu erlernen, müssen zahlreiche Arbeitnehmer geschult werden, das Einstellen einiger KI-Experten reicht nicht aus. Denn um von den Vorteilen der KI zu profitieren, ist ein anderer Umgang erforderlich als das reine Eingeben in eine Suchleiste. Zudem müssen Unternehmen und Regierungen bereit sein, in KI-Anwendungen zu investieren. KI-Modelle wiederum benötigen viel Rechenleistung, bereitgestellt in Rechenzentren, die wiederum Strom und Frischwasser zur Kühlung ihrer Server benötigen. Ein Ausbau digitaler Infrastruktur und der Stromnetze ist daher eine Grundvoraussetzung, ein Bereich, den mehrere EU-Staaten noch ausbauen sollten, um gerade zu den USA aufzuschließen. Schließlich stellt sich die Frage nach der Zuverlässigkeit der Daten, die von der KI genutzt werden und nach der Sicherheit. Hier hat die EU mit dem „AI Act“ einen Grundstein gelegt. Die Regierungsbereitschaft ist vorhanden, die großflächige KI-Implementierung kann kommen.  

Und auch nächste Woche dreht sich auf unserem Blog alles um KI, wenn wir beleuchten, wie Konsumenten über künstliche Intelligenz denken, sie benutzen, und welche Chancen und Risiken sie in der Anwendung sehen. Die Hintergründe zu KI, was sie genau für uns bedeutet, ob die Produktivität gesteigert wird und ob man um den eigenen Job bangen muss, darüber haben wir uns in Podcast-Folge 239 „Goldgräberstimmung wegen Künstlicher Intelligenz - Hype oder echte Revolution?“ unseres Podcasts „Carsten’s Corner“ unterhalten. Und wer sich etwas tiefer in die Materie einlesen möchte, findet unseren englischsprachigen Content auf AI | ING Think, wo wir uns in den nächsten Wochen näher mit den Auswirkungen Künstlicher Intelligenz auf die Wirtschaft beschäftigen. Gleich reinlesen und reinhören!