EU-Gesetz für KI gilt: Was ist zu beachten?

Das EU-Gesetz für KI, auch bekannt als KI-Gesetz oder AI-Act, ist der erste umfassende Rechtsrahmen, der sich mit den Risiken der Künstlichen Intelligenz (KI) befasst. Die viel beachtete EU-Verordnung zur Regulierung von künstlicher Intelligenz (KI) ist am 1. August 2024 in Kraft getreten. Diese Verordnung teilt KI-Systeme in verschiedene Risikokategorien ein und legt detaillierte Regeln für deren Nutzung fest. Hier sind die wichtigsten Informationen und Antworten auf häufige Fragen.

Was regelt das neue Gesetz?

Das KI-Gesetz stellt sicher, dass Europäer Vertrauen in die Vorteile der KI haben. Während die meisten KI-Systeme nur geringes Risiko bergen und viele gesellschaftliche Herausforderungen lösen können, gibt es bestimmte Systeme, die erhebliche Risiken darstellen. Diese Risiken müssen angegangen werden, um unerwünschte Ergebnisse zu vermeiden. Zum Beispiel kann es schwierig sein, nachzuvollziehen, warum ein KI-System eine bestimmte Entscheidung getroffen hat. Das kann zu ungerechtfertigten Benachteiligungen führen.

Gleich vorweg: Die Mehrheit der Systeme fällt in die niedrigste Risikokategorie und unterliegt somit keinen neuen Regeln, wie aus der Folgenabschätzung der EU-Kommission hervorgeht.

EU-Gesetz würde Innovation in Europa hemmen

Ganz so begeistert, wie sich die EU das von ihren Wählern wünscht, sind speziell Startups nicht. Hinsichtlich der Auswirkungen des AI-Acts in Europa gaben 68 % der befragten Unternehmen mit generativem KI-Fokus in einer Umfrage aus dem Jahr 2024 an, dass dieser die Innovation in Europa hemmen würde. Im Vergleich dazu gaben nur 51 % der befragten Unternehmen ohne generativen KI-Fokus ihre Zustimmung zu dieser Aussage. Weitere 58 % der generativen KI-Startups stimmten zu, dass der Gesetzesvorschlag der EU einen Wettbewerbsnachteil auf internationaler Ebene darstellt. Die Statistik zeigt das genaue Ergebnis der Umfrage.

Was ist künftig verboten?

Bestimmte Anwendungen von KI sind künftig verboten. Dazu gehören biometrische Kategorisierungssysteme, die auf sensiblen Merkmalen wie Hautfarbe, politischen oder religiösen Ansichten basieren. Auch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras ist im Gesetz geregelt. Ausnahmen gibt es jedoch für Sicherheitsbehörden. Diese Verbote treten ab Februar 2025 in Kraft. Für allgemein genutzte KI-Systeme wie ChatGPT gelten ab August 2025 gesonderte Vorschriften.

Hoch-Risiko-KI

Sogenannte „Hoch-Risiko-KI“ darf weiterhin verwendet werden, unterliegt aber strengen Regeln und muss behördlich genehmigt werden. Dies betrifft unter anderem Systeme, die von Sicherheitsbehörden genutzt werden oder in der Personalverwaltung zum Einsatz kommen. Eine besondere Kategorie stellen Systeme dar, bei denen ein „Transparenzrisiko“ besteht. Darunter versteht man beispielsweise eine angemessene Risikobewertung oder auch eine hohe Qualität der Datensätze und klare Informationen für den Betreiber. Hier muss klar erkennbar sein, dass Inhalte mithilfe von KI erstellt wurden.

Auf welche Bereiche erstreckt sich das Gesetz?

Das Gesetz gilt für alle, die KI-basierte Produkte oder Dienstleistungen anbieten. Es umfasst Anwendungen, die Inhalte, Vorhersagen und Empfehlungen liefern oder die Entscheidungsfindung der Nutzer beeinflussen. Im Fokus stehen nicht nur kommerzielle Angebote, sondern auch die Nutzung von KI im öffentlichen Sektor, beispielsweise bei der Strafverfolgung.

Welche Auflagen gelten für KI-Anwendungen?

KI-Anwendungen werden je nach Risiko in verschiedene Kategorien eingestuft: „Minimal“, „Hoch“ und „Inakzeptabel“. Anbieter von Hoch-Risiko-KI müssen strenge Sicherheits- und Transparenzanforderungen erfüllen, einschließlich einer Analyse der Auswirkungen auf die Grundrechte.

Wird KI in der Strafverfolgung eingesetzt?

Ja, Behörden dürfen biometrische Echtzeiterkennung im öffentlichen Raum nutzen, um Opfer von Entführungen, Menschenhandel und sexueller Gewalt zu identifizieren sowie um konkrete Terrorismusgefahren abzuwehren. KI kann auch bei der Fahndung nach Personen eingesetzt werden, die schwerer Verbrechen verdächtigt werden.

Welche KI-Anwendungen sind verboten?

Verboten sind unter anderem biometrische Kategorisierungssysteme, die sensible Merkmale nutzen, und das ungezielte Durchforsten des Internets zur Erstellung von Gesichtsdatenbanken. Auch die Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen sowie Programme zur Verhaltensmanipulation und zur Erstellung von „Social Scoring“-Systemen sind unzulässig.

Welche Strafen sieht der AI-Act vor?

Die Strafen variieren je nach Verstoß und Unternehmensgröße. Sie beginnen bei 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes und können bis zu 35 Millionen Euro oder 7 % des weltweiten Gewinns betragen – je nachdem, welcher Betrag höher ist. Die Strafen sind damit schon recht hoch. 

Wer setzt den AI-Act durch?

Jeder EU-Staat wird eine oder mehrere nationale Behörden benennen, die das Land im Europäischen Ausschuss für künstliche Intelligenz vertreten. Zusätzlich richtet die EU-Kommission ein europäisches KI-Büro ein, das allgemein verwendete KI-Modelle überwacht.

Für die Praxis bedeutet das neue Gesetz auch, dass, sobald ein KI-System auf den Markt kommt, dieses von den Behörden überwacht wird. Betreiber gewährleisten damit die menschliche Aufsicht. Anbieter müssen ein System zur Überwachung nach dem Inverkehrbringen haben und schwerwiegende Vorfälle melden. Ein zukunftssicherer Ansatz stellt sicher, dass KI-Anwendungen auch nach dem Inverkehrbringen vertrauenswürdig bleiben.

Fazit

Das neue EU-Gesetz ist ein bahnbrechender Rechtsrahmen. Die Sicherheit und die Grundrechte sowie der ethische Grundsatz zum Umgang mit KI-Systemen werden damit gewährleistet. Wieweit es die rasante Entwicklung im KI-Bereich positiv unterstützt, bleibt noch offen.