KI-Regeln der EU: Was Betriebe wissen müssen

Die Europäische Union hat mit der KI-Verordnung (AI Act) einen umfassenden Rechtsrahmen für die Entwicklung, den Einsatz und die Nutzung von künstlicher Intelligenz (KI) geschaffen. Diese Verordnung zielt darauf ab, die Risiken der KI zu minimieren und sicherzustellen, dass KI-Systeme transparent, zuverlässig und sicher sind. In diesem Blogbeitrag werden wir auf die wichtigsten Aspekte der KI-Regeln der EU eingehen und erklären, was Betriebe wissen müssen, um den neuen Anforderungen gerecht zu werden.

Was ist die KI-Verordnung?

Die KI-Verordnung, auch bekannt als AI Act, ist ein Gesetz, das von der Europäischen Kommission vorgeschlagen und vom Europäischen Parlament und dem Ministerrat angenommen wurde. Sie trat am 1. August 2024 in Kraft und wird bis auf einige Ausnahmen zwei Jahre nach ihrem Inkrafttreten vollständig anwendbar sein [1] [2]. Diese Verordnung regelt eine Vielzahl von Aspekten im Zusammenhang mit der Entwicklung, Bereitstellung und Nutzung von KI-Systemen, um sicherzustellen, dass diese die Grundrechte und ethischen Grundsätze respektieren.

Welche KI-Systeme sind betroffen?

Die KI-Verordnung umfasst alle Arten von KI-Systemen, die in der Europäischen Union eingesetzt werden. Dazu gehören sowohl Anwendungen mit minimalem Risiko wie Spamfilter und KI-fähige Videospiele als auch Hochrisiko-Anwendungen, die erhebliche Auswirkungen auf die Gesellschaft haben können [2]. Hochrisiko-KI-Systeme werden nach ihrem Risiko bewertet und entsprechend reguliert. Anbieter und Betreiber dieser Systeme müssen strenge Anforderungen erfüllen, wie das Einrichten eines Qualitätsmanagementsystems und eines Risikomanagementsystems, sowie die Erstellung detaillierter technischer Dokumentation [1].

Anbieter und Betreiber von KI-Systemen

Unternehmen, die KI-Systeme entwickeln, verkaufen oder betreiben, müssen sich an die Vorschriften der KI-Verordnung halten. Anbieter sind Unternehmen, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickeln oder entwickeln lassen und es in der EU oder im EWR unter eigenem Namen oder einer Handelsmarke in Verkehr bringen oder in Betrieb nehmen [1]. Betreiber sind Unternehmen, die ein KI-System in eigener Verantwortung verwenden, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet. Beispiele für Betreiber sind Unternehmen, die ein KI-System zur Personalbeschaffung einsetzen [1].

Anforderungen an Hochrisiko-KI-Systeme

Hochrisiko-KI-Systeme müssen bestimmte Anforderungen erfüllen, um in der EU eingesetzt werden zu dürfen. Dazu gehören:

• Qualitätsmanagementsystem: Die Einrichtung eines Qualitätsmanagementsystems, das die Einhaltung der KI-Verordnung gewährleisten soll [1].
• Risikomanagementsystem: Das Einrichten eines Risikomanagementsystems, das den gesamten Lebenszyklus eines Hochrisiko-KI-Systems abdeckt [1].
• Detaillierte technische Dokumentation: Die Erstellung detaillierter technischer Dokumentation über das KI-System [1].
• Konformitätsbewertung: Eine Ex-ante-Konformitätsbewertung, bevor ein bestimmtes KI-System in Betrieb genommen oder in Verkehr gebracht wird [2].

Sanktionen nach der KI-Verordnung

Bei Verstößen gegen die Regelungen der KI-Verordnung drohen hohe Bußgelder. Die Obergrenze für die Sanktionen beträgt 35 Millionen Euro oder 7 % des gesamten weltweiten Jahresumsatzes des Unternehmens im vorangegangenen Geschäftsjahr für Verstöße gegen verbotene KI-Praktiken. Andere Verstöße können mit bis zu 15 Millionen Euro oder 3 % des Umsatzes des Unternehmens sanktioniert werden. Bei einer Übermittlung falscher Informationen an die Behörden drohen Bußgelder von bis zu 7,5 Millionen Euro oder 1 % des Jahresumsatzes [1].

Freie Nutzung von KI mit minimalem Risiko

Die KI-Verordnung erlaubt die freie Nutzung von KI mit minimalem Risiko. Dazu gehören Anwendungen wie KI-fähige Videospiele oder Spamfilter. Die überwiegende Mehrheit der derzeit in der EU eingesetzten KI-Systeme fällt in diese Kategorie [2].

Praktische Umsetzung

Sobald ein KI-System auf dem Markt ist, sind die Behörden für die Marktüberwachung zuständig. Die Betreiber gewährleisten die menschliche Aufsicht und Überwachung, und die Anbieter verfügen über ein System zur Überwachung nach dem Inverkehrbringen. Anbieter und Betreiber müssen schwerwiegende Vorfälle und Fehlfunktionen melden. Diese Transparenz und Überwachung sind entscheidend, um sicherzustellen, dass KI-Systeme die Grundrechte und ethischen Grundsätze respektieren [2].

Nächste Schritte

Das KI-Gesetz ist am 1. August in Kraft getreten und wird zwei Jahre später in vollem Umfang anwendbar sein, mit einigen Ausnahmen. Verbote treten nach sechs Monaten in Kraft, die Governance-Regeln und die Verpflichtungen für KI-Modelle für allgemeine Zwecke treten nach zwölf Monaten in Kraft, und die Vorschriften für KI-Systeme, die in regulierte Produkte eingebettet sind, gelten nach 36 Monaten [2]. Um den Übergang zum neuen Rechtsrahmen zu erleichtern, hat die Kommission den KI-Pakt ins Leben gerufen, eine freiwillige Initiative, die darauf abzielt, die künftige Umsetzung zu unterstützen und KI-Entwickler aus Europa und darüber hinaus einlädt, die wichtigsten Verpflichtungen des KI-Gesetzes vorzeitig zu erfüllen.

Schulung der Mitarbeiter

Die KI-Verordnung legt auch die Schulung der Mitarbeiter hinsichtlich KI nahe. Unternehmen sollen ihre Mitarbeiter in die Möglichkeiten und Risiken der KI einweisen, um sicherzustellen, dass sie die Anforderungen der Verordnung verstehen und umsetzen können. Dies ist besonders wichtig, um sicherzustellen, dass die Mitarbeiter die ethischen Grundsätze und die Grundrechte respektieren [4].

Fazit

Die KI-Verordnung der EU bietet eine klare und harmonisierte Regulierung für die Entwicklung, den Einsatz und die Nutzung von KI-Systemen. Durch die Einführung von strengen Anforderungen und Sanktionen soll die Vertrauenswürdigkeit und Sicherheit von KI-Systemen in der EU gewährleistet werden. Unternehmen, die KI-Systeme einsetzen, müssen sich an diese neuen Anforderungen anpassen, um sicherzustellen, dass sie den gesetzlichen Vorschriften entsprechen und die ethischen Grundsätze respektieren. Durch die Schulung der Mitarbeiter und die Einhaltung der Vorschriften können Unternehmen die Chancen der KI nutzen und gleichzeitig die Risiken minimieren. Die KI-Verordnung der EU ist ein wichtiger Schritt zur Förderung einer vertrauenswürdigen und sicheren KI in Europa und darüber hinaus.