Der AI Act ist verkündet – was bedeutet das jetzt für Unternehmen?

Teil 1 – Die ersten sechs Monate

Am 12. Juli 2024, wurde der AI Act der EU im Amtsblatt veröffentlicht. Jetzt sind es noch zwanzig Tage bis die EU Verordnung zur Regulierung künstlicher Intelligenz am 1. August 2024 offiziell in Kraft tritt.

Die EU feiert den AI Act als weltweit ersten umfassenden Rechtsrahmen für den Einsatz von KI. Durch ihn soll vertrauenswürdige KI in Europa und weltweit gefördert werden. KI-Anbieter und Verwender sollen die Grundrechte, die Sicherheit und die ethischen Grundsätze beachten und sich mit den Risiken der immer leistungsfähiger werdenden KI-auseinandersetzen.

Das Inkrafttreten des AI Acts bedeutet allerdings nicht, dass die Verordnung schon in vollem Umfang gilt. Wie bei europäischen Rechtsakten häufig, wird er erst gestuft über einen längeren Zeitraum schrittweise anwendbar werden.

Der erste wichtige Meilenstein ist der 1. Februar 2025.

Verbotene KI-Praktiken

Ab diesem Zeitpunkt verbietet Artikel 5 bestimmte besonders unethische KI-Praktiken, wie

eine Manipulation des Verhaltens von Menschen und die Ausnutzung ihrer Schwächen, um so Entscheidungen zu steuern
soziale Bewertungssysteme, um Menschen anhand von Merkmalen wie Rasse, Geschlecht, Religion oder politischer Überzeugung zu bewerten (Social Scoring)
Vorhersagen über die mögliche Straffälligkeit aufgrund von Persönlichkeitsmerkmalen
Datenbanken zur Gesichtserkennung, die Gesichter aus dem Internet oder aus Video-überwachungsaufnahmen sammeln und auswertbar machen (Scraping)
Emotionserkennung bei Arbeitnehmerinnen und Arbeitnehmern oder in Bildungseinrichtungen.
Biometrische Kategorisierung, die einzelne Personen im Hinblick auf Rasse, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder philosophische Überzeugungen oder Sexualität einordnen
Identifikationssysteme, die in „Echtzeit″ Personen erkennen können (außer in engen Grenzen durch Ermittlungsbehörden).

Die EU meint es hier sichtlich sehr ernst, denn ein Verstoß gegen dieses Verbot wird mit der höchsten Strafe des AI Acts sanktioniert: Diese Strafe kann bis zu 35 Millionen Euro oder, wenn dieser Betrag höher ist, bis zu 7 % des weltweiten Konzernumsatzes betragen.

KI Kompetenz

Weniger dramatisch als das Verbot der unethischen KI-Praktiken erscheint die ebenfalls ab 1. Februar 2025 geltende Pflicht nach Artikel 4 AI Act. Hiernach sollen Anbieter und Betreiber von KI-Systemen für ihr Personal sicherstellen, dass betriebsintern ein ausreichendes Maß an KI-Kompetenz besteht. Damit ist die Fähigkeit zum sachkundigen Einsatz von KI im Betrieb und das Bewusstsein für Chancen und Risiken im Betrieb gemeint.

Was dies konkret an Maßnahmen bedeutet, bleibt noch etwas unklar. Konkret kann dies jedenfalls als eine Verpflichtung zu Personalschulungen verstanden werden. Eine Strafe bei Nichterfüllung ist im AI Act zunächst nicht vorgesehen, allerdings können die Mitgliedstaaten hier aber später eigene Strafen nach Artikel 99 Abs. 1 vorsehen.

Wohin die EU hier langfristig zielt, ist allerdings klar: Es geht auch um die Verantwortlichkeit der Geschäftsleitung, die hier die Organisation „AI-Act-ready“ machen muss.

Bemerkenswert ist dabei, dass im Rahmen der KI-Kompetenz nicht nur einseitig von den Risiken, sondern ausdrücklich auch von den Chancen gesprochen wird.

Was heißt das konkret für Unternehmen?

Die hohe Strafandrohung für verbotene KI-Praktiken wird für europäische Unternehmen keine relevante Einschränkung darstellen. Denn solche offensichtlich unethischen Nutzungen hätten in Europa ohnehin keinen Markt.

Dagegen ist das vermeintlich weiche Thema der KI-Kompetenz relevant, auch wenn es straflos missachtet werden könnte. Denn die Unternehmen müssen sich jetzt dringend um ihre KI-Kompetenz bemühen. Denn sonst verpassen sie die Chancen des KI-Einsatzes für ihr Geschäft. Und auf die Risiken – auch aus dem AI Act – sollten sie ohnehin achten.

Sprechen Sie mit uns über die rechtlichen Auswirkungen des AI Acts für Ihr Unternehmen. In Zusammenarbeit mit unserem Kooperationspartner BDO AG Wirtschaftsprüfungsgesellschaft bieten wir Ihnen umfassende Beratung zu den Themen KI-Nutzung und -Compliance: unsere AI Strategy & Implementation Services.