Als Künstliche Intelligenz wird ein Zweig der Informatik bezeichnet, der sich damit beschäftigt, anpassungsfähige und kreative Algorithmen und Prozesse zu studieren und zu kreieren [1]. Obwohl es diesen Forschungszweig schon sehr lange gibt (bereits Alan Turing schrieb 1950 zu diesem Thema), hat er erst vor Kurzem große Aufmerksamkeit erlangt, vor allem durch die Entwicklung leistungsfähiger Large-Language-Modelle (LLMs) und deren Anwendungen wie ChatGPT. Diese Modelle können menschenähnliche Texte generieren, da sie durch das Training mit gewaltigen Datenmengen das wahrscheinlichste nächste Wort in einer Wortsequenz berechnen können [2].

Für Unternehmen stellen diese LLMs eine Revolution dar, da sie eine Vielzahl von Aufgaben automatisieren und damit die Effizienz in Unternehmen massiv steigern können. Es existieren zusätzlich auch viele andere KI-Modelle jenseits von LLMs, die sich für andere Bereiche in internen Prozessen anbieten: Zum Beispiel können KI-Modelle die Effizienz chemischer Prozesse in der Chemie- oder Pharmaindustrie optimieren, indem der optimale Prozessablauf in der Medikamentenentwicklung bestimmt und mittels einer Rückkopplung die Parameter (z. B. Temperatur, Feuchtigkeit etc. im Entwicklungsumfeld) optimal angepasst werden [3]. Ebenso ist der Einsatz im Bankwesen sehr interessant, zum Beispiel zur Vorhersage von Kreditausfällen und zur Berechnung von genauen Zinsraten im Falle einer Kreditaufnahme [4].

Künstliche Intelligenz: Neue Regeln durch den EU AI Act

Mit dem zunehmenden Einsatz von KI wächst auch die Verantwortung: Der rechtssichere, transparente und ethisch vertretbare Umgang mit KI rückt in den Fokus regulatorischer Maßnahmen.

Mit dem EU AI Act schafft die Europäische Union nun den weltweit ersten umfassenden Rechtsrahmen zur Regulierung der Nutzung von KI-Systemen. Die Verordnung verpflichtet Unternehmen zu umfangreichen Maßnahmen: von technischer Dokumentation über Erfassung der Trainingsdaten bis hin zur menschlichen Aufsicht während des KI-Einsatzes. Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Vorjahresumsatzes.

Ebenso verpflichtet der Rechtstext in Art. 4 die Weiterbildung der Mitarbeitenden im Bereich KI. Das bedeutet, dass insbesondere Mitarbeitende, die mit KI-Tools arbeiten, bestimmte Kenntnisse in diesem Bereich vorweisen können sollten. Damit soll sichergestellt werden, dass Mitarbeitende sich der Chancen und Risiken dieser Technologie bewusst sind und Unternehmen das volle Potenzial der KI ausschöpfen können. Dabei handelt es sich um eine Pflicht, sollte aber auch als Anreiz wahrgenommen werden, KI besser und sicherer einzusetzen und somit KI-basierte Risiken zu minimieren. Der Gesetzgeber sieht aber keine Kontrollmechanismen vor.

Da KI-Tools durchaus unterschiedlich sind und auch verschiedene Risiken bergen, wird empfohlen, fall- und anwendungsspezifisch relevante Weiterbildungen wahrzunehmen. Es wird ebenso empfohlen, etwaige Fortbildungsdokumente und -bescheinigungen aufzubewahren, um im Ernstfall die Compliance nachzuweisen.

Was der EU AI Act regelt und warum er so relevant ist

Ziel des EU AI Acts ist es, sowohl die Innovationskraft Europas im Bereich KI zu fördern als auch die Grundrechte der Bürgerinnen und Bürger zu schützen. Herzstück der Verordnung ist die Einteilung von KI-Systemen in vier Risikokategorien, aus denen sich unterschiedliche Pflichten für Unternehmen ableiten. Diese Einteilung entscheidet maßgeblich über den Umfang der regulatorischen Anforderungen und über die Verantwortung der Unternehmen.

KI-Systeme mit unannehmbarem Risiko sind laut EU AI Act komplett verboten. KI-Systeme mit hohem Risiko hingegen sind erlaubt, werden aber am strengsten reguliert, da sie für die Grundrechte die größte Gefahr darstellen.

Dazu gehören:

• der Einsatz von KI in der Strafverfolgung, im Bereich Asyl, Migration und Justiz, in Prozessen der demokratischen Willensbildung (Wahlkämpfe)
• der Einsatz von KI zur Berechnung des Anspruchs auf öffentliche Unterstützung, Bonitätsbeurteilung, Risiko- und Prämienbestimmung sowie Triage von Notrufen, Notfalleinsätzen und in der Ersten Hilfe
• im Recruiting oder im Bewerten des Verhaltens oder der Leistung von Mitarbeitenden
• der Einsatz in Bildungseinrichtungen zum Evaluieren von Ergebnissen, Beobachtung bei Prüfungen oder Zugang zu Bildungsangeboten
  der Einsatz von KI-basierten Komponenten in bestimmten kritischen Infrastrukturen (z. B. Elektrizitäts- oder Wasserversorgung)
• Biometrie, also der Einsatz von KI zur biometrischen Klassifizierung, Fernidentifizierung oder Emotionserkennung
• Wer ist vom EU AI Act betroffen?

Der EU AI Act betrifft nicht nur Unternehmen mit Sitz in der EU. Auch Anbieter, Importeure oder Betreiber von KI-Systemen aus Drittländern unterliegen der Verordnung, sofern ihre Systeme innerhalb der EU eingesetzt werden oder dort Wirkung entfalten. Damit wird der EU AI Act zu einem international relevanten Regelwerk, vergleichbar mit der Datenschutz-Grundverordnung (DSGVO).

Die Verordnung unterscheidet zwischen Anbietern und Betreibern. Anbieter sind als Hersteller/Entwickler eines KI-Systems zu verstehen und Betreiber sind die Unternehmen, die KI-Systeme lediglich einsetzen. Nutzt beispielsweise ein deutsches Unternehmen ein US-amerikanisches HR-Tool mit KI-Komponenten zur Bewerberauswahl, dann greifen die Anforderungen des EU AI Acts und das deutsche Unternehmen wäre dementsprechend der Betreiber und das US-amerikanische Unternehmen der Anbieter.