Der EU AI Act ist längst in Kraft – doch ab August wird er erstmals wirklich spürbar. Denn was viele Geschäftsführer nicht wissen: Ab diesem Zeitpunkt können Verstöße gegen zentrale Pflichten durchgesetzt und sanktioniert werden, insbesondere im Umfeld von General-Purpose‑KI (GPAI).

Die Geschäftsführung trägt Verantwortung und haftet – auch für sogenannte Schatten‑KI, also Tools und Use Cases, die Mitarbeiter verwenden, ohne dass die Geschäftsführung davon Kenntnis hat. Unwissen schützt nicht vor Haftung.

AI Governance schafft Klarheit

In seinem Workshop „Road to AI Governance” im CyberForum verdeutlicht Stephan Flegler, Gründer und CEO von Scripted Identity, mit Beispielen aus der Praxis warum Governance, Dokumentation und klare Prozesse notwendig und nützlich sind.

Denn die Führungsaufgabe besteht auch darin, Mitarbeiter fit zu machen für die rechtskonforme Nutzung von KI. „Was nicht klar ist, wird auch nicht umgesetzt“, so die griffige Formel des Referenten. Eine Governance bringt diese Klarheit -und ergänzt in der Praxis des Unternehmens die Sensibilität jedes Einzelnen im Umgang mit KI-Tools oder Tools, die integrierte KI-Elemente verwenden.

Denn was viele Beschäftigte nicht wissen…

Wer KI in beruflichem Kontext nutzt, gilt rechtlich auch als Betreiber – inkl. Verpflichtung zu Compliance. Seit 02.02. letztes Jahr gilt die AI Literacy Pflicht – also die Pflicht zur Schulung von Mitarbeitern für die rechtskonforme KI-Nutzung. An dem sorgfältigen Umgang mit den teilweise mächtigen Tools kann jede Geschäftsführung nur interessiert sein.

Es gibt mehrere gut dokumentierte Fälle, bei dem Unternehmen durch Risiken von KI-Nutzung an ihre wirtschaftlichen Grenzen geführt wurden. In einem Fall wurde ein Gemini API Key in einem veröffentlichen Code von Dritten entdeckt und missbraucht. In den folgenden 48 Stunden liefen kostenpflichtigen KI-Anfragen im Wert von über 80.000 US-Dollars auf – das Unternehmen war rechtlich zur Zahlung verpflichtet…

Wer seine Mitarbeitenden noch nicht geschult hat:

Auch das CyberForum bietet KI-Schulungen an.

Weiterbildung Künstliche Intelligenz

KI-Innovation Lab

Damit Transparenz, Verantwortlichkeiten und klare Regeln aus der AI Governance auch umgesetzt werden können.

 

von Katharina Burgmaier

 

Über den European Digital Innovation Hub Applied Artificial Intelligence and CyberSecurity 2.0 (EDIH-AICS 2.0)

EDIH-AICS 2.0 ist ein europäisches Projekt zur Unterstützung von KMU, Small Mid-Caps und öffentlichen Einrichtungen bei der Einführung und Nutzung von Künstlicher Intelligenz. Er bietet einen vernetzten One-Stop-Shop mit Services für vertrauenswürdige, sichere und nachhaltige KI-Technologien. Getragen wird das Projekt von einem Konsortium aus neun Partnern aus Karlsruhe, darunter das CyberForum. Das Projekt (Grant Agreement-Nr. 101256788) wird von der Europäischen Kommission durch das Programm „Digitales Europa“ (DIGITAL) gefördert und vom Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg kofinanziert und läuft bis Januar 2029.