KI-Governance beginnt beim Menschen, nicht der Technik

Noch immer erklären viele Trainingsprogramme vor allem, was KI ist und wie sie technisch funktioniert. Das reicht aber nicht.TippaPatt – Shutterstock.com



Bislang haben IT-Trainer Mitarbeitern beigebracht, wie man neue Technologien bedient. Generative KI verlangt jedoch, Menschen zu lehren, wie sie mithilfe von KI denken.



Dennoch gehen die meisten Organisationen immer noch falsch vor. Sie beginnen beim Tool, formulieren Regeln und Richtlinien, schulen ihre Mitarbeiter und wundern sich dann, warum die Nutzung von KI in ihren Organisationen stagniert.



Einen Beleg für diese Fehlausrichtung liefert eine vielbeachtete Analyse der Harvard Business Review zur tatsächlichen Verwendung von generativer KI. Menschen nutzen die Technologie demnach längst nicht nur als Werkzeug für Texte oder Code, sondern als Denk- und Gesprächspartner in emotional relevanten Situationen. Wer KI-Governance weiterhin rein von den Regeln her denkt, verkennt diese Realität.



„Wir haben zwanzig Jahre lang Menschen gelehrt, Technologie zu nutzen. KI verlangt von uns, Menschen beizubringen, mit Technologie zu denken”, betont Erica Farmer, KI- und Future-Skills-Expertin sowie Autorin des Buchs „AI for People Professionals“.



Weg von der Regelliste



Diese Einsicht hat erhebliche Konsequenzen für Compliance-Abteilungen und die betriebliche Weiterbildung. Ein menschenzentrierter Ansatz fängt nicht beim Tool an, sondern beim Verhalten der Menschen, ihrem Selbstvertrauen und ihrem Können.



 Compliance sollte nicht länger nur Regeln aufstellen, sondern Mitarbeiter dabei uhterstützen, in Alltagssituationen eigenständig gute Entscheidungen zu treffen, etwa:




Wann lohnt sich KI, wann eher nicht?



Wie erkennt man verzerrte oder vorurteilsbehaftete Ergebnisse?



Was ist zu tun, wenn die Aussagen einer KI misstrauisch machen?




Compliance wird damit weniger Restriktion und mehr Befähigung zu sicherem Urteilsvermögen und verantwortungsvollem Handeln.



Bei Schulungen zeigt sich das gleiche Muster. Noch immer erklären viele Trainingsprogramme vor allem, was KI ist und wie sie technisch funktioniert. Das ist selbstverständlich wichtig, aber zu wenig. Ein Vertriebsmitarbeiter braucht andere KI-Fähigkeiten als jemand aus dem Personalwesen, ein Ingenieur wieder andere als jemand im Kundenservice. Und alle benötigen ein Bewusstsein für die jeweils notwendigen Leitplanken und die eigenen Anwendungsfälle.



Der Erfolg eines Trainings lässt sich nicht an Teilnahmequoten ablesen, sondern daran, ob Menschen nach der Schulung KI sicher, wirksam, verantwortungsvoll und selbstbewusst einsetzen. Im Kern handelt es sich bei KI-Nutzung um eine kulturelle Frage. Selten scheitert KI an der Technik. Meistens hakt es dort, wo niemand die Menschen bei der Hand genommen und auf ihrem Weg zum sicheren Umgang mit KI begleitet hat.



Psychologische Sicherheit braucht Führung



Psychologische Sicherheit, also das Vertrauen, KI ohne Angst vor Fehlern auszuprobieren und zu nutzen, entsteht nicht von selbst, sondern muss von Führungskräften aktiv unterstützt und gefördert werden.



Farmer hat dieser Frage einen eigenen Beitrag gewidmet, der beschreibt, wie Führungskräfte konkret Vertrauen und eine Kultur des Experimentierens etablieren, statt Fehler zu sanktionieren. Den Verantwortlichen kommt dabei eine dreifache Rolle zu: als Vorbild, Coach und Change Manager für Prozesse und Strukturen.



Ohne aktive Anleitung und Führung, die das Selbstvertrauen der Belegschaft stärkt, bleibt jedes Trainingsprogramm weitgehend wirkungslos. Als Folge davon halten sich Mitarbeiter im Zweifel zurück, statt KI offen einzusetzen.



Wenn Selbstvertrauen zu Selbstüberschätzung wird



Allerdings ist das gegenteilige Verhalten nicht weniger problematisch: Was, wenn Mitarbeiter ihre eigene KI-Kompetenz überschätzen? Die Antwort darauf liegt im Grunde in einer sauberen Definition von KI-Kompetenz. Wer wirklich kompetent ist, weiß, wann man am besten auf KI verzichtet oder wie man ihre falschen, verzerrten und erfundenen Antworten korrigiert. Damit einher geht die Haltung, kontinuierlich dazuzulernen und sich weiterzuentwickeln.



Überzogenes Selbstvertrauen entsteht vor allem dort, wo Unternehmen sich auf technisches Wissen konzentrieren und menschliche Fähigkeiten vernachlässigen. Kritisches Denken, klare Kommunikation, gesunder Menschenverstand, fachliches und ethisches Urteilsvermögen, Kreativität: Erst im Zusammenspiel dieser typisch menschlichen Eigenschaften mit KI-Wissen entsteht ein realistisches Selbstbild.



Wie reif ist eine Organisation für KI?



Der stärkste Indikator für den KI-Reifegrad eines Unternehmens ist laut Farmer nicht die Tool-Adoption, sondern die Verhaltensänderung: Wenn Menschen selbstverständlich zu KI als vertrauenswürdigem Denkpartner greifen und dabei kritisches Urteilsvermögen an den Tag legen, beginnt eine Organisation eine echte KI-Reife zu entwickeln.



Einen praktischen Rahmen dafür bietet das H(AI)R-Modell, das Farmer in ihrem Buch beschreibt:




Human Judgement – treffen Menschen gute Entscheidungen?



AI Insight – nutzen sie KI wirksam?



Resources – haben sich Workflows, Richtlinien und Unterstützungsstrukturen entsprechend weiterentwickelt?




EU AI Act: Neue Kultur statt neuer Policy



Genau diese Verhaltensänderung ist das eigentliche Ziel des EU AI Act. Die KI-Verordnung der Europäischen Union verfolgt das Ziel, die Unternehmen zum gebotenen KI-Reifegrad zu verpflichten.



Zwar drohen ab dem nächsten Jahr empfindliche Strafen in Höhe von 35 Millionen Euro oder bis zu sieben Prozent des weltweiten Umsatzes. Doch im Kern geht es bei dieser Regulierung nicht um Bestrafung, sondern darum, dass die Unternehmen und ihr Personal weiterhin auf ihren gesunden Menschenverstand und ihr ausgeprägtes Urteilsvermögen setzen, wenn sie mit KI umgehen.



Aus diesem Grund verpflichtet der EU AI Act bereits seit Anfang Februar 2025 (vgl. Artikel 4 des EU AI Act) sämtliche Beschäftigten eines Unternehmens – vom Arbeiter bis zum Top-Manager -, zu KI-Kompetenz und dazu, eine entsprechende Haltung und Kultur im Betriebsalltag zu pflegen.



Damit diese Kultur Einzug hält und sich etabliert, müssen Organisationen an mehreren Stellschrauben gleichzeitig drehen:




Betriebliche Weiterbildung darf sich nicht an Tool-Features mit kurzer Halbwertszeit abarbeiten, sondern Tool-unabhängige Fähigkeiten wie kritisches Denken und Urteilsvermögen sowie Verantwortungsbewusstsein fördern.



Talentsucher sollten fragen, wie gut jemand mit KI zusammenarbeiten kann, statt nur Routinetätigkeiten abzufragen, die ohnehin bald automatisiert sein könnten.



Führungskräfte müssen lernen, hybride Teams zu führen, in denen ein Teil der Arbeit von Menschen, ein Teil von Maschinen erledigt wird, ohne dass die Verantwortung auf die KI abgeschoben wird.



Leistung misst sich an der Qualität, weniger an quantitativen Größen. Wer dank KI eine Aufgabe bei gleicher Qualität erledigt, sollte dafür honoriert werden. Benötigt er oder sie dafür nur die halbe Zeit wie zuvor, umso besser. Falsch wäre es hingegen, eine feste Vorgabe zur Zeitersparnis zu machen und daran den Erfolg festzumachen.



Governance gehört in die täglichen Abläufe eingebettet, statt einmal im Jahr in einer Pflichtschulung abgehandelt zu werden. Auch hier gilt der Grundsatz „Loben statt Tadeln“. Wer auf Verstöße hinweist, sollte honoriert, der Verursacher hingegen nicht beschämt werden. Nur so entsteht ein positiver Geist, der Teams motiviert, sich gegenseitig bei der Einhaltung von Compliance-Vorgaben zu unterstützen.




Selbst machen oder einkaufen?



Eine Frage, die in fast jedem Vorstandsgespräch aufkommt, lautet: Welche KI-Fähigkeiten sollte man intern aufbauen, welche lieber zukaufen? Erfolgreiche Organisationen machen in der Regel beides und entscheiden nach einer einfachen Faustregel. Was langfristig Wettbewerbsvorteile verschafft, erledigen sie selbst. Was hingegen schnelles, sicheres Vorankommen erfordert und intern zu riskant wäre, überlassen sie vertrauten Partnern.



Das Wissen, wie sich diese KI-Kompetenz und -Governance aufbauen lässt, verbreitet sich gerade im Markt. Schließlich ist KI immer noch eine neue Technologie, außerdem entwickelt sie sich rasant von Woche zu Woche weiter. Etablierten Schulungsanbietern und Compliance-Experten kommt dabei eine Vorreiterrolle zu. Sie haben über Jahre bewiesen, dass sie nicht nur die Regulierungen kennen, sondern auch und vor allem wissen, wie sie in den Unternehmen zur gelebten Alltagspraxis werden.



Governance, die man lebt, nicht dokumentiert



Ein sauber gepflegtes Dokument von 40 Seiten, das niemand liest, mag im Audit bestehen, bewirkt aber keine Verhaltensänderung. Wer die Chancen kennt und weiß, wo er oder sie Unterstützung findet, empfindet Governance nicht als Beeinträchtigung, sondern als Befähigung. Schließlich zeichnet sich gute KI-Governance laut Farmer gerade dadurch aus, dass man sie kaum noch bemerkt. (mb)