KI-Governance im Unternehmen: ein praktischer Einstieg
Wozu Unternehmen eine KI-Governance brauchen, welche vier Kernbereiche sie abdecken sollte und wie sie sich im Alltag durchsetzen lässt.
von Elias Mahdavi · Veröffentlicht am · 10 Min.
KI-Governance im Unternehmen ist die Gesamtheit von Regeln, Prozessen und Kontrollen, die festlegen, welche KI-Systeme genutzt werden dürfen, mit welchen Daten und unter wessen Verantwortung. Ein belastbares Framework deckt vier Kernbereiche ab: Risikoklassifizierung nach dem EU AI Act, ein KI-Register aller genutzten Systeme, Daten- und Modellsicherheit sowie klare Freigabeprozesse für neue Werkzeuge.
Das Wichtigste in Kürze
- KI-Governance-Frameworks unterscheiden sich im Reifegrad, decken aber fast immer dieselben vier Kernbereiche ab.
- Risikoklassifizierung ordnet jedes KI-System einer der vier Risikoklassen des EU AI Act zu.
- Ein KI-Register macht sichtbar, welche Systeme tatsächlich genutzt werden – die wirksamste Antwort auf Schatten-KI.
- Daten- und Modellsicherheit entscheidet, welche Daten in welches Modell dürfen und unter welcher Souveränitätsstufe.
- Freigabeprozesse regeln, wer neue KI-Werkzeuge genehmigen darf – ohne sie bleibt jede Richtlinie Theorie.
- Governance ohne technische Durchsetzung bleibt ein Dokument; wirksam wird sie erst in der tatsächlich genutzten Arbeitsumgebung.
Inhaltsverzeichnis
Welche Arten von KI-Governance-Frameworks gibt es?
KI-Governance-Frameworks reichen von einfachen, intern entwickelten Leitfäden bis zu formalisierten, an Normen wie ISO/IEC 42001 orientierten Managementsystemen. Unabhängig vom Reifegrad lassen sich praktisch alle ernstzunehmenden Frameworks auf vier Kernbereiche zurückführen: Risikoklassifizierung, ein KI-Register, Daten- und Modellsicherheit sowie Freigabeprozesse. Wo ein Unternehmen auf dieser Skala steht, hängt weniger vom gewählten Framework-Namen ab als davon, ob diese vier Bereiche tatsächlich mit Leben gefüllt sind.
| Kernbereich | Zentrale Frage | Risiko ohne Governance |
|---|---|---|
| Risikoklassifizierung | In welche EU-AI-Act-Risikoklasse fällt jedes System? | Hochrisiko-Systeme bleiben unerkannt im Einsatz |
| KI-Register | Welche KI-Systeme nutzt das Unternehmen tatsächlich? | Schatten-KI bleibt unsichtbar und unkontrolliert |
| Daten-/Modellsicherheit | Welche Daten dürfen in welches Modell? | Sensible Daten verlassen unkontrolliert den Perimeter |
| Freigabeprozesse | Wer darf neue KI-Tools freigeben? | Jede Person entscheidet einzeln, ohne Nachvollziehbarkeit |
Risikoklassifizierung: die Grundlage, auf der alles andere aufbaut
Jedes im Unternehmen genutzte KI-System sollte einer Risikoklasse zugeordnet sein, bevor über weitere Kontrollen entschieden wird – alles andere ist Governance ohne Fundament. Der EU AI Act gibt dafür mit seinen vier Risikoklassen einen verbindlichen Referenzrahmen vor, den die meisten Frameworks direkt übernehmen, statt eine eigene Klassifizierung zu erfinden. Entscheidend ist dabei weniger die einmalige Einstufung als ein wiederholbarer Prozess: Jedes neue System durchläuft dieselbe Prüfung, nicht nur die, die zufällig zuerst auffallen.
KI-Register: die ehrliche Antwort auf Schatten-KI
Ein KI-Register ist eine laufend gepflegte Übersicht aller im Unternehmen genutzten KI-Systeme – Name, Zweck, verarbeitete Datenkategorien, Risikoklasse, verantwortliche Person und letztes Prüfdatum. Die meisten generischen Governance-Ratgeber erwähnen ein solches Register, ohne zu adressieren, wie es Schatten-KI tatsächlich erfasst: Werkzeuge, die sich Mitarbeitende ohne Freigabe selbst besorgt haben, tauchen naturgemäß in keiner offiziellen Liste auf. Ein Register, das nur die freigegebenen Tools führt, löst also genau das Problem nicht, das die meisten Unternehmen eigentlich umtreibt – dafür braucht es zusätzlich Sichtbarkeit auf Netzwerkebene, nicht nur eine gepflegte Tabelle.
Daten- und Modellsicherheit: welche Daten in welches Modell dürfen
Dieser Kernbereich entscheidet, ob ein KI-System überhaupt sicher betrieben werden kann, unabhängig davon, wie gut Klassifizierung und Register gepflegt sind. In der Praxis heißt das: eine Klassifizierung der Datensensibilität und eine Zuordnung, welche Souveränitätsstufe – maskierte Cloud, EU-souveränes Modell oder vollständiges On-Premise-Hosting – für welche Datenkategorie zulässig ist. Auch die deutsche Datenschutzaufsicht selbst hat hier Nachholbedarf attestiert: Die BfDI wies in einer Handreichung vom Dezember 2025 ausdrücklich auf „erhebliche Unsicherheiten“ beim Umgang mit personenbezogenen Daten in Sprachmodellen hin. Auf EU-Ebene beschäftigt sich auch die Cybersicherheitsagentur ENISA mit der technischen Absicherung von KI-Systemen entlang ihres gesamten Lebenszyklus – ein Hinweis darauf, dass Modellsicherheit inzwischen als eigenständiges Themenfeld behandelt wird, nicht mehr nur als Unterpunkt klassischer IT-Sicherheit.
Freigabeprozesse: der Unterschied zwischen Regel und Realität
Der am häufigsten unterschätzte Kernbereich: Selbst eine vollständige Klassifizierung, ein gepflegtes Register und eine klare Datenpolitik nützen wenig, wenn niemand definiert hat, wer ein neues Tool überhaupt freigeben darf und wie lange das dauert. Fehlt ein zügiger, klar zuständiger Freigabeprozess, umgehen Mitarbeitende ihn in der Praxis regelmäßig – nicht aus Böswilligkeit, sondern weil die Arbeit weitergehen muss. Eine schriftliche KI-Richtlinie macht diesen Prozess erst verbindlich, wenn sie konkrete Fristen und Zuständigkeiten statt vager Absichtserklärungen enthält.
8 Anzeichen, dass Ihrem Unternehmen KI-Governance fehlt
Die folgenden acht Signale zeigen zuverlässiger als jede Selbsteinschätzung, ob die vier Kernbereiche in der Praxis tatsächlich funktionieren.
1. Niemand kann auf Anfrage sagen, welche KI-Tools genutzt werden
Wenn eine einfache Frage nach den im Unternehmen genutzten KI-Werkzeugen bereits Recherche statt einer schnellen Antwort erfordert, fehlt das KI-Register.
2. Verschiedene Teams nutzen verschiedene Tools für denselben Zweck
Ohne koordinierte Freigabe entstehen parallele, unabgestimmte Insellösungen – ein direkter Indikator für fehlende Freigabeprozesse.
3. Eine Richtlinie existiert, aber kaum jemand kennt sie
Ein Dokument im Intranet, auf das niemand verweist, wenn eine Frage zur KI-Nutzung aufkommt, erfüllt seinen Zweck nicht.
4. Neue Tools werden genutzt, sobald sie jemand entdeckt
Fehlt ein definierter, zügiger Freigabeweg, wird jede Genehmigung faktisch informell erteilt – oder gar nicht erst eingeholt.
5. Niemand kennt die Risikoklasse der eingesetzten Systeme
Wenn die Frage „welche Risikoklasse hat dieses System nach dem EU AI Act“ niemand im Unternehmen beantworten kann, fehlt die Risikoklassifizierung als laufender Prozess.
6. Es gibt keine Übersicht über Nutzung und Datenflüsse
Ohne Protokollierung lässt sich im Zweifel nicht rekonstruieren, wer wann welches Modell mit welchen Daten genutzt hat.
7. Schulung liegt Jahre zurück oder fand nie statt
Fehlende oder veraltete Schulung ist meist auch ein Anzeichen dafür, dass die übrigen Kernbereiche nicht aktiv gepflegt werden.
8. KI-Kosten tauchen erst auf der Rechnung auf
Wenn Ausgaben für KI-Nutzung erst im Nachhinein sichtbar werden, fehlt in der Regel dieselbe Steuerungsstruktur, die auch Governance insgesamt tragen würde.
Wer mehrere dieser acht Signale bei sich wiedererkennt, sollte nicht mit einem neuen Dokument beginnen, sondern mit Sichtbarkeit: Welche Systeme werden faktisch genutzt, von wem, mit welchen Daten? Die DevKira-Plattform verbindet genau diese vier Kernbereiche technisch, statt sie als getrennte Excel-Listen zu verwalten – das LLM-Gateway zeigt jede Modellnutzung pro Person, Governed Egress macht neue Verbindungen sichtbar und genehmigungspflichtig, und die Kostenzuordnung pro Nutzer liefert nebenbei genau das Nutzungsbild, das ein KI-Register ohnehin braucht.
Der nächste Schritt
Beginnen Sie nicht mit der Theorie, sondern mit einer ehrlichen Bestandsaufnahme anhand der acht Signale oben – die meisten Unternehmen erkennen sich in mindestens der Hälfte davon wieder. In einem Gespräch mit DevKira zeigen wir, wie sich die vier Kernbereiche in einer gemeinsamen, governten Arbeitsumgebung für Business- und IT-Teams abbilden lassen, statt in vier getrennten Tools zu verwalten.
Häufige Fragen zur KI-Governance
Welche Arten von KI-Governance-Frameworks gibt es?
Sie reichen von einfachen internen Leitfäden bis zu formalisierten Managementsystemen, die sich an Normen wie ISO/IEC 42001 orientieren. Unabhängig vom Reifegrad lassen sich fast alle ernstzunehmenden Frameworks auf dieselben vier Kernbereiche zurückführen: Risikoklassifizierung, KI-Register, Daten- und Modellsicherheit sowie Freigabeprozesse – der Name des Frameworks zählt dabei weniger als die konsequente Umsetzung dieser vier Bereiche.
Was ist der Unterschied zwischen KI-Governance und einer KI-Richtlinie?
Eine KI-Richtlinie ist ein einzelnes Dokument mit konkreten Regeln. KI-Governance ist der übergeordnete Rahmen aus Prozessen, Verantwortlichkeiten und technischen Kontrollen, der dafür sorgt, dass diese Regeln auch tatsächlich eingehalten und regelmäßig überprüft werden – die Richtlinie ist ein Baustein davon, nicht das Ganze.
Wer ist im Unternehmen für KI-Governance verantwortlich?
Meist eine Kombination aus IT-Leitung, Compliance- oder Datenschutzfunktion und Geschäftsführung, ergänzt um Fachbereichsverantwortliche für die konkrete Tool-Nutzung in ihren jeweiligen Teams. Governance, die allein bei der IT verortet ist, übersieht in der Praxis regelmäßig genau die Fachabteilungen, in denen die eigentliche KI-Nutzung tatsächlich stattfindet.
Wie hängt Schatten-KI mit KI-Governance zusammen?
Schatten-KI ist die Nutzung von KI-Werkzeugen ohne Freigabe oder Sichtbarkeit der IT – meist ein direktes Symptom fehlender Governance. Ein funktionierendes KI-Register und ein zügiger Freigabeprozess entziehen Schatten-KI ihre Grundlage, weil sich neue Tools schneller offiziell freigeben lassen, als sie inoffiziell genutzt werden müssten.
Braucht auch ein kleines Unternehmen formale KI-Governance?
In vereinfachter Form ja. Die vier Kernbereiche lassen sich auch mit wenigen Mitarbeitenden schlank umsetzen – ein kurzes Register, eine knappe Risikoeinstufung, klare Datenregeln und ein einfacher Freigabeweg. Entscheidend ist nicht der Umfang der Dokumentation, sondern dass alle vier Bereiche überhaupt existieren.
