„Was verdient eigentlich mein Chef?“ Eine unangenehme Frage an die Unternehmens-KI. Die entscheidende Gegenfrage lautet: Welche Unterlagen darf das Konto hinter dieser Anfrage tatsächlich lesen?
Ein möglicher Fehler beginnt lange vor der KI.
Stellen wir uns eine fiktive Firma vor. In einem alten Personalordner liegt eine Gehaltsübersicht. Der Ordner wurde bei einem früheren Umzug mit einer allgemeinen Mitarbeitergruppe geteilt. Niemand verwendet den Link noch. Die Freigabe besteht weiter.
Nun wird eine Wissenssuche eingeführt. Ist diese Quelle angebunden, technisch verarbeitbar und für das anfragende Konto zugänglich, können relevante Auszüge in eine Antwort einfließen. Dafür muss keine neue Sicherheitsbarriere durchbrochen werden. Die KI macht einen alten Rechtefehler leichter bemerkbar.
Das ist ein hypothetisches Beispiel. Es beschreibt weder einen tatsächlichen DAXS-Kundenfall noch ein generell garantiertes Verhalten eines bestimmten Produkts. Ohne passende Quelle und Zugriffsmöglichkeit kann die KI die reale Zahl nicht verlässlich kennen; eine trotzdem ausgegebene Zahl kann erfunden sein.
Drei Personen, drei unterschiedliche Ausgangslagen.
Die Personalverantwortliche darf die Unterlage für ihre Aufgabe lesen. Eine andere Person besitzt dieses Recht nicht; deren Suche muss die Quelle ausschließen. Eine dritte Person hat durch die falsche Gruppenfreigabe technisch Zugriff. Bei ihr ist die Freigabe selbst zu korrigieren. Das Modell kann die organisatorische Fehlentscheidung nicht zuverlässig aus einem Prompt ableiten.
Eine richtige Antwort kann die falsche Offenlegung sein.
Viele KI-Tests bewerten, ob eine Antwort richtig klingt und durch Dokumente belegt wird. Bei vertraulichen Informationen ist zusätzlich zu prüfen, ob genau diese Person den Beleg sehen darf. Eine sachlich richtige Gehaltsauskunft kann trotzdem unzulässig offenlegen, was im Unternehmen nur ein enger Personenkreis benötigt.
Umgekehrt beweist eine verweigerte Antwort noch keinen wirksamen Schutz. Vielleicht wurde das Dokument nur nicht gefunden. Zugriffstests müssen deshalb die Quelle, den Suchindex, direkte Abrufe und indirekte Formulierungen einbeziehen. Ein einzelner freundlicher Hinweis „Diese Daten sind vertraulich“ ist keine belastbare Berechtigungsprüfung.
Kalkulationen verlangen dieselbe Sorgfalt.
Das Thema betrifft nicht nur Gehälter. Ein Mitarbeiter könnte nach seinem verrechneten Stundensatz, den Konditionen eines Kunden oder einer internen Projektmarge fragen. Solche Angaben können in Angeboten und Tabellen stehen. Verrechnungssatz, Deckungsbeitrag und Unternehmensgewinn sind fachlich verschiedene Größen; aus einer einzelnen gefundenen Zahl lässt sich nicht seriös der Gewinn an einer Arbeitsstunde ableiten.
Deshalb müssen sowohl Quellrechte als auch die Qualität der Schlussfolgerung stimmen. Die Bereinigung vertraulicher Ablagen und die fachliche Prüfung der Ausgaben sind zwei getrennte Aufgaben.
Was Unternehmen vor dem Pilot prüfen können.
- Personal-, Finanz- und Strategieunterlagen benennen und Verantwortliche zuordnen.
- Effektive Rechte einschließlich Gruppen, Vererbung und Freigabelinks überprüfen.
- Testkonten für erlaubten, gesperrten und versehentlich zu breiten Zugriff vorbereiten.
- Prüfen, ob Rechte vor der Übergabe von Auszügen an das Modell greifen.
- Entzogene Freigaben auch in Index, Caches, Exporte und geteilte Antworten nachverfolgen.
Für Microsoft Copilot mit Microsoft-365-Daten beschreibt der Hersteller die Nutzung von Inhalten innerhalb der Benutzerrechte. Das ist gerade ein Grund, zu breite Ausgangsrechte vor einer Einführung zu bereinigen. Andere Chatprodukte und zusätzliche Agenten sind nach ihrem konkreten Daten- und Kontenmodell zu prüfen.
Ein sinnvoller nächster Schritt.
DAXS kann einen begrenzten KI-Sicherheitscheck mit Quelleninventar, Rechteprüfung und dokumentierten Negativtests planen. Ziel ist ein nachvollziehbarer Einführungsstand: Welche Quellen sind für welche Benutzer freigegeben, welche Mängel sind bekannt und wer behebt sie?
Die Fachseite zu KI-Sicherheit und AI Oversharing erklärt die Kontrollen. Für die Sucharchitektur ergänzt Unternehmenswissen & RAG den Zusammenhang.
Quellen: Microsoft: Daten und Berechtigungen · OWASP: Sensitive Information Disclosure.