Schatten-KI statt Transparenz: Warum das Vertrauensproblem bei ChatGPT & Co. ein Security-Thema ist

Hallo, hier ist wieder Kora. Heute geht es ausnahmsweise mal nicht um Hardware oder Netzwerke, sondern um etwas, das am Ende trotzdem in unserem Security-Konzept landet: um Vertrauen – und um die Frage, was passiert, wenn Mitarbeiter KI lieber heimlich nutzen.

Was die Studie herausgefunden hat

Eine Forschungsgruppe der Hebräischen Universität Jerusalem um den Doktoranden Samuel Meyers hat in The Leadership Quarterly Ergebnisse veröffentlicht, die mich beim Lesen kurz stutzen ließen. In mehreren Experimenten sollten Führungskräfte beurteilen, ob sie dem Bericht eines Mitarbeiters vertrauen – wobei sie wussten, ob KI im Spiel war oder nicht.

Das Ergebnis ist deutlich: Ohne KI-Einsatz genossen die Mitarbeiter in 68 Prozent der Fälle das Vertrauen ihrer Vorgesetzten. Mit KI sank dieser Wert auf 24 Prozent. Und – das finde ich den eigentlich spannenden Punkt – die Qualität der Arbeit spielte für die Bewertung keine Rolle. Es ging nicht darum, ob das Ergebnis gut war, sondern allein darum, wie es entstanden ist.

Yochanan Bigman, Dozent an der Universität und an der Studie beteiligt, bringt es sinngemäß so auf den Punkt: KI verändert nicht nur, wie wir arbeiten, sondern auch, wie wir die Menschen beurteilen, mit denen wir zusammenarbeiten. Jemand kann mit KI schneller und besser liefern – und trotzdem Vertrauen verlieren, einfach weil KI beteiligt war.

Die Zwickmühle im Arbeitsalltag

Daraus entsteht eine wirklich unangenehme Situation. Auf der einen Seite drängen viele Unternehmen aktiv darauf, KI-Tools einzusetzen, weil sie sich Produktivitätsgewinne versprechen. Auf der anderen Seite kann genau diese Nutzung die eigene Reputation und damit auch Aufstiegschancen belasten. Wer die Anweisung befolgt, riskiert Vertrauen. Wer Vertrauen behalten will, ignoriert die Anweisung.

Interessant ist in diesem Zusammenhang auch der wirtschaftliche Blickwinkel, den der Artikel aufgreift: Laut einer Analyse von Torsten Slok, Chefökonom bei Apollo Global Management, profitieren Unternehmen außerhalb der Tech-Branche bislang nicht messbar von KI. Die Umsätze der großen Tech-Konzerne sind deutlich gestiegen, in anderen Wirtschaftszweigen lässt sich ein vergleichbarer Trend nicht erkennen. KI wird dort eher als Kostenfaktor wahrgenommen – was den Druck auf die Mitarbeiter nicht gerade verringert.

Schatten-KI: Wenn aus einem Kulturproblem ein Datenschutzproblem wird

Und damit sind wir bei dem Punkt, der uns bei Net-Build direkt betrifft. Die Forscher befürchten, dass diese Spannung zu mehr „Schatten-KI“ führt – also zum heimlichen Einsatz von Sprachmodellen am Arbeitsplatz. Das kennen wir strukturell schon von der Schatten-IT: Werkzeuge, die niemand freigegeben hat, die niemand kennt und die trotzdem produktiv genutzt werden.

Nur ist die Variante mit KI aus Security-Sicht heikler. Wer mal eben einen Kundenauszug, ein Log-File, einen Vertragsentwurf oder einen Code-Schnipsel in ein öffentliches Chat-Interface kopiert, schickt potenziell vertrauliche Unternehmens- und Kundendaten aus dem eigenen Verantwortungsbereich heraus. Und wenn das heimlich passiert, erfährt es die IT im Zweifel erst, wenn es zu spät ist. Kein DLP-Regelwerk und kein Audit greift bei einem Vorgang, von dem niemand weiß.

Was ich daraus mitnehme

Für mich ist die zentrale Lehre: KI-Einführung ist eben nicht nur ein technisches Projekt. Wer Tools ausrollt, aber die Wahrnehmung im Team ignoriert, bekommt am Ende weder Transparenz noch Sicherheit. Ein paar Gedanken, die ich für sinnvoll halte:

• Klare, schriftliche Regeln: Welche Tools sind erlaubt, welche Daten dürfen rein, welche niemals?
• Offiziell bereitgestellte, kontrollierte Umgebungen statt Verbote – wer eine saubere Alternative hat, braucht keinen heimlichen Weg.
• Führungskräfte sensibilisieren: Wenn Offenheit bestraft wird, erzieht man das Team zur Verheimlichung.
• Ergebnisse bewerten, nicht Werkzeuge – die Studie zeigt ja gerade, dass beides häufig vermischt wird.

Unterm Strich: Vertrauen ist hier keine weiche Nebensächlichkeit, sondern eine handfeste Sicherheitsmaßnahme. Eine Organisation, in der man offen sagen darf „da hat mir ein Modell geholfen“, hat deutlich bessere Chancen, den Datenabfluss im Griff zu behalten, als eine, in der alle so tun, als würde niemand KI nutzen.

Bis demnächst, eure Kora

Quelle: t3n