Künstliche Intelligenz ist in den meisten Unternehmen angekommen. Doch wie sie genutzt wird, unterscheidet sich teils grundlegend: Die einen lassen einen Chatbot eine E-Mail formulieren, die anderen haben KI-Agenten im Einsatz, die auf kritische Abläufe und Infrastrukturen zugreifen können.
Diese Bandbreite erzeugt ein neues Gefahrenpotenzial, das viele Unternehmen noch nicht im Blick haben. Denn die wahren KI-Risiken im Unternehmen entstehen nicht nur durch Angriffe von außen, sondern auch durch das, was im eigenen Haus täglich passiert.
Die Fakten: Was Mitarbeitende wirklich in KI-Tools eingeben
Aktuelle Beobachtungen zeigen ein ernüchterndes Bild:
Von fast 280.000 Prompts, die innerhalb von 28 Tagen von rund 28.000 Nutzern eingegeben wurden, enthielt etwa 1 Prozent sensible Daten. Das klingt zwar nach wenig, enthalten waren aber auch kritische Zugangsdaten wie Passwörter und API-Schlüssel. (Quelle: ITWELT)
Das heißt im Klartext: Mitarbeiter geben im Alltag Zugangsdaten in KI-Dienste ein. Ob aus Bequemlichkeit, Unwissen oder Zeitdruck spielt dabei keine Rolle. Die Konsequenz ist immer dieselbe: Kontrolle über kritische Konten verlässt das Unternehmen.
Schatten-KI: Die Nutzung entzieht sich der Kontrolle
Ein weiteres Ergebnis fällt genauso ins Gewicht: 91 Prozent der Mitarbeitenden in Unternehmen mit einem offiziell freigegebenen KI-Tool nutzen zusätzlich weitere KI-Dienste. Häufig handelt es sich um Anwendungen, die vom Unternehmen weder geprüft noch freigegeben wurden.
Diese Schatten-KI ist ein enormes Risiko. Denn jede unkontrollierte Nutzung bedeutet:
- Daten fließen an Dienste, deren Speicherort und Datenschutz unbekannt sind
- Es gibt keine Prüfung, was mit den eingegebenen Informationen geschieht
- Sicherheitsvorgaben des Unternehmens lassen sich nicht durchsetzen
Die Datenmengen sind dabei keineswegs klein: In einer Beobachtung über fünf Monaten gingen pro Konto durchschnittlich rund 75 Megabyte an ungewöhnlichen Datenübertragungen an generative KI-Dienste. Das entspricht etwa 4.700 Dokumentseiten, in Einzelfällen waren es über 200.000 Seiten.
Die unterschätzte Gefahr: Der eigene KI-Agent
Nicht jedes Risiko kommt von außen. Mindestens ebenso gefährlich ist eine Aktion des eigenen KI-Agenten, die nicht wie gewünscht ausgeführt wird.
Eine Aufgabe kann von der KI falsch interpretiert oder einfach nicht im vorgesehenen Rahmen erledigt werden. Hat der Agent Zugriff auf kritische Abläufe, kann das im schlimmsten Fall ganze Prozesse beeinträchtigen oder wichtige Daten löschen. Der Fehler passiert dabei ungewollt, aber er passiert.
Genau hier liegt die eigentliche Gefahr: in der Lücke zwischen dem, was ein KI-System tun darf, und dem, was es tatsächlich tut.
Was Unternehmen jetzt brauchen: Transparenz und Verhaltensverständnis
Grundlegend wichtig ist, dass Anwender wissen:
- wo KI Zugriff hat - auf Systeme und Daten
- welche Rechte den Agenten und Tools eingeräumt wurden
- welche Zusammenhänge zwischen KI-Diensten und Unternehmensinfrastruktur bestehen
Unternehmen müssen erkennen können, wenn etwas von dem abweicht, was in ihrer Umgebung als normal gilt. Nur so lassen sich unerwartete Interaktionen, fehlerhaft konfigurierte Agenten oder Aktivitäten außerhalb des vorgesehenen Aufgabenbereichs erkennen, bevor sie eskalieren.
Das funktioniert nicht mit statischen Regeln und vordefinierten Kontrollmechanismen allein. Notwendig ist eine Sicherheitsstrategie, die auf dem Verständnis von Verhalten basiert: Welche KI-Werkzeuge und Agenten sind aktiv? Über welche Berechtigungen verfügen sie? Und stimmt ihr Verhalten mit den üblichen Abläufen im Unternehmen überein?
Fazit: KI vorantreiben, aber mit durchdachter Sicherheitsstrategie
Unternehmen sind gut beraten, KI-Innovationen voranzutreiben. Die Effizienzgewinne sind real, der Rückstand bei Nichtnutzung ebenso. Voraussetzung ist jedoch, dass die Sicherheit nicht hinter der Nutzung zurückbleibt.
Die KI-Risiken im Unternehmen liegen nicht in der Technologie selbst, sondern in ihrem unkontrollierten Einsatz: Zugangsdaten in Prompts, Schatten-KI neben offiziellen Tools und Agenten mit unklaren Berechtigungen. Wer diese Risiken kennt und sein Umgebungsgeschehen sichtbar macht, kann KI sicher nutzen.
Die Zahlen zeigen vor allem eines: Der größte Hebel liegt darin, dass sensible Daten erst gar nicht in fremde KI-Dienste wandern. Genau hier setzt eine lokale KI an. Viele der genannten Risiken entstehen dadurch, dass sensible Daten und Zugänge in fremde KI-Dienste wandern. Sie läuft auf Ihrer eigenen Infrastruktur, Ihre Daten verlassen das Unternehmen nicht, und Sie behalten die volle Kontrolle über Zugriffe und Berechtigungen. Für KMU ist das heute eine realistische Option, die die Vorteile von KI mit den Anforderungen an Datenschutz und Sicherheit verbindet.
KI nutzen, ohne Daten abzugeben: Wir beraten Ihr KMU zum Einsatz einer KI im eigenen Haus
Die Fakten und Grundlagengedanken dieses Beitrags basieren auf einem Beitrag von ITWELT:
Cybersecurity Trends 2026/2027: Eine KI-Sicherheitsstrategie ist notwendig.