Die meisten Unternehmen haben keinerlei Einblick darin, welche Mitarbeiter welche KI-Tools mit welchen Daten verwenden. Eine MIT-Studie ergab, dass nur 40 Prozent der Unternehmen offizielle Abonnements erwerben, während bereits über 90 Prozent der Mitarbeiter eigene Accounts bei KI-Tools für ihre Arbeit nutzen. Es ist schwierig, Risiken zu verfolgen, wenn die Angriffsfläche unsichtbar ist. […]
Der diesjährige Bericht des BSI zur Lage der Cybersicherheit 2025 dokumentiert, was bereits geschieht: Prompt Injection, Jailbreaks, Modellmanipulation. Die Anzahl der täglichen Schwachstellen ist zwischen Juli 2024 und Juni 2025 um 24 Prozent gestiegen. Das BSI bezeichnete indirekte Prompt Injection bereits 2023 als „intrinsische Schwäche” ohne zuverlässige Abhilfemaßnahmen. Zwei Jahre später gibt es immer noch keine Lösung.
Angreifer zielen zuerst auf die schwächsten Systeme ab und berechnen den Schaden später. Ransomware-Gruppen bleiben die größte Bedrohung, obwohl die Finanzkriminalität im Internet um neun Prozent zurückgegangen ist. Kriminelle Organisationen benötigen keine ausgeklügelten Exploits, wenn überall grundlegende Sicherheitslücken bestehen.
Hier kommt der absurde Teil: In zahlreichen CISO-Panels dominierte dieses Jahr Shadow AI Governance die Diskussionen. Im Fokus stehen also nicht die Bedrohungsakteure, die Prompt-Injection-Schwachstellen ausnutzen, die vom BSI vor zwei Jahren dokumentiert wurden. Und es geht auch nicht um die Ransomware-Gruppen, die im großem Stil operieren. Es geht vielmehr um Shadow AI Inventory Management.
Die Sorge ist berechtigt. Die meisten Unternehmen haben keinerlei Einblick darin, welche Mitarbeiter welche KI-Tools mit welchen Daten verwenden. Eine MIT-Studie ergab, dass nur 40 Prozent der Unternehmen offizielle Abonnements erwerben, während bereits über 90 Prozent der Mitarbeiter eigene Accounts bei KI-Tools für ihre Arbeit nutzen. Es ist schwierig, Risiken zu verfolgen, wenn die…
