Mangelnde Governance bei KI-Nutzung: Schatten-KI bedroht Sicherheit in Unternehmen
Autonome KI-Werkzeuge sind in deutschen Unternehmen inzwischen weit verbreitet, doch die Implementierung von Schutzmaßnahmen hinkt der technologischen Entwicklung hinterher. Einer Untersuchung von Knowbe4(öffnet im neuen Fenster) zufolge, setzen bereits 62 Prozent der befragten deutschen Unternehmen autonome KI-Agenten ein, die eigenständig Maßnahmen innerhalb von Arbeitsabläufen ergreifen können.
Ein wesentlicher Risikofaktor ist dabei das Fehlen einer formalen Governance. Laut der Studie geben 48 Prozent der befragten Führungskräfte an, dass die KI-Nutzung in ihrem jeweiligen Zuständigkeitsbereich nicht offiziell genehmigt oder geregelt ist. Diese Form der Schatten-KI führt dazu, dass sensible Unternehmensdaten ohne direkte Aufsicht verarbeitet werden.
Sicherheitsrisiken durch menschliche Faktoren
Neben der technologischen Komponente bleibt der Mensch ein kritischer Faktor in der Cybersicherheit. Die Studie verdeutlicht, dass 64 Prozent der Beschäftigten angeben, dass sie aufgrund von Zeitdruck, kognitiver Überlastung und alltäglichen Ablenkungen dazu veranlasst werden, Abstriche bei Sicherheitsvorkehrungen zu machen. Dies geschieht nach Angaben der Mitarbeiter, obwohl sie die geltenden Sicherheitsprotokolle kennen.
Zudem stellt die Verbreitung von Deepfakes die Belegschaft vor neue Herausforderungen. 87 Prozent der deutschen Beschäftigten halten Deepfake-Stimmen und -Videos für mittlerweile so realistisch, dass eine verlässliche Identifizierung des Absenders erschwert wird. Mehr als die Hälfte der Befragten räumt ein, dass sie im Arbeitsalltag anfällig für einen durch Deepfakes induzierten Betrug sein könnten.
Kultur als Schutzfaktor
Die Ergebnisse sollen unterstreichen, dass technische Lösungen allein nicht ausreichen. Unternehmen, die Cybersicherheit als festen Bestandteil ihrer Unternehmenskultur etablieren, erreichen nach Angaben von KnowBe4 bessere Ergebnisse. Dies beinhaltet die Schaffung eines Arbeitsumfelds, in dem sich Beschäftigte sicher genug fühlen, um Fehler zu melden, anstatt diese zu verbergen. Der Bericht betont die Notwendigkeit, eine Security-First-Denkweise konsequent sowohl auf menschliche Akteure als auch auf KI-Agenten auszuweiten.
Einordnung der Studie
Bei der Bewertung der Ergebnisse ist zu berücksichtigen, dass KnowBe4 selbst Sicherheitslösungen vertreibt, unter anderem zum Schutz vor den in der Studie beschriebenen Risiken – ein Umstand, der den Deutungsrahmen der Ergebnisse beeinflusst haben könnte. Zudem basiert die deutsche Teilstichprobe mit rund 250 Befragten auf einer vergleichsweise kleinen Datenbasis, was die statistische Aussagekraft einzelner Prozentwerte einschränkt. Die Studie von Vanson Bourne basiert auf einer weltweiten Umfrage(öffnet im neuen Fenster) unter 4.000 Fachkräften, darunter lediglich 250 Befragte aus Deutschland.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.