Künstliche Intelligenz: Cisco berichtet von Fehlern bei KI-Sicherheitsberichten
Cisco hat den Einsatz von künstlicher Intelligenz bei der Erstellung von Berichten nach IT-Sicherheitsübungen untersucht. Wie das Unternehmen in einem Blogbeitrag schreibt(öffnet im neuen Fenster), wurden dabei erhebliche Zeitersparnisse, aber auch kritische Risiken festgestellt.
Während die Technologie den Zeitaufwand für Entwürfe um 50 Prozent reduzierte, traten häufig inhaltliche Fehler, Halluzinationen und die Vermischung verschiedener Datensätze auf. Die KI lieferte zudem häufig ungewöhnliche Schlussfolgerungen und Empfehlungen, die doppelt vorhanden, irrelevant oder nicht umsetzbar waren.
Die Qualität bei Rechtschreibung und Grammatik war im Vergleich zu herkömmlichen Berichten allerdings besser und Prüfer bemerkten in einem Blindtest nicht, dass es sich um KI-generierte Berichte handelte. Der Schreibstil wurde jedoch gelegentlich als inkonsistent wahrgenommen.
Inhalte verschiedener Berichte werden vermischt
Als besonders problematisch wird hervorgehoben, dass sich die Inhalte verschiedener Berichte vermischten, wenn diese in einer Sitzung verarbeitet werden sollten. Dies geschah auch dann, wenn die Notizen zu den Berichten zuvor gelöscht wurden.
Cisco stuft die KI-gestützte Berichterstattung daher derzeit als ungeeignet für den produktiven Einsatz ein. Autoren müssen weiterhin die volle Verantwortung übernehmen und manuelle Kontrollen durchführen, da davon ausgegangen wird, dass die KI bei echten und komplexen Sicherheitsvorfällen noch größere Probleme haben dürfte.
Auch wenn KI immer mehr als Werkzeug für Entwickler wahrgenommen wird, führt die Technologie sowohl bei Programmierern als auch bei Führungskräften häufig zu Frust.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.