"Vergiftete" PDFs und Bilder: Wie Prompt Injections und Data Poisoning funktionieren

Prompt Injections und Data Poisoning gehören zu den Top-5-Risiken im KI -Bereich. Doch viele Unternehmen wissen nicht um die Gefahr gezielt manipulierter Dateien.

15. März 2026 um 10:00 Uhr / Ein Ratgebertext von Lars Lubienetzki

Prompt Injection ist eine Injektion, die nicht heilt. Bild: HeungSoon/Pixabay

Wer Bilder oder Dokumente aus fremden Quellen ungeprüft in KI-Modelle hochlade, handele grob fahrlässig. Dieser Ansicht ist Erwin Quiring, KI-Experte und Berater in Bezug auf KI-Sicherheit. An der Ruhr-Universität Bochum und an der Universität Berkeley hat er die Risiken gezielt manipulierter Dateien im KI-Umfeld erforscht. Inzwischen arbeitet Quiring bei _Fbeta, einem Unternehmen, das Firmen und Organisationen aus dem Gesundheitssektor im Hinblick auf KI-Anwendungen unterstützt. Gerade in diesem Bereich sind die Sicherheitsanforderungen an KI-Systeme besonders hoch.

Für den KI-Experten gehören Prompt Injections und Data Poisoning zu den am meisten unterschätzten Gefahren. Und nicht nur für ihn. Denn in der kürzlich veröffentlichten Top 10 der aktuellen KI-Risiken des angesehenen Open Worldwide Application Security Projects (OWASP) stehen Prompt Injections ganz oben. Angriffe über Data Poisoning folgen knapp dahinter auf dem vierten Platz. Dabei kennt die Fachwelt die Gefahren solcher Angriffe schon viel länger.