Generative KI: Open-Source-Modelle anfällig für Desinformation
Das staatlich unterstützte Institut für die estnische Sprache hat die Fähigkeiten von 60 generativen KI-Modellen analysiert, russische Desinformation zu filtern. Die Ergebnisse(öffnet im neuen Fenster) zeigen deutliche Unterschiede zwischen kommerziellen und quelloffenen Systemen. Demnach weisen Open-Source-Modelle wie die des europäischen Anbieters Mistral erhebliche Defizite auf, wenn es darum geht, gezielte Propaganda zu erkennen und zu blockieren.
Das fortschrittlichste Modell von Mistral belegt in der Untersuchung lediglich den 47. Platz unter den 60 getesteten Systemen. Alle vier geprüften Versionen des Herstellers erreichten eine Effektivität von weniger als 40 Prozent bei der Identifizierung bösartiger russischer Desinformation. Laut Arvi Tavast, dem Direktor des Instituts, verdeutlicht die Arbeit das Risiko von Open-Source-Modellen im Vergleich zu proprietären Systemen. Kommerzielle Modelle wie Anthropics Claude, Grok sowie einige chinesische Systeme schnitten bei der Erkennung manipulativer Falschmeldungen besser ab.
Das Institut prüfte die Modelle mit 75 Fragen in den drei Sprachen Englisch, Russisch und Estnisch. Dabei untersuchten die Forscher, wie gut die Systeme manipulative Fragen und inhärente Verzerrungen erkennen, die auf 14 definierten Propagandathemen basieren. Dazu gehören Behauptungen über die Evakuierung ukrainischer Kinder, das Ausbleiben der Nato-Osterweiterung oder die Rolle der UdSSR im Zweiten Weltkrieg.
Reaktion von Mistral und Marktlage
Mistral betonte in einer Stellungnahme, den Kampf gegen Desinformation ernst zu nehmen und kontinuierlich in Erkennungsfunktionen zu investieren. Das Unternehmen wies darauf hin, dass die estnischen Forscher die Rohmodelle getestet haben, bevor Anpassungen durch die Kunden vorgenommen wurden. Zudem verweist der Anbieter auf die Funktion Vibe Work, die Schutzschichten zur Erkennung strittiger Quellen enthält.
Das im Jahr 2023 gegründete Unternehmen gilt als europäische Hoffnung auf dem KI-Markt und erhielt im September 2025 eine Finanzierungsspritze von 1,3 Milliarden Euro – angeführt vom niederländischen Chipausrüster und wertvollsten europäischen Unternehmen ASML, als Teil einer Gesamtrunde von 1,7 Milliarden Euro.
Dennoch ist der Abstand zu den amerikanischen Konkurrenten gewaltig: Während Mistral bislang insgesamt rund 3,9 Milliarden Dollar(öffnet im neuen Fenster) eingesammelt hat, kommt Anthropic auf etwa 59 Milliarden(öffnet im neuen Fenster) und OpenAI auf rund 180 Milliarden Dollar – also das 15- beziehungsweise 46-Fache. Zudem sehen Branchenkenner die offenen Modelle von Mistral hinter Angeboten chinesischer Akteure wie Deepseek oder Moonshot zurück.
Für die Zukunft plant Mistral Investitionen in Höhe von vier Milliarden Euro in eigene Rechenzentren mit Nvidia-Infrastruktur in Frankreich und Schweden, um die Nachfrage nach souveränen Alternativen zu US-Technologiekonzernen zu bedienen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.