Mistral Large 4: Mistral macht 1-Billion-Parameter-Modell frei zugänglich
Nach dreiwöchiger Preview-Phase macht das französische KI-Unternehmen Mistral sein aktuelles Modell Mistral Large 4 alias Le Chonk frei zugänglich(öffnet im neuen Fenster) (Huggingface Model Card(öffnet im neuen Fenster)). Während der Preview-Phase haben die Entwickler Feedback von Nutzern gesammelt und die Leistung mittels Reinforcement Learning weiter verbessert.
Insbesondere bei Coding, wo das Modell zunächst nicht überzeugen konnte, lohnt sich das: Der Coding Agent Index von Artificial Analysis sieht Le Chonk mit 41 Prozent nun als leistungsfähigstes Open-Weights-Modell. Hier soll Le Chonk zudem deutlich weniger Tokens verbrauchen als andere Modelle. Im Vergleich zu GLM-5.3 sollen es bei vergleichbarer Leistung im Mittel 47 Prozent weniger sein.
Im Cyber Index von Artificial Analysis, der defensive Cyber-Fähigkeiten bewertet, liegt Le Chonk hinter Deepseek V4.1 Flash. Das Modell soll allerdings deutlich besser darin sein, gefährdende Anfragen abzuweisen. Die Guardrails sollen hier aber weiter verbessert werden, während Partner Varianten mit offensiven Fähigkeiten, unter anderem für Pentesting, erhalten könnten. Bei Nutzung für Agenten soll Mistrals Modell bei der Abwehr gefährlicher Anfragen besser als andere Open-Weights-Modelle sein.
1 Billion Parameter, 52 Milliarden aktiv
Dabei ist das Mixture-of-Experts-Modell (MoE) mit 1 Billion Parametern etwas größer als GLM-5.3, aber deutlich kleiner als Kimi K3.
Die Parameter verteilen sich auf 128 Experten, von denen pro Token vier aktiv sind; ein geteilter Experte wird immer genutzt. Zusammen kommen sie auf rund 52 Milliarden Parameter. Zudem ist spekulatives Decoding mittels Dspark (g+) implementiert, was den Durchsatz um bis zu 90 Prozent steigern soll. Die Kontextlänge beträgt eine Million Tokens.
Mistral hebt zudem den neuen Vision Encoder hervor, der Bilder beliebiger Größe verarbeiten kann. Le Chonk unterstützt mehr als 160 Sprachen.
Da Modell und Gewichtsparameter verfügbar sind, kann Le Chonk selbst gehostet und mittels Finetuning an die eigenen Bedürfnisse angepasst werden. Mistral sieht das Modell damit als Grundlage souveräner europäischer KI. Mistral selbst bietet Le Chonk per API-Zugriff an. Die Tokens sind dabei auch im Vergleich zu den kleineren Modellen von Anthropic und OpenAI recht günstig: Mistral verlangt pro eine Million Tokens 70 Cent für Input und 2,10 Euro für Output. Trainiert wurde Le Chonk nach eigenen Angaben auf 3.800 Grace-Blackwell-GPUs.
Nichts für den Homeserver
Aufgrund der hohen Parameteranzahl erfordert der Betrieb von Mistral Large 4 Rechenzentrumshardware: Die mit 8 Bit quantisierte Standardversion benötigt knapp über 1 TByte Speicher, was beispielsweise mit einem DGX-System mit acht H200 abzubilden ist. Mistral stellt allerdings auch eine 4-Bit-Quantisierung in Nvidias NVFP4-Format(öffnet im neuen Fenster) bereit. Die benötigt rund 610 GByte, was etwa mit acht RTX Pro 6000 abzubilden wäre. Bereits eine solche Lösung kostet weit mehr als 100.000 Euro.
Noch stärker quantisierte Versionen stellt Unsloth bereit(öffnet im neuen Fenster), mit 1-Bit-Quantisierung genügen zwei H200. Allerdings fällt unter vier Bit die Genauigkeit deutlich ab. Neben den Modellgewichten wird zusätzlicher Speicher für die KV-Caches benötigt.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.

