Neuer Mini-KI-Computer: Nvidias Orin-Kit mit mehr Leistung zum halben Preis
Nvidia hat unter dem Namen Jetson Orin Nano Super ein neues Entwickler-Kit für mobile KI-Anwendungen vorgestellt(öffnet im neuen Fenster) . Gedacht ist es etwa für den Einsatz in Robotern. Das Kit ist aber auch etwa für Studenten attraktiv. Denn Nvidia hat ordentlich am Preis geschraubt: Die Super-Variante kostet mit 249 US-Dollar nur noch die Hälfte des 2023 vorgestellten Jetson Orin Nano , bietet aber 70 Prozent mehr KI-Rechenleistung.
Allerdings ist auf den ersten Blick anhand der Pressemitteilung nicht zu erkennen, was denn nun neu ist an der Super-Variante. Die Antwort liefert ein ausführlicherer Blog-Eintrag(öffnet im neuen Fenster) : Die Hardware ist dieselbe wie beim bisherigen Orin Nano, es wird das gleiche System-on-Chip (SoC) verwendet, das weiterhin 8 GByte LPDDR5-Speicher nutzen kann. Die Mehrleistung verdankt die Super-Variante einer neuen Firmware. Sie erlaubt dem SoC eine Leistungsaufnahme von 25 Watt, vorher waren nur 7- und 15-Watt-Modi vorgesehen.
Davon profitieren alle Funktionseinheiten, insbesondere die 1.024 Cuda- und 32 Tensor-Kerne: Sie können mit der neuen Firmware statt mit 635 MHz mit bis zu 1,02 GHz takten. Die GPU-Rechenleistung steigt damit von bislang maximal 40 Tops (Int8 mit Sparsity, g+ ) auf 67 Tops. Auch die Speicheranbindung legt ordentlich zu: Die Bandbreite der mit 128 Bit angebundenen LPDDR5-Module steigt von 68 auf 102 GByte/s (6.400 statt 4.266 MT/s). Die sechs Cortex-A78AE-Kerne hingegen müssen sich mit 200 MHz mehr begnügen (1,7 statt 1,5 GHz).
Super Mode für alle!
Wer bereits ein Orin-Nano- oder Orin-NX-Modul besitzt, braucht nun nicht verärgert in die Tastatur zu beißen: Die neue Firmware kann auch auf bereits gekaufte Boards aufgespielt werden. Der Super Mode kann dann einfach über die Kommandozeile oder die grafische Oberfläche aktiviert werden.
Damit steigt die theoretische Rechenleistung der Module um bis zu 70 Prozent. KI-Modelle profitieren davon allerdings recht unterschiedlich, wie von Nvidia präsentierte Benchmarks zeigen: Der Leistungsgewinn liegt zwischen 28 und 104 Prozent. Wann die Super-Variante bei deutschen Händlern ankommt, ist aktuell nicht absehbar. Bislang kann sie lediglich über Seeedstudio, Sparkfun oder den Distributor Arrow bestellt werden.