Kritik an Konkurrenz?: Jim Keller bezeichnet Cuda und x86 als Sumpf

Ein großer Fan von Nvidias GPGPU-API ist der bekannte CPU-Architekt offensichtlich nicht. Aber auch für x86 hat der Co-Autor der x86-64 Spezifikation nicht nur Liebe übrig.

Artikel veröffentlicht am 20. Februar 2024, 12:45 Uhr, Martin Böckmann

x86-CPUs und Nvidia-GPUs mit Cuda-API sollen laut Jim Keller selbst bei den eigenen Entwicklern nicht besonders beliebt sein. (Bild: Martin Böckmann/Golem.de)

Der bekannte CPU-Entwickler Jim Keller hat Nvidias Cuda sowie x86 auf der Plattform X für ihren aus seiner Sicht ineffizienten Aufbau kritisiert. Von Mitbewerben wird Cuda oft als Graben (Moat) bezeichnet, den es zu überwinden gilt, um KI-Anwendungen auf anderen Architekturen ausführen zu können. Keller sieht Cuda und x86 eher als Sumpf, in dem die Entwickler nur mühsam vorankommen und häufig stecken bleiben.

Hinter den Vergleichen steckt die Kritik an über viele Jahre gewachsenen Architekturen und APIs, denen immer neue Funktionen hinzugefügt werden, während gleichzeitig der alte Funktionsumfang weiter unterstützt wird. Das sorgt zwar für gute Kompatibilität, macht die Entwicklung aber komplizierter und schadet der Performance.

Laut Keller schreibt fast niemand seine Anwendungen direkt für Cuda, auch Nvidia selbst nicht, sie wären dann zu langsam. "Es gibt gute Gründe für Triton, Tensor RT, Neon und Mojo", so Keller. Triton Inference Server beispielsweise ist ein Open-Source-Tool von Nvidia, mit dem KI-Modelle skalierbar verteilt werden. Es nutzt unter anderem Frameworks wie Tensorflow, Pytorch und ONNX.

Große Frameworks erlauben einheitliche Entwicklung

Auch an anderer Stelle setzt Nvidia auf Open-Source-Entwicklungen und spezialisierte Werkzeuge. Ein Allheilmittel ist Cuda also auch für die eigenen Entwickler nicht, allerdings gibt es auch gute Gründe für langsamere Evolution und Rückwärtskompatibilität. Entwickler können dadurch Software schreiben, die garantiert auf einer großen Anzahl an Hardwareplattformen lauffähig ist, statt für jede Neuentwicklung Anpassungen vornehmen zu müssen.

Mit seiner Firma Tenstorrent will Keller mit den großen Anbietern wie AMD, Nvidia und Intel im KI-Bereich konkurrieren. Dafür setzt er unter anderem auf CPU-Kerne mit RISC-V-Architektur und speziell auf die Bedürfnisse der Kunden zugeschnittene ML/KI-Chips. Ob Tenstorrent dabei am Ende einen ganz eigenen kleinen Sumpf an Entwicklerwerkzeugen anlegt, bleibt abzuwarten.