Mit 960 GByte RAM: Bastler kauft Server, dessen Hardware das Zehnfache wert ist
Durch die aktuell hohen RAM-Preise ist es oft schwierig, eine Workstation mit genug Arbeitsspeicher für einen vernünftigen Preis zu erstellen. Der Bastler und Entwickler David Noel Ng war umso überraschter, als er ein Inserat für einen leistungsstarken Server mit zwei Nvidia-Grace-Hopper-GPUs (H100) auf GH200-Superchips und insgesamt 960 GByte DDR5-Arbeitsspeicher mit ECC fand. Das sollte nur 7.500 Euro kosten – ein Fake?
Der Verkäufer stellte sich laut dem Blogpost(öffnet im neuen Fenster) des Bastlers als ein Bayer heraus, der auf seinem Bauernhof im Wald Computer aus gebrauchten Servern zusammenstellt und diese auf seiner Website GPTshop.ai(öffnet im neuen Fenster) weiterverkauft. Der gebrauchte Server kam allerdings in einem weit weniger gepflegten und sehr verstaubtem Zustand daher. Das System fuhr bei ersten Tests zumindest hoch – unter enorm hohen Lüftergeräuschen.
David Noel Ng musste auch noch weitere Probleme bewältigen. Das ursprünglich direkt von Nvidia stammende System wurde eigentlich für eine Wasserkühlung konzipiert und in einen luftgekühlten Server umgebaut. Außerdem funktionierte das 48-Volt-Netzteil nicht mit den meisten Stromanschlüssen. Der Bastler reinigte das System und entwarf Wasserkühlungssockel für die Grace-Hopper-Grafikkarten.
9.000 Euro Kosten für mehr als 90.000 Euro Hardware
Viele Tage lang musste Ng zudem Sensordaten debuggen und alle Komponenten reinigen. Dabei stieß er auf diverse weitere, teils selbstverschuldete Probleme. Schlussendlich konnte er das System aber mit dem Zukauf weiterer Komponenten wie Wasserkühlungen und Gehäusekäfig für 9.000 Euro fertigstellen. Allein eine H100-Grafikkarte kostet bereits etwa 38.000 Euro – Ng hat gleich mehrere auf GH200-Superchips erhalten. Dazu kommen die Kosten für ECC-Arbeitsspeicher. 960 GByte DDR5-ECC-RAM würden bei aktueller Preislage etwa 15.000 Euro kosten. Das entspricht in Summe etwa dem zehnfachen Wert des Kaufpreises.
"War es das wert?" , fragt sich der Bastler im Blogpost. "Ich habe jetzt einen Desktop, der 235-Milliarden-Parameter-Modelle für weniger Geld als eine einzelne H100-GPU zu Hause berechnen kann." Das scheint ein guter Deal zu sein.