Glasfaser als RAM: Rein technisches Denken hat John Carmack in die Irre geführt
Mit der Speicher-Krise kommen alte Ideen zurück. John Carmack hat beim Laufzeitspeicher aber eine Kleinigkeit übersehen, wie eine einfache Rechnung zeigt.
Der Spieleentwickler John Carmack hatte eine auf den ersten Blick verlockende Idee: Anstatt massenhaft DRAM-Chips in KI-Beschleunigern zu verbauen, könnte man doch einfach eine lange Glasfaserleitung als Laufzeitspeicher(öffnet im neuen Fenster) nutzen. Technisch hat Carmack die Idee gut durchdacht, praktisch leider nicht.
Der Spieleentwickler zeigt, dass der größte Nachteil von Laufzeitspeichern bei KI-Hardware durchaus umschifft werden kann. Daten können hier nur ausgelesen werden, wenn sie am Ende der Leitung wieder herauskommen. Carmack kommt zum Schluss, dass dies kein Problem sei, wenn die Glasfaserleitung zum Speichern von Gewichtsparametern genutzt wird. Der Zugriff darauf sei zeitlich gut planbar. Das stimmt.