Glasfaser als RAM: Rein technisches Denken hat John Carmack in die Irre geführt
Der Spieleentwickler John Carmack hatte eine auf den ersten Blick verlockende Idee : Anstatt massenhaft DRAM-Chips in KI-Beschleunigern zu verbauen, könnte man doch einfach eine lange Glasfaserleitung als Laufzeitspeicher(öffnet im neuen Fenster) nutzen. Technisch hat Carmack die Idee gut durchdacht, praktisch leider nicht.
Der Spieleentwickler zeigt, dass der größte Nachteil von Laufzeitspeichern bei KI-Hardware durchaus umschifft werden kann. Daten können hier nur ausgelesen werden, wenn sie am Ende der Leitung wieder herauskommen. Carmack kommt zum Schluss, dass dies kein Problem sei, wenn die Glasfaserleitung zum Speichern von Gewichtsparametern genutzt wird. Der Zugriff darauf sei zeitlich gut planbar. Das stimmt.
Auch technisch sind die Herausforderungen handhabbar. Silicon Photonics ist längst in der Praxis angekommen, Nvidia nutzt es bei Switches der Quantum-X800-Serie . Eine oder auch mehrere Glasfasern direkt an einen KI-Beschleuniger anzubinden, ist damit kein unlösbares Problem. Allerdings braucht Carmacks Idee viel Platz.
Wie viel Platz braucht so eine Faser?
Das zeigt sich, wenn man das Volumen von 200 km Single-Mode-Faser(öffnet im neuen Fenster) berechnet. Die Faser ist filigran, der funktionale Teil aus Kern und Mantel hat einen Durchmesser von nur 125 μm. Die Querschnittsfläche beträgt damit gerade einmal 0,0123 mm 2 .
Durch die Länge von 200 km – eine Strecke von der Golem-Redaktion bis kurz hinter Leipzig – ergibt das jedoch ein Volumen von rund 2,45 Litern. Praktisch wäre noch mehr Raum erforderlich, da Glasfasern kein kompakter Würfel sind.
Zum Vergleich: Micron nennt für einen HBM3e-Stack (PDF)(öffnet im neuen Fenster) Abmessungen von 11 x 11 x 0,72 mm. Das sind 87,12 mm 3 , weniger als ein Zehntel Milliliter. Und der fasst bis zu 36 GByte, 12,5 Prozent mehr als die 200 km Glasfaser! Davon sitzen auf aktuellen KI-Beschleunigern bis zu acht, was 1.800 km Glasfaser entspräche.
Der Laufzeitspeicher ließe sich bestimmt verkleinern, etwa indem ein Würfel statt einer Faser genutzt wird. Darin könnte das Licht vielfach reflektiert werden, was allerdings die Komplexität erhöht – abgesehen davon müsste der Speicherwürfel erst entwickelt werden.
Aber auch Glasfasern sind kein triviales Produkt; sie müssen präzise aus reinem Material gefertigt werden. Leiter und Mantel müssen zudem unterschiedlich dotiert sein, um vorgegebene Brechungsindizes zu erreichen, damit das Lichtsignal im Leiter bleibt.
Die praktische Betrachtung zeigt, warum Laufzeitspeicher als RAM für Computer ein kurzlebiges Phänomen waren. Andere Technologien ermöglichten nicht nur wahlfreien Zugriff, sie ließen sich auch kompakter realisieren. Dass Laufzeitspeicher überhaupt zeitweise bei Computern eingesetzt wurden, dürfte an der Verfügbarkeit gelegen haben.
Quecksilberlaufzeitspeicher wurden im Zweiten Weltkrieg für Radaranlagen genutzt und waren wegen der einfachen Technik zuverlässig. Das traf auf Elektronenröhren anfangs nicht zu.
Laufzeitspeicher stecken schon in jedem Computer
Als Datenspeicher im Sinne eines RAM sind Laufzeitspeicher, wie beschrieben, aus gutem Grund kein Thema mehr. Dennoch sind sie weit verbreitet und stecken in jedem Computer. Wer sich jemals gefragt hat, warum die Leiter für RAM oder PCIe so seltsam über das Mainboard mäandern, hat sie bereits entdeckt: Die scheinbar sinnlosen Leiterschleifen dienen dazu, Laufzeitunterschiede verschiedener Signalleiter auszugleichen.
Auch in der Hochfrequenztechnik sind sie üblich, um Signale gezielt zu verzögern. Allerdings geht es hier um ganz andere Dimensionen: Die Leiter bewegen sich im Bereich von Milli- oder Zentimetern. Deren Vorteil ist es, dass sie kostengünstig herzustellen und die Verzögerungszeiten präzise einstellbar sind.
Verzögerungsspeicher haben also weiterhin einen Sinn. Als Datenspeicher für Computer sind sie aus gutem Grund ausgestorben.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.