Zum Hauptinhalt Zur Navigation Zur Suche

zHBM, zNAND & HBF: Stapelspeicher für KI-Hardware soll schneller und größer werden

Samsung und SK Hynix haben beim Future Memory Summit ihre Neuerungen bei 3D-Speicher vorgestellt. Direkt aufgestapelter HBM soll die Bandbreite steigern.
/ Johannes Hiltscher
6 Kommentare Auf Google folgen (öffnet im neuen Fenster)
Modelle von zHBM und zNAND-O am Stand von Samsung (Bild: Samsung)
Modelle von zHBM und zNAND-O am Stand von Samsung Bild: Samsung
Inhalt
  1. zHBM, zNAND & HBF: Stapelspeicher für KI-Hardware soll schneller und größer werden
  2. Auch Flash-Speicher für KI-Beschleuniger vorgestellt

High Bandwidth Memory (HBM) ist schnell, aber nicht schnell genug, findet Samsung. Daher will der Konzern die Speicherstapel künftig direkt auf KI-Chips aufsetzen. Im Gegensatz zu klassischen Interposern soll das dank kürzerer Verbindungen deutlich höhere Bandbreiten ermöglichen. Vorgestellt hatte Samsung das Konzept bereits 2024, beim Future Memory Summit bekam es nun einen offiziellen Namen(öffnet im neuen Fenster): zHBM.

Dazu gab es einen Ausblick auf die angestrebten Leistungsdaten. Verglichen mit HBM5 soll zHBM die rund achtfache Bandbreite und mehr als die zehnfache Speicherdichte ermöglichen. Wie genau das erreicht werden soll, bleibt allerdings vage. Denn vieles an zHBM ist noch Zukunftsmusik: So will Samsung Wafer-Bonding und ein Schnittstellensystem der nächsten Generation nutzen, um die genannten Werte zu erreichen.

Das neue Wafer-Bonding soll die deutliche Steigerung der Speicherdichte ermöglichen. Wie bei HBM5 dürfte Samsung auf Hybrid Copper Bonding setzen, möglicherweise mit mehr Schichten. Damit unter dem Speicher der Beschleuniger nicht überhitzt, soll der thermische Widerstand der Speicherstapel halbiert werden.

Gestapelter Flash für höhere Kapazität

In deutlich näherer Zukunft soll bereits High Bandwidth Flash (HBF) höhere Speicherkapazitäten ermöglichen. Das ist insbesondere für KI-Inferenz interessant, bei der Modellgewichte lediglich gelesen werden. So passen größere Modelle auf einen Beschleuniger.

SK Hynix und Sandisk stellten für analog zu HBM gestapelten Flash-Speicher erstmals eine Spezifikation vor(öffnet im neuen Fenster). Einen echten Industriestandard, wie ihn das Konsortium Jedec für HBM pflegt, stellt der nicht dar, erarbeitet wurde er im Rahmen des Open Compute Project. Wie bei HBM sind unterschiedliche Konfigurationen vorgesehen.


Relevante Themen