MCR DIMM: Micron zeigt DDR5-8800-Module mit 256 GB Kapazität
Micron hat auf der GTC 2024 neue MCR-DIMM-Speichermodule(öffnet im neuen Fenster) (via Tomshardware) mit einer hohen Speicherkapazität von 256 GByte pro Speicherriegel sowie einer Geschwindigkeit von DDR5-8800 präsentiert.
Durch die insgesamt 80 Speicherchips benötigen die Module mindestens ein 2U-Servergehäuse, zudem muss die Plattform explizit für MCR-DIMMS ausgelegt sein. Die hohe Geschwindigkeit wird anders als bei Desktop-RAM nicht über die Taktfrequenz realisiert.
Stattdessen werden bei MCR-DIMMS (Multiplexer Combined Ranks) zwei Speicherränge gleichzeitig über einen Pufferchip angesteuert und können so pro Lesevorgang 128 Bytes statt 64 Bytes auslesen. Effektiv werden die beiden Speicherränge wie eigene Speichermodule behandelt, die gleichzeitig arbeiten, statt wie bei herkömmlichem Rank Interleaving von Dual-Rank-Speicher abwechselnd angesteuert zu werden.
Während Letzteres die Latenzzeit verringert, da die Speicherränge sich auch bei den Auffrischungszyklen abwechseln und dadurch immer eine Hälfte für Zugriffe bereit ist, wird bei MCR die Datendurchsatzrate priorisiert. Reguläre DDR5-Speicherriegel werden normalerweise ab einer Geschwindigkeit von DDR5-4800 produziert, bei MCR-DIMMs geht es ab DDR5-8000 los.
Keine höheren Anforderungen an Platinen und Chips
Da die Taktfrequenz der Speicherchips hierbei nicht angehoben werden muss, bedarf es keiner speziell selektierten Chips, die zudem mit einer hohen Spannung arbeiten. Ein 256-GByte-MCR-Speichermodul soll trotz DDR5-8800 eine Leistungsaufnahme von 20 Watt haben.
Bisherige 128-GByte-Riegel kommen auf 10 Watt, allerdings bei einer Geschwindigkeit von DDR5-4800. Desktopspeicher wird im Regelfall mit 8 bis 16 Chips hergestellt.
Die Vorstellung auf der GTC legt nahe, dass Micron die Verwendung in KI-Servern vorsieht. Neben hohen Speicheranforderungen an GPUs für das Training von KI-Modellen wächst auch der Speicherbedarf der Plattform selbst, insbesondere wenn die CPUs für KI-Inferenz mit den fertigen Modellen genutzt werden. Schnellerer Speicher hilft dabei, die CPUs besser auszulasten und schneller Ergebnisse zu generieren.