Tenstorrent Blackhole: Der vollständig programmierbare KI-Beschleuniger
Bei der aktuell stattfindenden Konferenz Hot Chips(öffnet im neuen Fenster) hat Tenstorrent im Detail über Blackhole, die dritte Generation seines KI-Beschleunigers, gesprochen. Der geht gänzlich andere Wege als die Konkurrenz: Er setzt anstelle einer spezialisierten Mikroarchitektur durchgängig auf RISC-V-Kerne. Blackhole nutzt davon erstmals zwei Varianten: Herzstück sind die 752 Baby-Kerne, neu hinzu kommen 16 große Geschwister, die Linux ausführen können und den Beschleuniger so unabhängig von einem Host-System machen. Seine Vorgänger funktionierten nur als PCIe-Karten.
Das Besondere an den Baby-Kernen: Sie werden nicht nur für die KI-Berechnungen genutzt, sondern stecken auch in den Kacheln der DRAM-Controller, den Ethernet-Controllern, über die einzelne Blackhole-Chips vernetzt werden, und in den Routern für das Network-on-Chip (NoC). Damit ist, abgesehen vom PCIe-5.0-Controller, das gesamte System-on-Chip (SoC) programmierbar – mit einem einheitlichen Befehlssatz. Die einzelnen Funktionseinheiten sind als Kacheln realisiert, die in einem 12-x-16-Gitter angeordnet sind, die linuxfähigen Kerne sowie ein Kern für die Systemverwaltung liegen in einer zusätzlichen Spalte.