Alternative zu GPUs: Die vielfältige Welt der KI-Beschleuniger abseits von Nvidia
Wer an KI denkt, kommt kaum umhin, auch an Nvidia zu denken. Der GPU-Hersteller ist der größte Profiteur und Treiber des aktuellen KI-Booms. Doch die Hardware stößt an ihre Grenzen, sagt zumindest OpenAI, und sucht nach besseren Alternativen. Wir stellen brereits existierende Hardware und einige teils ausgefallene Ideen, an denen Forscher und Start-ups arbeiten, vor. Außerdem geben wir einen Überblick, zeigen die Unterschiede und Gemeinsamkeiten auf und erklären, welcher Beschleuniger sich wofür eignet.
Denn auch wenn die Namen sich unterscheiden, ist die grundlegende Funktionsweise bei allen KI-Beschleunigern gleich. Das liegt daran, dass alle letztlich Modelle bearbeiten, welche die selben Operationen verwenden. Den Großteil des Rechenaufwands verursachen die allgegenwärtigen Matrixmultiplikationen: Mit ihnen werden die Eingaben der einzelnen Schichten von künstlichen Neuronen gewichtet – die Gewichtsmatrix verknüpft jedes Neuron mit jedem Eingangswert – und die Einbettungen (Embeddings) von Transformer-Modellen umgesetzt.