KI: Nvidia testet Chatbot für Chip-Design
Auf der International Conference on Computer-Aided Design hat Hardwarehersteller Nvidia seine Erfahrungen bei der Nutzung eines Sprachmodells (LLM) während der Designentwicklung neuer Chips vorgestellt, wie das Unternehmen schreibt(öffnet im neuen Fenster) . Das KI-Modell kommt dabei allerdings explizit nicht für das eigentlichen Design der Chips zum Einsatz. Vielmehr soll das Sprachmodell die beteiligten Entwickler in ihrer Arbeit unterstützten und den Prozess beschleunigen. Das war offenbar erfolgreich.
"Diese Arbeit ist ein wichtiger erster Schritt bei der Anwendung von LLMs auf die komplexe Arbeit der Halbleiterentwicklung" , sagte dazu Chief Scientist Bill Dally. "Es zeigt, wie selbst hoch spezialisierte Bereiche ihre internen Daten nutzen können, um nützliche generative KI-Modelle zu trainieren." Grundlage des Modells sind demnach die internen Daten von Nvidia.
Diese nimmt das Unternehmen, um ein sogenanntes Foundation Model auf die speziellen Nutzungsszenarien anzupassen. Ausgehend von dieser Basis mit etwa 43 Milliarden Parametern und mehreren Runden Fine-Tuning hat das Team Modelle mit 7 und 13 Milliarden Parametern erstellt und letztlich genutzt. Der Vergleich mit deutlich größeren Modellen, wie Llama 2 70B zeigt dabei, dass die kleineren Modelle besser abschneiden.
Genutzt wird das Modell demnach für drei grundlegende Aufgaben. So helfe ein Chatbot dabei, Fragen etwa zur GPU-Architektur zu beantworten oder schnell die passende Dokumentation zu finden. Ein Analysewerkzeug unterstütze darüber hinaus bei Tätigkeiten, die besonders viel Zeit benötigten, heißt es. Konkret genannt wird dabei, die Beschreibung bekannter Fehler zu aktualisieren. Der dritte Einsatzzweck ist ein Coding-Bot, der zusätzlich zu C++ und Python insbesondere die Hardwarebeschreibungssprache Verilog beherrscht.