KI-Training: Nvidia und Hugging Face kündigen Partnerschaft an
Nvidia und Hugging Face(öffnet im neuen Fenster) haben heute auf der Siggraph eine Partnerschaft angekündigt. Damit sollen Leistungsfähige KI-Plattformen für Millionen von Entwicklern verfügbar werden, die Hugging Face bereits für die Entwicklung und den Austausch von KI-Modellen und Datensätzen nutzen.
Durch die einfache Verfügbarkeit von DGX-Cloud-Systemen(öffnet im neuen Fenster) mit leistungsfähigen und vor allem mit viel Speicher ausgestatteten GPUs soll es Entwicklern möglich sein, an Modellen zu arbeiten, die bisher außer Reichweite waren. Das soll die Verbreitung von angepassten LLMs (Large Language Models) in der Industrie vorantreiben.
Einsatzgebiete für solche mit eigenen Datensätzen trainierten Modelle sind beispielsweise Suchfunktionen, Chatbots und Zusammenfassungs-Tools. Das Training eines Modells mit einem eigenen Datensatz kann unter Umständen sehr lange dauern oder gar nicht möglich sein, weil der Videospeicher einer GPU schnell zum Flaschenhals wird.
Modelle können direkt von der Website zum Training geschickt werden
Abhilfe sollen die sogenannten Training-Cluster schaffen, die Nvidia auf Huggingface.co als Dienstleistung anbieten wird. Sie sollen in den nächsten Monaten verfügbar sein und sich einfach über die Website mit den dort genutzten Modellen und Datensätzen nutzen lassen. Die DGX-Server haben dabei jeweils acht Nvidia A100 oder H100 GPUs mit 80 GByte Speicher. Per NV-Link ergibt das 640 GByte an nutzbarem Speicher pro GPU-Cluster.
Außerdem sind die Server durch Nvidia Nforce-3-Pro-Netzwerkkarten angebunden, um schnelle Datenübertragung und Zugriff auf Datensätze zu gewährleisten. Zu Preisen haben sich Nvidia und Hugging Face bisher nicht geäußert. Ebenso ist uns noch kein Datum für die Verfügbarkeit der Training-Cluster bekannt.