Bing-KI: Microsoft lagert Rechenbedarf auf GPU-Cluster von Oracle aus
Microsofts Bedarf an Rechenleistung zur Aufrechterhaltung seiner Bing-KI-Dienste ist offenbar so groß, dass das Unternehmen die Verarbeitung eingehender Suchanfragen teilweise auf GPU-Cluster von Oracle auslagern will. Laut einer Pressemitteilung von Oracle(öffnet im neuen Fenster) haben die beiden Unternehmen kürzlich eine mehrjährige Vereinbarung zur Bewältigung des "explosiven Wachstums von KI-Diensten" getroffen.
Auf Basis dieser Vereinbarung erhält Microsoft Zugang zur KI-Infrastruktur von Oracle, um die darüber bereitgestellten Ressourcen mit jenen seiner eigenen Azure Cloud zu verbinden. Im Fokus steht dabei das KI-Inferencing, also die Verwendung eines bereits trainierten Sprachmodells, beispielsweise durch Nutzeranfragen an Microsofts Bing-KI.
Microsoft will Geschwindigkeit seiner Bing-KI verbessern
"Die Inferenzmodelle erfordern Tausende von Rechen- und Speicherinstanzen und Zehntausende von GPUs, die parallel wie ein einziger Supercomputer über ein Multi-Terabit-Netzwerk arbeiten können", erklärt Oracle in seiner Mitteilung. Das Unternehmen hebt hervor, sein GPU-Supercluster auf bis zu 32.768 A100- oder 16.384 H100-GPUs von Nvidia skalieren zu können.
Hinzu komme ein hochleistungsfähiger geclusterter Dateisystemspeicher im Umfang von mehreren Petabytes für die effiziente Verarbeitung hochgradig parallelisierter Anwendungen. Das RDMA-Cluster-Netzwerk (Remote Direct Memory Access) des Unternehmens biete ferner eine extrem niedrige Latenz.
"Unsere Zusammenarbeit mit Oracle und die Nutzung der Oracle-Cloud-Infrastruktur zusammen mit unserer Microsoft-Azure-AI-Infrastruktur wird den Zugang für Kunden erweitern und die Geschwindigkeit vieler unserer Suchergebnisse verbessern", erklärte Divya Kumar, Leiterin des Marketingteams für Suche und KI bei Microsoft. Wie viele der Ressourcen von Oracle Microsoft dafür tatsächlich nutzen will, geht aus der Ankündigung allerdings nicht hervor.
Oracle und Microsoft weiten Zusammenarbeit aus
Erst im vergangenen Monat hatten Oracle und Microsoft eine engere Zusammenarbeit angekündigt, um ihre Cloudhardware physisch zusammenzuführen und Datenbankdienste von Oracle in der Azure Cloud schneller bereitstellen zu können. Microsoft sei damit das erste externe Unternehmen überhaupt, das Oracles Datenbankdienste in das Rechenzentrum der eigenen Cloud integriere, erklärte der Redmonder Softwarekonzern damals.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.