Microsoft: Weil CPUs zu langsam sind, müssen FPGAs her

Mark Russinovich, Technikchef von Microsoft Azure, hat einen Einblick in die Serverlandschaft des Unternehmens gegeben und nennt Gründe, warum FPGAs die Zukunft bei Microsoft sind.

Ein Bericht von veröffentlicht am
Mark Russinovich sieht FPGA-Chips als Cloud-Ressource.
Mark Russinovich sieht FPGA-Chips als Cloud-Ressource. (Bild: Andreas Sebayang/Golem.de)

Seit 2011 arbeitet Microsoft daran, FPGAs (Field Programmable Gate Arrays) in Massen einzusetzen. Die Entscheidung fiel also noch unter der Leitung von Steve Ballmer. Mittlerweile sind alle Azure- und Bing-Server mit einem FPGA-Baustein ausgestattet, das hat Microsofts Technikchef für Azure, Mark Russinovich, gesagt. Russinovich, der vor allem durch seine Sysinternal Tools bekanntgeworden ist, sieht in diesen Bausteinen eine große Zukunft, denn sie können spezielle Aufgaben fast so schnell durchführen wie ASICs und sind damit drastisch schneller als CPUs.

  • Mark Russinovich ... (Foto: Andreas Sebayang/Golem.de)
  • ... sieht in FPGA-Chips die Zukunft. (Foto: Andreas Sebayang/Golem.de)
  • Sie sind effizienter als CPUs. (Foto: Andreas Sebayang/Golem.de)
  • Schon seit Jahren arbeitet Microsoft an der Umsetzung. (Foto: Andreas Sebayang/Golem.de)
  • Die Netzwerkbeschleunigung ist seit der Ignite 2016 fertig. (Foto: Andreas Sebayang/Golem.de)
  • Azure Networking (Foto: Andreas Sebayang/Golem.de)
  • Azure Smart NIC kann mehr als nur die Netzwerkbeschleunigung. (Foto: Andreas Sebayang/Golem.de)
  • Vor allem das Software Defined Networking wird ausgelagert. (Foto: Andreas Sebayang/Golem.de)
  • Vorteile des Azure Accelerating Networkings (Foto: Andreas Sebayang/Golem.de)
  • Microsoft setzt bei der nächsten Generation auf 50GbE. (Foto: Andreas Sebayang/Golem.de)
  • Deep Learning ... (Foto: Andreas Sebayang/Golem.de)
  • ... und Microservices in Azure (Foto: Andreas Sebayang/Golem.de)
  • Später wird Azure FPGAs für ... (Foto: Andreas Sebayang/Golem.de)
  • ... DNN-Modelle anbieten. (Foto: Andreas Sebayang/Golem.de)
  • Am Ende steht die konfigurierbare Cloud. (Foto: Andreas Sebayang/Golem.de)
Mark Russinovich ... (Foto: Andreas Sebayang/Golem.de)
Stellenmarkt
  1. Referent Rohdatenaufbereitung (w/m/d) Senior-Cyber-Security-Specia- list
    Gemeinsames Kompetenz- und Dienstleistungszentrum der Polizei, Leipzig
  2. Junior Product-Owner (m/w/d) Software-Entwicklung
    MVZ Martinsried GmbH, Martinsried
Detailsuche

Mittlerweile sind die FPGAs, die als Dienst auf der Ignite 2016 gestartet wurden, auch für Kunden verfügbar. Derzeit allerdings nur für eine Funktion: die Beschleunigung des Netzwerks, denn ohne die FPGAs lassen sich die 40GbE-Adapter der Server im Azure-Umfeld kaum ausnutzen. Die CPU-Last ist zu hoch und die CPU-Leistung will Microsoft natürlich verkaufen und nicht fürs Netzwerk unnötig und sprichwörtlich verbraten. Die FPGA-Option soll das verbessern. Die Bausteine sind effizienter, beschleunigen und benötigen erheblich weniger Energie, was die CPU entlastet. Die FPGA-Beschleunigung ist allerdings immer noch optional. Sie ist zwar laut Russinovich stabil und Probleme gab es bisher nicht. Zudem empfiehlt er die Option den Kunden, aber es fehlt anscheinend an Erfahrung für eine standardmäßig aktivierte FPGA-Netzwerkbeschleunigung.

Deutliche Beschleunigung in Azure

In mehreren Benchmarks auf Azure-Systemen demonstrierte Russinovich den FPGA-Offload. Ohne FPGAs hat er nur Netzwerkgeschwindigkeiten von 4 GBit/s erreichen können. Das wohlgemerkt auf einem 40GbE-Adapter. Mit zugeschaltetem FPGA waren es rund 25 GBit/s, was laut Russinovich ein guter Wert ist. Die netzwerkbedingte CPU-Last sinkt dabei in dem SDN nahezu auf null. Solche Beschleunigungen haben Microsoft anfangs allerdings auch verschreckt. In ersten Experimenten mit Bing-Servern und der Document-Indexer-Funktion stieg plötzlich die CPU-Last bei FPGA-bestückten Systemen. Der Grund war allerdings ein übergeordnetes System, das freie CPU-Ressourcen entdeckte und dementsprechend einfach noch mehr Daten zur Bearbeitung schickte.

Ähnlich deutlich verbessert sich zudem die Latenz. Die FPGA-Bausteine sind auch hier erheblich schneller. Statt 145 Mikrosekunden sind es nur noch 31 Mikrosekunden Verzögerung durch den FPGA-Baustein. Allerdings war das ein theoretischer Test. Das setzt sich aber auch ähnlich in der Praxis um. Ein SQL-Query demonstrierte Russinovich mit 0,3 Millisekunden statt zuvor etwa 1,2 Millisekunden.

Golem Akademie
  1. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, online
  2. Cloud Computing mit Amazon Web Services (AWS)
    14.-16. Februar 2022, online
  3. Terraform mit AWS
    14.-15. Dezember 2021, online
Weitere IT-Trainings

Die Ergebnisse sind jedenfalls so gut, dass Russinovich schon weitere Pläne hat. Die Architektur ist so ausgelegt, dass sich die Bausteine dank direkter CPU-Anbindung auch zum Übernehmen anderer Aufgaben nutzen lassen. Das geht so weit, dass er davon ausgeht, FPGA-Ressourcen in Zukunft über Azure zu verkaufen. Noch müssen die entsprechenden Funktionen aber für die FPGA-Bauteile programmiert werden. Russinovich sieht vor allem Potenzial in dem Bereich Deep Learning und neuronale Netze - das sollte erheblich schneller auf FPGA-Chips funktionieren. Das ist eine Aufgabe, die auch zusammen mit Microsoft Research angegangen wird. Am Ende soll Azure zu einer konfigurierbaren Cloud werden. Es wird aber auch daran gearbeitet, Crypto-Berechnungen oder Storage-Systeme per FPGA zu beschleunigen. Diese beiden Möglichkeiten dürften eher einer Option ähneln wie derzeit die Netzwerkbeschleunigung per FPGA.

Es muss aber nicht immer alles auf FPGA-Bausteinen funktionieren. Fürs Netzwerk wird zumindest darüber nachgedacht, dieses auf ASIC-Bausteine auszulagern. Die Funktionen sind dann fest im Chip, was die Latenzen und die Effizienz noch einmal verbessern dürfte. Der Nachteil: Bis ein entsprechender Chip produziert wird, können durchaus zwei Jahre vergehen. Wenn sich bis dahin im Software Defined Networking von Azure etwas ändert. SDN-Offload ist derzeit eine der Hauptaufgaben, dann war die Arbeit umsonst.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Akaruso 30. Jun 2017

Jeder hätte gerne ein perfektes auf sich abgestimmtes Betriebssystem. Aber das soll...

senf.dazu 24. Jun 2017

Trotzdem Aua. Mit off the shelf Infinibandadaptern schafft man locker die 40 GBit/s...

tunnelblick 16. Mai 2017

an welcher stelle? hardware? code, also implementierung? der weg vom bitfeld zum fpga?

ELKINATOR 16. Mai 2017

Von APUs für Servern? Also zb. Xeons mit FPGA integriert, statt als extra Karte...

Its_Me 16. Mai 2017

Das dynamische Laden ist aber nicht so einfach. Zwar kann man die meisten FPGAs beliebig...



Aktuell auf der Startseite von Golem.de
Macbook Pro
Apple bestätigt High Power Mode für M1 Max

Käufer des Macbook Pro mit M1 Max können wohl in MacOS Monterey per Klick noch mehr Leistung aus dem Gerät herausholen.

Macbook Pro: Apple bestätigt High Power Mode für M1 Max
Artikel
  1. Bundesregierung: Autobahn App 2.0 im ersten Quartal 2022 geplant
    Bundesregierung
    Autobahn App 2.0 im ersten Quartal 2022 geplant

    Die Opposition kritisiert die massiven Kosten, Nutzer bewerten die App schlecht. Dennoch soll die Autobahn App nun erweitert werden.

  2. Klage: Google soll E-Privacy und Werbemarkt manipuliert haben
    Klage
    Google soll E-Privacy und Werbemarkt manipuliert haben

    Mehrere US-Bundesstaaten haben Klage gegen Google eingereicht. Das Unternehmen rühmt sich derweil, Regulierungen verlangsamt zu haben.

  3. Silence S04: Günstiges Elektroauto mit herausnehmbaren Akku vorgestellt
    Silence S04
    Günstiges Elektroauto mit herausnehmbaren Akku vorgestellt

    Beim Elektroauto Silence S04 kann der Nutzer den Akku selbst wechseln, wenn dieser leergefahren ist.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Gutscheinheft mit Direktabzügen und Zugaben • Nur noch heute: Mehrwertsteuer-Aktion bei MediaMarkt • Roccat Suora 43,99€ • Razer Goliathus Extended Chroma Mercury ab 26,99€ • Seagate SSDs & HDDs günstiger • Alternate (u. a. ASUS ROG Strix Z590-A Gaming WIFI 258€) [Werbung]
    •  /