Abo
  • Services:
Anzeige
Eines der FPGA-Boards von Microsofts Project Brainwave
Eines der FPGA-Boards von Microsofts Project Brainwave (Bild: Microsoft)

Project Brainwave: Microsoft beschleunigt KI-Technik mit Cloud-FPGAs

Eines der FPGA-Boards von Microsofts Project Brainwave
Eines der FPGA-Boards von Microsofts Project Brainwave (Bild: Microsoft)

Statt auf fest verdrahtete ASICs, wie Googles TPU, setzt Microsoft für sein Azure-Cloud-Geschäft auf flexiblere FPGAs. Mit diesen sollen künftig Machine-Learning-Modelle beschleunigt werden, um "Echtzeit-KI" bereitzustellen.

Die wohl am weitesten verbreitete Möglichkeit, maschinelles Lernen zu beschleunigen, ist die Verwendung von Grafikkarten. Einige Hersteller setzen inzwischen aber fest verdrahtete ASICs, wie etwa Google mit seinen TPU, zum Anwenden und Trainieren von Modellen. Microsoft will unter dem Projektnamen Brainwave künftig für derartige Einsatzgebiete auf FPGAs in seiner Azure Cloud zurückgreifen.

Anzeige

In der Ankündigung heißt es, dass damit "Echtzeit-KI" ermöglicht werden soll, wobei entsprechende Daten möglichst schnell von dem System verarbeitet werden. Microsoft setzt hierfür auf drei verschiedene Bestandteile: eine leistungsfähige Cloud-Architektur, eine in den FPGAs synthetisierte Engine für neuronale Netze sowie einen Compiler und eine Laufzeitumgebung, um trainierte Modelle auszurollen.

Direkt ans Netzwerk angebunden

Die FPGAs werden als PCIe-Karten in den Servern untergebracht, werden aber über eigene Schnittstellen direkt mit dem Netzwerk des Rechenzentrums verbunden, so dass die CPU der Server umgangen werden kann. Ebenso lassen sich die so verfügbaren FPGAs leicht zu Pools zusammenschließen. Google verfolgt für die Anbindung seiner TPUs eine ähnliche Strategie.

Zur Umsetzung der neuronalen Netze in den FPGAs greift Microsoft auf das Konzept des sogenannten Soft-Prozessors zurück. Diese DPU (Deep Neural Network Processing Unit) seien im Vergleich zu ASICs flexibler, da zum Zeitpunkt der DPU-Synthese zwischen verschiedenen Datentypen gewählt werden kann. Darüber hinaus können dank der FPGAs Neuerungen im Bereich des maschinellen Lernens innerhalb von nur wenigen Wochen in den Rechenzentren ausgerollt werden.

Breite Unterstützung für Software und Modelle

Brainwave könne bisher für Machine-Learning-Anwendungen genutzt werden, die mit Microsofts Cognitive Toolkit umgesetzt worden sind oder mit Googles Tensorflow. Die Unterstützung für weitere Frameworks soll folgen. Die Modelle werden dann zunächst in eine Graph-Repräsentation überführt und anschließend für die Brainwave-Infrastruktur kompiliert.

Microsoft hebt außerdem hervor, dass sich das FPGA-System nicht nur für die leicht parallelisierbaren Convolutional Neural Networks (CNN) einsetzen lasse, sondern insbesondere auch für die Beschleunigung von rekurrenten neuronalen Netzen (RNN) wie LSTMs oder jenen mit GRUs. RNNs enthalten eine Art Rückkanal und werden etwa zur Verarbeitung natürlicher Sprache verwendet.

Fast 40 TOPS dank Altera-FPGAs

Als FPGA-Hardware verwendet Microsoft die Stratix 10 der Intel-Tochter Altera. Laut Hersteller bieten die Chips eine Rechengeschwindigkeit von 10 Teraflops bei einfacher Genauigkeit (FP32). Den Tests von Microsoft zufolge erreicht das Brainwave-System beim Ausführen eines GRU-Modells gar fast 40 Teraflops bei reduzierter Genauigkeit von 8-Bit (FP8), die im Machine-Learning teilweise üblich ist.

Zum Vergleich: Die zweite Generation von Googles TPU, die auch über die Google-Cloud genutzt werden können, bietet pro Board 180 Teraops (INT8) und damit pro ASIC theoretisch rund 45 Teraops.


eye home zur Startseite



Anzeige

Stellenmarkt
  1. Beko Technologies GmbH, Neuss
  2. Axians IT Solutions GmbH, deutschlandweit
  3. ETAS GmbH & Co. KG, Stuttgart
  4. DPD Deutschland GmbH, Aschaffenburg, Hamburg


Anzeige
Top-Angebote
  1. 94,90€ statt 129,90€
  2. 64,90€ statt 79,90€
  3. 144,90€ statt 159,90€

Folgen Sie uns
       


  1. Umwelt

    China baut 100-Meter-Turm für die Luftreinigung

  2. Marktforschung

    Viele Android-Apps kollidieren mit kommendem EU-Datenschutz

  3. Sonic Forces

    Offenbar aktuellste Version von Denuvo geknackt

  4. KWin

    KDE beendet Funktionsentwicklung für X11

  5. Sprachassistenten

    Alexa ist Feministin

  6. Elektromobilität

    Elektroautos werden langsam beliebter in Deutschland

  7. Crypto-Bibliothek

    OpenSSL bekommt Patch-Dienstag und wird transparenter

  8. Spectre und Meltdown

    Kleine Helferlein überprüfen den Rechner

  9. Anfrage

    Senat sieht sich für WLAN im U-Bahn-Tunnel nicht zuständig

  10. Gaming

    Über 3 Millionen deutsche Spieler treiben regelmäßig E-Sport



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Netzsperren: Wie Katalonien die spanische Internetzensur austrickste
Netzsperren
Wie Katalonien die spanische Internetzensur austrickste

Spectre und Meltdown: All unsere moderne Technik ist kaputt
Spectre und Meltdown
All unsere moderne Technik ist kaputt
  1. E-Mail-Konto 90 Prozent der Gmail-Nutzer nutzen keinen zweiten Faktor
  2. BeA Noch mehr Sicherheitslücken im Anwaltspostfach
  3. VEP Charter Trump will etwas transparenter mit Sicherheitslücken umgehen

Star Citizen Alpha 3.0 angespielt: Es wird immer schwieriger, sich auszuloggen
Star Citizen Alpha 3.0 angespielt
Es wird immer schwieriger, sich auszuloggen
  1. Cloud Imperium Games Star Citizen bekommt erst Polituren und dann Reparaturen
  2. Star Citizen Reaktionen auf Gameplay und Bildraten von Alpha 3.0
  3. Squadron 42 Mark Hamill fliegt mit 16 GByte RAM und SSD

  1. Re: @wasgeht/FWP: "Rückstoß im rechten Winkel zur...

    Eheran | 21:34

  2. Siri ist btw. nicht weiblich...

    picaschaf | 21:32

  3. Re: Migration X11 -> Wayland

    glasen77 | 21:30

  4. Re: Kann man auch eine männliche Stimme einstellen?

    Schläfer | 21:30

  5. Re: was ein blödsinn...

    cuthbert34 | 21:28


  1. 18:19

  2. 17:43

  3. 17:38

  4. 15:30

  5. 15:02

  6. 14:24

  7. 13:28

  8. 13:21


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel