Abo
  • Services:
Anzeige
Rechenzentrum von Facebook
Rechenzentrum von Facebook (Bild: Facebook)

Imagenet 1K: Facebook klassifiziert eine Million Bilder in einer Stunde

Rechenzentrum von Facebook
Rechenzentrum von Facebook (Bild: Facebook)

Die Forschungsabteilung von Facebook zeigt, dass eines ihrer Modelle extrem gut skaliert. Das Training zum Erkennen und Klassifizieren von rund 1,2 Millionen Bildern benötigt mit 256 Nvidia-GPUs nur 1 Stunde statt 29 Stunden mit acht GPUs.

Das Projekt Imagenet stellt nicht nur Bilder zu Forschungszwecken bereit, sondern bietet mit der Large Scale Visual Recognition Challenge (ILSVRC) auch eine Art standardisierten Wettbewerb zum Testen von Machine-Learning-Modellen. Facebook zeigt nun, dass eines seiner Modelle zum Klassifizieren von mehr als 1,2 Millionen Bildern in 1.000 Objektkategorien (Imagenet-1K) extrem gut skaliert.

Anzeige

Das Team von Facebook beschreibt in einer Forschungsarbeit, die auf der Konferenz Data@Scale vorgestellt wurde, dass das Training des genutzten Modells für die beschriebene Aufgabe auf acht von Nvidias Tesla-P100-GPUs etwa 29 Stunden benötigt. Mit 256 GPUs könne dieser Wert auf nur eine Stunde gedrückt werden, was einer Effizienz beim Skalieren von rund 90 Prozent entspreche.

Dieser Wert ist deshalb überraschend gut, weil das Training beim maschinellen Lernen auf einem sehr großen Datensatz oft nicht beliebig parallelisierbar ist und damit auch nicht trivial skaliert werden kann. Doch das Team von Facebook hat dieses Problem nun zumindest etwas überwunden. So verarbeitet das Modell beim Training dank einiger Anpassungen nicht mehr 256 Bilder parallel, sondern 8.192, bei einem ungefähr gleichbleibenden Fehler. Eine Parallelisierung darüber hinaus gelang dem Team jedoch nur mit deutlich wachsenden Fehlerwerten, so dass dies nicht verwendet werden konnte.

Möglich wird die gute Parallelisierung unter anderem durch die Verwendung der Bibliothek NCCL von Nvidia, worauf der GPU-Hersteller in einem eigenen Blogpost speziell hinweist. Die Bibliothek wird unter anderem dazu genutzt, die Ergebnisse der acht GPUs auf einem Server zusammenzufassen. Für die Kommunikation über die genutzten 32 Server hinweg greift Facebook auf 50-GBit-Ethernet und seine Wedge-100-Switches zurück. Die maximal benötigte Bandbreite betrage dabei aber nur rund 15 GBit/s.


eye home zur Startseite
FRug 14. Jun 2017

Das Grundproblem des Artikels ist, dass er Training mit Klassifikation vermischt. Für das...

FabtasticFab 13. Jun 2017

Sie haben Recht, es ist eine Verschlechterung. Es geht hier aber darum, die...

schap23 13. Jun 2017

Praktisch alle Entwickler von Bildererkennungssoftware benutzen denselben Datensatz...



Anzeige

Stellenmarkt
  1. DIgSILENT GmbH, Gomaringen
  2. Elizabeth Arden GmbH, Wiesbaden
  3. Rational AG, Landsberg am Lech
  4. Daimler AG, Stuttgart-Fellbach


Anzeige
Top-Angebote
  1. (heute u. a. Logitech Gaming-Produkte, Philips-TVs, Garmin-Produkte, Philips Hue Starter Set, Filme...
  2. 349€ (bitte nach unten scrollen)
  3. 379€

Folgen Sie uns
       


  1. Porsche

    Betriebsratschef will Mails in der Freizeit löschen lassen

  2. DS218

    Neues Einsteiger-NAS-System mit Btrfs

  3. Testgelände

    BMW will in Tschechien autonome Autos erproben

  4. GTA 5

    Goldener Revolver für Red Dead Redemption 2 versteckt

  5. Geldwäsche

    EU will den Bitcoin weniger anonym machen

  6. Soziale Medien

    Facebook-Forscher finden Facebook problematisch

  7. Streit um Stream On

    Die Telekom spielt das Uber-Spiel

  8. US-Verteidigungsministerium

    Pentagon forschte jahrelang heimlich nach Ufos

  9. Age of Empires (1997)

    Mit sanftem "Wololo" durch die Antike

  10. Augmented Reality

    Google stellt Project Tango ein



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Alexa-Geräte und ihre Konkurrenz im Test: Der perfekte smarte Lautsprecher ist nicht dabei
Alexa-Geräte und ihre Konkurrenz im Test
Der perfekte smarte Lautsprecher ist nicht dabei
  1. Alexa und Co. Wirtschaftsverband sieht Megatrend zu smarten Lautsprechern
  2. Smarte Lautsprecher Google unterstützt indirekt Bau von Alexa-Geräten
  3. UE Blast und Megablast Alexa-Lautsprecher sind wasserfest und haben einen Akku

4K UHD HDR: Das ZDF hat das Internet nicht verstanden
4K UHD HDR
Das ZDF hat das Internet nicht verstanden
  1. Cisco und Lancom Wenn Spionagepanik auf Industriepolitik trifft
  2. Encrypted Media Extensions Web-DRM ist ein Standard für Nutzer

King's Field 1 (1994): Die Saat für Dark Souls
King's Field 1 (1994)
Die Saat für Dark Souls
  1. Blade Runner (1997) Die unsterbliche, künstliche Erinnerung
  2. SNES Classic Mini im Vergleichstest Putzige Retro-Konsole mit suboptimaler Emulation

  1. Re: Und schon wieder ist Deutschland aus - kein...

    Kleba | 10:10

  2. Re: AoE Multiplayer per Lan - der Coop Modus

    Salzbretzel | 10:10

  3. Es ist eine freiwillige Option!

    Pecker | 10:04

  4. Re: Öfters mal Skimaske tragen.

    Daem | 10:04

  5. Der Telekom ist das Image vollkommen egal!

    tKahner | 10:03


  1. 10:14

  2. 09:59

  3. 07:11

  4. 14:17

  5. 13:34

  6. 12:33

  7. 11:38

  8. 10:34


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel