Abo
  • IT-Karriere:

Machine Learning: Facebooks KI-Chef sucht neue Sprache für Deep Learning

Der KI-Chef von Facebook möchte die aktuelle Herangehensweise an Deep-Learning-Probleme gern völlig neu denken. Dazu gehört eine Programmiersprache, die effizienter ist als Python, ebenso wie neue Hardware, die nicht nur Matrizen multipliziert.

Artikel veröffentlicht am ,
Facebooks KI-Chef Yann Lecun sucht nach neuen Ansätzen für Deep-Learning.
Facebooks KI-Chef Yann Lecun sucht nach neuen Ansätzen für Deep-Learning. (Bild: Facebook)

Der Auftakt zur diesjährigen International Solid-State Circuits Conference (ISSCC) ist ein historischer Abriss von Facebooks KI-Chef Yann Lecun (PDF), der zusätzlich zu einem Rückblick auf Jahrzehnte von Forschungsarbeit auch über die Zukunft von Deep-Learning-Problemen nachdenkt. Dabei kommt der Forscher zu dem Schluss, dass sich einiges an der bisherigen Vorgehensweise und den Ansätzen zur algorithmischen Umsetzung ändern muss.

Stellenmarkt
  1. SCALTEL AG, Waltenhofen Raum Kempten
  2. SEG Automotive Germany GmbH, Stuttgart-Weilimdorf

Dazu gehöre etwa, dass zum Deep Learning eine effizientere Programmiersprache nötig sein könnte, wie Venturebeat berichtet. Bisher werden die meisten Frameworks in diesem Bereich wie zum Beispiel Googles Tensorflow oder Facebooks Pytorch in Python geschrieben. Laut Lecun suchen derzeit aber Google, Facebook und auch andere nach einer kompilierten Sprache, mit der Deep-Learning-Algorithmen effizienter umgesetzt werden können.

Lecun selbst weist aber auch darauf hin, dass dies ein sehr schwierig umzusetzender Schritt sein könnte. Immerhin sei überhaupt nicht klar, ob die Community aus Forschern und Entwicklern diesem Weg überhaupt folgen würde, da "die Leute einfach Python benutzen möchten". Einer Untersuchung von Github zufolge sind Python und bestimmte Python-Pakete derzeit die beliebtesten Werkzeuge für Deep Learning.

Neue Hardware braucht die Community

Lecun ist sich darüber hinaus auch sicher, dass der Bedarf für spezialisierte Hardware, die Deep-Learning-Aufgaben übernimmt, künftig weiter ansteigen wird, wie es im KI-Blog von Facebook heißt. Allerdings verändern sich auch die Algorithmen, die für Deep Learning genutzt werden, teilweise grundsätzlich im Vergleich zu bisherigen Ansätzen.

"Möglicherweise müssen wir deshalb die Art und Weise neu erfinden, wie wir Arithmetik in Schaltkreisen durchführen", sagt Lecun zu diesem Problem. Derzeit seien Unternehmen größtenteils abhängig von dem Zulieferer Nvidia zum Beschleunigen der Algorithmen oder darauf angewiesen, eigene Hardware zu gestalten wie etwa Google mit seinen TPU. Dem Magazin ZDnet bestätigte Lecun außerdem, dass auch Facebook intern an eigener Hardware zum Beschleunigen der Berechnungen arbeite, auch wenn er keine Details dazu nennen wollte.

Derzeit werden die Deep-Learning-Aufgaben und -Berechnungen meist auf einfache Matrix-Multiplikationen zurückgeführt, die sich etwa in GPUs sehr schnell ausführen lassen. Mit den TPUs von Google oder den Tensor-Einheiten von Nvidias Modulen für autonome Fahrzeuge wird davon auch massiv Gebrauch gemacht.

Mit Bezug auf dieses Vorgehen sagte Lecun: "Ich denke nicht, dass das die Antwort ist". Was dann aber als Ersatz dienen könnte, weiß auch der Forscher selbst nicht und lagert die Umsetzung einfach aus. "Ich denke, dass die echten Hardware-Genies neue Wege finden müssen, um diese Dinge zu tun".



Anzeige
Top-Angebote
  1. (aktuell u. a. CPU-Kühler)
  2. mit Gutschein: NBBCORSAIRPSP19
  3. (heute u. a. Saugroboter)
  4. (u. a. Metal Gear Solid V: The Definitive Experience für 8,99€ und Train Simulator 2019 für 12...

LRU 20. Feb 2019

Verstehe auch nicht, was an C/C++ verkehrt sein soll. Für effiziente Ressourcen-Nutzung...

Frostwind 19. Feb 2019

Matlab kostet. Matlab ist teilweise richtig schlecht. Matlab ist auch nicht besser als R...

schap23 19. Feb 2019

Julia ist so einfach zu benutzen wie Python, aber in mathematischen Berechnung meist...


Folgen Sie uns
       


Qualcomm Snapdragon 8cx ausprobiert

Der Snapdragon 8cx ist Qualcomms nächster Chip für Notebooks mit Windows 10 von ARM. Die ersten Performance-Messungen sehen das SoC auf dem Niveau eines aktuellen Quadcore-Ultrabook-Prozessors von Intel.

Qualcomm Snapdragon 8cx ausprobiert Video aufrufen
Mobile-Games-Auslese: Magischer Dieb trifft mogelnden Doktor
Mobile-Games-Auslese
Magischer Dieb trifft mogelnden Doktor

Ein Dieb mit Dolch in Daggerhood, dazu ein (historisch verbürgter) Arzt in Astrologaster sowie wunderschön aufbereitetes Free-to-Play-Mittelalter in Marginalia Hero: Golem.de stellt die spannendsten neuen Mobile Games vor.
Von Rainer Sigl

  1. Hyper Casual Games 30 Sekunden spielen, 30 Sekunden Werbung
  2. Mobile-Games-Auslese Rollenspiel-Frühling mit leichten Schusswechseln
  3. Gaming Apple Arcade wird Spiele-Flatrate für iOS und MacOS

Vernetztes Fahren: Wer hat uns verraten? Autodaten
Vernetztes Fahren
Wer hat uns verraten? Autodaten

An den Daten vernetzter Autos sind viele Branchen und Firmen interessiert. Die Vorschläge zu Speicherung und Zugriff auf die Daten sind jedoch noch nebulös. Und könnten den Fahrzeughaltern große Probleme bereiten.
Eine Analyse von Friedhelm Greis

  1. Neues Geschäftsfeld Huawei soll an autonomen Autos arbeiten
  2. Taxifahrzeug Volvo baut für Uber Basis eines autonomen Autos
  3. Autonomes Fahren Halter sollen bei Hackerangriffen auf Autos haften

IT-Forensikerin: Beweise sichern im Faradayschen Käfig
IT-Forensikerin
Beweise sichern im Faradayschen Käfig

IT-Forensiker bei der Bundeswehr sichern Beweise, wenn Soldaten Dienstvergehen oder gar Straftaten begehen, und sie jagen Viren auf Militärcomputern. Golem.de war zu Gast im Zentrum für Cybersicherheit, das ebenso wie die IT-Wirtschaft um guten Nachwuchs buhlt.
Eine Reportage von Maja Hoock

  1. Homeoffice Wenn der Arbeitsplatz so anonym ist wie das Internet selbst
  2. Bundesagentur für Arbeit Informatikjobs bleiben 132 Tage unbesetzt
  3. IT-Headhunter ReactJS- und PHP-Experten verzweifelt gesucht

    •  /