Abo
  • Services:

Tiefes Lernen über mehrere Schichten

Flache neuronale Netzwerke, wie wir sie bisher betrachtet haben, weisen nur eine einzige Merkmalstransformation, also eine verdeckte Schicht auf. Wie auch viele andere Algorithmen des maschinellen Lernens transformieren sie Merkmale nur einmal in eine andere Repräsentation um. Ein Problem solch flacher Architekturen ist die Qualität der Klassifikation, da Lerner es mit nur einer einzigen Transformation schaffen müssen, die hochdimensionalen Ausgangsmerkmale auf die wichtigsten Merkmale zu generalisieren.

Stellenmarkt
  1. Zehnder Group Deutschland GmbH, Lahr
  2. Lidl Digital, Heilbronn

Oft hilft hierbei der Anwendungsentwickler oder Datenwissenschaftler mit seinem Wissen über das Anwendungsfeld, also seinem Domänenwissen, und wählt manuell möglichst repräsentative Merkmale aus. Als Eingabe dienen hier also in der Regel nicht die wenig verarbeiteten Rohdaten, sondern es werden manuell Merkmale konstruiert, die eine einfache Klassifikation möglich machen. Man spricht daher auch vom Feature-Engineering.

  • Abbildung 8 (Bild: Christian Herta)
Abbildung 8 (Bild: Christian Herta)

Abbildung 8: Prinzip der Klassifikation mit aufwendigem manuellen Feature-Engineering für Merkmale vs. Lernen von Merkmalen.

Bei komplexen Aufgabenstellungen wie der Bildanalyse kann dieser Prozess des Merkmalsdesigns auch zweistufig sein. Zuerst werden niedrige (low-level) Merkmale mit Techniken der Bildanalyse konstruiert, etwa das Finden von charakteristischen Kanten-Punkten im Bild mit Sift und die Konstruktion von Merkmalen aus solchen Punkten. Aus diesen Merkmalen werden dann zum Beispiel mit Hilfe der Methode der Clusteranalyse neue Merkmale erzeugt, die anschließend ein Klassifikator mit einer flachen Architektur verwendet.

Dieses Vorgehen ist fehlerbehaftet, erfordert viel Trial-and-Error vom Programmierer und Erfahrung in der Domäne. Ist ein Gesicht auf einem Foto abgebildet ist, so liegen beispielsweise in der Regel Kanten bei den Augen, der Nase und dem Mund vor. Jetzt kann man versuchen, aus der charakteristischen Anordnung von Augen, Nase und Mund etc. Merkmale zu konstruieren, um ein abgebildetes Gesicht zu erkennen. Des Weiteren können auch einfache statistische Größen und Verteilungen, wie etwa die der Helligkeitswerte oder Farben, helfen, Landschaftsbilder (mehr Grün) von Porträts (mehr Hautfarbe) zu unterscheiden.

Doch Bilder können so unterschiedlich sein, dass der Lerner mit seiner Einschätzung oft falsch liegt, wenn für die Klassifikation solche händisch konstruierten Merkmale verwendet werden. Damit seltener Fehleinschätzungen vorkommen, muss der Mensch dann zusätzliche Merkmale identifizieren, programmieren und dem Lerner übergeben.

 Warum ist das Lernen neuronaler Netze so schwierig?Deep Learning ersetzt das Feature-Engineering 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7. 6
  8. 7
  9. 8
  10.  


Anzeige
Hardware-Angebote
  1. 1.099€
  2. und The Crew 2 gratis erhalten

kahmann 29. Okt 2015

Der Artikel hat mir gut gefallen. Nicht zuletzt auch, weil er sehr tief in die Materie...

jg (Golem.de) 15. Okt 2015

Jetzt müssten endlich auch mobil alle Bilder zu sehen sein!

natsan2k 08. Okt 2015

Schöner und interessanter Artikel.

attitudinized 08. Okt 2015

Tatsächlich hat Siri was mit lernen zutun - oder genauer mit Training. Die verwendete...

jg (Golem.de) 07. Okt 2015

Vielen Dank für das Lob, wir freuen uns!


Folgen Sie uns
       


Dark Souls Remastered - Livestream

Erst mit der Platin-Trophäe in Bloodborne große Töne spucken und dann? - Der Dark-Souls-Effekt trifft Golem.de-Redakteur Michael Wieczorek mitten ins Streamer-Herz.

Dark Souls Remastered - Livestream Video aufrufen
Game Workers Unite: Spieleentwickler aller Länder, vereinigt euch!
Game Workers Unite
Spieleentwickler aller Länder, vereinigt euch!

Weniger Crunchtime, mehr Lunchtime: Die Gewerkschaft Game Workers Unite will gegen schlechte Arbeitsbedingungen in der Spielebranche vorgehen - auch in Deutschland.
Von Daniel Ziegener

  1. Spielebranche Neue Konsole unter dem Markennamen Intellivision geplant
  2. The Irregular Corporation PC Building Simulator verkauft sich bereits 100.000 mal
  3. Spielemarkt Download-Anteil bei Games steigt auf 42 Prozent

K-Byte: Byton fährt ein irres Tempo
K-Byte
Byton fährt ein irres Tempo

Das Startup Byton zeigt zur Eröffnung der Elektronikmesse CES Asia in Shanghai das Modell K-Byte. Die elektrische Limousine basiert auf der Plattform des SUV, der vor fünf Monaten auf der CES in Las Vegas vorgestellt wurde. Unter deutscher Führung nimmt der Elektroautohersteller in China mächtig Fahrt auf.
Ein Bericht von Dirk Kunde

  1. Elektromobiltät UPS kauft 1.000 Elektrolieferwagen von Workhorse
  2. KYMCO Elektroroller mit Tauschakku-Infrastruktur
  3. Elektromobilität Niu stellt zwei neue Elektromotorroller vor

3D-Druck on Demand: Wenn der Baumarkt Actionfiguren aus Stahl druckt
3D-Druck on Demand
Wenn der Baumarkt Actionfiguren aus Stahl druckt

Es gibt viele Anbieter für 3D-Druck on Demand und die Preise fallen. Golem.de hat die 3D-Druckdienste von Toom, Conrad Electronic, Sculpteo und Media Markt getestet, um neue Figuren der Big-Jim-Reihe zu erschaffen.
Ein Praxistest von Achim Sawall


      •  /