Abo
  • Services:

Neuronale Netze: KI-System vermehrt sich selbst, um effizienter zu werden

Berechnen, verdoppeln, besser berechnen: Zwei Forscher entwickeln ein neuronales Netz, das sich selbst repliziert. Die Hoffnung ist, dass sich das System selbstständig verbessert - ganz wie in der Natur. Allerdings ist das wohl noch nicht ganz der Fall.

Artikel veröffentlicht am ,
Die replizierende KI lehnt sich an die natürliche Vermehrung an.
Die replizierende KI lehnt sich an die natürliche Vermehrung an. (Bild: Pixabay.com/Montage: Golem.de)

"Selbstvermehrung ist ein primärer Aspekt biologischen Lebens, der größtenteils bei künstlichen Intelligenzen übersehen wurde". Mit diesen Worten beginnt die wissenschaftliche Arbeit der Forscher Oscar Chang und Hod Lipson der Columbia Unviversity. Sie entwickeln ein neuronales Netzwerk, das sich selbst repliziert. Sie wollen herausfinden, ob und wie sich ein Algorithmus kopiert und dabei von allein verbessert. Das Vorbild ist die Natur und die natürliche Auslese, wie sie einst Charles Darwin definierte. Das Dokument steht im Universitätsarchiv arxiv zum Download zur Verfügung.

Stellenmarkt
  1. Interhyp Gruppe, München
  2. Kassenärztliche Bundesvereinigung, Berlin

Zum Test bauten die zwei Forscher ein relativ kleines neuronales Netzwerk auf, das anhand von 21.100 Parametern Bilder erkennt. Dabei hielten sie sich an zwei etablierte Open-Source-Algorithmen Draw und Dcgan. Allerdings nutzen diese eine Million beziehungsweise elf Millionen Parameter, um Bilder mit 784 Pixeln zu klassifizieren. Deshalb ist das Resultat der Arbeit auch nicht so genau. Das trainierte neuronale Netzwerk erkannte 90,41 Prozent der Bilder korrekt - ein unterdurchschnittlicher Wert. Dem Algorithmus standen 60.000 MNIST-Bilder zur Verfügung und 10.000 weitere für die Validierung der Ergebnisse. Beim MNIST-Test müssen KI-Systeme richtige Ergebnisse von handgeschriebenen Gleichungen errechnen.

Replikation benötigt zu viele Rechenressourcen

Allerdings musste die Parametermenge relativ klein gehalten werden, um eine Replikation überhaupt möglich zu machen. Im Prinzip dupliziert das neuronale Netz seine aus den Parametern erstellte Gewichtungsmatrix, die zumindest eine Größe von A Eingaben mal B Ausgaben hat. Die benötigte Rechenkapazität skaliert dementsprechend sehr hoch. Es stellte sich auch heraus, dass ein großer Teil der Leistung allein für den Replizierungsprozess benötigt wurde. Das neuronale Netz hatte dadurch weniger Ressourcen zur eigentlichen Bilderkennung zur Verfügung, was in schlechteren Ergebnissen resultierte.

Replikation ist nicht die erste Anlehnung an das echte Leben: Auch andere Prozesse in der Natur werden von maschinellen Lernalgorithmen nachgeahmt. Es gibt beispielsweise Modelle, die sich in verschiedenen Generationen mit meist zufälligen Änderungen der Gewichtung stetig weiterentwickeln. Dieses Zufallselement erinnert an die Evolution durch zufällige Mutationen und Anpassungen an die Umwelt. Allerdings scheint Vermehrung als weiteres Naturgeschehen zumindest noch nicht effizient genug auf Software anwendbar zu sein.



Anzeige
Top-Angebote
  1. 319,90€ (Bestpreis!)
  2. ab 23,60€
  3. (u. a. Akkuschrauber 25,99€, Schlagbohrmaschine 60,99€)

DreiChinesenMit... 25. Mär 2018

das erste soll sogar schon im einsatz sein: (ein video was als vorschlag kam) https...

MarioWario 23. Mär 2018

Wenn ein Gehirn was lernt und behält sind schon viele Denkansätze verreckt - bei heutiger...

TC 23. Mär 2018

Ansätze gibt's ja schon mit CryptoKitten

sackzement 23. Mär 2018

Der Artikel bringt so wie mir scheint da ein zwei Sachen etwas durcheinander. DRAW und...

krawatte 23. Mär 2018

Sterben die Eltern in dem Modell eigentlich auch? Man müsste dabei auch berücksichtigen...


Folgen Sie uns
       


Openbook erklärt (englisch)

Openbook ist ein neues soziales Netzwerk, das sich durch Crowdfunding finanziert hat. Golem.de hat sich mit dem Gründer Joel Hernández über das Projekt unterhalten.

Openbook erklärt (englisch) Video aufrufen
Programmierer: Wenn der Urheber gegen das Urheberrecht verliert
Programmierer
Wenn der Urheber gegen das Urheberrecht verliert

Der nun offiziell beendete GPL-Streit zwischen Linux-Entwickler Christoph Hellwig und VMware zeigt eklatant, wie schwer sich moderne Software-Entwicklung im aktuellen Urheberrecht abbilden lässt. Immerhin wird klarer, wie derartige Klagen künftig gestaltet werden müssen.
Eine Analyse von Sebastian Grüner

  1. Urheberrecht Frag den Staat darf Glyphosat-Gutachten nicht publizieren
  2. Vor der Abstimmung Mehr als 100.000 Menschen demonstrieren gegen Uploadfilter
  3. Uploadfilter SPD setzt auf Streichung von Artikel 13

Cascade Lake AP/SP: Das können Intels Xeon-CPUs mit 56 Kernen
Cascade Lake AP/SP
Das können Intels Xeon-CPUs mit 56 Kernen

Während AMD seine Epyc-Chips mit 64 Cores erst im Sommer 2019 veröffentlichen wird, legt Intel mit den Cascade Lake mit 56 Kernen vor: Die haben mehr Bandbreite, neue Instruktionen für doppelt so schnelle KI-Berechnungen und können persistenten Speicher ansprechen.
Von Marc Sauter

  1. Cascade Lake Intel legt Taktraten der Xeon SP v2 offen
  2. Optane DC Persistent Memory So funktioniert Intels nicht-flüchtiger Speicher
  3. Cascade Lake AP Intel zeigt 48-Kern-CPU für Server

Batterieherstellung: Kampf um die Zelle
Batterieherstellung
Kampf um die Zelle

Die Fertigung von Batteriezellen ist Chemie und damit nicht die Kernkompetenz deutscher Autohersteller. Sie kaufen Zellen bei Zulieferern aus Asien. Das führt zu Abhängigkeiten, die man vermeiden möchte. Dank Fördergeldern soll in Europa eine Art "Batterie-Airbus" entstehen.
Eine Analyse von Dirk Kunde

  1. US CPSC HP muss in den USA nochmals fast 80.000 Akkus zurückrufen
  2. Erneuerbare Energien Shell übernimmt Heimakku-Hersteller Sonnen
  3. Elektromobilität Emmanuel Macron will europäische Akkuzellenfertigung fördern

    •  /