• IT-Karriere:
  • Services:

Machine Learning: Forscher testen künstliche Intelligenzen auf Intelligenz

Etwa die Hälfte der KI-Systeme könnte nicht intelligent handeln. Das wollen Wissenschaftler der TU Berlin und anderer Universitäten herausgefunden haben. Dazu nutzten sie ein eigenes System und den Vergleich zu einem Pferd, das angeblich rechnen konnte.

Artikel veröffentlicht am ,
Die Forscher bringen den Vergleich zum Pferd Clever Hans. (Symbolbild)
Die Forscher bringen den Vergleich zum Pferd Clever Hans. (Symbolbild) (Bild: Pixabay.com/Montage: Golem.de/CC0 1.0)

Forscher der Technischen Universität Berlin, des Heinrich-Hertz-Instituts und der Singapore University of Technology haben eine Technik entwickelt, die neuronale Netzwerke und andere Machine-Learning-Software analysiert und deren Entscheidungen als intelligent oder einfach nur statistisch wahrscheinlich einstuft. Die Layer-Wise Relevance Propagation soll die einzelnen Entscheidungsebenen eines als KI geltenden Algorithmus analysieren. Der Ansatz basiert auf stochastischen Methoden wie Relevanz- und Spektralanalysen.

Stellenmarkt
  1. St.Galler Kantonalbank Deutschland AG, Frankfurt am Main
  2. CITTI Handelsgesellschaft mbH & Co. KG, Kiel

Dabei will der Wissenschaftler Klaus-Robert Müller sicher sein, dass etwa 50 Prozent der vom Forscherteam untersuchten Systeme keine intelligenten Entscheidungen treffen, sondern nur statistisch überdurchschnittlich gut einordnen können. Er bringt in einem Beitrag der TU Berlin die Analogie zum Pferd Clever Hans, welches anhand der Reaktionen des Halters zu 90 Prozent ihm gestellte Rechenaufgaben lösen konnte. Das wurde allerdings so gedeutet, dass das Tier Mathematik beherrschte und damit sehr intelligent war.

"Es ist durchaus denkbar, dass ungefähr die Hälfte der aktuell eingesetzten KI-Systeme implizit oder explizit solche Clever-Hans-Strategien nutzen", sagt Müller. Betroffen sind beispielsweise Bilderkennungssysteme, die aus Motiven bestimmte Objekte klassifizieren können. Viele dieser Programme erraten aber einfach nur an statistisch wahrscheinlichen Merkmalen den Inhalt eines Bildes - etwa wenn es mit dem Begriff Eisenbahn markiert wird, sobald die Software nur Schienen erkennt.

Es gebe aber auch Beispiele, bei denen ihr Verfahren wirklich intelligentes Vorgehen bewiesen habe. Eine Software, die Spiele wie Pinball von allein versteht und meistert, sei als intelligent anzusehen, solange sie sich das Spiel selbstständig beigebracht hat. Die Methode der Forscher ist bereits seit längerer Zeit in der Entwicklung. Ein wissenschaftliches Dokument dazu steht auf Seiten wie arxiv.org (PDF) frei zur Verfügung. "Wir sehen unsere Arbeit als einen wichtigen ersten Schritt, KI-Systeme in Zukunft robuster, erklärbar und sicher zu machen. Denn das ist die wesentliche Voraussetzung für den Einsatz von KI überhaupt", sagt Müller.

KI-Programme, die Computerspiele lernen, gehen oft auch nach einem Trial-and-Error-Prinzip vor: Sie spielen Spiele in großer Zahl automatisiert gegen sich selbst und testen, welche Aktion welche entsprechende Reaktion hervorruft und speichern die Ergebnisse. Danach gewichten sie ihre Aktion nach dem Erfolg, den sie in bestimmten Situationen verspricht. Auch als intelligent bezeichnete Programme arbeiten nach Wahrscheinlichkeiten. Andererseits tun das Menschen und Tiere in gewisser Weise ebenfalls - haben aber manchmal nur einen Versuch dafür.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

schily 13. Mär 2019

Schwarzen Schimmel gibt es nur im Bad.

Bluejanis 13. Mär 2019

Die Definition von KI ist unscharf, selbst der Begriff Intelligenz ist nicht ganz...

minnime 13. Mär 2019

Wer mehr wissen will, der solle in der Wikipedia nach "Kluger Hans" suchen. Es ist mir...

mimimi 13. Mär 2019

Es wird schon so sein, dass viele "KI" einfach auswendig lernen. In den meisten Fällen...

Eheran 12. Mär 2019

Ich weiß. Aber das ist halt trotzdem Unsinn.


Folgen Sie uns
       


TES Morrowind (2002) - Golem retro_

Eine gigantische Spielwelt umgeben von Pixelshader-Wasser: The Elder Scrolls 3 Morrowind gilt bis heute als bester Teil der Serie. Trotz sperriger Bedienung war Morrowind dank der dichten Atmosphäre, der spielerischen Freiheit und der exzellenten Grafik ein RPG-Meilenstein.

TES Morrowind (2002) - Golem retro_ Video aufrufen
Akkutechnik: In Zukunft kommen Akkus mit weniger seltenen Rohstoffen aus
Akkutechnik
In Zukunft kommen Akkus mit weniger seltenen Rohstoffen aus

In unserer Artikelserie zu Akku-FAQs geht es diesmal um bessere Akkus, um mehr Akkus und um Akkus ohne seltene Rohstoffe. Den Wunderakku, der alles kann, den gibt es leider nicht. Mit Energiespeichern ohne Akku beschäftigen wir uns später in Teil 2 dieses Artikels.
Von Frank Wunderlich-Pfeiffer

  1. Elektroautos BASF baut Kathodenfabrik in Brandenburg
  2. Joint Venture Panasonic und Toyota bauen prismatische Zellen für E-Autos
  3. Elektromobilität EU-Kommission genehmigt europäisches Batterieprojekt

Dreams im Test: Bastelwastel im Traumiversum
Dreams im Test
Bastelwastel im Traumiversum

Bereits mit Little Big Planet hat das Entwicklerstudio Media Molecule eine Kombination aus Spiel und Editor produziert, nun geht es mit Dreams noch ein paar Schritte weiter. Mit dem PS4-Titel muss man sich fast schon anstrengen, um nicht schöne Eigenkreationen zu erträumen.
Ein Test von Peter Steinlechner

  1. Ausdiskutiert Sony schließt das Playstation-Forum
  2. Sony Absatz der Playstation 4 geht weiter zurück
  3. PS4-Rücktasten-Ansatzstück im Test Tuning für den Dualshock 4

Elektroautos: Die elektrischste Tiefgarage Deutschlands
Elektroautos
Die elektrischste Tiefgarage Deutschlands

Was muss passieren, damit in zehn Jahren fast jeder in der Tiefgarage sein Elektroauto laden kann? Ein Pilotprojekt bei Stuttgart soll herausfinden, welcher Aufwand auf Netzbetreiber und Eigentümer und Mieter zukommen könnte.
Ein Bericht von Friedhelm Greis

  1. Crowdfunding Sono Motors baut vier Prototypen seines Elektroautos
  2. Renault Elektro-Twingo soll nicht schnellladefähig sein
  3. Elektromobilität Umweltbonus gilt auch für Jahreswagen

    •  /