KI-Forscher Jürgen Schmidhuber: Genie oder Krawallschachtel?
Inhalt
Prof. Dr. Jürgen Schmidhuber ist ein berühmter KI-Forscher – und zugleich bekannt für seine Ansprüche auf zentrale KI-Ideen sowie für öffentliche Vorwürfe gegen andere Forscher wegen angeblichen Ideendiebstahls. Neben eigenen Erfindungen, die etwa im Bereich der Sprachverarbeitung lange Zeit das Feld prägten, beansprucht er einige der wichtigsten KI-Entwicklungen für sich.
Gleichzeitig zeigen die Anschuldigungen ein Problem in der wissenschaftlichen Praxis. Wir analysieren, was hinter seinen Vorwürfen steckt, die mittlerweile zum Meme in der KI-Community geworden sind. Und wir fragen ihn, was in Zukunft eine wichtige Idee werden könnte, die ihm vielleicht ohne vernünftige Würdigung geklaut wird.
"Schmidhubern"
Es ist die Conference on Neural Information Processing Systems (NIPS) 2016: Neue Forschungspapiere zum Thema Informationsverarbeitung mit neuronalen Netzwerken werden vorgestellt, Poster zeigen Ideen, Wissenschaftlerinnen und Wissenschaftler diskutieren, was gerade Trend ist. ChatGPT und der damit so richtig aufkommende KI-Hype sind noch sechs Jahre entfernt.
Ian Goodfellow, einer der bekanntesten Forscher in dem Bereich, hält einen Workshop zu den damals von ihm erfundenen Generative Adversarial Networks (GANs) in einem großen Saal vor Publikum. GANs waren die erste universell einsetzbare Technik, die Bilder von fotorealistischen Gesichtern erzeugen konnte, eine entscheidende Entwicklung in der KI-Geschichte.
Die Idee ist simpel: Ein Netzwerk fungiert als Generator und produziert ein paar Bilder, die ein anderes Netzwerk von echten Bildern unterscheiden muss – anfänglich ist das nur Rauschen. Werden aber beide gegeneinander angesetzt, so bewegt sich das, was der Generator produziert, langsam in eine Richtung, die echter aussieht: Die Netzwerke lernen voneinander, versuchen, sich gegenseitig zu überlisten, und werden dadurch besser.
Nach etwa einer Stunde und drei Minuten meldet sich ein Mann(öffnet im neuen Fenster) im Publikum und sagt auf Englisch: "Ich habe mich gefragt, ob man diese GANs mit dem in Beziehung setzen kann, was wir 1992 gemacht haben: zwei Arten von Netzwerken, die in einem Minimax-Spiel gegeneinander antreten. Es war nicht genau dasselbe, aber in vielerlei Hinsicht ähnlich." Er fährt fort und erklärt mit einigen Details, was bei seinem Ansatz aus dem Jahr 1992 ähnlich funktioniert.
Der Mann, der Goodfellows Workshop crasht, heißt Jürgen Schmidhuber und ist einer der wohl bekanntesten – einige würden sagen: berüchtigsten – KI-Forscher. Sein Name hat sich mittlerweile zum geflügelten Wort entwickelt: Schmidhubern heißt es, wenn jemand versucht, die eigene Beteiligung beziehungsweise Vorarbeit übermäßig zu betonen oder komplette Erfindungen anderer für sich zu reklamieren.
Goodfellow, am Podium bei seinem NIPS-Vortrag, antwortete sichtlich genervt, dass Schmidhuber bereits vorher diese Bedenken angemeldet habe und dass er die Art und Weise der Konfrontation nicht sonderlich begrüße. Er lädt Leute dazu ein, sich eine eigene Meinung zu bilden, anstatt auf die Bedenken einzugehen. Er habe das Paper bereits ergänzt und finde, dass das Prinzip nicht besonders ähnlich sei.
Schmidhuber lässt sich nicht unterkriegen und wirft Goodfellow fehlende Diskussionsbereitschaft vor. Schließlich wird er damit abgewürgt, dass Goodfellow diese Diskussion nicht öffentlich austragen und lieber den Leuten GANs beibringen möchte, wie es der Sinn des Workshops sei.
Die wissenschaftliche Realität
Es ist der Albtraum jedes Forschers, besonders jüngerer Forscher, die auf Veröffentlichungen für ihre Promotion angewiesen sind: Über Wochen wurde experimentiert, die ersten Benchmarks sehen gut aus, die Deadline für die Einreichung bei einer großen Konferenz wird angepeilt.
Und dann schickt einem ein Kollege einfach einen Link zu einem Paper und fragt: "Hast du das eigentlich schon gesehen?" Ein anderes Labor war entweder schneller und hat, nachdem man mit der eigenen Literaturrecherche durch war, etwas Vergleichbares veröffentlicht. Oder eine alte Publikation, die im Wust der Tausenden von Veröffentlichungen jeden Monat einfach übersehen wurde, stellte bereits die gleiche Idee vor.
In der Wissenschaft ist das Alltag: Ideen überlappen sich, unterscheiden sich nur um Nuancen oder zwei Personen hatten zufällig die gleiche Idee. Oft genug kommt diese Erkenntnis auch erst im Review-Prozess oder nach einer Veröffentlichung.
Das Problem ist, dass die Grenzen fließend sind und der Review-Prozess nicht eindeutig gehandhabt wird: Was ist weit genug weg von der eigenen/anderen Idee? Was ist genug eigene Contribution?
Denn: Die Arbeit steckt häufig nicht in der Idee, sondern im Engineering. Dutzende kleine Probleme zu lösen und zu tunen, ist oftmals wichtiger, als eine besonders kreative Idee zu haben. Darin unterscheiden sich die meisten Veröffentlichungen dann doch deutlich.
Das gilt auch für die GANs und die geistigen Vorläufer von Schmidhuber.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.