Podcast Besser Wissen : Lernendes System und Gefahr für die Gesellschaft?
In den 1960er Jahren entwickelte der Informatiker Joseph Weizenbaum(öffnet im neuen Fenster) ein simples Computerprogramm, das über natürliche Sprache kommunizierte. Es konnte auf Eingaben mit Fragen reagieren und erweckte so den Anschein einer künstlichen Intelligenz.
Dabei konzentrierte sich die Eliza(öffnet im neuen Fenster) getaufte Software auf Schlüsselbegriffe wie "Vater", um sich dann nach Einzelheiten zur familiären Situation zu erkundigen. Auch wenn Eliza keinerlei eigene Verknüpfungen zwischen Themen erstellen konnte, machte es auf die damalige Anwenderschaft großen Eindruck.
Weizenbaum war nach eigenen Angaben schockiert darüber, dass selbst einige Psychotherapeuten den Einsatz solcher Systeme in Erwägung zogen, obwohl ihnen klar war, dass es sich lediglich um eine einfache Verknüpfung von Begriffen und vorgefertigten Fragen handelte.
Er schrieb in den 1970er Jahren ein Buch(öffnet im neuen Fenster), in dem er vor der Digitalisierung menschlicher Entscheidungsprozesse warnte. Eine realistische Chance für solche Szenarien ergab sich seit den späten 2010er Jahren mit der Verbreitung neuronaler Netze und der heutigen Popularität von LLMs wie ChatGPT.
Wir sprechen im Podcast mit Prof. Dr. Jessica Heesen vom Internationalen Zentrum für Ethik in den Wissenschaften in Tübingen über die gesellschaftlichen Herausforderungen im Umgang mit solchen Systemen.
Shownotes:
Das Bild von Magritte(öffnet im neuen Fenster)
Das IZEW(öffnet im neuen Fenster)
Die Plattform Lernende Systeme(öffnet im neuen Fenster)
Broschüre der Plattform zu AI(öffnet im neuen Fenster)
Broschüre Generative KI und ihre gesellschaftlichen Folgen(öffnet im neuen Fenster)
Der AI Act(öffnet im neuen Fenster)
Der Digital Services Act(öffnet im neuen Fenster)
Wir freuen uns über Feedback. Themenanregungen, Kritik und Blumensträuße nehmen wir unter podcast@golem.de entgegen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.