Abo
  • Services:
Anzeige
In seinem Projekt "Sight Machine" ließ Trevor Paglen das Kronos Quartet von künstlichen Intelligenzen analysieren.
In seinem Projekt "Sight Machine" ließ Trevor Paglen das Kronos Quartet von künstlichen Intelligenzen analysieren. (Bild: Trevor Paglen/Altman Siegel Gallery)

Künstliche Intelligenz: Diese Bilder sind nicht für Menschenaugen bestimmt

In seinem Projekt "Sight Machine" ließ Trevor Paglen das Kronos Quartet von künstlichen Intelligenzen analysieren.
In seinem Projekt "Sight Machine" ließ Trevor Paglen das Kronos Quartet von künstlichen Intelligenzen analysieren. (Bild: Trevor Paglen/Altman Siegel Gallery)

Die Mehrheit heute erzeugter Fotos wird von Maschinen für Maschinen gemacht, sagt der Künstler Trevor Paglen. Deshalb müssten wir jetzt lernen, wie Computer zu sehen.
Von Patrick Beuth

Trevor Paglen ist Fotokünstler, unter anderem. Er macht Bilder, um sie anderen Menschen zu zeigen - so wie es Hunderte Millionen Smartphone- und Kamerabesitzer auch tun, wenn auch meist mit weniger professionellem Anspruch. Aber mittlerweile sind er und alle anderen Menschen in der Unterzahl, sagt Paglen. Die Mehrheit der heute erstellten Fotos würde von Maschinen für Maschinen gemacht, was aber wiederum enorme Auswirkungen auf die Gesellschaft habe.

Anzeige

"Bilder haben begonnen, in unseren Alltag einzugreifen. Ihre Funktion verändert sich, von Darstellung und Vermittlung zu Aktivierung, Operation und Durchsetzung", schrieb Paglen im vergangenen Dezember auf The New Inquiry. Kurz: von passiv zu aktiv. Paglen hat es sich zur Aufgabe gemacht, diesem Wandel und seinen Folgen nachzuspüren. Auf der Netzkonferenz Re:publica in Berlin wird er an diesem Mittwoch darüber sprechen.

  • Kunstprojekt "Sight Machine" (Bild: Trevor Paglen/Altman Siegel Gallery)
Kunstprojekt "Sight Machine" (Bild: Trevor Paglen/Altman Siegel Gallery)

Unsichtbares sichtbar zu machen, ist seit langem Paglens Leitmotiv. Ein geheimes Foltergefängnis der CIA in Afghanistan hat er gemeinsam mit anderen aufgedeckt, Spionagesatelliten im Weltraum oder auch Militäranlagen, die auf keiner kommerziell erhältlichen Landkarte verzeichnet sind. Im vergangenen Jahr fotografierte er auf Tauchgängen jene transatlantischen Glasfaserkabel, an denen Geheimdienste ganze Datenströme kopieren, um sie zu analysieren. "Dinge neigen dazu, Licht zu reflektieren", sagte er mal, also seien sie prinzipiell sichtbar.

"Verlernen, wie Menschen zu sehen"

Digitale Bilder aber sind anders. Zunächst sind es einmal maschinenlesbare Dateien und reflektieren als solche eben kein Licht. Sichtbar sind sie erst und nur für den Moment, in dem eine Software und ein Display sie anzeigen. Eine Maschine braucht diese Software und dieses Display hingegen nicht, um mit dem Bild, der Datei arbeiten zu können.

Autokennzeichenscanner und Gesichtserkennungssysteme nennt Paglen als Beispiel. Die Scanner lesen Nummernschilder und füllen Datenbanken, völlig automatisiert. Menschen kommen erst ins Spiel, wenn zum Beispiel die Polizei eine Datenbank durchsucht. Gesichtserkennung wird unter anderem eingesetzt, um Stimmungen, Alter oder Geschlecht von Menschen zu registrieren und entsprechend zugeschnittene Werbung anzuzeigen. Auch dafür braucht es keine menschliche Hilfe.

Selbst die Millionen von Fotos, die täglich auf Plattformen wie Facebook hochgeladen werden, füttern zunächst eine Maschine, bevor sie ein Mensch zu sehen bekommt. Sie dienen als Trainingsmaterial: Facebooks tiefe neuronale Netze zerlegen jedes Bild in dreidimensionale Abstraktionen, in Muster also, um daraus zu lernen, Lebewesen und Objekte zu erkennen und zu klassifizieren. Sie "sehen" dabei ganz anders als Menschen, vor allem aber sehen sie alle hochgeladenen Bilder. Und sie fällen anhand dieses Trainings Entscheidungen, die Konsequenzen im Alltag haben können, von automatisierten Kreditvergaben über medizinische Diagnosen bis zum Predictive Policing, also von Algorithmen unterstützte vorausschauende Polizeiarbeit.

"Wenn wir die unsichtbare Welt der visuellen Kultur von Maschinen verstehen wollen, müssen wir verlernen, wie Menschen zu sehen", schrieb Paglen im Dezember. Stattdessen müssten wir lernen, wie künstliche Intelligenzen zu sehen. Genau das hat er zuletzt in Stanford versucht, als Artist in Residence an der Eliteuniversität. Sight Machine hieß sein erstes Projekt dort, ein Konzert des berühmten Kronos Quartet, das Paglen (größtenteils) in Echtzeit von verschiedenen quelloffenen KI-Algorithmen analysieren ließ. Was die in den Gesichtern der Musiker und des Publikums erkannten, wurde auf Leinwänden gezeigt.

Maschinelles Sehen ist ein Machtinstrument

Die Visualisierung war aber kein Selbstzweck. Die Undurchsichtigkeit "sehender" Maschinen macht es schwierig, dahinterliegende - zum Beispiel in einseitig gewählten Trainingsdaten verborgene - Ideologien und Vorurteile zu erkennen. Paglen glaubt, dass die maschinelle visuelle Kultur deshalb ein Machtinstrument ist - und eine Geldmaschine. "Immer kleinere Bruchstücke des menschlichen Lebens werden kapitalisiert", schreibt er. "Deine Krankenversicherung wird moduliert durch die Babybilder, die deine Eltern ins Netz stellen. Die Art, wie die Polizei dich behandelt, wird geleitet von der Signatur deine Lebensmusters." Das ist es, was er sichtbar machen will.

Einen technischen Ausweg gebe es nicht, sagt Paglen. Versuche, künstliche Intelligenzen mit optischen Tricks und Hacks zu täuschen, seien höchstens kurzfristig erfolgreich. Längst aber würden sie ins Training der Netzwerke integriert und damit früher oder später wirkungslos. Stattdessen müssten Menschen sich Räume schaffen, in denen sie sich der automatisierten politischen und wirtschaftlichen Ausbeutung gänzlich entziehen - "safe houses in der unsichtbaren digitalen Sphäre" nennt er sie.


eye home zur Startseite
User_x 10. Mai 2017

sind dann etwas Hormone unserer Seele? Immerhin werden wir von denen sehr start geleitet...

bombinho 10. Mai 2017

Du denkst, dass die KI die selben sozialen Maszstaebe anlegt, warum? Eine solche KI...

DY 09. Mai 2017

Da steckt alles drin, was in den letzten Jahren als Agenda angestoßen wurde: totale...



Anzeige

Stellenmarkt
  1. Robert Bosch GmbH, Abstatt
  2. Bibliotheksservice-Zentrum Baden-Württemberg (BSZ), Konstanz
  3. über Nash Direct GmbH, Stuttgart-Vaihingen
  4. Schaeffler Technologies AG & Co. KG, Herzogenaurach


Anzeige
Hardware-Angebote
  1. 569€ + 5,99€ Versand
  2. (u. a. Ryzen 5 1400 für 150,89€, Ryzen 5 1600 für 198,95€ und Ryzen 7 1700 für 290,99€)
  3. bei Caseking

Folgen Sie uns
       

  1. Unternehmen

    1&1 Versatel bietet Gigabit für Frankfurt

  2. Microsoft

    Xbox One emuliert 13 Xbox-Klassiker

  3. DMT Bonding

    Telekom probiert 1 GBit/s ohne Glasfaser aus

  4. Telekom-Software

    Cisco kauft Broadsoft für knapp 2 Milliarden US-Dollar

  5. Pubg

    Die blaue Zone verursacht künftig viel mehr Schaden

  6. FSFE

    "War das Scheitern von Limux unsere Schuld?"

  7. Code-Audit

    Kaspersky wirbt mit Transparenzinitiative um Vertrauen

  8. iOS 11+1+2=23

    Apple-Taschenrechner versagt bei Kopfrechenaufgaben

  9. Purism Librem 13 im Test

    Freiheit hat ihren Preis

  10. Andy Rubin

    Drastischer Preisnachlass beim Essential Phone



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
ZFS ausprobiert: Ein Dateisystem fürs Rechenzentrum im privaten Einsatz
ZFS ausprobiert
Ein Dateisystem fürs Rechenzentrum im privaten Einsatz
  1. Librem 5 Purism zeigt Funktionsprototyp für freies Linux-Smartphone
  2. Pipewire Fedora bekommt neues Multimedia-Framework
  3. Linux-Desktops Gnome 3.26 räumt die Systemeinstellungen auf

Verschlüsselung: Niemand hat die Absicht, TLS zu knacken
Verschlüsselung
Niemand hat die Absicht, TLS zu knacken
  1. RSA-Sicherheitslücke Infineon erzeugt Millionen unsicherer Krypto-Schlüssel
  2. TLS-Zertifikate Zertifizierungsstellen müssen CAA-Records prüfen
  3. Certificate Transparency Webanwendungen hacken, bevor sie installiert sind

Zotac Zbox PI225 im Test: Der Kreditkarten-Rechner
Zotac Zbox PI225 im Test
Der Kreditkarten-Rechner

  1. Re: Sind immer die selben Probleme

    Dino13 | 02:37

  2. Re: NSA rät ab => muss gut sein

    Apfelbrot | 01:50

  3. 4-2

    Stegorix | 01:47

  4. Re: Bonding von 8 Leitungen?

    Sharra | 01:33

  5. Re: Was, wie bitte?

    Livingston | 01:28


  1. 18:46

  2. 17:54

  3. 17:38

  4. 16:38

  5. 16:28

  6. 15:53

  7. 15:38

  8. 15:23


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel