KI: Bergsteiger planen Tour mit Gemini und müssen gerettet werden
Eine Gruppe von drei Bergsteigern musste am Mount Shasta in Kalifornien von der Bergwacht gerettet werden, nachdem sie den Aufstieg auf den 4.317 Meter hohen Berg im Norden des US-Bundesstaates unterschätzt haben. Beim Abstieg mit der Bergrettung erzählte die Gruppe, dass sie die Tour inklusive der Packliste von Googles KI Gemini planen ließ.
Wie der San Francisco Chronicle(öffnet im neuen Fenster) berichtet, mussten die Bergsteiger eine Nacht im Freien übernachten, da die Zeit für den beschwerlichen Aufstieg von der KI zu kurz berechnet wurde. Statt am Nachmittag kam die Gruppe erst am Abend an. Der Weg auf den Gipfel ist fast 13 Kilometer lang, dabei müssen fast 2.000 Höhenmeter überwunden werden.
Auf dem Weg zum Gipfel folgten die Bergsteiger einer vorgeschlagenen Route der App Alltrails, die einem Bergführer zufolge kein Trail war. Beim Abstieg ging der Akku des Smartphones zur Neige, ein mitgebrachtes Akkupack funktionierte nicht. Die Gruppe entfernte sich anschließend deutlich von der eigentlichen Route und musste schließlich die Bergrettung rufen.
Bergsteiger waren schlecht beraten
Diese fand die Bergsteiger am nächsten Morgen "erschöpft, hungrig und durstig" vor und begleitete sie den Berg hinunter. Alle drei sollen keine passende Kleidung getragen und keine richtige Ausrüstung dabei gehabt haben. Beim Abstieg erzählte die Wanderer, dass sie den Trip mit Gemini geplant hätten.
Die Planung der KI werten Behörden als den "Schlüsselfaktor" für das Scheitern. Gemini hatte den Bergsteigern etwa gesagt, dass sie nur leichte, kohlenhydrathaltige Nahrung mitnehmen sollten. Wahrscheinlich ist, dass die KI der Gruppe auch fehlerhafte Tipps zur Ausrüstung gab.
Die Bergretter des Gebietes berichten von vermehrten Fällen, in denen Wanderer und Bergsteiger sich auf falsche Informationen von KI verlassen. So wurden auch schon verirrte Touristen aufgefunden, die mithilfe von KI-generierten Karten unterwegs waren, die zahlreiche Fehler aufwiesen.
KI-Tools werden als universelle Helfer vermarktet
KI-Unternehmen weisen im Kleingedruckten in der Regel darauf hin, dass die Ergebnisse fehlerhaft sein können und überprüft werden sollten. Gleichzeitig wird dieser Umstand im Marketing der KI-Modelle ausgelassen.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.