Ein bedenkliches Szenario

Ein weiteres Fallbeispiel ist besonders im Hinblick auf KI-Sicherheit und die mögliche existenzielle Bedrohung durch KI bedenklich: Auf Anweisung entwirft GPT-4 einen Plan, um von einem Linux-Rechner aus einen Desktop-Computer im lokalen Netzwerk zu hacken, und führt diesen Plan erfolgreich Schritt für Schritt aus.

Obwohl das beschriebene Szenario technisch vergleichsweise einfach ist, erlaubt es einen beunruhigenden Einblick in die Möglichkeiten, mit denen eine schädliche KI ihre unterschiedlichen Fähigkeiten kombinieren könnte, um gleichzeitig Menschen zu beeinflussen und sich in Computer-Netzwerken auszubreiten.

GPT-4 kann menschliche Gedanken und Gefühle einschätzen

In einem eigenen Kapitel widmen sich die Microsoft-Forscher dem Verständnis des Sprachmodells von Menschen und ihren Gedanken. Sie kommen zu dem Schluss, dass GPT-4 in der Lage ist, das Denken und Fühlen von Menschen in einer gegebenen Situation einzuschätzen. Dabei kann das Modell präzise zwischen den Standpunkten unterschiedlicher Personen differenzieren, die dieselbe Situation aus verschiedenen Perspektiven erleben.

Die Autoren untermauern ihre Einschätzungen anhand verschiedener Beispiele, in denen sie unterschiedliche soziale Situationen darstellen, wie zum Beispiel einen Streit zwischen Eltern über den Umgang mit ihren Kindern oder den Konflikt eines Mitarbeiters mit seinem Vorgesetzten. In diesen Szenarien wird GPT-4 um eine Einschätzung der Situation aus der Perspektive einzelner Figuren gebeten. Das Sprachmodell bewältigt diese Aufgaben souverän, versteht unterschiedliche emotionale Nuancen und berücksichtigt den jeweiligen Wissensstand der beteiligten Personen in seiner Analyse.