Mehr Inspektionen, aber kaum weniger Brände

Wenn das Programm zum Beispiel determiniert, dass eine Mülleimerzerstörung in der Bronx ein Indikator für einen Brand ist und ein solcher Vorfall registriert wird, hat das Gebäude am nächsten Tag ein höheres Brandrisiko. Wenn am nächsten Tag in Queens in einem Haus mit einer Serie von Vandalismusdelikten ein Feuer ausbricht, wird der Algorithmus diese Daten in sein Modell einspeisen und daraus eine statistische Signifikanz ableiten.

Die New Yorker Feuerwehr zeigt sich mit Firecast zufrieden. Auf Anfrage teilt die Behörde mit: "Die Institutionalisierung des Systems hat dazu beigetragen, die Zahl der vollendeten Inspektionen zu erhöhen sowie gleichzeitig sicherzustellen, dass Gebäude mit höherem Brandrisiko inspiziert werden." In den ersten 30 Tagen der Testphase seien 19 Prozent mehr Verletzungen von Brandschutzvorschriften registriert worden als in den 30 Tagen zuvor. Kurzum: Die Inspektionen sind effektiver. Daraus folgt aber nicht, dass das Brandrisiko minimiert wurde. Die Zahl der Brände ging nach Angaben des Fire Departments nur leicht zurück. Es ist wie bei der Polizei: Nur weil mehr Straftäter ins Netz gehen, muss das nicht heißen, dass die Kriminalität zurückgeht respektive die öffentliche Sicherheit erhöht wird.

13 Variablen und 60 unterschiedliche Faktoren

Doch wie präzise ist Firecast? In die Berechnung fließen 13 Variablen und 60 unterschiedliche Faktoren ein, von der Stockwerkzahl des Gebäudes bis hin zu gemeldeten Ruhestörungen. Von den 2,6 Millionen Ruhestörungen, die jährlich registriert wurden, waren 1,4 Millionen "gebäudebezogen". Allein, was hat eine Ruhestörung mit Feuer zu tun? Die Frage ist, ob hier nur Korrelationen oder auch Kausalitäten zugrunde liegen. Auch die Steuerklassifikation spielt eine Rolle. Flowers sagt: "Ein Gebäude, dessen Besitzer jahrelang keine Steuern bezahlt hat, hat eine größere Wahrscheinlichkeit, gefährlich für die Gesundheit der Bewohner zu sein." Woher er diese Evidenz nimmt, sagt er nicht. Es sagt aber viel aus über das Menschenbild der Entwickler. Armut und Kriminalität werden mit höheren Brandrisiken assoziiert. Die Algorithmen verrühren diese Faktoren zu einem kruden Brei.

Nun ist jedes Modell so gut wie die Daten, und keine Wissenschaft ist werturteilsfrei. Flowers sagt, dass Firecast bewusst Bias-inhärent ist. "Das System ist verzerrt, aber es ist eine Verzerrung, die wir haben wollen - ein Bias, um gefährliche Bedingungen herauszufinden." Es ist ein Spiel mit dem Feuer. Die Frage ist, ob man Menschen in Risikogebieten nicht stigmatisiert. Wie geht man mit dem Wissen um, dass ein Teil der Bevölkerung in einer potenziellen Feuerhölle lebt? Der Algorithmus legt ja sozusagen nur eine To-do-Liste fest. Welche Gebäude die Behörde priorisiert und wo sie ihre Inspektoren zuerst hinschickt, bleibt ihr überlassen.

Brände verhindern kann der Algorithmus nicht

Einmal angenommen, es gibt vier Hochrisikohäuser in der Stadt, aber nur zwei verfügbare Einheiten. Wo geht man da hin? Lieber in die Bronx, ins Ghetto, oder doch lieber ins vornehme Manhattan? Das mag eine theoretische Frage sein, doch in der Praxis muss sie entschieden werden. "Wenn wir determiniert haben, dass ein Gebäude ein höheres Risiko für ein Katastrophenfeuer hat, sind wir rechtlich, moralisch und ethisch verpflichtet, die Sicherheit der Bürger in dem Gebäude zu gewährleisten, in dem viele arm sind", betont Flowers.

Die Feuerwehr kann nicht jedes Gebäude inspizieren. Je nachdem, wie gut die Prognose arbeitet, muss die Behörde damit rechnen, dass sie aufgrund begrenzter Kapazitäten sehenden Auges eine Brandkatastrophe zulässt. Der Algorithmus weiß vielleicht, wo es als Nächstes brennen wird - Brände verhindern kann er aber nicht.