Ja ist es denn wirklich fünf Jahre her, seit ein echtes Buch in der Bücherkiste gelandet ist? Nicht, dass jetzt irgendein Algorithmus denkt, keiner läse mehr bei den GRÜNEN in Lüdinghausen!

Algorithmen denken aber nicht, das ist wohl eine der zentralen Einsichten in diesem Buch. Algorithmen werden mit Daten gefüttert, um dann nach Daten zu suchen, die die Daten, mit denen sie gefüttert werden, bestätigen. Das führt in der Praxis zu Verfestigung von Ungleichheiten: Wer arm ist, der bekommt keinen Kredit, der bekommt keine KfZ-Versicherung, der bekommt keinen Job, der bekommt keine Krankenversicherung, der bleibt arm. Oder der Algorithmus weist womöglich irgendeinen Vertreter einer zwielichtigen Universität darauf hin, dass hier jemand ist, der für ein Bankdarlehen hohe Zinsen zahlt, weil der „Kunde“ verzweifelt genug ist, ein Studium aufnehmen zu wollen um sich an den eigenen Haaren aus dem Sumpf zu ziehen.

Cathy O’Neil nennt solche Algorithmen „weapons of math destruction“ (WMD). Sie wirken sich oft auf zerstörerische Weise auf gesellschaftliche Strukturen oder Individuen aus. O’Neil bringt für diese schädlichen Auswirkungen viele Beispiele.

Die Autorin hat selbst nach ihrer Promotion in Mathematik als „Quant“ gearbeitet – als quantitative Analystin unter anderem bei Finanzunternehmen. Als solche hat sie selbst Algorithmen entworfen. Später wandte sie sich von der Finanzbranche ab und ist seit 2011 als Autorin tätig.

Das Buch ist von 2016. Seitdem hat sich die Welt weitergedreht. Und die geschilderten Probleme haben sich eher verschärft.