In ihrem Buch, das im Original „Weapons of Math Destruction“ heißt, beschreibt die Mathematikerin Cathy O'Neil die wenig segensreichen Aspekte der Nutzung von Big Data. Im Grunde kann ich zwei große Aspekte ausmachen: Zum einen die Entstehung der Daten: Beim Sammeln bzw. auch der Auswahl von Daten kommen natürlich menschliche Fehler, Vorurteile zum Tragen. Es ist ja zudem auch eine Frage, welche Daten überhaupt verfügbar sind. Schwarze Menschen werden beispielsweise höchst signifikant öfter von der Polizei kontrolliert, fallen öfter in die Kriminalstatistik, auch für Bagatelldelikte, wohingegen in weißen Vororten eine ähnliche Form der Kontrolle nicht stattfindet, obwohl es diese Bagatelldelikte genau so gibt. Und die richtig große Kriminalität in Formen und Banken taucht in keiner Statistik auf. Daraus resultiert aber eine Verzerrung in der Kriminalstatistik, in der Prognose von Straftaten, ganz zu schweigen von der Mühe des alltäglichen Lebens unter Generalverdacht.
Welche Daten in große Datenauswertungen fallen, ist ebenfalls oftmals ein Rätsel, so zum Beispiel bei den wirklich extrem wirksamen Uni-Rankings durch amerikanische Medien.
Andererseits ist natürlich die Nutzung der Daten ein ethisches Problem, wie schon bei der obigen Auswertung der Kriminalstatistik deutlich wird, aber zum Beispiel auch bei der Jobsuche – vor allem, wenn es in den Daten namensgleiche und vll, sogar am selben Tag geborene Menschen gibt und Verwechslungen vorkommen.
Die Autorin nennt viele Bereiche, in denen die Big Data als „Weapon of Math Destruction“ wirkt. Bei vielen der Beispiele, die Cathy O'Neil in ihrem Buch schildert, kann man sich zum Glück denken, dass das in Deutschland nicht passieren kann. Und das liegt daran, dass hier doch vieles staatlich reglementiert ist (z.B. das Universitätssystem) – dies an die Adresse derjenigen, die immer von zu vielen Verboten faseln. Wo alles freigegeben ist, gewinnen halt in der Regel nicht die Schwachen. Dennoch sind viele der Beispiele erschreckend plausibel und auch hier möglich und stattfindend. ( )