Den Begriff Algorithmus führt fast jedermann im Munde, doch kaum jemand kann beschreiben, was das ist – geschweige denn, wie es funktioniert.
Am vergangenen Freitag wachten die Währungshändler in der Londoner City mit einer bösen Überraschung auf. Im asiatischen Frühhandel war das britische Pfund binnen weniger Minuten jäh und scheinbar ohne besonderen Anlass um mehr als sechs Prozent auf den tiefsten Wert seit 1985 abgestürzt. Zwar erholte es sich im Lauf des Handelstages wieder beinahe auf den Ausgangswert, doch der Schrecken sitzt auch noch eine Woche später tief. Wie ein Blitzschlag traf dieser „Flash Crash“ die blanken Nerven der britischen Gesellschaft, die sich mitten in den historischen Umwälzungen befindet, welche der beschlossene Austritt des Vereinten Königreichs aus der Europäischen Union ausgelöst hat.
Denn vor allem ist die Schlüsselfrage offen: Was war die Ursache? „Die Tiefe des Absturzes und die Schnelligkeit der Erholung lassen sicherlich darauf schließen, dass algorithmischer Handel die Ursache war, vielleicht verschärft durch den Fehler eines Händlers“, sagte Daniel Morris, der leitende Investitionsstratege des Fonds BNP Paribas Investment Partners, zur „New York Times“. Die Bank of England untersucht den Fall weiterhin, doch Morris dürfte mit seiner Einschätzung nahe an der tatsächlichen Antwort liegen. Experten geben zu bedenken, dass zum Beispiel ein Algorithmus, der darauf programmiert ist, das Pfund dann zu verkaufen, wenn sein Durchschnittswert über 50 Tage den Durchschnittswert von 200 Tagen unterschreitet, sich mit einem anderen Algorithmus, der Twittermeldungen über das Pfund liest und verarbeitet, in einem fatalen Pas de deux verfangen haben könnte. Am Abend zuvor hatte Frankreichs Präsident, François Hollande, in einer Ansprache dafür plädiert, den Briten nur einen harten Brexit – also ohne ausnahmsweisen Zugang zum begehrten EU-Binnenmarkt – zugestehen zu wollen. Diese harte Pariser Linie hatte auf Twitter Wellen geschlagen, möglicherweise hat das den einen oder anderen Algorithmus zum Pfundverkauf animiert.
An dieser Stelle ist eine Begriffsbestimmung nötig. Den Begriff Algorithmus führt fast jedermann im Munde, doch kaum jemand kann beschreiben, was das ist – geschweige denn, wie es funktioniert. Einfach ausgedrückt ist ein Algorithmus eine Regel dafür, wie ein Computer bestimmte Probleme zu lösen hat. Wenn A passiert, dann mach B, dann C, dann D: Was seinen Namen auf verballhornte Weise von dem arabischen Mathematiker al-Chwarizmi erhalten hat, der im neunten Jahrhundert das Standardwerk über die Verwendung der indischen Ziffern verfasst hatte, mit denen wir im Grunde genommen noch immer rechnen, ist heute eine der bedeutendsten kulturellen Erscheinungen der Menschheit.
Algorithmen bestimmen unter anderem, welche Filme und Serien uns Netflix schmackhaft zu machen versucht; welche Themen und Artikel Facebook uns ins Blickfeld rückt; welche Zinssätze wir für unsere Kredite zahlen; wann ein Häftling darauf hoffen darf, vorzeitig wegen guter Führung entlassen zu werden. Algorithmen helfen Google, Tesla und Uber dabei, ihren chauffeurlosen Autos das selbstständige Fahren beizubringen. Und sie dominieren, wie die eingangs geschilderte Panne beim Handel mit dem Pfund zeigt, das Geschehen an den Finanzmärkten.
Werkezeuge machen alles fair
Hört man den Visionären aus dem Silicon Valley und anderen digitalen Avantgardisten zu, werden uns selbstlernende Algorithmen (also Programme, die autonom auf neue Umstände reagieren können) die Pforte zu einer technologistischen Utopie öffnen. Pfiffig programmierte Maschinen werden uns Menschen viele mühselige und gefährliche Tätigkeiten abnehmen. Und sie werden logisch strukturierte Entscheidungen schneller und konsequenter treffen, als es der rationalste Mensch tun kann. Doch an dieser Stelle schlägt Cathy O'Neil Alarm.
Die in Harvard und am Massachusetts Institute of Technology ausgebildete Mathematikerin war Professorin am Barnard College, hat während der Finanzkrise an der Wall Street für einen Hedgefonds und danach für eine Firma gearbeitet, welche die Marktrisiken für Fonds und Banken berechnet. 2011 verließ sie die Finanzwelt, von ihren dortigen Erfahrungen nachhaltig erschüttert: „Techno-Utopie ist die Idee, dass diese Werkzeuge alles objektiv und fair machen. Dabei haben wir keine Ahnung, was unter der Motorhaube dieser Algorithmen passiert“, sagte sie neulich im Gespräch mit National Public Radio.
O'Neil hat sich vier Jahre lang mit jenen Algorithmen beschäftigt, die ihrer Ansicht nach gesellschaftlich hochgefährlich sind. „Weapons of Math Destruction“ ist das neulich in Buchform erschienene Ergebnis dieser Arbeiten, es schießt auf den Bestsellerlisten zügig aufwärts. Ein persönliches Schlüsselerlebnis hat sie zu dieser Arbeit veranlasst. Ein Schuldirektor aus ihrem Bekanntenkreis erzählte ihr eines Tages, dass einige der besten Lehrer schlechte Evaluierungsergebnisse erhielten und dazu gezwungen wurden, den Schuldienst zu verlassen. Die Evaluierungen wurden von Algorithmen erstellt.
Doch auf Basis welcher Daten? Und nach welchen Gesetzmäßigkeiten? O'Neil suchte bei der New Yorker Schulbehörde darum an, die Algorithmen auf etwaige Fehler untersuchen zu dürfen. Das wurde ihr verweigert – denn das verwendete Computerprogramm, welches gute Lehrer aus dem Dienst warf, war persönliches geistiges Eigentum der IT-Firma, die es für die Schulbehörde programmiert hatte. „Ich sagte mir: Das ist krank“, ärgerte sie sich im Interview mit dem „New Yorker“.
O'Neil warnt davor, dass der blinde Glaube daran, gesellschaftliche Herausforderungen allein mit technologischen Mitteln lösen zu können, die Spaltung zwischen Fortschrittsgewinnern wie ihr und all jenen verschärft, die mit der Digitalisierung von immer mehr Lebensaspekten nicht mithalten können. „Jedes Mal, wenn es ein unklares gesellschaftliches Problem gibt, das die Leute mit einem Wundermittel wegzaubern wollen, tauchen mathematische Modelle auf“, gibt sie zu bedenken. Ihre persönliche Erfahrung an der Wall Street war diesbezüglich einschlägig: „Ich bin mit der Einstellung in die Finanzwirtschaft gegangen, dass ich den Markt effizienter machen könnte. Aber dann sah ich, dass ich bloß Geld auf Kosten von Menschen verdiente, die für ihre Pension zu sparen versuchten. Ich sah normale Leute, deren Leben von unfairen automatischen Entscheidungen ruiniert wurde.“
("Die Presse", Print-Ausgabe, 15.10.2016)