Ob wir einen Job und einen Kredit bekommen, wo wir studieren dürfen oder wie lange wir ins Gefängnis müssen: Das entscheiden immer öfter Algorithmen statt Menschen. Was für mehr Fairness sorgen sollte, ist oft alles andere als gerecht.
In einen Menschen kann man nicht reinschauen, sagt der Volksmund. In die Software von Zestfinance auch nicht. Die kalifornische Firma verspricht, die Kreditwürdigkeit der Amerikaner besser einschätzen zu können als die drei großen Auskunfteien. Dazu haben Entwickler einen tollen Algorithmus programmiert, der Tausende Daten über jeden Kreditwerber sammelt: Sein Smartphone verrät, wo er sich rumtreibt, sein Facebookprofil, wen er kennt, sein Kassazettel, was er einkauft. Das Programm notiert, wie lange der Antragsteller braucht, um das Formular durchzulesen, oder ob ihn das Kleingedruckte interessiert. Und es lernt ständig dazu. So fand der Algorithmus offenbar heraus, dass Menschen, die in Blockbuchstaben ausfüllen, finanziell riskanter sind und besser keinen Kredit bekommen. „Wir wissen nicht, warum. Es ist einfach so“, gesteht der Gründer Douglas Merrill. Die Entscheidungslogik ist ihren Schöpfern entglitten. Es ist ein Algorithmus, bei dem man mitmuss – auch wenn der Mensch mit Herz und Hirn nicht mehr mitkommt.
Ob wir einen Kredit beantragen oder uns für einen Job bewerben, ob der Staat unseren Kindern eine Schule zuweist oder ein Gericht unsere Haftdauer festlegt: Immer öfter entscheiden nicht andere Menschen über unser Wohl und Weh, sondern automatisierte Prozesse. Schon länger in Amerika, immer öfter auch in Europa. Eigentlich sollten einheitliche Regeln und die breite Nutzung von Daten die Entscheidungen fairer und transparenter machen. Aber oft erweist sich die Software als Quelle neuer Ungerechtigkeit. „Die Grenze zwischen Faszination und Horror ist da sehr eng gesteckt“, findet Jörg Dräger. Der Vorstand der Bertelsmann Stiftung erforscht mit seinem Team die Verheißungen und Gefahren der Maschinenmacht. „Die Künstliche Intelligenz kommt, wir können sie nicht verbieten. Aber von allein wird sie nicht zur Chance.“ Dazu müssen wir sie „sehr aktiv gestalten“.
Kredit für alle. Wie im Beispiel der alternativen Scoring-Modelle für die Kreditvergabe. Früher einmal entschied der Bankangestellte, wer Geld bekommt. Seinen Ressentiments konnte er freien Lauf lassen: Andere Hautfarbe? Schlecht gekleidet? Oder einfach nur unsympathisch? Keine Chance! Heute entscheidet der Computer, genauer: die Kredithistorie.