Die Künstliche Intelligenz des AMS diskriminiert Frauen

APA/HERBERT PFARRHOFER
  • Drucken

Eine Künstliche Intelligenz soll dabei helfen, AMS-Mitarbeitern die Vermittlungschancen zu berechnen. Eine Frau zu sein, ist bei dieser KI von vornherein schlecht.

Das Arbeitsmarktservice (AMS) setzt bei der Bewertung ihrer Klienten auf Künstliche Intelligenz. AMS-Mitarbeitern soll diese dabei helfen, die Arbeitsmarktchancen einzuschätzen. Die dabei festgelegten Kriterien seien aber ein "Paradebeispiel für Diskriminierung", erklärt Florian Cech, Forscher an der TU Wien, gegenüber Futurezone.

Das System wurde unter Vorgaben des AMS von der Synthesis Forschung GmbH entwickelt. Innerhalb der nächsten zwölf Monate soll das System behutsam eingeführt werden, bevor es in den Live-Betrieb geht.

Dabei stellt sich schon jetzt die Frage, inwiefern das Programm neutral bewertet. Von Anfang an bekommt es beigebracht, dass es Punkteabzüge gibt, sobald man über 30 ist. Ebenfalls Abzüge gibt es bei Menschen, die aus Nicht-EU-Ländern kommen.

Frauen bekommen von vornherein weniger Punkte. Wenn sie noch dazu Kinder zu betreuen haben, fallen nochmal ein paar Punkte weg.

Die Negativpunkte für Betreuungspflichten seien „eine bittere Wahrheit für Frauen, die sich im Chancenmodell widerspiegelt", erklärt Michael Wagner-Pinter von der Synthesis Forschung GmbH.

>>> Futurezone

(bagre)

Lesen Sie mehr zu diesen Themen:


Dieser Browser wird nicht mehr unterstützt
Bitte wechseln Sie zu einem unterstützten Browser wie Chrome, Firefox, Safari oder Edge.