Immigration: Algorithmus erkennt "gute US-Bürger"
Die US-Behörde "Immigrations and Customs Enforcement" (ICE) will in Zusammenarbeit mit Technikfirmen ein automatisiertes Verfahren erstellen, das durch persönliche Daten und digitale Chroniken feststellt, wer Positives und Negativs zur Gesellschaft beiträgt. Auf diese Weise soll die Immigration erleichtert werden. Experten beäugen diesen Plan jedoch sehr kritisch.
30.11.2017
"Wenn du einen Algorithmus aufbaust, der Hexen suchen soll, dann endet das sozusagen mit den Hexenprozessen von Salem. Man glaubt nämlich nur, dass man Hexen findet. Aber eigentlich findet man auch bloß normale Menschen, die Katzen und Besen besitzen", gibt Rachel Levinson-Waldman vom Brennan Center for Justice zu bedenken. Es sei zudem beinahe unmöglich festzulegen, was genau "positive Kontributionen" seien.
"Das US-amerikanische Gesetz hat dafür keine Definition. Das bedeutet, dass wahrscheinlich diejenigen, die das Programm entwickeln, wahrscheinlich in Zusammenarbeit mit der ICE dies festlegen werden", unterstreicht Levinson Waldman. In einem Schreiben an das Department of Homeland Security haben bereits über 100 Branchenexperten klargemacht, dass sie einen Algorithmus dieses Ausmaßes äußerst gefährlich finden würden.
Viel zu viele Verdächtige
"Es gibt eine Vielzahl von Literatur, die bestens demonstriert, dass sogar die besten automatisierten Entscheidungsmodelle eine unakzeptable Anzahl von Fehlern generieren, wenn sie Geschehen vorhersagen sollen. Im Vergleich mit der US-Population und den Immigrationsraten ist die Zahl der Verbrechen relativ niedrig, vor allem Terror-Attacken sind selten. Das Ergebnis wäre, dass sogar das akkurateste Modell trotzdem noch eine sehr hohe Zahl von falschen, positiven Ergebnissen liefern würde", so der Brief. Ob der Algorithmus nach der breiten Kritik noch im gleichen Ausmaß umgesetzt werden soll, bleibt abzuwarten.
