Das Briefing «Defending the Rights of refugees and Migrants in the Digital Age» (PDF, 26 pages) (Verteidigung der Rechte von Geflüchteten und Migrant*innen im digitalen Zeitalter) beleuchtet die Entwicklung digitaler Asyl- und Migrationsmanagementsysteme insbesondere in Europa und den USA; darunter Technologien zur Migrationssteuerung und Auslagerung von Grenzkontrollen sowie automatisierte Entscheidungssysteme, die auf grossen Datenmengen und künstlicher Intelligenz basieren.
«Die Verbreitung dieser Technologien birgt die Gefahr, dass Diskriminierung und Rassismus sowie die unverhältnismässige und rechtswidrige Überwachung einzelner Personengruppen verstärkt werden», sagte Matt Mahmoudi, Berater von Amnesty International für künstliche Intelligenz und Technologie. «Diese Technologien werden zunehmend zu einem zentralen Menschenrechtsproblem, da Staaten sie in einer Weise einsetzen, die gegen ihre Menschenrechtsverpflichtungen gegenüber Geflüchteten und Migrant*innen verstösst.»
Vielfältiger Einsatz von Überwachungstechnologien
In den USA haben die Grenzbehörden das Intensive Supervision Appearance Program (ISAP) und das Electronic Monitoring Device Program zur Überwachung von Migrant*innen und Asylbewerber*innen eingesetzt, die aus der Haft entlassen wurden. Darüber hinaus hat die US-Regierung KI-gesteuerte Wachtürme entlang der Grenze zwischen den USA und Mexiko errichtet, was das Risiko der rassistischen Profilerstellung von Angehörigen Schwarzer, lateinamerikanischer und anderer rassifizierter Gemeinschaften erhöht.
Im Vereinigten Königreich werden alle Migrant*innen, die von Abschiebung bedroht sind, mit elektronischen Fussfesseln überwacht, und es gibt Überlegungen, Smartwatches mit Gesichtserkennung zu Überwachungszwecken einzusetzen.
Die Europäische Union (EU) setzte Echtzeit-Luftüberwachung und Drohnen über dem zentralen Mittelmeer ein, um Flüchtlingsboote auf See zu identifizieren. In Abstimmung mit den libyschen Behörden soll so verhindert werden, dass diese die europäischen Küsten erreichen.
Ein von der EU finanziertes automatisches Grenzkontrollsystem namens iBorderCtrl wurde in Ungarn, Griechenland und Lettland getestet. Im Rahmen des Projekts wurde ein «Lügendetektor» mit künstlicher Intelligenz eingesetzt, der Personen, die die Grenze überqueren wollen, befragt und mithilfe von Technologien zur Gesichts- und Emotionserkennung kleinste Details ihrer Mimik auswertet. Reisende, die das System als ehrlich einstuft, erhalten einen Code, mit dem sie die Grenze passieren können.
Der Bericht zeigt auch, wie in diversen europäischen Staaten Gesetze eingeführt wurden, die die Beschlagnahmung von Handys von Asylbewerber*innen erlauben, um ihre Aussagen bei Asylverfahren zu überprüfen.
Verbot problematischer Technologien gefordert
Diese Technologien verstärken die Ausgrenzung und behindern die Bewegungsfreiheit von Schwarzen, muslimischen und anderen rassifizierten Migrant*innen, Asylbewerber*innen und geflüchteten Personen. Sie schaffen Grenzregime, die Menschen aufgrund ihrer ethnischen Zugehörigkeit, ihrer nationalen Herkunft und ihrer Staatsbürgerschaft diskriminieren.
Beispielsweise hat die Europäische Union (EU) ihre Grenzen virtuell auf das Mittelmeer und Transitregionen in Afrika ausgedehnt, indem sie eine Reihe von Technologien einsetzt, die es ihr ermöglichen, die Bewegungen von Menschen auf Schritt und Tritt zu überwachen.
«Digitale Technologien verstärken Grenzregime, die sich unverhältnismässig stark auf rassifizierte Menschen auswirken. Ein inhärenter Rassismus ist tief in den Migrations- und Asylsystemen verwurzelt», sagte Charlotte Phillips, Beraterin für die Rechte von Geflüchteten und Migrant*innen bei Amnesty International. «Diese Systeme sind mit Vorurteilen und Fehlern behaftet, die das Recht auf Nichtdiskriminierung und andere Menschenrechte bedrohen.»
Amnesty International empfiehlt den Staaten:
- Die Rechte von Geflüchteten schützen, indem sie auf den Einsatz von menschenrechtswidrigen Technologien verzichten und sicherstellen, dass systemimmanenter Rassismus, Fremdenfeindlichkeit und Diskriminierung in digitalen Technologien beseitigt wird.
- Den Einsatz von KI-basierten Emotionserkennungssystemen verbieten, insbesondere bei Migrations-, Asyl- und Grenzkontrollen.
- Durchführung von Analysen über die Auswirkungen des Einsatzes digitaler Technologien auf die Menschenrechte und den Datenschutz.
- Automatisierte Risikobewertungs- und Profiling-Systeme sowie Vorhersagemodelle verbieten.