Eine Untersuchung im Rahmen der weltweiten «Ban The Scan»-Kampagne von Amnesty International bestätigt: Die umfangreichen Überwachungsmassnahmen der New Yorker Polizei (New York Police Department, NYPD) treffen insbesondere diejenigen Menschen, die ohnehin schon häufig kontrolliert werden. Die Taktik der NYPD, vor allem junge männliche Angehörige der afroamerikanischen und der Latino-Minderheit routinemässig anzuhalten, zu befragen und zu durchsuchen – auch wenn kein dringender Tatverdacht besteht – ist unter dem Namen «Stop and Frisk» (Stoppen und Filzen) bekannt geworden. In der Bronx, in Brooklyn und in Queens zeigt die Untersuchung ausserdem, dass die Dichte an Überwachungskameras und Gesichtserkennungstechnologien ansteigt, je höher der Anteil nicht-weisser Einwohner*innen ist.
«Unsere Untersuchung zeigt, dass der Einsatz von Gesichtserkennungstechnologie durch das NYPD zu einer Zunahme von diskriminierender Polizeiarbeit gegen Minderheiten in New York beiträgt», sagte Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International. «Wir wissen schon lange, dass das als ‚Stop-and-Frisk‘ bekannte Vorgehen der New Yorker Polizei rassistisch ist. Jetzt konnten wir bestätigen, dass diejenigen, die bei diesen Kontrollen ins Visier genommen werden, auch einem grösseren Risiko einer diskriminierenden Polizeiarbeit durch invasive Überwachung ausgesetzt sind.»
Die grosse Reichweite von Gesichtserkennungstechnologie in der Stadt ist dafür verantwortlich, dass ganze Viertel einer Massenüberwachung ausgesetzt sind. Amnesty International fordert vom NYPD, genau Angaben dazu machen, wie diese invasive Technologie verwendet wird. «Das Verbot von Gesichtserkennung zum Zweck der Massenüberwachung ist ein dringend notwendiger erster Schritt, um rassistische Polizeiarbeit zu unterbinden. Darum muss der Stadtrat von New York (New York City Council) jetzt unverzüglich beginnen, ein grundsätzliches Verbot in die Wege zu leiten», sagte Matt Mahmoudi.
Die Untersuchungsergebnisse basieren auf Crowdsourcing-Daten, die von Tausenden Freiwilligen im Rahmen des Projekts «Decode Surveillance NYC» erhoben wurden. Diese erfassten die Standorte von mehr als 25500 Überwachungskameras in New York. Amnesty International hat diese Daten gemeinsam mit Datenanalyst*innen ausgewertet und mit Statistiken zu Polizeikontrollen sowie demographischen Daten abgeglichen.
Gesichtserkennungstechnologien (Facial Recognition Tools oder FRT) zur Identifikation sind Systeme, die der Massenüberwachung dienen und das Recht auf Privatsphäre verletzen. Ausserdem werden durch ihren Einsatz die Rechte auf Versammlungsfreiheit, Gleichberechtigung und Nichtdiskriminierung bedroht.
Im Zeitraum zwischen 2016 und 2019 setzte das NYPD in mindestens 22‘000 Fällen Gesichtserkennungstechnologien ein. Die Daten über die von der New Yorker Polizei seit 2002 durchgeführten «Stop-and-Frisk»-Kontrollen zeigen, dass die Zielgruppen dieser Taktik überwiegend schwarze und lateinamerikanische Gemeinschaften sind.
Letztes Jahr verklagte Amnesty International das NYPD, nachdem sich die Behörde geweigert hatte, gespeicherte Daten zum Erwerb von Gesichtserkennungstechnologien und anderen Überwachungstools offenzulegen. Der Fall ist noch nicht abgeschlossen.
Interaktive Website
Am 15. Februar geht eine Amnesty-Website online, auf der Benutzer*innen, erfahren können, wo sie auf jeder beliebigen Route zu Fuss in New York von einer Gesichtserkennungstechnologie erfasst werden könnten.
Während der «Black Lives Matter»-Proteste Mitte 2020 in New York, wurden Demonstrierende verstärkt durch Gesichtserkennung überwacht. Wer sich von der nächstgelegenen U-Bahnstation zum Washington-Square-Park bewegte, wurde durchgehend von Kameras der NYPD erfasst. «Als wir uns die Routen ansahen, die Leute genommen haben müssten, um zu Fuss von den nahegelegenen U-Bahnstationen zu den Protesten zu gelangen, konnten wir eine nahezu lückenlose Erfassung durch Überwachungskameras der Behörden feststellen. Die meisten von ihnen waren NYPD Argus Kameras», sagte Matt Mahmoudi. «Der allgegenwärtige Einsatz von Gesichtserkennungstechnologie ist im Grunde ein digitales «Stop-and-Frisk»-Verfahren. Massenüberwachungstechnologien werden an Orten wiederholter Proteste zur Identifizierung, Verfolgung und Schikane von Menschen verwendet, die einfach nur ihre Menschenrechte ausüben. Dies ist eine vorsätzliche Abschreckungstaktik des NYPD und gehört nicht in eine freie Gesellschaft. Daher muss sie sofort gestoppt werden.»
Amnesty International lädt die New Yorker*innen dazu ein, ein Protestschreiben an ihr Stadtratsmitglied zu schicken und es aufzufordern, einen Gesetzentwurf einzubringen, der zum Schutz ihrer Gemeinden den Einsatz von Gesichtserkennungstechnologie verbietet. Amnesty International fordert ein grundsätzliches Verbot von Einsatz, Entwicklung, Produktion, Verkauf und Export von Gesichtserkennungstechnologien zum Zweck der Massenüberwachung für Staaten und den privaten Sektor.
Auch in der Schweiz wurde eine Petition lanciert, um die Gesichtserkennung hierzulande zu stoppen. Ein Bündnis aus Amnesty International, AlgorithmWatch CH und der Digitalen Gesellschaft fordert ein Verbot von automatischer Gesichtserkennung und biometrischer Massenüberwachung in den Schweizer Städten. Bisher fehlen in der Schweiz wirksame gesetzliche Schranken gegen diese Art der Überwachung. Erste Polizeibehörden setzen bereits auf die umstrittene Technologie.
Für diese Recherche in New York hat Amnesty International zusammengearbeitet mit: Julien Cornebise vom Computer Science Department des University College London; BetaNYC, einer zivilgesellschaftlichen Organisation für Daten und Technologie in New York, und Dr. Damon Wischik, einem unabhängigen Datenwissenschaftler.
