Der Gesetzentwurf wurde im Januar vom französischen Senat gebilligt und würde, falls er verabschiedet wird, zum ersten Mal in der Geschichte Frankreichs – und der Europäischen Union – den Einsatz eines flächendeckenden KI-gesteuerten Videosystems zur Massenüberwachung gestatten. Nach Angaben der Abgeordneten wird diese gigantische Überwachungsstruktur «probeweise» eingesetzt, um Schutz und Sicherheit während der Spiele zu gewährleisten. Amnesty International befürchtet jedoch, dass das Gesetz die Befugnisse der Polizei erweitern wird, indem es das Arsenal an Überwachungseinrichtungen der Regierung dauerhaft vergrössert.
«Den Sicherheitsapparat mit KI-gesteuerter Überwachungstechnologie zu ergänzen ist ein gefährliches politisches Vorhaben, das zu weitreichenden Menschenrechtsverletzungen führen könnte.» Agnès Callamard, internationale Generalsekretärin von Amnesty International
«Den Sicherheitsapparat mit KI-gesteuerter Überwachungstechnologie zu ergänzen ist ein gefährliches politisches Vorhaben, das zu weitreichenden Menschenrechtsverletzungen führen könnte. Jede Handlung im öffentlichen Raum wird dann in ein Fangnetz aus Überwachungsinfrastruktur hineingezogen, was grundlegende bürgerliche Freiheiten untergräbt», sagte Agnès Callamard, die internationale Generalsekretärin von Amnesty International.
«Die französischen Abgeordneten konnten nicht belegen, dass dieses Gesetz den Prinzipien der Notwendigkeit und der Verhältnismässigkeit entspricht, welche absolut unerlässlich dafür sind, zu gewährleisten, dass Sicherheits- und Überwachungsmassnahmen keine Bedrohung der Rechte auf Versammlungs- und Vereinigungsfreiheit, Privatsphäre und Nicht-Diskriminierung darstellen. Obwohl das Sicherheitsbedürfnis während des Sportevents verständlich ist, gelten die internationalen Menschenrechtsnormen auch während der Olympischen Spiele. In ihrem derzeitigen Format stellen diese pauschalen Anwendungen KI-gesteuerter Massenüberwachung einen eklatanten Verstoss gegen das Recht auf Privatsphäre und andere Rechte dar.»
Falls die KI-gesteuerten Massenüberwachungsmassnahmen zum Einsatz kommen, werden Millionen Menschen – ob sie nun unterwegs zu den Stadien sind oder die öffentlichen Verkehrsmittel nutzen, um die Veranstaltungsorte des grossen Sportevents zu besuchen – auf Schritt und Tritt verfolgt und überwacht werden. KI-Algorithmen scannen und erfassen Daten von allen Personen in ihrer Reichweite. Die Allgegenwart von Überwachungskameras und -drohnen während der Spiele, die es Sicherheitskräften erlaubt, «verdächtige» oder «unnormale» Aktivitäten in den Menschenmengen zu erkennen, ist per se hochproblematisch.
«Diese übertrieben weit gefassten, von offizieller Seite festgelegten Definitionen für die Einordnung ‚verdächtiger‘ und ‚unnormaler‘ Aktivitäten in Menschenmengen sind höchst besorgniserregend. Wir müssen uns einige dringliche Fragen stellen: Wer legt fest, was ‚normal‘ ist? Staatsbedienstete, die die Bezeichnungen für ‚unnormale oder verdächtige Aktivitäten‘ in der Gesellschaft kontrollieren, haben auch die Macht, eine abschreckende Wirkung auf Opposition und Protest auszuüben und Diskriminierung gegen bereits einschlägig betroffene Gemeinschaften weiter zu verschärfen», sagte Callamard.
Welche Bedrohung der Menschenrechte von Entwicklung und Einsatz von KI durch private Firmen und staatliche Stellen in der Europäischen Union (EU) ausgehen, ist gut dokumentiert.
«Obwohl das Sicherheitsbedürfnis während des Sportevents verständlich ist, gelten die internationalen Menschenrechtsnormen auch während der Olympischen Spiele. In ihrem derzeitigen Format stellen diese pauschalen Anwendungen KI-gesteuerter Massenüberwachung einen eklatanten Verstoss gegen das Recht auf Privatsphäre und andere Rechte dar.» Agnès Callamard, internationale Generalsekretärin von Amnesty International
«Diese Technologien leisten rassistischer Polizeiarbeit Vorschub und bedrohen das Recht zu protestieren. Ethnische Minderheiten – darunter Migrant*innen sowie Schwarze und andere Menschen mit Diskriminierungserfahrungen – sind am stärksten gefährdet, von bestimmten Überwachungsinstrumenten ins Visier genommen zu werden, vor allem von Systemen zur Gesichtserkennung», erklärte Callamard.
Dieses Gesetz ist nicht nur eine Bedrohung der Privatsphäre und der Menschenrechte, sondern es widerspricht auch dem Geist des KI-Gesetzes der EU – einer Rechtsvorschrift von globaler Bedeutung, die zum Ziel hat, die KI zu regulieren und die Grundrechte in der EU, in der Frankreich ein einflussreiches Mitglied ist, zu schützen.
«Frankreichs Plan, während der Olympischen Spiele ungeregelte Überwachungstechnologie einzusetzen, sollte der EU als Weckruf dienen. Der erstmalige Einsatz dieses Sicherheitsapparats in der EU könnte das KI-Gesetz der EU-Staaten letztlich derart verzerren, dass aufgrund der weitreichenden Verletzungen der Rechte von Millionen Menschen, die ohne ihr Wissen und ohne ihre Zustimmung von experimentellen Massenüberwachungstechnologien überwacht und potenziell ins Visier genommen werden, eine Menschenrechtskrise droht. Mithilfe ihrer Verhandlungen über das KI-Gesetz sollte die EU dem Einsatz von Technologien der künstlichen Intelligenz für die Massenüberwachung sowie die diskriminierende Beobachtung von Zivilpersonen ein Ende machen. Wir fordern ausserdem ein Verbot von Gesichtserkennungssystemen, die für die Massenüberwachung eingesetzt werden», so Agnès Callamard.
Falls Frankreich die Massenüberwachung auf nationaler Ebene legalisiert, besteht die Gefahr, dass eines der grössten Sportereignisse der Welt mit einer der grössten Verletzungen des Rechts auf Privatsphäre aller Zeiten einhergeht.
Hintergrund:
Der Gesetzestext wurde am 31. Januar vom Senat gebilligt und nahm nach der Kommissionsabstimmung am 8. März eine legislative Hürde.
In einem vom European Center for Not-for-Profit Law initiierten offenen Brief haben 38 Organisationen der Zivilgesellschaft, unter ihnen Amnesty International, die politischen Entscheidungsträger*innen in Frankreich aufgefordert, den Gesetzentwurf über die Zulassung flächendeckender Überwachung abzulehnen.
Amnesty International hat zusammen mit einem Bündnis aus Organisationen der Zivilgesellschaft unter der Leitung des European Digital Rights Network (EDRi) EU-Verordnungen über Technologien und Anwendungen der künstlichen Intelligenz gefordert, die mit den Menschenrechten in Einklang stehen.
Amnesty International hat bereits den Einsatz Tausender mit Gesichtserkennungstechnologie ausgestatteter Überwachungskameras in New York City dokumentiert, von denen viele in Schwarzen Vierteln installiert waren und rassistisch diskriminierende Polizeiarbeit verschärft haben.
Nach den Olympischen Spielen in London im Jahr 2012 wurden viele für die Sicherheit während des Events eingesetzte Überwachungsmassnahmen dauerhaft beibehalten.
