© André Gottschalk
© André Gottschalk

MAGAZIN AMNESTY Carte blanche Digitale Bürgerrechte statt Techno-Diktatur

Von Adrienne Fichter. Erschienen in «AMNESTY – Magazin der Menschenrechte» vom August 2019.

Wüsste man nicht besser Bescheid, würde man sich in einer Episode der Dystopie-Serie «Black Mirror» wähnen: Mark Zuckerberg hatte neulich die Eingebung, dass die Zukunft der Privatsphäre gilt. Auch die CEOs von anderen Datenkonzernen haben den Datenschutz als neues schützenswertes Gut entdeckt. Die Tech-Giganten, die uns die derzeit grössten Gefahren für die Demokratie eingebrockt haben, demonstrieren übereifrig ihren Selbstregulierungselan. Big Tech treibt den Diskurs um digitale Bürgerrechte voran. Plötzlich geloben alle Besserung, verschärften ihre Richtlinien und bauen Künstliche Intelligenzen (KI) zum Schutz vor Manipulationen.

Es zeichnet sich jedoch bereits jetzt ab, dass das Meiste davon «ethics washing» ist und kommerziellen Eigeninteressen dient. Je mehr Regelwerke existieren, desto eher wird die Konkurrenz ausgebremst. Denn an den datenbasierten Geschäftsmodellen möchten Zuckerberg & Co. ja dennoch festhalten.

In der Schweiz fehlt bislang eine aufgeklärte Debatte über digitale Technologien. Und auch das Bewusstsein, digitale Bürgerrechte überhaupt einzufordern. Bei der Initiative «Digital Switzerland» der Wirtschaftsverbände wird die Zivilgesellschaft nicht eingebunden. Das führt dazu, dass rechtsstaatliche und demokratiepolitische Aspekte komplett ausgeblendet werden. Das Feld darf jedoch nicht allein der Privatwirtschaft überlassen werden. Denn gerade wenn Google & Co. nach eigenen Gesetzen bestimmen, was Hassrede ist und was nicht, braucht es ein gesellschaftliches Korrektiv. Deswegen müssen wir unseren Grundrechten ein digitales Update verpassen. Zum Beispiel mit einem Auskunftsrecht über KI und einem Widerspruchsrecht gegenüber softwarebasierten Entscheidungen. Oft wissen wir nicht, wann KI und wann ein Mensch entscheidet. Dass es vielleicht ein Gesichtserkennungssystem war, das uns die Tür öffnete am Flughafen Zürich, und nicht ein Zollbeamter.

Das Credo, das uns die Konzerne im Silicon Valley glaubhaft machen wollen: Wir haben unsere Probleme im Griff und lösen sie gleich selbst. Wir sind Judikative, Exekutive und Legislative, verkörpert in einer einzigen Plattform und einem einzigen Unternehmen. Wer kontrolliert eigentlich die selbsternannten Regulatoren? In einer aufgeklärten digitalen Gesellschaft braucht es dringend eine Gewaltenteilung beim Einsatz von Technologien. Mit Expertengremien, Anlaufstellen und Korrektivinstanzen.

Wenn nur wenige Personen alle Formen der Macht auf sich vereinigen und sich selbst kontrollieren, ist das nicht nur unsaubere Corporate Governance. Sondern auch der erste Schritt zur Abschaffung der Demokratie. Hin zu einer reinen Techno-Diktatur.