Anfang des Jahres schien das Ende nahe: In die allgemeine Euphorie und Aufbruchsstimmung angesichts der neuen Möglichkeiten von Künstlicher Intelligenz (KI), die Sprachmodelle wie Chat- GPT auslösten, grätschte ein Brief von Expert*innen aus der KI-Forschung und dem Silicon Valley hinein.
Die Unterzeichner* innen – KI-Unternehmer*innen und führende Wissenschaftler*innen – forderten einen sofortigen sechsmonatigen Entwicklungsstopp für Künstliche Intelligenz. Auch Elon Musk, Apple-Mitgründer Steve Wozniak sowie der Historiker und Bestseller-Autor Yuval Noah Harari setzten ihre Unterschrift unter den Appell. Der klang, als stünde der Weltuntergang kurz bevor: «KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen», heisst es in dem Brief.
Die Verfasser*innen sind der Ansicht, wir befänden uns in einem «ausser Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Intelligenz». Nicht einmal die Entwickler*innen würden verstehen, was sie gerade erschaffen. Dramatische Fragen unterfütterten den Aufruf: «Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Lügen fluten? Sollen wir alle Jobs automatisieren, auch die erfüllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmässig überlegen sind, uns überlisten, überflüssig machen und ersetzen? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?»
Wenn sich die aktuelle Entwicklung fortsetzte, bedrohe das die menschliche Existenz, so der Brief, unter den mittlerweile über 33 000 Menschen ihre Unterschrift gesetzt hatten. Wie viel Wahrheit steckt in diesem Szenario, das von so vielen klugen Köpfen heraufbeschworen wird? Müssen wir alles daransetzen, die halb offene Büchse der Pandora wieder zu verschliessen?
Die Forscherin Meredith Whittaker setzt sich mit den sozialen Auswirkungen und ethischen Fragen rund um KI auseinander.
© Florian Hetz
Eher Fiktion als Fakt
Anruf bei einer, die es vielleicht weiss: Meredith Whittaker arbeitete 13 Jahre lang bei Google, setzte sich dort kritisch mit dem Thema der digitalen Überwachung auseinander und organisierte die Proteste von Google-Mitarbeiter*innen gegen Diskriminierung, Sexismus und Rassismus. Bis sie den Konzern schliesslich verliess. Heute kritisiert sie Google scharf – besonders, wenn es um Künstliche Intelligenz geht.
Nach ihrer Zeit bei Google beriet sie die US-Handelskommission (FTC) in Sachen KI und gründete an der New York University zusammen mit der KI-Forscherin Kate Crawford 2017 das Institut AI Now, wobei AI für Artificial Intelligence, also Künstliche Intelligenz steht. Es ist eines der ersten akademischen Institute, die die ethische Dimension und die sozialen Auswirkungen von Künstlicher Intelligenz erforschen.
Heute ist Meredith Whittaker Präsidentin der gemeinnützigen Stiftung, die hinter der Messenger-App Signal steckt, und setzt sich vor allem mit Datenschutzfragen zu KI auseinander. Das «Time- Magazine» zählte Whittaker 2023 zu den 100 einflussreichsten Menschen im Bereich der KI-Entwicklung. Kurz gesagt: Sie ist jemand, der gut einschätzen kann, ob die Welt wegen KI tatsächlich untergehen wird.
«Manche finden schreckliche Science- Fiction-Szenarien anscheinend immer wieder faszinierend», sagt Whittaker. «Der Gedanke scheint irgendwie unwiderstehlich zu sein, dass wir gerade an einem Scheidepunkt in der Menschheitsgeschichte stünden, wo wir in der Lage wären, eine Art künstlichen Gott zu erschaffen. All das steht Fiktion und religiösen Glaubensbekenntnissen näher als wissenschaftlichen Fakten.»
Whittaker vermutet hinter dem Appell des Briefes eher die Marketingstrategie grosser Tech-Konzerne, die mit den Ressourcen ausgestattet sind, eine KI im grossen Massstab zu entwickeln. «Deren Narrativ zieht halt: Wenn du behauptest, in Besitz einer Technologie mit übermenschlichen Kräften und grenzenlosen, fast schon überirdischen Hirnfähigkeiten zu sein, – sprich: eines Supercomputers, der in der Lage ist, die Menschheit auszulöschen –, dann ist das zunächst mal ziemlich gute Werbung für dein Produkt. Und weltweit gibt es wahrscheinlich nur wenige Regierungen und Militärs, die da nicht aufhorchen», sagt Whittaker.
Eigentliche Bedrohungen
Entwarnung also: erstmal kein Weltuntergang. Dennoch: Auch Whittakers Prognosen zufolge stehen den Menschenrechten im Zeitalter der Künstlichen Intelligenz stürmische Zeiten bevor.
«Ich befürchte, dass KI-Technologien mit ihren riesigen Datenmengen, die durch Überwachung genährt werden, die soziale Kontrolle und das Ungleichgewicht von Machtverhältnissen immer weiter verschärfen werden. Es bereitet mir grosse Sorge, dass diese jetzt schon problematischen Dynamiken der Ungleichheit einen Punkt erreichen könnten, an dem Wandel durch demokratische Prozesse gar nicht mehr möglich sein könnte. Weil die Möglichkeiten, privat zu kommunizieren, autonom zu handeln und dadurch Einfluss zu nehmen, auf Politik und Wirtschaft eingeschränkt werden durch einen allgegenwärtigen Überwachungsstaat. Hinzu kommen die Dynamiken des Klimachaos. Klar ist eigentlich nur so viel: Das komplexe Zusammenspiel von Klimakrise, geopolitischen Spannungen und technologischem Fortschritt bestimmt das nächste Jahrzehnt. Und ich glaube, der Aufstieg des Autoritarismus, begünstigt durch immer raffiniertere Überwachungstechnologien, ist ein bedeutender Teil dieses Szenarios. Macht richtig Laune, oder?», sagt Whittaker.
KI-Technologie spielt also repressiven Regierungen und Regimes in die Hände, Meinungsfreiheit und Privatsphäre sind durch immer raffiniertere Überwachungsmöglichkeiten bedroht und damit auch die demokratische Gesellschaft. So unähnlich sind Whittakers Einschätzungen jener der Schwarzmaler* innen im Warnbrief nicht. Und eine Agenda hat sie auch: Immer wieder verweist sie – als Chefin einer Kommunikations-App, die verschlüsseltes Messaging erlaubt – darauf, wie bedroht die Datensicherheit im KI-Zeitalter ist.
Nachvollziehbar sind ihre Überlegungen trotzdem. Auch jene zum Thema Arbeitsrechte: Wiederholt berichteten USamerikanische Medien von «digitalen Sweat Shops» auf den Philippinen oder in Kenia. Tausende Menschen arbeiten dort, oft unterbezahlt und unter erbärmlichen Bedingungen, um KI-Systeme mit Unmengen an Daten zu füttern und so zu trainieren. Mehrere KI-Unternehmen werden beschuldigt, grundlegende Arbeitsstandards zu missachten und ihre ausländischen Arbeiter*innen auszubeuten. Die Entwicklung von KI ist also in vielfacher Hinsicht mit Menschenrechtsverletzungen verbunden.
Haben wir es hier mit einer Art digitalen Kolonialismus zu tun? «Ja», sagt Meredith Whittaker. «Um KI-Systeme zu erschaffen, kann man nicht einfach riesige Datenmengen in einen Computer werfen. Sie müssen organisiert werden. Oft sind sehr verstörende Inhalte dabei. Wir verlagern diese belastende Arbeit ins Ausland und beuten die Intelligenz der dortigen Arbeiter*innen aus. Konzerne nehmen das in Kauf, um KI-Sprachmodelle entwickeln zu können, die innerhalb der Normen eines öffentlichen liberalen Diskurses agieren.»
Kann man trotz allem hoffnungsvoll in die Zukunft blicken? Zumindest wird Künstliche Intelligenz mit aller Wahrscheinlichkeit nicht das Ende der Menschheit herbeiführen. Erlösen von unseren Problemen wird sie uns, wie alle anderen Technologien vor ihr, allerdings auch nicht. Die Probleme der Welt scheinen durch KI eher noch komplexer zu werden.
«Der Fokus muss sich verschieben von der Technologie auf soziale und politische Veränderungen, die die Welt gerechter für alle machen», sagt Whittaker. «Ohne diesen Wandel wird es nicht möglich sein, KI oder eine andere Technologie sinnvoll als gemeinsame Ressource in einem signifikanten Massstab für etwas Gutes einzusetzen.»
