Das Dilemma mit der Zukunft

Helga Nowotny:
Die KI sei mit euch. Macht, Illusion und Kontrolle algorithmischer Vorhersage
Aus dem Englischen von Sabine Wolf
Deutschland
Berlin 2023: Matthes & Seitz
287 S., 25 EUR
ISBN 978-3-7518-0396-0

Der Titel des neuen Buches der Wissenschafts- und Technikforscherin Helga Nowotny verleiht der Künstlichen Intelligenz (KI) eine religiöse Konnotation. Zwar wird dieser Aspekt im Buch nicht explizit thematisiert, immer wieder evoziert Nowotnys wissenschaftshistorischer Ansatz jedoch Parallelen zur Religions- und Kulturgeschichte. Der Übergang vom Mittelalter zur Moderne zeichnete sich durch den Bedeutungsverlust von Religion und einen wachsenden Einfluss der Wissenschaft aus, welche zunehmend als sinnstiftende Grundlage westlicher Gesellschaften diente. Technologie etablierte sich als zentrales Steuerungsmittel gesellschaftspolitischer Prozesse. Damit einhergehend entwickelte sich mit dem Techno-Determinismus ein starker Glaube an Technik als treibende Kraft von sozialem Wandel. Häufig wurde Technik dabei als Lösung für soziale Probleme begriffen – eine Überzeugung, die als Techno-Utopismus bezeichnet wird und eng an das Fortschrittsnarrativ geknüpft ist, das mit dem rasanten Wirtschaftswachstum in der zweiten Hälfte des 18. Jahrhunderts seinen Ausgang nahm, und gesellschaftliche Diskurse über Industrialisierung, Automatisierung, und Digitalisierung nach wie vor prägt. Heute kommt der Techno-Utopismus in neuer Form zum Ausdruck, nämlich in der Rolle algorithmischer Vorhersage, wie Helga Nowotny überzeugend argumentiert. Dies wirft viele Fragen auf, die in dem Buch sehr anregend diskutiert werden. Manche davon sind Menschheitsfragen zu Autonomie, Verantwortung und Identität, die am Fall von KI neu verhandelt werden; andere sind hingegen neu und betreffen etwa algorithmische Entscheidungsfindung, Mensch-Maschine-Interaktionen oder digitale Zeitlichkeit. Diesen Fragen widmet Nowotny sich nun und bezieht sie auf ihre langjährige Forschung zu Zeitwahrnehmung und Ungewissheit. So gelingt es der Autorin, den Gegenstand KI in einen größeren historischen Kontext einzuordnen und in philosophische Überlegungen einzubetten. Es ist nicht zuletzt dieser umfassende Bezugsrahmen, der das Buch auszeichnet.

Techno-Determinismus reloaded?

Ein zentrales Argument des Buches ist, dass algorithmische Vorhersage – von Recommender-Systemen auf digitalen Plattformen bis hin zu Profiling-Algorithmen in der öffentlichen Verwaltung – die Macht hat, Zukunft zu prägen, sie zu einem gewissen Grad zu determinieren. Indem Algorithmen uns eine bestimmte Zukunft vorhersagen, beeinflussen sie unser gegenwärtiges Handeln, was wiederum dazu führt, dass ein tatsächliches Eintreten der Vorhersage wahrscheinlicher wird. Eine „selbsterfüllende Prophezeiung“ sozusagen, wie Nowotny das mit Bezug auf den Soziologen Robert Merton nennt. Diese Funktion von KI wird durch eine Fülle problematischer Annahmen befördert, die den Techno-Determinismus oft begleiten, zum Beispiel die Überzeugung, dass Technologien neutraler und objektiver seien als Menschen, weil sie auf Basis von numerischer Evidenz „handeln“ würden, anstelle von menschlicher Intuition. Die Technikgeschichte hat viele Beispiele parat, die zeigen, dass Zahlen und Abbildungen als objektiv richtig wahrgenommen werden, auch wenn sie fachlichen Einschätzungen widersprechen.

Der Einsatz von Zahlen zur gesellschaftlichen Steuerung reicht bis weit ins 18. Jahrhundert zurück, als „Statistiken zum Mittel der Wahl wurden, um eine wachsende Bevölkerung unter einer erstarkten staatlichen Verwaltung effizient zu regieren“, wie uns Helga Nowotny erinnert (S. 222). Damals begannen Nationalstaaten Individuen anhand ihres Alters, Geschlechts, Herkunft, Religion oder Strafregisters zu klassifizieren und in Gruppen einzuteilen – frühe Vorboten von algorithmischer Klassifikation, wenn man so will. Anwendungsbereiche waren das Steuerwesen, öffentliche Hygiene und psychische Gesundheit: „Seither bestimmen Quantifizierung und das Vertrauen in Zahlen zum Zweck der Objektivität die öffentliche Politik und Verwaltung“ (S. 223). Solche historischen Einordnungen von Vorhersage-Algorithmen sind notwendig, um die Genese heutiger KI-Systeme zu verstehen. Gerade in der öffentlichen Verwaltung werden algorithmische Entscheidungshilfen vermehrt genutzt, um Bürokratie abzubauen und knappe Mittel effizienter zu nutzen. Ein Beispiel, das im Buch genannt wird, ist der sogenannte „AMS-Algorithmus“ des österreichischen Arbeitsmarktservice, der sehr eindrücklich gezeigt hat, welche technischen und sozialen Herausforderungen die Einführung eines solchen Systems mit sich bringt. Das algorithmische Kategorisieren von Arbeitssuchenden in drei Gruppen, die jeweils unterschiedliche Förderungen erhielten, führte zu datenbasiertem Bias und, in weiterer Folge, zu Diskriminierung unterschiedlicher Bevölkerungsgruppen, wie zum Beispiel Frauen oder gesundheitlich Beeinträchtigte.^[1] Die Reduktion von komplexen Biografien auf einen mathematisch errechneten Score, sowie die damit verbundene (vermeintliche) Objektivierung, ziehen tiefgreifenden Veränderungen in der Beratungspraxis nach sich.

Neue digitale Zeitlichkeit

Der KI-Determinismus birgt auch eine Fülle neuer Probleme, die mit den großen Krisen und Unsicherheiten unserer Zeit zusammenhängen und Nowotny zufolge mit einer neuen, von prädiktiven Algorithmen geprägten Zeitlichkeit einhergehen. Klassifikation ist nämlich bloß die Ausgangsbedingung dieser Algorithmen, ihr Ergebnis ist die Vorhersage. Auch in dieser Hinsicht erkennt Nowotny Vorboten prädiktiver Algorithmen in der Wissenschaft der Moderne, insbesondere in der Physik. Zunächst bildeten Vorhersagen in der statistischen Mechanik die Grundlage einer neuartigen, stochastischen Sichtweise auf die Gesetze der Natur. Mit der Entdeckung der Quantenmechanik um 1900 kam die Frage auf, welche Rolle dem Zufall in den Gesetzen der Natur zukomme und wie sich das auf Vorhersagen auswirke. Doch erst durch die „Computerrevolution“, gesteigerte Rechenleistung, und insbesondere die Digitalwirtschaft großer Internetkonzerne konnte die prädiktive Analytik in unserer Gesellschaft flächendeckend zum Einsatz kommen. In welchem Ausmaß diese Algorithmen unsere Daten verschlingen und welche problematischen Auswirkungen dies auf unsere Gesellschaft hat – von Massenüberwachung bis zu gezieltem Targeting von Individuen für kommerzielle sowie für politische Zwecke –, zeigt Shoshana Zuboff in ihren umfassenden Analysen zum „Überwachungskapitalismus“.^[2] Außerdem, schreibt Nowotny, gehe der zunehmende Einsatz von Algorithmen mit der Verfestigung von Diskriminierung einher, sowie mit einer neuartigen Zeiterfahrung, die sie unter dem Begriff der digitalen Zeitlichkeit fasst.

Das Paradox der algorithmischen Vorhersage ist folgendes: Die Vorhersage basiert auf Daten der Vergangenheit, die (auf Grundlage statistischer Modelle) in die Zukunft projiziert werden. Daraus ergibt sich das Problem, dass Verzerrungen in den Daten, wie zum Beispiel Geschlechter- oder Race-Bias, in die Zukunft transportiert und damit weiter verfestigt werden. Daraus kann Diskriminierung von Einzelnen, aber auch von gesellschaftlichen Gruppen, wie im Fall des AMS-Algorithmus, resultieren. Ein anderes Problem liegt in der Wahrscheinlichkeit der Prognose. Während wir gelernt haben, Zahlen Objektivität und „Wahrheit“ beizumessen, handelt es sich bei algorithmischer Vorhersage um Wahrscheinlichkeiten, die auf Basis von Gruppenberechnungen zustande kommen. Diese müssen nicht zwingend etwas mit dem Einzelfall zu tun haben, schließlich handelt es sich um Korrelationen und nicht um Kausalitäten. Die größte Herausforderung liegt für Nowotny aber in der neuen Zeitlichkeit, die algorithmische Systeme mit sich bringen. Sie versetzen uns in eine „Zeitmaschine“:

„Angetrieben wird die Maschine von prädiktiven Algorithmen mit genügend Energie, um uns über die erreichte Zukunft hinaus in eine unbekannte Zukunft zu schleudern, die wir unbedingt enträtseln wollen. So können wir gar nicht eifrig genug Prognosen erstellen und widmen uns einer mannigfaltigen Zukunftsforschung, um wenigstens ein wenig Kontrolle über etwas zu erlangen, was aufgrund seiner unvorhersehbaren Komplexität andernfalls unkontrollierbar erscheinen würde.“ (S. 41)

Dieses Zitat führt zum Kern von Nowotnys Argumentation, dem Zusammenhang von Zukunft und Kontrolle. Indem uns Algorithmen die Zukunft gewissermaßen voraussagen, vermitteln sie uns Sicherheit. Selbst wenn die Voraussagen dystopischer Natur sind, bieten sie uns eine Art Vergewisserung und helfen uns, mit Unsicherheit umzugehen. Dieses Phänomen konnten wir in der Covid-Pandemie beobachten, wo Computermodellierung zum zentralen Element von politischer Entscheidungsfindung wurde, um mit unvorhersehbaren Gefahren umgehen zu können. Genau darin liegt auch ihre Gefahr.

Paradoxe Gegenwart, offene Zukunft

Um diese Gefahr zu verdeutlichen, beschreibt Nowotny die Performativität von Algorithmen. Prädiktive Algorithmen seien demnach so erfolgreich, weil sie performative Kraft, also Macht ausüben: „Ein Algorithmus besitzt die Fähigkeit, geschehen zu lassen, was er vorhersagt, wenn menschliches Verhalten sich nach dieser Vorhersage richtet“ (S. 57). Die lineare Anordnung von Vergangenheit, Gegenwart und Zukunft fiele damit in sich zusammen. Die „Ankunft der Zukunft in der Gegenwart“ würde zu einer informationellen und emotionalen Überlastung führen: „Eingeengt zwischen Vergangenheit und Zukunft, verdichtet sich die digitale Gegenwart“ (S. 91). Gleichzeitig wird die Illusion von Kontrolle verstärkt, eine nicht zu unterschätzende Funktion in von Unsicherheit geprägten Zeiten, ob im Hinblick auf Pandemien oder die Klimakrise. Mit Bezug auf Kierkegaard fragt Nowotny im ersten Kapitel daher, wie wir rückwärts verstehen, aber vorwärts leben können? Einmal mehr schöpft ihre Antwort aus der Kulturgeschichte: In Referenz an den theoretischen Physiker Stephen Hawking beschreibt Nowotny die Erbauer von Kathedralen im mittelalterlichen Europa als fähig, über die nächste Generation hinauszublicken, um in der Gegenwart Kathedralen zu bauen, die die Gegenwart überdauern. In diesem Sinn brauche es heute ein „Kathedralendenken“, das es uns ermöglichen würde, aufbauend auf vergangenen Arbeiten eine Zukunft zu denken, die nicht in kurzfristigen Zielen oder Gewinnen aufgeht und über kommende Generationen hinausreicht. Dieses Kathedralendenken sei insbesondere in Hinblick auf den Klimawandel vonnöten, wo uns errechnete Kipppunkte zu Maßnahmen im Hier und Jetzt zwingen, die für die Zukunft des gesamten Planeten entscheidend sind.

Das Leben in der digitalen Zeitmaschine führt zu einer paradoxen Situation, wie Nowotny schlussfolgert: „Es erlaubt uns zwar einen größeren Weitblick, doch sobald wir glauben, die vor uns liegende Zukunft sei die einzig mögliche, laufen wir Gefahr, andere Optionen zu verschließen“ (S. 80). Schlimmer noch, sobald wir uns der Illusion von Kontrolle hingeben, droht die Gefahr, dass algorithmische Systeme unseren Verstand untergraben und wir die Fähigkeit zu kritischem Denken verlieren. In Krisenzeiten, in denen das Fortschrittsnarrativ an seine Grenzen gestoßen ist und wir uns mit seinen verheerenden Folgen auseinandersetzen müssen, kann eine solche Verantwortungsabgabe verlockend sein.

Um eine kritische Distanz zu den von uns erschaffen KI-Systemen zu bewahren, mahnt Nowotny schließlich zur Weisheit. Diese müsse gesellschaftlich kultiviert werden, um ein besseres Verständnis davon zu ermöglichen, wie KI menschliche Handlungsfreiheit beeinflusst und beschränkt. Das wichtigste aber sei, unsere Zukunft als offene zu begreifen: „Glauben wir erst einmal, Algorithmen könnten die Zukunft vorhersagen, besonders, was unser eigenes Verhalten betrifft oder was uns widerfahren wird, droht uns der Verlust dieser Idee“ (S. 270). Deshalb sollten wir zur Bewältigung der großen Herausforderungen unserer Zeit Algorithmen zwar einsetzen, uns aber gleichzeitig ihrer Grenzen bewusst sein und eine Weisheit im Umgang mit diesen Programmen kultivieren. Dementsprechend zieht sich das Motto „Zukunft braucht Weisheit“ wie ein Leitfaden durch die Seiten dieses reichhaltigen Buches. Ob eine solche Weisheit auch radikale Maßnahmen zu Klimakrise, globaler Ungleichheit und kapitalistischer Ausbeutung vorsieht, bleibt der Fantasie der Leser*in überlassen.