Homo ex machina

Edward Ashford Lee:
Co-Evolution. Die Symbiose von Mensch und Maschine
Österreich / Deutschland
Wien / Berlin 2023: Mandelbaum
100 S., 13,00 EUR
ISBN 978399136-027-8

Die Digitalisierung hat unseren Alltag stärker verändert als jede andere Entwicklung seit der Sesshaftwerdung des Menschen. Längst schon sind Smartphones und Computer von bloßen Werkzeugen zu „Prothesen unseres Geistes“ geworden. Sie erweitern unsere kognitiven Fähigkeiten und erleichtern unser Leben in vielerlei Hinsicht. Sie drücken dabei aber zugleich der Art, wie wir denken und worüber wir miteinander kommunizieren, nachhaltig ihren Stempel auf. Sie beeinflussen so nicht nur unser Handeln in konkreten Situationen, sie verändern, was es heißt, Mensch zu sein.

Nicht wenige erleben diese Form des sozialen Wandels als massive Einschränkung menschlicher Handlungsmacht und entwerfen apokalyptische Szenarien vom Ende der Menschheit. Tatsächlich wäre es naiv, anzunehmen, dass eine Umwälzung wie die digitale Revolution ohne unerwünschte Nebenwirkungen vonstattengehen könnte. Die Frage lautet aber, wie wir uns den problematischen Begleiterscheinungen konzeptuell nähern wollen. Fassen wir sie als einen „Krieg der Welten“ auf, als Verteidigungsschlacht der Menschheit gegen ihre existenzielle Bedrohung durch immer intelligentere Maschinen? Das ist die Position der konservativen Kritiker der Digitalisierung und der Anhänger eines „digitalen Kreationismus“. Oder behandeln wir sie als Symptome einer „Symbiogenese“, einer Verschmelzung von Mensch und Maschine zu einer neuen, komplexeren Lebensform?

Co-Evolution als Grundlage neuer Lebensformen

Genau hier setzt Edward Ashford Lees Band Co-Evolution an. Lee erteilt den pessimistischen Diagnosen vieler Digitalisierungskritiker:innen eine deutliche Absage und plädiert für eine vorsichtig optimistische Sicht, die die digitale Erweiterung des menschlichen Geistes weniger als Bedrohung, sondern als logische Fortsetzung des evolutionären Prozesses betrachtet.

Bei dem hier besprochenen Text handelt es sich um die deutsche Übersetzung der beiden letzten Kapitel aus Lees 2020 erschienener Monografie The Coevolution: The Entwined Futures of Humans and Machines.^[1] Lee, 1957 in Puerto Rico geboren und bis zu seiner Emeritierung Professor für Elektrotechnik und Informatik an der University of California in Berkeley, entwickelt darin eine Idee weiter, die er erstmals 2017 in Plato and the Nerd dem Publikum präsentierte: die Vorstellung, dass Menschen und Maschinen in durch Feedbackschleifen bestimmte Entwicklungsprozesse verstrickt sind, in deren Zuge sich beide verändern. Terminologisch fasst er das im Begriff der Koevolution. Mensch und Maschine üben dabei einen starken Selektionsdruck aufeinander aus – mit ungewissem Ausgang.

Bereits auf den ersten Seiten von Co-Evolution fällt auf, dass Lee über Maschinen, Softwaresysteme und KI schreibt, als spräche er von Lebewesen. Sie „altern“, sie sind „lebendig“, sie „sterben“, sie werden „getötet“ (S. 19, 21) – Begrifflichkeiten die für gewöhnlich auf biologische Organismen und nicht auf digitale Systeme angewendet werden. Die Anleihen aus der Biologie sind dabei keineswegs metaphorisch zu verstehen. Lee ist es vollkommen ernst mit der Übertragung evolutionsbiologischer Prinzipien auf Mensch-Maschine-Beziehungen, die für ihn ein „viertes Zeitalter“ in der Entwicklung der Menschheit markieren. Er stützt sich dabei auf Überlegungen des Evolutionsbiologen Kevin Laland, der drei sukzessive Stufen der menschlichen Entwicklung unterschieden hatte: (1) die „genetische Evolution“, in der der frühe Mensch sich über lange Zeiträume (und ohne eigenes Zutun) genetisch an Veränderungen seiner natürlichen Umwelt anpasste; (2) die „genetisch-kulturelle Evolution“, in der der menschliche Einfluss auf das unmittelbare Lebensumfeld erste Rückkopplungsmuster schuf, bei denen Gene und Umwelt sich gegenseitig beeinflussten (wie etwa bei der Ausbildung der menschlichen Laktasepersistenz im Zusammenhang mit der Erfindung von Landwirtschaft und Viehzucht); (3) und schließlich die „kulturelle Evolution“, in der die Effekte unserer kulturellen Praktiken uns vor adaptive Herausforderungen stellen, die sich einstweilen nur mit kulturellen Mitteln lösen lassen (hier ließe sich etwa daran denken, dass eine stetig steigende Zahl von Paaren inzwischen den „natürlichen“ Prozess der Fortpflanzung nur noch unterstützt durch reproduktionsmedizinische Maßnahmen bewältigen kann).

Während diese drei Phasen der Evolution auf biologische Entwicklungen beschränkt bleiben, durchbricht das vierte, „synthetische“ Zeitalter (S. 56) der Evolution die Grenze zwischen belebter und unbelebter Welt und verbindet die Domäne kohlenstoffbasierter Lebewesen mit der Siliziumwelt der Maschinen. Der entscheidende qualitative Sprung besteht dabei darin, dass die Entwicklung der menschlichen Intelligenz sich nicht länger aus sich selbst speist, sondern zum Effekt der Interaktion mit Maschinen wird, deren genaue Funktionsweise sich zunehmend der Kenntnis menschlicher Akteur:innen entzieht. Genau das beobachten viele mit wachsendem Unbehagen seit der Veröffentlichung von ChatGPT im November 2022.

Mensch und Maschine verändern sich wechselseitig

Wie generative KI unseren Alltag langfristig verändern wird, ist kaum absehbar. Dass sie ihn verändert, steht außer Frage. Unstrittig dürfte ebenfalls sein, dass wir uns einer frommen Illusion hingeben, wenn wir hoffen, die Kontrolle über diese Entwicklung behalten oder sie zurückgewinnen zu können. Einmal in Gang gebracht, lässt sich der Prozess der Co-Evolution nicht mehr stoppen. Diese Befürchtung teilt Lee mit bekannten Technologiekritiker:innen wie Nick Bostrom oder Max Tegmark, die angesichts der zuletzt rasant vorangeschrittenen Entwicklungen im Feld der KI ein Forschungsmoratorium in diesem Bereich fordern. Dem Appell liegt freilich der Gedanke zugrunde, dass technologische Entwicklungen allein auf menschliche Handlungsmacht zurückführbar sind. Einen solchen Optimismus teilt Lee allenfalls bedingt. Der Möglichkeit eines „intelligenten Top-Down Designs“ (ITDD), das die späteren Handlungsspielräume einer KI bereits beim Codieren vollumfänglich begrenzte, steht er jedenfalls skeptisch gegenüber. Zwar seien es in der Tat „Menschen mit einer Tastatur“ (S. 70), die festlegen, wie eine neue Maschine auf die sie umgebenden Reize reagiert. Ein großer Teil des Programmierens bestehe aber mittlerweile aus dem Zusammenfügen von Softwarefragmenten, die sich in anderen Zusammenhängen als nützlich erwiesen haben. Was Programmierer:innen tun, sei demnach keine Schöpfung ex nihilo. Indem sie Programme rekombinieren und zu neuen Programmen mutieren lassen, erleichtern sie lediglich, was Lee „den Sex zwischen Software-Wesen“^[2] nennt. Der Transfer von Codes wiederum folge dabei Regeln, die sich gut mit evolutionären Selektionsprozessen erklären lassen. Wie Menschen, Tiere, Pilze oder Pflanzen konkurrieren auch Codes um eine begrenzte Ressource: in diesem Fall nicht Nahrung oder Licht, sondern die Aufmerksamkeit der Nutzer:innen. Programme und Codes, die niemand mehr benutzt, „sterben aus“, andere entwickeln sich – oft in unvorhergesehener und unvorhersehbarer Weise – weiter. Lee erläutert das am Beispiel von Google und Wikipedia. Als „spektakuläre Multiplikatoren unserer menschlichen kognitiven Fähigkeiten“ (S. 71) verdanken sie ihre Existenz zwar vielen kleinen Akten des ITDD, in der Summe jedoch gehen sie weit über alles hinaus, was ein Mensch (oder eine Gruppe von Menschen) je hätte entwickeln können. Sie sind, wie sie heute sind, weil sie auf der gemeinsamen Evolution von Nutzer:innen und Software aufbauen, oder anders gesagt: weil sie „Ergebnis einer Co-Evolution“ sind (ebd.).

Endosymbiose von Mensch und Maschine

Was leitet Lee nun aus dieser Diagnose ab? Ist die Menschheit von einer autonomen Akteur:in zu einem bloßen Spielball technologischer Entwicklungen geworden? Keineswegs. Wir mögen keine volle Kontrolle über die Entwicklung haben, aber wir können mit politischen Maßnahmen und Regulierungen immer noch wenigstens versuchen, sie in die richtige Richtung zu lenken und unerwünschte Ergebnisse zu minimieren. Längst sind wir auch noch nicht so vollständig mit der uns umgebenden Technik verschmolzen, dass ein Überleben ohne sie nicht mehr möglich wäre (das Fortbestehen der Art, wohlgemerkt – nicht das Überleben einer möglichst hohen Zahl von Individuen!). Womöglich kommt es auch nie so weit. Und schließlich sind wir nach wie vor weit davon entfernt, dass Software sich gänzlich abgekoppelt von menschlichem Input selbst fortschriebe und die Menschheit damit letztlich obsolet machte. Immer noch sind Computer genauso auf Menschen angewiesen wie wir auf Computer. Anlass zur Beruhigung bietet das leider nicht. Die Konstellation beschwört Gefahren ganz eigener Art herauf. Eine schnelle Co-Evolution – und an deren Unausweichlichkeit zweifelt Lee keine Sekunde – mag für die Gattung nützlich sein, für die oder den Einzelne:n hingegen endet sie oft tödlich (S. 74). Noch können wir hoffen, diese Gefahr abzumildern, und die Chancen stehen nicht schlecht, dass uns das auch gelingen wird.

Wie das konkret zu bewerkstelligen wäre, darüber hüllt sich Lee leider in Schweigen. Immerhin verrät er, wie es nicht geht: Solange wir am „digitalen Kreationismus“ festhalten und dem Menschen eine gottgleiche Rolle für die Gestaltung der digitalen Zukunft zuweisen, besteht wenig Aussicht auf einen guten Ausgang. Erkennen wir aber an, dass die Rückkopplungsschleifen zwischen menschlicher und digitaler Entwicklung so vielfältig und komplex sind, dass es tatsächlich angemessen ist, von einer Co-Evolution zu sprechen, von einer gemeinsamen – symbiotischen – Entwicklung von Mensch und Maschine, stehen die Chancen nicht schlecht – auch wenn das langfristig dazu führen dürfte, dass der „neue Mensch“ ein anderer sein wird als der, den wir kennen.

Co-Evolution und ROMA

Lees Argumentation fügt sich damit nahtlos in die Debatten um einen ontological turn, die seit einigen Jahren einer grundsätzlichen Neuausrichtung der Humanities den Weg bereiten. Das erstaunt insofern, als Lee seine Thesen unter praktisch völligem Verzicht auf eine Erwähnung der usual suspects entwickelt (das gilt nicht nur für die besprochene deutsche Teilübersetzung von Co-Evolution, sondern auch für das mehr als sechsmal so umfangreiche englische Original). Die Reihe der Autor:innen, die nicht genannt werden, ist lang: Karen Barad, Jane Bennett, Rosi Braidotti, Emanuele Coccia, Gilles Deleuze, Philippe Descola, Katherine Hayles, Donna Haraway, Eduardo Kohn, Bruno Latour, Anna Tsing, Eduardo Viveiros de Castro – die Aufzählung ließe sich fortsetzen. Lee gelingt damit das Kunststück, eine Konstellation symbiogenetischer Interdependenzen zu beschreiben, die, konsequent zu Ende gedacht, ähnliche Folgen für die „epistem-onto-logische“ Neukonzeption des Menschseins hat, wie die von Kubes und Reinhardt (2019) vorgestellte Relational Ontology of Multi-Species Assemblages (ROMA).^[3] Als Sozialwissenschaftler:in betrachtet man das mit einem weinenden und einem lachenden Auge. So bedauerlich es sein mag, dass der vertraute Diskurs praktisch vollständig ignoriert wird, so erfreulich ist es, die Validität der eigenen Position auf gänzlich unerwarteten Wegen bestätigt zu sehen. Co-Evolution führt nachhaltig vor Augen, dass die Rede von der ontologischen Verschiebung unserer Auffassung davon, was es heißt, Mensch zu sein, nicht nur die sophistische Spielerei einiger Bewohner:innen eines posthumanistischen Elfenbeinturms ist. Sie hat handfeste Ursachen. Und sie stellt eine reale Herausforderung dar. Lees kleiner Band liefert uns wichtiges Rüstzeug, um uns ihr zu stellen.