It’s the objectives, stupid!

Maximilian Kasy:
The Means of Prediction. How AI Really Works (and Who Benefits)
USA
Chicago 2025: The University of Chicago Press
224 S., 25 USD
ISBN 9780226839530

Vor genau fünfzig Jahren, 1976, hat der Informatiker Joseph Weizenbaum kritisch reflektiert, welche Zielsetzungen und Aufgaben der Automatisierung übergeben werden sollten.^[1] Er warnte davor, Entscheidungen und Verantwortungen der Automatisierung durch Algorithmen zu überlassen, die etwa Empathie und menschliches Urteilsvermögen voraussetzten. Ein halbes Jahrhundert später hat sich digitale Technologie nicht nur weit verbreitet, auch ihre Funktionsweise und Bedingungen haben sich radikal verändert: Wo früher einzelne, isolierte Rechner genutzt wurden, existieren heute globale, vernetzte Plattformen; und künstliche Intelligenz (KI) meint meist nicht regelbasierte Expertensysteme, sondern vornehmlich sub-symbolisches Machine Learning: statistische Mustererkennungs- und Verarbeitungsmaschinen. Geblieben sind die Fragen danach, wie Technologie und deren Zielsetzung miteinander verknüpft sind: Wer kontrolliert diese digitalen Systeme? Zu wessen Nutzen werden sie eingesetzt? Und welche Entscheidungen sollten Menschen vorbehalten bleiben? In seinem jüngsten Buch The Means of Prediction versucht Maximilian Kasy, Professor für Ökonomie an der University of Oxford und Koordinator der dortigen Machine Learning and Economics Group, diese Fragen zu beantworten. Wenngleich Weizenbaum in der Publikation unerwähnt bleibt, suggeriert der Titel mit der Referenz auf Karl Marx‘ Begriff der Produktionsmittel eine kritische Analyse der politischen Ökonomie der Gegenwart oder wie es der Verlag selbst bewirbt: „An eye-opening examination of how power – not technology – will define life with AI“.^[2]

Eine derartige Analyse erscheint auch dringend geboten, denn Stichworte wie Künstliche Intelligenz oder Machine Learning lösen bei politisch wie wirtschaftlich Verantwortlichen gegenwärtig eine regelrechte FOMO aus, eine fear of missing out, die das politische Handeln prägt. Dabei wird die Befürchtung geäußert, dass eine unzureichende Anpassung der gesellschaftlichen Organisation an KI dramatische Folgen hätte und man in der Zukunft „[t]he Cost of Being Late to Technological Progress” zu zahlen habe.^[3] Und tatsächlich schreitet die Proliferation von KI-Anwendungen nicht nur in der alltäglichen Erfahrung rasant voran, auch auf der Policy-Ebene und in politischen Strategien findet KI als Diskursobjekt Eingang. Das Ziel, im KI-Wettrüsten einen Platz an der Spitze zu belegen, gehört mittlerweile zum Standardrepertoire politischer Rhetorik, auch unter Preisgabe bisheriger Positionen und rechtlicher Schutzgüter. Auf Ebene der EU zeigt sich dies etwa an dem Vorschlag, pseudonymisierte Daten aus dem Anwendungsbereich der DSGVO auszunehmen, um mehr Trainingsdaten für KI-Modelle verfügbar zu machen; oder die Entscheidung, bereits im Einsatz befindliche Hochrisiko-KI-Systeme, etwa Kredit-Scoring-Algorithmen, bis Ende 2027 beziehungsweise 2028 von Compliance-Pflichten freizustellen. In beiden Fällen handelt es sich um Maßnahmen, bei denen Wettbewerbsangst etablierte Schutzstandards verdrängt.^[4] Wer durch welche Verfahren gesellschaftliche oder politische Routinen automatisiert und digitalisiert, ist zu einer Frage von demokratischer Selbstbestimmung avanciert.

The Means of Prediction verfolgt ausdrücklich das Ziel, Aufklärungsarbeit hinsichtlich KI, ihrer Profiteur:innen und Absichten zu leisten. Seine Überlegungen entfaltet der Autor in drei Abschnitten: Zunächst diskutiert Kasy Bedeutung und Funktionsweise von KI, der zweite Abschnitt (S. 69 ff.) setzt sich mit ihren politischen und sozialen Implikationen auseinander, während der dritte Abschnitt (S. 119 ff.) sodann die Möglichkeiten diskutiert, den Einsatz von KI zu regulieren und langfristig zu kontrollieren. Kasy überzeugt dabei insbesondere durch seine klare Sprache und Leser:innenführung, die technologische, ökonomische und politische Zusammenhänge auch jenen Personen verständlich macht, die mit der Materie nicht vertraut sind. Zudem wirft Kasy die richtigen Fragen auf, weshalb sich an seiner Argumentation die gegenwärtigen Debatten über Machtverhältnisse im Kontext von KI sortieren und schärfen lassen – aber auch ihre Sackgassen deutlich werden.

Rationale Agenten und ihre Ziele

Bezüglich der Debatten zu KI ist man zuweilen an die Zeit Marie Curies erinnert: Nachdem sie das Element Radium entdeckt hatte, kam es zu einem globalen Hype um das hochradioaktive Metall. Weltweit entstanden Radiumfabriken, in Nachtclubs traten mit Radiumfarbe bemalte Tänzer:innen auf und Konsumprodukten wie Schokolade wurde die angeblich gesundheitsfördernde Substanz beigemengt. Selbst Sportler:innen empfahl man die tägliche Flasche Radiumwasser zur Energetisierung (zumindest, bis die ersten qualvoll an Kieferkrebs starben).^[5] Mit funktionalen Aspekten hatte die Radium-Euphorie wenig zu tun, dafür aber mit Zuschreibungen und Erwartungen – ähnlich dem gegenwärtigen KI-Trend. Auch Künstliche Intelligenz wird als unvermeidliche und radikal disruptive Macht beschworen, als „Superintelligenz“, vor der der Mensch entweder, mit Günther Anders gesprochen, zum „Hofzwerg seines eigenen Maschinenparks“ verkümmert oder als kluger Investor im KI-Wettrüsten selbst zur dominanten Kraft aufsteigt.^[6] Ob Nemesis oder Messias, beide Erzählfiguren lenken nach Kasy von der eigentlichen Frage ab, mit der sich die Gesellschaft auseinandersetzen sollte: Mit welchem Ziel und in welchem Interesse werden KI-Verfahren eigentlich eingesetzt?

Nach Kasy operiert KI im Modus der Vorhersage (prediction), also in der Analyse großer Datensätze, mittels derer Algorithmen unbekannte Outcomes Y aus bekannten Features X inferieren. Einmal trainiert, lassen sich diese Algorithmen in den unterschiedlichsten Bereichen einsetzen: von digitaler Werbung über die Vorhersage persönlicher Ereignisse wie Kreditausfälle bis hin zur Zielberechnung in der semi-autonomen Kriegsführung. Um KI zu konzeptualisieren, bedient sich Kasy trotz des kritisch formulierten Erkenntnisinteresses weder der Perspektive der Critical AI Studies noch der politischen Ökonomie, sondern nähert sich KI aus einer funktionalen Perspektive. Er sieht KI in der Funktion beschrieben, rationale Agent:innen zu konstruieren:

„A rational agent chooses actions with the objective of maximizing some notion of a measurable reward [...] or minimizing some notion of a measurable loss. AI algorithms thus solve decision problems.“ (S. 23)

Diese Definition entspricht dem einflussreichen Rational-Agent-Framework, das etwa Stuart Russell und Peter Norvig in ihrem Standardlehrbuch Artificial Intelligence: A Modern Approach kanonisch formuliert haben und das bis heute die akademische Ausbildung im Bereich der KI maßgeblich beeinflusst.^[7] Hinsichtlich Zweckrationalität, Nutzenmaximierung und Präferenzaggregation überschneiden sich zudem die rationalitätstheoretischen Prämissen der neoklassischen Ökonomie mit der Modellierung von KI. Und indem Kasy KI als rationale, Entscheidungsprobleme lösende Agentin begreift, kann er an die theoretischen Debatten der Ökonomie anknüpfen.

Aus dieser funktionalen Beschreibung von KI leitet der Autor nun eine zentrale Pointe ab: Im Prinzip sei es nämlich unerheblich, wie die Technologie im Detail operiere, denn letztlich gelangten alle KI-Verfahren zu einem ähnlichen Ergebnis. Dies aber habe eine Verschiebung des Konflikts um KI zur Folge:

„The general point here is that public debate should focus on the objective of the prediction problem [...]. What algorithm is then used for prediction, to pursue this objective, is secondary.” (S. 35)

Von Belang sind also weniger die konkrete Anwendung und ihre Funktionsweise, sondern die gesellschaftliche Aushandlung der mit KI verfolgten Zielsetzung: „The real conflict is not between a human and a machine but between the different members of society.” (S. 5) Die Argumentation thematisiert, indem sie „the choice of objectives“ (S. IX, 33–35) in den Fokus nimmt, eine politische Dimension von KI: Was wird mit dem Einsatz von KI bezweckt, in wessen Interesse werden Entscheidungen darüber getroffen und gesellschaftliche Verhältnisse geprägt?

Wird KI etwa zur Vorhersage von Konsuminteressen und der effizienten Vergabe von Werbeflächen auf einer Plattform eingesetzt, dürfte das Ziel in der Steigerung von Werbeeinnahmen liegen. Die Relevanz der machtvollen Interessen und der entscheidenden Akteur:innen bezüglich der Verwendung von KI ist aber auch für weniger alltägliche Fälle einschlägig, wie etwa im Fall des Chatbots Grok auf der Plattform X. Nach seiner Konfiguration für die Bildbearbeitung und -generierung im Dezember 2025 wurde im Januar 2026 bekannt, dass X-Nutzer:innen Grok verwenden, um sogenannte Deepfakes zu erzeugen. Sie erstellten sexualisierte Versionen geposteter Inhalte, etwa indem sie Frauen und Minderjährige auf geteilten Fotos entkleideten. Für die Guardian-Kolumnistin Moira Donegan ist die Intention hinter dieser Funktion eindeutig: „Many of these changes have been geared [by Elon Musk] to make the bot more amenable to producing pornography.”^[8] Dass Grok als Deepfake-Porn-Maschine eingesetzt werden konnte, erklärt sich daher nicht allein aus den technologischen Möglichkeiten, sondern auch aus konkreten Unternehmensentscheidungen: xAI hatte Grok von Anfang an mit deutlich weniger Sicherheitsbeschränkungen ausgestattet als dies bei Konkurrenzprodukten der Fall ist – eine Entscheidung, die Musks erklärtem Ziel entspricht, KI von dem zu befreien, was er als ideologische Überregulierung oder „Wokeness“ betrachtet.

Die Prädiktionsmittel

Wenn aber nun weniger die technischen Eigenschaften von Interesse sind, sondern die Ziele und Interessen der handelnden Akteur:innen hinter der Technologie, verlagert sich der Fokus auf Ökonomie und Machtverhältnisse. Kasys Anliegen kann insofern als Variation der kritischen Intervention der KI-Forscherin Kate Crawford gelesen werden, die ebenfalls fragte “what is being optimized, and for whom, and who gets to decide”.^[9] Gegen die abstrakte Vorstellung von KI als rationaler Akteurin hatte Crawford eine grundlegend andere Perspektive gesetzt: KI ist weder neutral noch körperlos, sondern Archiv und Instituierung gesellschaftlicher Machtverhältnisse, die in einer Kartografie der Herrschaft sichtbar gemacht werden kann. Crawfords Atlas of AI lässt die systematische Industrie der Ausbeutung von materiellen Ressourcen, menschlicher Arbeitskraft, Daten oder Expertise ebenso greifbar werden wie die durch sie reproduzierten soziopolitischen Herrschaftsverhältnisse.

In diesem Sinne argumentiert auch Kasy: Die Problematik sollte weniger als Kampf Mensch gegen Maschine verstanden werden; man solle sich vielmehr den Konflikten zwischen den Menschen zuwenden, in deren Verhältnissen sich die Macht über die Gestaltung gesellschaftlicher Verhältnisse durch KI begründet. Denn wer über die nötigen Mittel verfügt, kann entsprechend wirkmächtig auf die Zielsetzung der Technologie Einfluss nehmen. Der Autor knüpft hier zudem explizit in Intention und Begrifflichkeit an die Marxsche Diagnose der ursprünglichen Akkumulation und ihrer extrahierenden Logik an. Den von Marx identifizierten Prozess der Trennung der Menschen von ihren Produktionsmitteln (means of production) sieht Kasy im Fall von KI in der Verwertung von gesellschaftlich erzeugten Ressourcen – wie beispielsweise Daten – als private Prädiktionsmittel (means of prediction) aktualisiert.

Wo Crawfords Atlas of AI die Landschaft der Ausbeutung durch KI kartiert und damit unterschiedliche Ansatzpunkte einer Analyse eröffnet, will Kasy explizit einen bestimmten Zusammenhang herausstellen: nämlich wie sich Mittel in Macht übersetzen. Wie ergibt sich aus der Kontrolle der Produktionsmittel der Vorhersage beziehungsweise der Prädikationsmittel (means of prediction) die Verfügung über die Zwecksetzung, die Mittelverwendung (objectives)? Was Kasy als Untersuchung ökonomischer und politischer Zusammenhänge präsentiert, erweist sich dazu jedoch als nur bedingt produktive Taxonomie. Denn The Means of Prediction inventarisiert und beschreibt die einzelnen Prädikationsmittel – Daten, computergestützte Infrastruktur, Expertise sowie Energie (S. 83) – als Ressourcen, ohne jedoch analytisch einen systemischen Zusammenhang zwischen ihnen herzustellen.

Hier hätte es einer stärkeren theoretischen Unterfütterung sowie verbindenden Analyse bedurft, wie sie etwa Nick Srnicek in Silicon Empires vorlegt. Srnicek analysiert in diesem Buch die vertikalen Konturen eines Generative-AI-Stacks, also die Verteilung jener Ressourcen, die für generative KI benötigt werden.^[10] Silicon Empires beleuchtet die ökonomischen und technischen Zusammenhänge entlang der vier Ebenen Hardware, Infrastruktur, Modelle und Anwendungen. Indem diese Ebenen miteinander in Verbindung gesetzt und ihre Dynamiken beleuchtet werden, lassen sich strukturelle Abhängigkeiten herausarbeiten: Wer etwa die Hardware kontrolliert (Nvidia-Chips), hat Macht über die Infrastruktur (Cloud-Computing); wer die Infrastruktur besitzt (Microsoft, Google, Amazon), kontrolliert, welche Modelle trainiert werden; und wer die Modelle entwickelt, hat wiederum Einfluss darauf, welche Anwendungen überhaupt realisierbar sind. Srnicek verdeutlicht, welche Faktoren mit welchen konkreten Konstellationen in Verbindung stehen, welche Strategien unterschiedliche Akteur:innen verfolgen und welche Implikationen sich daraus für die Machtverhältnisse in der KI-Ökonomie ergeben. Was bei Kasy untergeht, wird bei Srnicek deutlicher: dass Prädiktionsmittel nicht unabhängig voneinander existieren und in welchen Macht generierenden und konzentrierenden Zusammenhängen sie konkret zueinander stehen.

Der stumme Zwang technologischer Verhältnisse

Neben der Verfügung über die Prädiktionsmittel ist für die Analyse der Zielsetzung von KI auch relevant, wie KI verstanden wird, wie wir über sie reden und ihre gesellschaftliche Einbettung legitimieren. Kasy betont, dass die oft wiederholte Erzählung von Mensch vs. Maschine falsch gewählt sei: KI und ihre sozialen sowie politischen Implikationen seien keine Naturgewalt, sondern das Ergebnis menschlicher Praxis und Entscheidungen: „Technology is not fate.“ (S. 5). Dass KI nicht zwangsläufig zur Verbesserung gesellschaftlicher Verhältnisse beiträgt, liege selten an ihrer unzureichenden Programmierung und Optimierung. Vielmehr sei von Bedeutung, „that the objective optimized by the algorithm is good for the people who control the means of prediction […] but not good for the rest of society” (S. 7).

Folgt man der politischen Philosophin Amy Wendling, lässt sich beim Narrativ Mensch gegen Maschine von einem „Maschinenfetischismus“ sprechen.^[11] Analog zum Warenfetisch, bei dem der Wert einer Ware als deren natürliche Eigenschaft erscheint, werden Maschinen menschliche Eigenschaften zugeschrieben. Technologische Geräte erscheinen so nicht nur als quasi-magische Ursachen für Effizienz (oder negativ gewendet als Bedrohung), sondern es werden auch die gesellschaftlichen (Produktions-)Verhältnisse, die diese Maschinen erst ermöglichen, verschleiert. Im Fall von KI geht dies so weit, dass Adrian Daub zufolge faktische Beschreibung und Hype nicht mehr voneinander zu trennen sind, was beispielsweise an den beständigen Untergangsszenarien von OpenAI-CEO Sam Altman zu erkennen ist: „Tatsächlich sind die Warnung vor der Technologie und die Werbung für sie ununterscheidbar geworden.“^[12] Hier verschieben sich Macht- und Herrschaftsverhältnisse, weil Problemlösefähigkeit vorrangig jenen zugestanden wird, die über entsprechendes technologisches Wissen verfügen, also etwa Elon Musk oder Sam Altman; Bürger:innen und demokratische Institutionen bleiben außen vor. Der Internet-Theoretiker Evgeny Morozov prägte dafür den Begriff des Solutionismus: Komplexe soziale Probleme werden zu technologischen Problemen umdefiniert, die vorrangig mit technologischen Mitteln wie Apps, Algorithmen oder KI-Optimierungen zu bearbeiten sind.^[13] Exakt darin liegt nach Kasy ein problematisches ideologisches Moment, da der Glaube an technologische Lösungen für gesellschaftliche Probleme den eigentlichen Konflikt zwischen allgemeinen und partikularen Interessen unsichtbar macht (S. 7).

Kasy sieht daher nur wenig Potenzial darin, die Probleme der Prädiktionsmittelkontrolle und der Naturalisierung von Technologie mit und durch Big Tech zu lösen. Vielmehr seien alternative „Agents of Change“ wie Gewerkschaften, Konsument:innen, die öffentliche Meinung oder der Staat notwendig, um einen Wandel der Machtasymmetrien im Fall von KI herbeizuführen (S. 97). Diese Akteur:innen bleiben analytisch jedoch zu abstrakt und das postulierte Potenzial ihrer Gegenmacht leidet unter einem handlungstheoretischen Voluntarismus: Kasy wechselt schlicht die Ebene der Akteur:innen, ohne zu erklären, warum Gewerkschaften, Konsument:innen oder der Staat jene strukturellen Bedingungen überwinden könnten, die Big Tech erst in seine hegemoniale Position gebracht haben. Dass kollektives Handeln unter plattformökonomischen Bedingungen strukturell erschwert ist, dass Konsument:innen durch Netzwerkeffekte und Lock-in-Strukturen gebunden sind und der Staat selbst in die zu regulierenden Machtverhältnisse eingebettet ist – alle diese Aspekte reflektiert Kasy nicht ausreichend.

Erschwerend kommt für die ideologische Problematik hinzu, dass der stumme Zwang technologischer Verhältnisse die Bedingungen setzt, unter denen Handlungsoptionen den Agents of Change überhaupt erst möglich erscheinen und wofür in einer politischen Öffentlichkeit mobilisiert werden kann. Die Strategie kann eben nicht einfach darin bestehen, „[to] instead develop alternative storys“ (S. 116). Zwar setzt Gegenmachtbildung erfolgreichen Meinungskampf und Gegenerzählungen voraus. Aber Gegenerzählungen zur KI sind keine Frage der rationalen Entscheidung für ein besseres Narrativ, sondern der kritische Aufklärungsversuch in ideologischen Zusammenhängen, die rationale Entscheidungen unterminieren. Der stumme Zwang reproduziert sich als quasi natürliche Notwendigkeit, weil er gerade nicht als Herrschaft erscheint, sondern als simple Realität.^[14]

Dass nicht alle Narrative über KI gleiche Ausgangsbedingungen haben, sondern unter sehr unterschiedlichen Machtverhältnissen operieren, hat jüngst auch Rainer Mühlhoff gezeigt. In Künstliche Intelligenz und der neue Faschismus verweist er auf libertäre Weltanschauungen wie Techno-Optimismus oder Longtermismus, die die Förderung technologischer Entwicklung und die langfristige Zukunft der Menschheit moralisch priorisieren.^[15] Diese Tech-Ideologien vieler KI-Entwickler:innen und Unternehmer:innen schirmen nicht nur die ökonomischen Grundlagen der Big-Tech-Unternehmen von Kritik oder Regulierung ab, sondern beruhen im Kern auf antidemokratischen Prämissen. Darüber hinaus handelt es sich bei dieser Gruppe nicht länger um Randerscheinungen, sondern um zentrale Akteur:innen im politisch-technologischen Komplex. Ihre politische Wirksamkeit reicht von den Heilsversprechen eines deregulierten, finanziell mittels DOGE-Säuberungen verschlankten Staates bis hin zur technologischen Unterstützung der repressiven und menschenfeindlichen US-Vollzugsbehörde ICE. Der Staat und seine Regulierungsbehörden mögen aus einer sozial-liberalen Perspektive als Agents of Change infrage kommen. Angesichts der gegenwärtigen politischen Lage, in der technologische Regulierung weitestgehend zum Stillstand kommt (oder zurückgenommen wird) und sich der politische Wille stattdessen auf ein nationalökonomisches, technologisches Wettrüsten richtet, verkennt diese Deutung die realen Machtverhältnisse. Die Frage ist nicht, ob der Staat regulieren könnte, sondern, ob dort auf absehbare Zeit der politische Wille zur Durchsetzung einer solchen Politik vorhanden ist.

Ökonomie der Politik statt politischer Ökonomie

Wie also sollte angesichts der ökonomischen und ideologischen Machtverhältnisse mit KI umgegangen werden? Kasy sieht die Lösung in der Demokratisierung der KI-Ökonomie. Nur durch demokratische Kontrolle könne KI dem Allgemeinwohl zugutekommen, statt partikulare Profitinteressen zu bedienen (S. 7, 135). Dafür müsse zunächst geklärt werden, wann technologische Verfahren und Lösungen überhaupt von der Allgemeinheit als sinnvoll und wünschenswert erachtet werden. Denn, und darin stimmt Kasy mit Weizenbaum überein, nicht jede Form der Nutzung von Computern und Künstlicher Intelligenz ist vernünftig, zielführend und legitim.

„Computers can flip coins in much more sophisticated ways than can the most patient human being. The point is that they ought not be given such tasks. They may even be able to arrive at ‚correct’ decisions in some cases – but always and necessarily on bases no human being should be willing to accept.”^[16]

Es gibt schlichtweg mittels Anwendungen Künstlicher Intelligenz verfolgte Ziele, die nur Einzelnen nutzen, nicht aber der Bevölkerung. Und es gibt Anwendungsbereiche – man denke etwa an Psychotherapie, Rechtsprechung, zwischenmenschliche Beziehungen –, deren Komplexität und normative Qualität KI-Technologien nicht gerecht werden können, die Fingerspitzengefühl erfordern statt Automatisierung entsprechend festgelegter Algorithmen. So argumentiert auch die Mathematikerin Paola Lopez, der zufolge der Einsatz von KI nicht zuletzt aufgrund ihrer operativen Form an Grenzen stößt. Ähnlich wie eine Raspel zur Bearbeitung von Holz geeignet ist, nicht aber für Glas, verhält es sich „mit mathematischen Werkzeugen: Sie haben in [sich] angelegte mathematische Charakteristika. Manche Dinge werden durch diese Charakteristika, sozusagen durch die ‚mathematische Materialität‘, ermöglicht und manche nicht.”^[17]

Darüber hinaus müssten auch die legitimen Einsatzfelder hinsichtlich ihrer Ziele anders organisiert werden. Kasy beruft sich dahingehend zwar wiederholt und affirmativ auf die Notwendigkeit demokratischer Verfahren, durch die die Zielsetzungen von KI offen, macht- und pluralismussensibel vermittelt werden. Faktisch jedoch wechselt die Argumentation an zentralen Stellen zu einer anderen Figur: Der offene demokratische Prozess wird durch das Konzept der Social Welfare ersetzt, deren Verfahren jene der ökonomischen Berechnung sind und die das Ziel einer bereits ökonomisch bestimmten ‚guten Gesellschaft' stillschweigend voraussetzen. Es geht also weniger um das politische Verfahren demokratischer Zielbestimmung, sondern darum, den Technologieeinsatz hinsichtlich des Zustandekommens des Wohlergehens der Menschen berechenbar zu machen. Heißt es beispielsweise zunächst noch: „the most important question for AI must be: ‚Who gets to pick the objective?‘”, wird nur einen Satz später ebendiese Frage nach Akteur:innen durch das Idealziel ersetzt: „what makes a good society and how to get there” (S. 13). Mit dieser Verschiebung geht es nicht mehr darum, „to align algorithm objectives with democratically determined social objectives” (S. 119), weil das Ziel gerade nicht mehr im demokratischen Prozess bestimmt wird, sondern extern gegeben ist.

Diese Differenzierung ist aus unserer Sicht nun aber kein Ausdruck argumentativer Unschärfe, sondern eine programmatische Entscheidung. Die ökonomisierte Politik substituiert die politische Ökonomie, und wer eine Analyse der gesellschaftlichen Herrschafts- oder Produktionsverhältnisse erwartet haben mag, bekommt Social Welfare Functions präsentiert. Der Horizont der KI-Kritik verschiebt sich damit gewissermaßen von Marx zu Rawls: Denn wo die politische Ökonomie Herrschaft analysiert, optimiert die ökonomisierte Politik Verteilung. Dieser Fokus auf die Maximierung sozialer Wohlfahrt mag etwa den Vorteil haben, dass Schwellenwerte und Zielvorstellungen berechenbar werden. Damit geraten aber gerade Machtverhältnisse und demokratische Legitimitätskonflikte als Bedingungen von Verteilungsfragen aus dem Blick. Wer definiert, was als Wohlfahrt gilt, wessen Präferenzen stärker gewichtet werden und welche Trade-offs legitim sind? All diese Elemente bleiben unsichtbar oder werden als technische Details behandelt. Der Fokus auf demokratische Kontrolle erkennt die Regulierung von KI dagegen explizit als politischen Konflikt an: Unterschiedliche Gruppen haben unterschiedliche Interessen, und es existiert keine neutrale, optimale Lösung. Politische Aushandlungsprozesse mögen ineffizient erscheinen und grundsätzlich bleibt offen, ob und wie demokratische Verfahren die Kontrolle über komplexe Technologien ausüben können. Ihr entscheidender Vorteil liegt jedoch darin, dass – gerade angesichts des Versprechens des Buches – Machtverhältnisse explizit gemacht werden: Wer profitiert, wer verliert, wer entscheidet? All dies wird zum Gegenstand öffentlicher Debatten und demokratischer Legitimation, statt in vermeintlich objektiven Zielfunktionen zu verschwinden.

Fazit

Kasys Zurückhaltung in der Benennung konkreter Machtverhältnisse kommt auch in den letzten Kapiteln zu Regulierungsfragen wieder zum Ausdruck. Die ausgewählten Problemstellungen beinhalten für sich genommen interessante Fallbeispiele und erhellende Überlegungen zur Regulierungsproblematik von KI, etwa hinsichtlich der Grenzen des individualrechtlichen Datenschutzes, zur Bestimmung von Fairness oder der Bedeutung von Erklärbarkeit der Berechnung. Unklar bleibt aber, wie diese Aspekte mit der Kernthese des Buches – sei es hinsichtlich demokratischer Kontrolle von KI oder bezüglich der Maximierung sozialer Wohlfahrt – argumentativ in Verbindung stehen. Auch der Schluss, der sich explizit dem Entwurf demokratischer Kontrollmöglichkeiten durch „Open Democracy“ oder „Liquid Democracy” zuwendet (S. 198 f.), bleibt leider zu schematisch. Er ist zu allgemein, weil nicht verständlich wird, wie diese Konzepte die Problemstellungen bezüglich Daten, Infrastrukturen oder KI-Technologien konkret adressieren würden – weil sie bereits voraussetzen, was sie eigentlich herbeiführen sollen: eine ‚redistribution of power' (S. 201). Denn wie soll die Demokratisierung von KI gelingen, wenn die Verfügungsgewalt bei Tech-Oligopolen liegt, regulatorische Kapazitäten fehlen und politische Mehrheiten für Deregulierung votieren? Genau richtig ist der Schluss jedoch insofern, als er offenlegt, dass es sich bei KI weniger um technologische Funktions- als um gesellschaftliche Machtfragen handelt.

Insgesamt bietet die Lektüre von The Means of Prediction eine gelungene Einführung in die technologische Modellierung von KI. Sie verdeutlicht zudem, dass nicht technologische Verfahren und Eigenschaften, sondern politische Entscheidungen, Zielsetzungen und Machtverhältnisse in der Reorganisation gesellschaftlicher Verhältnisse in den Fokus der Betrachtung gehören. Dieser Ort der Macht jedoch, an dem die Prädiktionsmittel überhaupt erst in ihrer Dominanz greifbar werden – nämlich im Konflikt widerstreitender Interessen um die Kontrolle darüber, wie und wozu KI eingesetzt wird, die „examination of how power will define life with AI” – gerät in der Perspektive einer Widersprüche glättenden welfare economics nicht mehr hinreichend in den Blick. Was als Kritik der Prädiktionsmittel ansetzt, tendiert dazu, im Optimierungsdenken derselben Rationalität aufzugehen, deren gesellschaftliche Funktion erst noch zu befragen wäre.