Tanja Kubes | Rezension |

Maschinen wie wir

Rezension zu „Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co“ von Catrin Misselhorn

Catrin Misselhorn:
Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co
Deutschland
Ditzingen 2021: Reclam
150 S., 5,49 EUR
ISBN 978-3-15-961840-1

In seinem dystopischen Roman Klara und die Sonne zeigt der Literaturnobelpreisträger Kazuo Ishiguro aus der Perspektive des Robotermädchens Klara einige der Probleme auf, die sich ergeben, wenn Maschinen dazu konstruiert werden, emotionale Beziehungen mit Menschen aufzubauen. Obgleich der Gynoid als Ich-Erzähler über die gesamte Buchlänge hinweg eindeutig als Roboter erkennbar bleibt, erscheint er in seinem Handeln und Denken am Ende fast menschlicher als seine Gegenüber aus Fleisch und Blut. Ishiguro konfrontiert sein Publikum so nicht einfach nur mit der Frage, welche sozialen und moralischen Herausforderungen entstehen, wenn künstliche Entitäten empathisch agieren und lieben, sondern er fragt nach dem ontologischen Fundament des Menschseins – eine Frage, die aufgrund fortschreitender technischer Entwicklungen inzwischen auch jenseits der Romanwelt hochbrisant ist.

Um die Interaktion zwischen Menschen und Robotern beziehungsweise maschinellen Assistenzsystemen zu verbessern, wird künstliche Intelligenz (KI) in jüngster Zeit zunehmend durch emotionale künstliche Intelligenz (oder artifizielle Empathie) ergänzt. Die sich damit beschäftigende, relativ neue Disziplin des affective computing will künstliche Systeme in die Lage versetzen, menschliche Gefühle nicht nur zu erkennen, sondern auch angemessen darauf zu reagieren. Aus der Kombination von gesichtsbasierter Emotionserkennung, biometrischen Verfahren, Stimm- und Sentimentanalyse erwachsen vielfältige Einsatzmöglichkeiten für emotionale KI, die nahezu alle Lebensbereiche durchdringen. Arbeitsmarkt-, Werbe-, Finanz-, Versicherungs-, Medien- und Gesundheitssektor interessieren sich genauso für Entwicklungen auf diesem Gebiet wie Politik, Polizei, Militär und Sexindustrie.

Die Übertragung bis dato als exklusiv menschlich gedachter Eigenschaften wie Einfühlungsvermögen oder Emotionalität auf intelligente technische Systeme stellt einen radikalen Schritt in der Technikentwicklung dar und wirft eine Reihe grundsätzlicher Fragen auf: Wie werden künstliche Systeme auf menschliche Gefühle trainiert, und nach welchen Prinzipien werden Emotionen verarbeitet? Was bedeutet der Einsatz von artifizieller Empathie für unsere Gesellschaft im Allgemeinen und für uns als Individuen im Speziellen? Welche Potenziale, Gefahren und ethischen Herausforderungen stecken in diesen neuen Technologien? Und können Maschinen mit implementierter emotionaler künstlicher Intelligenz tatsächlich ‚echte‘ Empathie entwickeln?

Diesen und weiteren wichtigen Fragen hat sich die Expertin für Maschinenethik und Professorin für Wissenschaftstheorie und Technikphilosophie Catrin Misselhorn in ihrem Buch Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co angenommen. Anhand aktueller Beispiele aus der KI, der Sozial- und Biorobotik erklärt sie in verständlicher Weise die technischen Herausforderungen, die mit emotionaler künstlicher Intelligenz einhergehen. Sie zeigt aktuelle und zukünftige Anwendungsbereiche auf und analysiert den Einsatz mit dem notwendigen kritischen Blick. Auch wenn dies als ein ambitioniertes Vorhaben für das kompakte Format der Reclam Reihe erscheinen mag, gelingt ihr die Umsetzung auf knapp 150 kurzweiligen Seiten geschickt.

Das Buch gliedert sich in sieben übersichtlich strukturierte Kapitel. Die Autorin beginnt mit einer Einführung in die Grundbegriffe der emotionalen künstlichen Intelligenz, geht auf die historische Entwicklung von emotionaler KI ein und arbeitet die fundamentalen Unterschiede zwischen menschlicher und artifizieller Empathie heraus. Neben den drei genuin menschlichen Merkmalen Kongruenz (also der Übereinstimmung affektiver Zustände), Asymmetrie (beziehungsweise der unterschiedlichen Angemessenheit der jeweiligen Gefühle bei der fühlenden Person und der, die empathisch reagiert) und Fremdbewusstsein (dem Bewusstsein dafür, dass das empathisch empfundene Gefühl eigentlich das Gefühl einer anderen Person ist) nennt Misselhorn hier vor allem die Tatsache, dass menschliche Empathie empfunden wird, künstliche hingegen lediglich simuliert. Anschließend erläutert sie anhand verschiedener Emotionstheorien, was unter Emotionen und artifizieller Empathie zu verstehen ist. Am Beispiel des empathischen Altenpflegeroboters NICA und der psychotherapeutischen virtuellen Assistentin Ellie zeigt sie beispielhaft, wie technische Systeme auch ohne Kongruenz, Asymmetrie und Fremdbewusstsein basale Emotionen erkennen und ihrerseits Emotionen simulieren können. Tatsächlich scheint es, dass Menschen künstlichen Gegenübern unter bestimmten Bedingungen sogar mehr vertrauen als ihresgleichen. So zeigte etwa eine Studie mit aus Afghanistan zurückgekehrten Soldaten, dass diese im Gespräch mit Ellie erheblich offener über ihre Erfahrungen im Feld sprachen als mit menschlichen Psycholog*innen – und das, obwohl vorab deutlich kommuniziert wurde, dass die Gespräche später von Psycholog*innen ausgewertet würden. Offenbar werden also künstliche emotionale Systeme als empathische Gegenüber wahrgenommen, vermitteln aber zugleich ein Gefühl von Anonymität und moralischer Zurückhaltung.

Anhand von biohybriden Robotern, die aus organischen Materialien oder programmierbaren Organismen bestehen, wird dann ein Blick in Frankensteins Labor geworfen und gefragt, welche weitreichenden ethischen Konsequenzen es haben kann, ‚lebendige‘ Maschinen zu erschaffen. Weiter diskutiert Misselhorn, weshalb es aus moralischer Perspektive durchaus eine Rolle spielt, ob und wie Menschen empathisch auf Roboter und Assistenzsysteme reagieren, obwohl diese Systeme Empathie nur vortäuschen und wir ihnen diese Fähigkeit auch nicht immer zwangsläufig zuschreiben. Im letzten Kapitel thematisiert die Autorin am Beispiel von aktuellen Sexrobotermodellen, was es für uns als Individuen und Gesellschaft bedeutet, wenn mit emotionaler Intelligenz ausgestattete Roboter uns auch sexuell zu Diensten sind.

Misselhorn steht der allgemeinen Entwicklung bezüglich emotionaler künstlicher Intelligenz eher skeptisch gegenüber. Sie warnt eindringlich vor den Risiken, die sich ergeben, wenn neue Technologien dafür eingesetzt werden, in unsere Privat- und Intimsphäre einzudringen, Menschen zu lesen und zu manipulieren. Entscheidungen bezüglich folgenschwerer technologischer Entwicklungen wie der emotionalen KI, so fordert sie zu Recht, sollten deshalb nie allein den herstellenden Konzernen überlassen werden.

Eines der größten Probleme artifizieller Empathie sieht Misselhorn in ihrer starken Vereinfachung und Normierung menschlicher Emotionen. Sie kritisiert das vollständige Ausblenden kultureller und sozialer Konventionen sowie des konkreten Kontexts, in dem ein Emotionsausdruck hervorgebracht wird. Dies sei insofern problematisch, als datengetriebene Verfahrensweisen aufgrund der stufenweisen Abstraktion von Parametern eine hohe Anfälligkeit für Verzerrungen und Verkürzungen haben. Genderbias, Rassismus, Sexismus und andere Diskriminierungsformen können auf diese Weise reproduziert und verstärkt werden. Ein systematisches Gegensteuern unter Diversitätsaspekten ist für eine gerechtere KI deshalb aus Misselhorns Sicht unumgänglich.

Auch den Einsatz von Sexrobotern stellt sie als moralisch fragwürdig dar. Dabei ist es für die Schlüssigkeit und Relevanz ihrer Argumentation unerheblich, ob wir Robotern eigene moralische Ansprüche zugestehen oder nicht – oder ob es sich bei ihnen überhaupt um Sexroboter im engeren Sinne handelt und nicht womöglich doch eher um Sexpuppen, beziehungsweise ob es sie, anders als die seit Jahren durch die Literatur über Sexroboter geisternde Diskurschimäre der angeblichen Robotermodelle der Firma True Companion, überhaupt gibt. Analog zu Kants Ausführungen über die Grausamkeit gegenüber Tieren in seiner Metaphysik der Sitten argumentiert Misselhorn nämlich, dass unsere Handlungen immer auch auf uns zurückwirkten. Das ungefragte Benutzen humanoider Sexroboter könne entsprechend dazu beitragen, unser Mitgefühl gegenüber anderen Menschen abzustumpfen und unser Moralempfinden zu schwächen.

Jüngere Debatten aus den Science and Technology Studies (STS) und speziell dem Neuen Materialismus berücksichtigt Misselhorn in ihrer Argumentation nicht. Entsprechend sind weite Teile des Bandes von einem anthropozentrischen Mensch-Maschine-Dualismus durchzogen, und es wird auch kein Versuch unternommen, diesen Antagonismus aufzulösen oder artifizielle empathische Systeme mit Handlungsmacht im Sinne der Akteur-Netzwerk-Theorie (ANT) auszustatten. Aus Perspektive einer feministischen STS ist hingegen positiv anzumerken, dass die Autorin die in Technik eingeschriebenen kulturellen Binaritäten, Naturalisierungen, Diskriminierungs- und Ausschlussfaktoren immer wieder anhand konkreter Beispiele anschaulich diskutiert und hinterfragt.

Mit künstlicher Intelligenz haben die meisten von uns schon heute beinahe täglich zu tun – ob mit Chatbots, virtuellen Assistenten im Kundenservice oder mit Algorithmen, die uns individuell abgestimmte Produktempfehlungen geben – und auch die von Misselhorn identifizierten Entwicklungen im Bereich der artifiziellen emotionalen Intelligenz werden uns eher früher als später persönlich betreffen. Auf Bundes- und EU-Ebene werden aktuell entscheidende Weichenstellungen zum Umgang mit einer menschenzentrierten KI vorgenommen, etwa im Verordnungsentwurf zur Regulierung künstlicher Intelligenz der EU-Kommission vom April 2021 oder im Strategiepaper der Bundesregierung von 2018. Die große gesellschaftspolitische und soziotechnische Herausforderung besteht dabei darin, zugleich Regeln für einen angemessenen Umgang mit intelligenten Maschinen zu definieren, exkludierende Faktoren bei der Techniknutzung nach Möglichkeit zu eliminieren, dem Daten- und Machtmissbrauch entgegenzuwirken und letztendlich auch, unseren empathischen künstlichen Gegenübern einen angemessenen Platz in unserer Gesellschaft zuzugestehen. Nach der Lektüre von Misselhorns Buch steht die Leser*in den neuen Entwicklungen im Bereich emotionale KI mit einer gesunden Portion Skepsis gegenüber und fragt sich wie Ishiguro in Klara und die Sonne: Wie wollen wir mit intelligenten emotionalen Maschinen leben, und können wir sie eventuell auch lieben? Der Band ist daher hochaktuell. Er regt zum Nachdenken an und leistet einen ersten wichtigen Schritt zur Reflexion einer der Schlüsseltechnologien der KI-Forschung. Mit seinem kompakten Format sollte er in keiner Hosentasche fehlen.

Dieser Beitrag wurde redaktionell betreut von Jakob Borchers.

Kategorien: Affekte / Emotionen Daten / Datenverarbeitung Digitalisierung Gender Technik

Tanja Kubes

Dr. Tanja Kubes ist wissenschaftliche Mitarbeiterin am ZIFG der TU Berlin und forscht aus einer feministischen STS- und kritisch posthumanistischen Perspektive zu Sexrobotern. Sie hat an der Ludwig-Maximilians-Universität in München Soziologie, Ethnologie und Psychologie studiert und wurde mit der bei Transcript erschienenen Arbeit „Fieldwork on High Heels. Eine ethnographische Studie über Hostessen auf Automobilmessen“ promoviert. Seit 2012 ist sie Lehrbeauftragte an der LMU München. Neben den Schwerpunkten Gender-Studies und Mensch-Maschine-Interaktion befasst sie sich auch mit Körpersoziologie, Autoethnographie, Ethnologie der Sinne sowie Trans- und Posthumanismus. Sie ist Gutachterin für zahlreiche Fachzeitschriften und wissenschaftliche Stiftungen, Sprecherin der AG DIG*IT*AL der Fachgesellschaft Geschlechterstudien und Mitglied des Editorial Boards der Publikationsreihe LAGENda.

Alle Artikel

Empfehlungen

Niklas Stoll

Planwirtschaft 2.0

Rezension zu „Die unsichtbare Hand des Plans. Koordination und Kalkül im digitalen Kapitalismus“ von Timo Daum und Sabine Nuss (Hg.)

Artikel lesen

Valentin Groebner

Zeig Dich im Zauberspieglein

Rezension zu „Body-Bilder. Körperkultur, Digitalisierung und soziale Netzwerke“ von Jörg Scheller und „Gesichtserkennung. Vernetzte Bilder, körperlose Masken“ von Roland Meyer

Artikel lesen

Klara-Aylin Wenten

Prognostizierst du noch oder simulierst du schon?

Rezension zu „Die Echtzeitgesellschaft. Wie smarte Technik unser Leben steuert“ von Johannes Weyer

Artikel lesen