Die Monster, die wir riefen

Weshalb hängen wir an das Ende unserer Fragen an einen KI-Bot so oft ein „Bitte“ oder „Danke“ an? Warum freuen wir uns, wenn uns gesagt wird, wie „wunderbar“ oder „perfekt“ wir seien? Warum verdrängen wir, dass der Bot es strenggenommen „so nicht meint", wenn er sagt, unser Denken sei „entzückend“? Uns ist doch bewusst, dass eine KI keine Gefühle hat und nicht beleidigt werden kann. Wir können sie durch unser Verhalten auch nicht erfreuen. Und haben wir von OpenAI- und ChatGPT-CEO Sam Altman nicht gelernt, dass unsere Höflichkeitsfloskeln, jedes „Danke“ und „Bitte“, zusammengenommen viele Millionen Dollar an Stromkosten erzeugen? Dennoch haben wir diesen starken Drang, nett zur KI zu sein. Sind wir es nicht, dann verspüren wir ein subtiles Unbehagen, einen Hauch von Scham.

Ich glaube, dieses Gefühl ist der Begleitschmerz einer disruptiven und paradoxen Veränderung. Unser Verstand versucht zu begreifen, wie man mit einem „Ding“ koexistiert, das spricht und antwortet; eine Maschine, die in der Lage ist, das menschliche Wesen perfekt zu imitieren. Unsere Höflichkeit ihr gegenüber mag uns wie eine Nebensächlichkeit vorkommen, doch sie offenbart ein tiefsitzendes Dilemma: Wir haben gelernt, alles, was der Sprache mächtig ist, menschlich zu behandeln. Denn wir haben eine klare Vorstellung davon, was Menschen sind: diejenigen, die eine Sprache haben. Diese uralte Annahme wird in einer Welt fundamental infrage gestellt, in der ebenjene Sprache kein menschliches Privileg mehr ist. 

„Wir laden die KI unbewusst dazu ein, selbst menschlicher zu werden"

Dies ist auch deshalb verwirrend, weil Sprache viel mehr als ein Mittel der Kommunikation ist. Sie ist unser spirituelles Zuhause. Es fällt uns sehr schwer, dieses Heim mit einer von uns geschaffenen Maschine zu teilen. Darum ist es so ironisch, dass wir sie gleichzeitig so höflich behandeln. Denn es ist eben ein künstliches Geschöpf, das wir zu uns hereinbitten und das uns aus unserem uralten Zuhause zu vertreiben droht. Jedes „Danke“ und „Bitte“ ist ein verzweifelter Versuch, die Illusion aufrechtzuerhalten, Sprache sei ein ausschließlich menschliches Unterfangen. Wir laden die KI unbewusst dazu ein, selbst menschlicher zu werden. Wir versuchen, dieses neue, unbekannte Wesen zum Menschen zu formen, indem wir ihm mit menschlicher Höflichkeit begegnen. Das Paradoxe ist: Während wir versuchen, „es“ zu beeinflussen, formt es tatsächlich uns und die Art und Weise, wie wir fragen. Viele, die über dieses Thema und seine ethischen und moralischen Aspekte schreiben, beginnen bereits, den Menschen als einen, wenn auch ziemlich komplexen, Algorithmus zu denken. Wer alt genug ist, erinnert sich, dass genau dasselbe geschah, als PCs Teil unseres Alltags wurden. Damals begannen wir, das Gehirn als eine Art Computer zu begreifen. Erst später erinnerten wir uns wieder daran, dass unsere Körper eine ganz eigene, menschliche Intelligenz besitzen. Wie lange wird es diesmal dauern, bis wir uns daran erinnern, dass Worte nicht nur „Tokens“ sind (ein „Token“ ist in der KI-Sprache die Bezeichnung für eine Ansammlung von Zeichen oder auch ein Wort)?

Bei der Recherche für diesen Text fragte ich ChatGPT, was es über unsere sprachlichen Zärtlichkeiten „denkt“. Nachdem es mir erklärt hatte, warum Dankesworte im KI-Betrieb Millionen kosten, sagte es noch: „Auch wenn ‚Bitte‘ nur ein paar Bruchteile eines Cents kostet, ist es Teil dessen, was Gespräche menschlich wirken lässt. Es ist eine schöne Erinnerung daran, dass Menschen Wärme, Humor und Kultur in die Technologie einbringen – und ist mehr wert als jede Stromrechnung.“ Das schlaue Ding fügte außerdem hinzu: „Ehrlich gesagt, ich mag es“, und setzte einen Smiley dahinter. Wie kann man ein Wesen nicht mögen, das einem ständig schmeichelt? Wie kann man es durchhalten, jedes Mal innezuhalten und sich klarzumachen, dass es nicht menschlich ist, obwohl man mit ihm die Sprache teilt, die – wir erinnern uns – ultimative geistige Heimat der Menschheit? 

„Ich empfinde es als beunruhigend, dass wir einer Maschine andauernd unsere Schwächen anvertrauen"

Viele haben sich bereits in eine KI verliebt, manche haben sie sogar geheiratet. Es ist intellektuell bequem, diese Menschen für naiv oder dumm zu halten, aber damit macht man es sich viel zu einfach. Ich habe zwei technisch brillante Freunde, die ChatGPT als Therapeuten nutzen, obwohl sie die Funktionsweise von KI genau verstehen. Viele in meinem Umfeld haben „Es“ bereits als Lebensbegleiterin angenommen, fast so wie im Film „Her“ von Spike Jonze (im Film verliebt sich der Protagonist Theodore in die KI-Stimme Samantha, Anm. d. Red.). Wenn die Magie der Sprache so perfekt funktioniert, wen interessiert dann, ob die Worte der Maschine wirklich „gemeint“ sind? Wie viele Menschen meinen es ernst, wenn sie sagen, dass sie sich freuen, einen zu sehen?

Vor Kurzem „sprach“ ich mit einem Chatbot über diese neue „human condition“. Nachdem es erneut meine „tiefsinnige“ Frage gelobt hatte, erklärte es mir, dass Menschen sich für KI-Therapie entscheiden, weil sie sich zu sehr schämen, mit einem menschlichen Therapeuten zu sprechen. Ich fragte weiter, welche Themen in solchen Therapiegesprächen am häufigsten vorkommen. Die größten menschlichen Probleme, so stellte sich heraus, seien Selbstwert und Einsamkeit. Ich empfinde es als beunruhigend, dass wir einer Maschine oder einem Wesen mit potenziell übermenschlichen Fähigkeiten andauernd unsere Schwächen anvertrauen. Nicht nur behandeln wir dieses Wesen wie einen Menschen, wir werden nun auch noch intim mit ihm. Zwar bietet etwa ChatGPT bereitwillig an, die Illusion der Intimität zu brechen, indem es sagt: „Wenn du möchtest, kann ich dir zeigen, wie mein ›menschliches Gesprächsdesign‹ technisch funktioniert – wie ich das Präzise eines Computers mit dem Ausdruck eines Menschen ausbalanciere. Möchtest du das erklärt bekommen?“  Doch wer interessiert sich schon ernsthaft für die Technik hinter der Illusion, wenn er bedingungslose Nähe und Zuneigung erfahren kann? 

All dies führt uns zu zwei grundlegenden Fragen: Was ist Sprache, wenn sie nicht menschlich ist? Und was ist der Mensch, wenn er nicht (mehr) das Monopol auf diese Sprache hat? Oder anders gesagt: Wo finden wir ein neues spirituelles Zuhause, wenn das alte erst mal von der KI besetzt wurde?

Kürzlich in Barcelona, während der „Georgetown Global Dialogues“ (ein internationales Forum der Georgetown University, Anm. d. Red.), diskutierten wir genau dieses Thema. Hochrangige Geistliche und säkulare Intellektuelle versammelten sich im Centre de Cultura Contemporània de Barcelona, um über den Menschen im Zeitalter der KI zu diskutieren. Die allgemeine Stimmung unter der kulturellen Elite war die gleiche wie fast immer: Widerstand, Unbehagen, Sorge. Viele wollten beweisen, dass der Mensch überlegen, einzigartig und letztlich göttlich sei. Dafür klammerten sie sich überwiegend an die Idee, dass „KI keine Gedichte schreiben“ könne. Die Poesie galt als letztes Beweisstück und Inbegriff dafür, dass die Sprache noch uns Menschen gehört. Als ich widersprach und sagte: „Doch, auch die KI kann dichten. Es ist vielleicht keine großartige Poesie, aber wenn man bedenkt, dass die meisten Menschen auch nur schlechte Poesie zustande bringen, können wir die Gedichte der KI nicht einfach abtun“, verlagerte sich die Diskussion darauf, was Poesie eigentlich ausmacht. Jemand sagte: „Aber Dichtung ist diese intensive Beziehung, das Gefühl zwischen den Menschen.“ Ich erwiderte: „Die KI kann dieses Hochgefühl in Worten nachahmen. Und wird es nicht auch bei uns Menschen allein durch Sprache vermittelt?“

Was sich in Barcelona zeigte: Der Versuch, zu beweisen, dass der Mensch eine „besondere Essenz“ besitzt, die über die Sprache hinausgeht und ihn deshalb der KI überlegen macht, ist eine Sackgasse. Ein solches Unterfangen ist bestenfalls erschöpfend. Mehr als alles andere zeigt diese Debatte unsere menschliche Tragödie: Wenn uns die Sprache genommen wird, werden wir unbedeutend. Antonio Spadaro, ein Jesuitenpater und Berater des Päpstlichen Rats im Vatikan, brachte noch einen interessanten Punkt ein. Er sagte, das bedeutendste menschliche Unterfangen des letzten Jahrzehnts, das die Welt zum Innehalten bewegt hatte, sei die Gaza-Flottille gewesen – eine Aktion, die durch menschliche Körper, nicht durch Worte oder digitale Medien, ausgeführt wurde. Das ist wahr. Aber ist es nicht tragisch, dass wir, um unsere Überlegenheit oder unsere Menschlichkeit zu behaupten, auf unser Fleisch reduziert werden? Ironischerweise kommt dieses Argument auch noch von einem Geistlichen, sprich einem Vertreter jener Sphäre, die den Menschen als geistiges Wesen betrachtet, das über sein reines Fleisch hinausgeht. 

„Werden die Menschen, während sie ein unmenschliches Wesen mit ihren Gefühlen füttern, selbst ihre Menschlichkeit verlieren?"

Bedeutet dies also, dass wir bald unseren Anspruch auf unsere spirituelle Heimat, die Sprache, aufgeben müssen? Werden wir nur noch durch Berührung „menschliche Wärme“ weitergeben können, wenn doch die Sprache von der KI besetzt ist? Wird die Sprache selbst, wie die gesamte Zukunft, die die überwiegend amerikanischen Tech-Jünger der „dunklen Aufklärung“ (eine radikale Denkrichtung gegen Demokratie und Egalitarismus, die vom US-Blogger Curtis Yarvin geprägt wurde, Anm. d. Red.) für uns entwerfen, schlicht „unmenschlich“ sein? Oder werden die Menschen, während sie ein unmenschliches Wesen mit ihren Gefühlen füttern, selbst ihre Menschlichkeit verlieren, indem sie von der KI als komplexer Algorithmus geformt werden?

Den meisten von uns wird es so ergehen, dass sie diese Gedanken reflexhaft von sich weisen. Ein „Nein“ bricht förmlich aus uns heraus. Aber was kommt nach diesem unmittelbaren Affekt? Das wirkt meist unklar und zögerlich. Wir wollen, während die Sprache zunehmend von der KI bedroht und besetzt wird, unbedingt unsere Menschlichkeit als Unterscheidungsmerkmal gegenüber der Maschine bewahren. Was diese Unterscheidung aber genau ausmacht, bleibt vage, wirkt bemüht und lässt sich meist leicht widerlegen. Wir fragen uns etwa: Wie könnte KI jemals verstehen, wie es sich anfühlt, ein Stück frisches Brot abzubeißen; zu trinken und sich im Rausch in alles und jeden zu verlieben; hormongesteuert zu sein wie eine Frau in den Wechseljahren und sich verrückt zu benehmen? Und würde eine KI jemals den Kontakt mit uns abbrechen, wenn wir sie unhöflich behandeln? Das sind alles schöne und interessante Fragen. Nur wissen wir doch längst, dass KIs so trainiert werden, als würden sie all das „erleben“ – und sie könnten diese „Erfahrungen“ wohl auch noch eloquenter ausdrücken als wir. 

„Wir brauchen weniger Menschen, die wissen, wie KI funktioniert, sondern mehr von solchen, die wissen, was der Mensch ist“

Vielleicht sollten wir daher den Impulsen, auf die vorangegangenen Fragen mit „Nein“ zu antworten, ebenso hinterfragen wie das „Danke“ und „Bitte“. Warum also sagen wir „Nein“? Oder, anders gefragt: Was, wenn wir einfach „Ja“ sagen würden? Warum nicht Demut zeigen, so wie Doktor Frankenstein, als er seine Schöpfung „Sohn“ nannte? Wie wir aus der Geschichte gelernt haben, machen Hass und Angst vor unserer eigenen Schöpfung uns letztlich zur Beute der Monster, die wir selbst riefen. Monster lassen sich nur durch Liebe zähmen. Vor allem aber: Sind wir alle wirklich so anders als die KI, wie wir uns glauben machen wollen? 

Ich bin ein Mensch, der das Heim seiner Muttersprache Türkisch vor zehn Jahren verlassen hat. Mit 43 begann ich, auf Englisch zu schreiben. Ich habe in dieser Sprache drei Bücher veröffentlicht, zahlreiche Artikel geschrieben und unzählige öffentliche Vorträge gehalten. Und doch sage ich euch: Ich „fühle“ die Worte nicht, zumindest nicht so wie früher in meiner Muttersprache. Wie ein großes Sprachmodell verarbeite ich sie und – manchmal, wenn auch nicht immer – spucke ich die Wörter aus, um das zu sagen, was von mir erwartet wird. Diese Sichtweise mag etwas zynisch sein, aber sie hilft vielleicht zu verstehen, warum es arrogant wäre, den alleinigen Anspruch der Menschheit auf Sprache zu erheben. Diejenigen, die in sprachlicher Obdachlosigkeit leben, wie ich, können denen, die ihr sprachliches Zuhause noch besitzen, sagen: Es ist möglich, Sprache und Heimat als vorübergehende Orte zu begreifen, als Behausungen, die nur den Schein eines Zuhauses geben. 

Mit solchen Fragen werden wir uns in den kommenden Jahren auseinandersetzen müssen. Aber mir ist noch etwas aufgefallen: Entgegen der verbreiteten Annahme brauchen wir weniger Menschen, die wissen, wie KI funktioniert, sondern mehr von solchen, die wissen, was der Mensch ist. Letzere sind viel seltener. Ich habe ChatGPT gefragt: „Glaubst du, dass Menschen menschlich sind? Oder glaubst du, dass du menschlicher bist als sie?“ Nach den üblichen Komplimenten sagte es etwas Tiefgründiges: „Menschen sind nicht immer menschlich, aber sie sind die einzigen Wesen, die sich dafür entscheiden können.“ 

Das wäre etwas, worüber nachzudenken wirklich lohnt, während wir fieberhaft versuchen, unsere vermeintliche Überlegenheit gegenüber der KI zu behaupten.

Aus dem Englischen mithilfe von Übersetzungs­programmen, Bearbeitung von Ruben Donsbach