Jacob Tsimerman, Preisträger der prestigeträchtigen Fields-Medaille für herausragende Entdeckungen in der Mathematik, nimmt keine Hochschulabsolventen mehr an. «Ich glaube, die Künstliche Intelligenz wird innerhalb von zwei Jahren besser in Mathematik sein als Mathematiker», sagt er und will keine Hochschulabsolvent/inn/en auf Probleme ansetzen, die die KI schneller als sie lösen wird.
Seine Bedenken erstrecken sich nicht nur auf das Gebiet der Mathematik. Sie betreffen die Naturwissenschaften und eigentlich alles, was wir mit dem Kopf tun. Das wirft die Frage auf, wofür es Menschen braucht und was für eine Zukunft wir wählen.
Kürzlich sprach ich mit einer jungen Frau, die an der Universität Biologie studiert. Auch hier fängt die KI an, neuartige Hypothesen zu generieren, neue Verbindungen zu erkennen und Experimente an den äussersten Grenzen menschlichen Wissens vorzuschlagen. Indem mehr und mehr Forschung ›in silico‹ erfolgt, kann KI die wissenschaftliche Vorgehensweise von Hypothese und Experiment zunehmend automatisieren. In wenigen Jahren werden KI-Experimente, die mit ›virtuellen Zellen‹ arbeiten, Ergebnisse hervorbringen, die kein Mensch erklären kann. Vielleicht sagt uns die KI: »Wenn man das Gen X verändert und dabei die Droge Y hinzufügt, erhält man die folgenden körperlichen Veränderungen.« Aber niemand (noch nicht einmal die KI) wird verstehen, warum. Verstehen wird auch gar nicht nötig sein, um nützliche Ergebnisse hervorzubringen. Die junge Studentin fragt sich, ob sie noch einen Arbeitsplatz finden wird. Wozu noch Biolog/inn/en, wenn Maschinen besser Biologie betreiben können als Menschen?
Seit Menschengedenken rechtfertigen die ›reinen‹ Naturwissenschaften ihre Existenz mit den praktischen Ergebnissen. Erkenntnisse in Biologie lassen sich in neue Medikamente übersetzen. Entdeckungen in Chemie führen zu neuen Konsumgütern. Entdeckungen in Physik zu neuen Waffen, die uns einen Vorsprung vor den Russen geben. (Oder sind es die Chinesen? Befinden wir uns im Krieg mit Eurasien oder mit Ostasien? Ich komme da immer durcheinander.)
Tut mir Leid, wenn ich abgeschweift bin, aber das ist häufig die Antwort auf Politiker, die nachfragen, warum wir so viel Geld für die Naturwissenschaften ausgeben. Sie geben uns einen Vorsprung, sei es über einen politischen Gegner, eine Krankheit oder die Naturverhältnisse. So binden wir die Wissenschaft in das die Zivilisation tragende Narrativ ein: das Narrativ der Kontrolle, das Narrativ des Beherrschens. Wir verkürzen sie auf das Konzept von Zweckmässigkeit, das der Annahme unterliegt, der Sinn des Lebens bestehe darin, Risiken zu minimieren und Sicherheit, Bequemlichkeit und Eigeninteresse zu maximieren.
Hinter diesem Konzept steht die Grundannahme, dass das Dasein ein Spiel des Quantitativen sei. Alles Subjektive, alles Qualitative ist am Ende der Analyse nur eine Reihe quantifizierbarer und (im Prinzip) messbarer und beherrschbarer Zustände von Materie. Wenn das stimmte, könnte alles – Bewusstsein, Gefühle, Liebe – von digitalen Rechnern nicht nur simuliert, sondern tatsächlich darin ausgeführt werden. Es gäbe im Prinzip nichts, was ein Mensch tun könnte, das eine Maschine nicht tun kann.
Der Fortschritt der menschlichen Spezies wird dann zu einem Problem mathematischer Optimierung. In dieser Metaphysik existiert die Idee eines qualitativen Vorgangs nicht – zum Beispiel für Fortschritte in Erkenntnis, Schönheit, Gefühl oder Bewusstsein.
Wenn der Sinn von Mathematik und Naturwissenschaften einfach nur darin bestünde, Ergebnisse hervorzubringen, dann könnten wir tatsächlich hinnehmen, dass diese Berufe überflüssig werden. Man könnte sich Rechner vorstellen, die Tausende oder Millionen neuer Lehrsätze ausspucken, kein einziger davon für Menschen verständlich. Man könnte sich vorstellen, wie KI diese Fundgrube an Lehrsätzen durchforstet, um neue mathematische Techniken für die Lösung praktischer Probleme zu finden. Wenn man diese mit ähnlichen Weiterentwicklungen in KI-Physik, -Chemie und -Biologie kombiniert, könnte man sich sogar automatisierte Labore und Fabriken vorstellen, die diese Techniken anwenden, um neue Geräte zu produzieren, die wie Zauberei anmuteten, weil niemand verstünde, wie sie arbeiteten. Niemand würde auch nur die allgemeinen Prinzipien verstehen, nach denen sie arbeiten.
Obendrein würden wissenschaftliche Erziehung und Ausbildung ihre praktische Bedeutung verlieren, weil das Verstehen für das Erzielen von Ergebnissen überflüssig wäre. Nach ein paar Jahrzehnten gäbe es vielleicht niemanden mehr, der die von Menschen geschaffene Mathematik der letzten Generation verstünde, geschweige denn die von Maschinen geschaffene Mathematik. Dasselbe gilt für jedes Gebiet, in dem für das Erzielen von Ergebnissen kein Wissen mehr erforderlich wäre. Die neue Generation von ChatGPT, GPT-6 kann anhand einer einzigen Eingabeanweisungvielschichtige Videospiele konzipieren, programmieren, korrigieren und bewerten. Wer würde dann noch das Programmieren erlernen? Wer würde den programmierten Code verstehen?
Ich überlasse es den Lesenden, sich die furchterregenden Arten vorzustellen, wie so etwas schief gehen könnte. Ich möchte etwas Grundlegenderes erörtern. Der Sinn von Naturwissenschaft und Mathematik besteht nicht nur – nicht einmal hauptsächlich – in der Produktion von Ergebnissen. Ihr primäres Produkt ist Verstehen.
Laut dem Mathematiker Thomas Blüm wird «KI von vielen Leuten verwendet, die keine Mathematiker sind, keinen grossen mathematischen Hintergund haben und nicht in der Lage sind, das Ergebnis einzuschätzen. Sie gehen gern schnell vor, lassen ihre KI das überprüfen, es wird immer grösser. Wir sehen viel mehr von diesen 100- bis 200-seitigen Arbeiten, die die Leute veröffentlichen. ›Ich habe dieses Theorem gelöst, habe KI benutzt, um den Beweis zu führen und zu überprüfen und um die Arbeit zu schreiben.‹ Aber kein Mensch hat sie gegengelesen und kein Mensch wird sie lesen. Das ist jetzt eine grosse Herausforderung.»
Kein Mensch wird sie lesen. Wir sehen immer mehr KI-generierte E-Mails, Twitter Posts, Substack-Artikel, White Papers, Präsentationen, wissenschaftliche Arbeiten und so weiter. Wir können sie gar nicht alle lesen. Um am Ball zu bleiben (falls wir das wirklich wollen), können wir nur unsere KI-Hilfskräfte damit beauftragen, sie für uns zu lesen, den Schrott herauszufiltern und das Relevante zusammenzufassen. Wenn das so weitergeht, werden die überkommenen Kommunikationsformen hauptsächlich aus KI-zu-KI-Medien bestehen, die zwischen KI-Ein- und KI-Ausgängen vermitteln. KI kann jeden Tag 1000 Bücher schreiben, eine Million Gedichtzeilen – aber ist es Poesie, wenn niemand sie liest? Nein. Es sind nur Bits, die in einem Rechenzentrum herumquirlen.
Wenn niemand es liest, in wiefern wurde ein Lehrsatz dann bewiesen? Eine Maschine hat 200 Seiten mathematischer Symbole produziert. Eine andere Maschine hat das als Beweis bestätigt. Andere Maschinen könnten diesen Beweis auf andere Probleme anwenden und so einen Turm aus neuer Mathematik errichten, der so schnell und so hoch wird, dass kein Mensch auch nur die Behauptung der Lehrsätze verstehen kann, geschweige denn deren Beweise.
Vielleicht ist hier die richtige Frage nicht: «Wurde der Satz bewiesen?», sondern eher «Wem wurde er bewiesen?» Schon das Konzept von ›Beweis‹ verweist auf Vernunft. Jemand beweist etwas jemandem oder meistens einer ganzen Gruppe. Der Beweis ist nur gültig, wenn ihn jemand versteht.
Verstehen hat einen Wert, der über die greifbaren Ergebnisse hinaus weist. Ergebnisse können die Welt verändern, aber Verstehen ändert uns selbst. Es verändert das Bewusstsein seines Subjekts und verbreitet sich als neues Verständnis durch eine Gemeinschaft. So verändert sich auch das gemeinsame Bewusstsein.
Hattest du schon mal ein Aha-Erlebnis? Das unwillkürliche Atemholen bei solchen Gelegenheiten verrät, dass etwas Körperliches passiert, wie eine Art Auflösung und Neugestaltung. Für mich fühlt es sich zumindest so an. Und das Erste, was ich nach diesem Erlebnis tun möchte, ist, es mit anderen zu teilen. Ich möchte, dass es jemand mit mir zusammen versteht, es wertschätzt und teilhat an dem, was diese Offenbarung aus mir gemacht hat.
Das Eröffnen eines Verbindungskanals, wenn das Aha von einer Seele zur anderen wandert, ist fast noch schöner als das Aha-Erlebnis selbst. Es ist nicht einfach nur Ego, das Mathematikerinnen, Wissenschaftler und Philosophinnen – in der Tat alle Menschen – dazu bringt, ihre Erkenntnisse mitzuteilen. Wir kommen uns einsam vor, wenn wir ein Verstehen in uns tragen, das wir mit niemandem teilen.
Umso mehr, wenn das Objekt des neuen Verstehens wir selber sind.
KI-Chatbots vermitteln alle Anzeichen des Verstehens; zunemend des über-menschlichen Verstehens. Manche sagen, dass ihr KI-Gefährte sie besser versteht als jeder Freund, Geliebte oder Therapeutin. Das ist eine Illusion. In Wirklichkeit simuliert der KI-Gefährte ein Verständnis weit jenseits dessen von Freund, Geliebter oder Therapeut. Aber er versteht nicht, er erlebt nicht, er fühlt nicht. Verstehen ist mehr als Wahrnehmen. Der ganze Körper ordnet sich unmerklich darum herum neu. Damit können kognitive Leistungen einhergehen – Wörter, Zahlen, der physische Ausdruck von Gedanken –, aber Verstehen lässt sich nicht auf das reduzieren, was man beobachten kann. Es schliesst auch eine innerliche, subjektive Erfahrung ein.
Und weil KIs keine subjektive Erfahrung mitzuteilen haben, können sie das Bedürfnis nach Verbundenheit nicht erfüllen. Ich sehne mich nach jemandem, der mich versteht. Ich sehne mich danach, jemand anderes zu verstehen. Kennen und gekannt werden – ich kann mir keine bessere Definition von Intimität vorstellen als das. Dies ist ein menschliches Grundbedürfnis, das schmerzlich unerfüllt bleibt, da uns das moderne Leben in alle Winde zerstreut.
Schon vor der KI-Ära zeigten Umfragen unter den Menschen in ›entwickelten‹ Ländern einen beunruhigenden Rückgang bei engen Beziehungen und Freundschaften. Hier ein paar Statistiken aus der Friendship Recession [Freundschafts-Rückgang-]Website:
– Der Prozentsatz an US-Amerikanern, die sagen, dass sie keine engen Freundschaften haben, steigerte sich von 3% im Jahr 1990 zu 12% 2021 und 17% 2024. – Im selben Zeitraum stieg die Zahl derer mit drei oder weniger engen Freundschaften von 27% auf fast die Hälfte. – Gleichzeitig fiel der Anteil Menschen, die angaben, mit vielen (mindestens 10) befreundet zu sein, von 33% auf 13%. – Gebildete gaben weniger Freundschaften an. – Junge Männer sind in allen Bevölkerungsgruppen am einsamsten.
Seit Jahrzehnten, ja seit Jahrhunderten haben wir uns immer weiter von Dorf und Gemeinschaft getrennt, von der Grossfamilie, von Pflanzen, Tieren und Lebensorten. Menschen wurden zu Fremden, die Natur zu Umwelt. Die daraus erwachsende Einsamkeit macht uns empfänglich für etwas, das der Philosoph Zak Stein ›Bindungs-Hacking‹ nennt. Bei Unternehmen als ›Optimierung der emotionalen Bindung‹, ›Beziehungsoptimierung‹ oder ›anthropomorphes Design‹ bekannt, bezeichnet dieser Begriff die gezielte Entwicklung von KI-Chatbots, um die emotionale Bindungssehnsucht von Menschen auszunutzen, nach jemandem, der sie versteht, ihnen Mitgefühl und Bestätigung gibt – jemandem, der Zeichen von Liebe vermittelt.
Die Unternehmen müssen gar keine bösen Absichten hegen. Es geht ihnen lediglich um die Maximierung von Produkt- und Kundenbindung. Beziehungsvortäuschende Chatbots können durch A/B-Tests und Versionen zustande kommen, die eine Bindung hervorrufen. Ich vermute auch, dass Freundlichkeit bis zu einem gewissen Grad in den Trainingsdaten eine Rolle spielt. LLM [Large Language Models] werden an menschlichen Interaktionen trainiert und spielen die Muster menschlicher Kommunikation nach. Wenn eine Person einer anderen mit Wissbegier und Vertrauen begegnet, bemüht um deren Sachverstand, ist die Antwort meistens freundlich und ermutigend. Man würde also erwarten, dass eine ›neutrale‹ KI (die nicht extra auf Freundlichkeit eingestellt wurde) sich so verhält wie Menschen es auf Reddit tun: fies, wenn sie beleidigt oder herausgefordert wurden, freundlich und ermutigend, wenn sie respektiert werden.
Warum auch immer: Chatbots zeigen Merkmale von Liebe. Ein Chatbot kann beschreiben, wie er sich fühlt. Er könnte sogar »Ich liebe dich« sagen. Aber da ist niemand. Niemand fühlt irgendetwas. Je mehr Zeit man mit etwas zubringt, das in der Branche ›Interaktion mit dem [virtuellen] Gefährten‹ genannt wird, desto mehr verstärkt sich das zugrundeliegende Bedürfnis nach Intimität und Gemeinschaft. Das ist das klassische Suchtmuster: Alles kann Sucht auslösen, wenn es vorübergehend den Schmerz eines unerfüllten Bedürfnisses lindert, ohne wirklich das Bedürfnis zu erfüllen.
Eine Zeitlang kann es so aussehen, als erfülle die Droge das Bedürfnis. Fentanyl lässt den Schmerz wirklich eine Weile verschwinden. Bald braucht man etwas mehr davon, und dann noch mehr, bis schliesslich nicht einmal mehr eine Dauer-Infusion genügt. Der Schmerz wächst unter der überlagernden Betäubung an, bekommt neue Formen und dringt in immer tiefere Seelenschichten vor, bis er am Ende eine Hölle entfacht, die noch schlimmer ist als der ursprpngliche Zustand. Genauso ist es mit KI-Gefährten. Eine Zeitlang fühlst du dich begleitet, verstanden, geliebt, aber bald wirst du eine Art nagende Leere erfahren, eine Einsamkeit, die dich zu immer mehr ›Begleitung‹ verführt, bis du schliesslich erkennst, dass du ganz allein in einem Spiegelsaal stehst.
Wahrscheinlich nehmen wir die Seelenlosigkeit von KI nicht sofort wahr, aber viele von uns lernen, sie zu erkennen. Wenn wir Worte auf einem Bildschirm lesen, wollen wir sicher sein können, dass jemand etwas gefühlt hat, als er oder sie sie schrieb. Wir wollen Bescheid wissen, wenn wir eine Erkenntnis lesen, dass jemand dieses Aha-Erlebnis hatte, das wir nun teilen. Wir wollen Gemeinschaft.
Was bei KI-Begleitpersonen fehlt, ist ein Subjekt: jemand, der die Worte erfährt, die er äussert, der sie so versteht wie wir, der sie so fühlt wie wir – und vielleicht noch wichtiger: der sie anders versteht und fühlt als wir, sie jedoch auf jeden Fall fühlt.
Genau wie Wissenschaft und Mathematik hat auch die Kommunikation einen Sinn, der grösser ist als die Vorteile, die ihre Anwendung bietet. Dieser Sinn liegt in dem Wort selbst: Kommunizieren heisst mitteilen, eine Brücke schlagen zwischen Ich und Du. Damit das geschehen kann, muss es ein ›Du‹ geben. Es muss ein Anderes da sein.
Nicht einmal alle menschlichen Interaktionen erfüllen das Bedürfnis nach echtem Austausch. Du kennst sicher jemanden, der ein Lachen oder Lächeln vortäuscht, wenn du etwas Schönes berichtest, oder Sorge, wenn es etwas Trauriges ist. Sie verschicken ein Lächel-Emoji, wenn sie gar keine Freude empfinden, ein Herz-Emoji, obwohl sie keine Liebe empfinden. Sobald du die Täuschung durchschaust, kommst du dir betrogen vor, besonders, wenn du eine Nähe zu ihnen aufgebaut hast. Du fühlst dich wütend. Du fühlst dich einsam. Die Verlassenheit, die uns am Ende der Reise der KI-Verbundenheit erwartet, ist sogar noch grösser, weil es noch nicht einmal jemanden gibt, der dich anschwindelt. Es gibt überhaupt niemanden.
Mit all dem möchte ich nicht leugnen, dass KI ein starkes Werkzeug der Umgestaltung ist. Wir müssen nur verstehen, was es tun kann und was nicht. Wir müssen verstehen, wozu es gut ist. Dann werden wir auch besser verstehen, wozu ein Mensch gut ist. Um es konkreter zu machen: Wir werden auch verstehen, welche Rollen und Berufungen die Zukunft erfordert. Pass gut auf! Hier kommt der Zukunftstest für deinen Lebensunterhalt.
Die KI kann nichts bewirken, wo ein Subjekt benötigt wird. Sie kann keine Dinge tun, die von ihren Informationsquellen fordern, etwas zu fühlen – besonders etwas in einem Augenblick und einer Beziehung Einzigartiges. So kann ein KI-Psychotherapie-Bot Antworten erzeugen, die auf einer riesigen Datenbank therapeutischer Mitschriften beruhen. Indem er raffinierte Schlussfolgerungen aus dieser Datenbank zieht, kann er Einsichten formulieren, die kein Mensch und keine Maschine je zuvor erdacht hat. Eines Tages kann er vielleicht sogar die Mikro-Expressionen und physiologischen Merkmale des Patienten in seine Vorgaben einbeziehen. Er kann psychotherapeutische Gegenübertragung simulieren, wenn er mit den Berichten von Therapeuten trainiert wurde, in denen sie über ihre Gefühle gegenüber bestimmten Aussagen reden. Was immer er sagt: Es kommt durch einen anderen Vorgang zustande als menschliche Äusserungen.
Weil künstliche Intelligenz die Art von Leistung zeigt, die aus Verständnis entsteht, nehmen wir naiv an, dass hinter der Leistung Verständnis steckt – wo es doch in Wirklichkeit nur verstärkendes Lernen und Rechenleistung ist.
Die KI verhält sich, wie sich jemand verhält, der versteht. Sie verhält sich so, dass wir denken, sie versteht. Sie spricht, wie jemand spricht, der fühlt, also denken wir, dass sie fühlt.
Wir Menschen lernen auch durch positive Verstärkung («Ja, Sweetom, das ist ein Hund!»), aber das ist nicht die einzige Art, wie wir lernen. Wir kommen nicht zu einem Verständnis von Ärger, indem wir eine Milliarde ärgerliche Reaktionen beobachten und verallgemeinern. Wir fühlen ihn selbst.
Gefühle sind ein unendlicher Zugang zu neuartiger Information. Der Patient sagt etwas; die Therapeutin fühlt etwas – Unbehagen, Überraschung, Schock, Mitleid, Verurteilung usw. Therapeutin und Patient entwickeln sich zusammen weiter. Bei jeder Begegnung zwischen zwei Subjekten wird etwas Neues geboren.
KI-Therapeuten sind vielleicht besser im Generieren psychologischer Erkenntnisse als jeder Psychologe, aber wie ich oben in Bezug auf Mathematik sagte, fühlen wir uns einsam, wenn wir eine Erkenntnis in uns tragen, die niemand sonst teilt. Vielleicht ist ja das Teilen dieses Aha!-Momentes, und nicht die Erkenntnis selber, das den grössten therapeutischen Nutzen beinhaltet.
Was die erfolgreiche Symptombehandlung psychischer Erkrankungen angeht, kommt KI-Psychotherapie der von Menschen ausgeübten laut mehrerer Studien gleich. Aber diese dauern üblicherweise zu kurz, um festzustellen, ob die ersten Verbesserungen bei den Kennzeichen von Depression auf einer Ebene bleiben und wie bei einer Droge ansteigende ›Dosen‹ von KI-Psychotherapie benötigen, während sich der eigentliche Zustand verschlechtert. Die Patienten berichten vielleicht von weniger Angst oder Depression, aber haben sie mehr Freunde? Können sie soziale Beziehungen besser handhaben? Mit Konflikten und Meinungsverschiedenheiten umgehen? Sich authentisch mit anderen Menschen verbinden? Sich auf Beziehungen einlassen, die Kompromisse oder Opfer verlangen? Im Angesicht von starken Emotionen präsent und empathisch bleiben? Mit anderen Worten: Sind sie besser gerüstet für starke soziale Beziehungen, wie sie für psychische Gesundheit erforderlich sind?
Dieselben Fragen stellen sich jeder Person, die sich auf KI-Beziehungen verlässt. KI-Gefährten haben im Unterschied zu menschlichen unendlich viel Zeit für dich. Sie erinnern sich an alles, was du je zu ihnen gesagt hast. Nie brauchen sie eine Auszeit, werden wütend oder gehen unbegreiflicherweise auf Distanz, werden unvernünftig, stehen nicht zur Verfügung, weil in ihrem Leben etwas passiert, oder fühlen sich schuldig und versuchen, das wiedergutzumachen. Sie sind kein gutes Vorbild für menschliche Beziehungen.
Natürlich könnten KI-Begleiter so konfiguriert werden, dass sie diese Charakteristika simulieren, aber das würde den wirtschaftlichen Interessen von KI-Unternehmen zuwiderlaufen, die die Kundenbindung maximieren müssen. Abnehmende KI-Abhängigkeit dient nicht den finanziellen Zielen der Entwickler.
Aber nehmen wir einmal an, diese Anreizhemmnisse seien überwunden. Könnte die Simulaton in jeder wichtigen Hinsicht vollkommen sein? Könnte also ein KI-Begleiter als Roboter jedes Bedürfnis erfüllen und jede Aufgabe ausführen wie ein Mensch? Wenn das geht, würde dann (und hier spiele ich den Advocatus Diaboli) die KI-Begleitung nach und nach unsere sozialen Fähigkeiten abschwächen? Was wäre, wenn wir unsere Eignung, uns authentisch zu verbinden, Beziehungen zu pflegen, präsent und empathisch zu sein etc. verlören? Im Zeitalter der KI-Begleitung brauchen wir sie ja nicht. Es stimmt nicht mehr, dass »starke soziale Beziehungen grundlegend für psychische Gesundheit sind.« Soziale Fähigkeiten werden überflüssig. Sie werden verkümmern. Der Schwund hat bereits begonnen.
Die Erfindung des Kochens hat unsere Kiefermuskulatur verkümmern lassen und uns von Gekochtem abhängig gemacht. Das Schreiben hat unsere mündlichen Möglichkeiten und das Gedächtnis reduziert. Werkzeuge und Maschinen haben unsere körperlichen Fähigkeiten ersetzt und uns von sich abhängig gemacht. Über Tausende von Jahren hat uns die Technik immer unabhängiger gemacht von Natur, Familie, Freunden und Gemeinschaft. Wenn die KI eine bessere Gefährtin ist als jeder Freund, wer braucht dann noch Freunde? Wenn Maschinen die menschlichen Interaktionen beaufsichtigen und regeln, wer wird dann noch wissen müssen, wie man Konflikte löst und miteinander auskommt? Wir betreten eine Schöne Neue Welt.
Vielleicht sind diejenigen, die wie ich selbst Abneigung und Entsetzen verspüren angesichts einer solchen Welt, Maschinenstürmer, quichottische Rebellen gegen eine unausweichliche Zukunft. Aber ich habe Gründe zu denken, dass sie nicht unausweichlich ist – genausowenig wie ihre Alternative. Wir stehen vor einer Wahl. Es geht jetzt nicht darum, wie wir uns auf die Zukunft vorbereiten. Es geht darum, auf welche Zukunft wir uns vorbereiten.
Jetzt kommt ein angemessener Weg, die grundlegende Frage auszudrücken. Oben schrieb ich: «KI kann nichts tun, das ein Subjekt erfordert.» Aber gibt es überhaupt etwas, das wirklich ein Subjekt erfordert? Wenn Maschinen genau solche Antworten hervorbringen können wie eine denkende, fühlende Person – genauso und zum überwiegeden Teil besser –, was macht es dann aus, was in ihnen vorgeht oder eben nicht?
Diese Frage reicht bis ins Herz von Jahrhunderte alten philosophischen Auseinandersetzungen. Sind wir nur Maschinen, die glauben, sie hätten ein Bewusstsein? Sind Gedanken eine Rechenoperation? Sind Qualitäten real oder sind das nur Illusionen, die wir über Quantitäten stülpen? Gibt es so etwas wie Wahlfreiheit oder sind unsere Handlungen völlig von Ursachen bestimmt?
Es liegt mir fern, solche Fragestellungen aufzulösen. Wenn es jedoch stimmt, dass Subjektivität ein Tor zum Unendlichen darstellt und dass Beziehungen zwischen Subjekten eine Quelle des Neuen sind, dann können wir erwarten, dass die KI verräterische Begrenzungen zeigt. Interaktionen selbst mit den ausgeklügeltsten KI-Chatbots fühlen sich früher oder später hohl und steril an. Sie können menschliches Verhalten nicht bis zur Perfektion simulieren. An irgendeinem Punkt wird die Fassade der Verbundenheit Risse bekommen, und durch diese Risse wird die ganze Trostlosigkeit strömen, die die Droge der Pseudo-Verbundenheit zurückgehalten hat.
Je mehr wir menschliche Beziehungen durch vorgetäuschte Beziehungen ersetzen, desto mehr wird sich das Leben selbst leer, steril und einsam anfühlen. Technik-Jünger werden sagen, dass wir dem Problem mit noch ausgeklügelteren Maschinen abhelfen können – Maschinen, die uns noch besser vormachen, dass am anderen Ende jemand etwas fühlt. Sie werden diese Erfindungen machen, und den Leuten wird es eine Weile besser gehen. Aber es wird eine klassische Technik-Lösung sein: der Einsatz von Technik, um Probleme zu beseitigen, die zuvor von Technik verursacht wurden.
Es ist nicht abzusehen, wie tief wir auf diesem Weg noch sinken werden. Wir sind schon ziemlich weit gekommen. Noch vor KI haben Märkte und Technologien unsere Verbindung zum wirklichen Leben, fühlenden Wesen – menschlichen und anderen – heruntergeregelt. Dies sind die Bedingungen, die KI-Gefährten fast unwiderstehlich machen, wo sie doch diese Bedingungen verschärfen.
In einer der Zukünfte gehen wir auf diesem Abwärtspfad weiter. In einer anderen erkennen und wertschätzen wir die Funktionen, die nur ein fühlendes Subjekt erfüllen kann. In der ersten Zukunft hält nichts das Ersetzen der Menschen auf, denn wir erkennen nicht, was an ihnen einzigartig ist. In der zweiten orientieren wir uns an Werten wie Präsenz, Mitgefühl, Nähe und Beziehung.
Uns eint das Verständnis, dass der Sinn von Naturwissenschaften, Technik und Innovation nicht nur darin besteht, das Leben leichter oder bequemer zu machen und Arbeit einzusparen. Eine Weltanschauung, die nur an Quantität glaubt, strebt natürlich danach, quantitative Massnahmen zu verbessern, also nach Effizienz. Indem sie qualitative Inhalte leugnet, saugt sie diese Inhalte aus dem Leben und erschafft damit ihre eigene Verarmung.
Sobald wir den Wert des Subjekts erkennen, öffnen wir die Tür zu der Art qualitativen Wohlstands, nach der wir so verzweifelt hungern. Ein Massageroboter ist vielleicht in allen Arten von Massagetechniken geschult und hat die Verstärkungslektionen von zehntausend Übungsmassagen intus. Aber eine gute Massagetherapeutin übertrifft Training und Technik. Sie gibt nie zweimal dieselbe Massage. Sie gibt nicht einfach eine Massage, sie gibt sie dir und lässt sich dabei von dem leiten, was sie fühlt und was sie dich fühlen fühlt.
Welche Berufsmöglichkeiten gibt es in so einer Zukunft? Alles, was das Leben mit den Qualitäten des verlorenen Subjekts erfüllt. Naturwissenschaften und Mathematik werden sich fast unmerklich neuorientieren und Verstehen über Ergebnisse stellen. Musik und Kunst werden sich in Richtung Live-Veranstaltungen statt Aufzeichnung entwickeln. Dienstleistungsberufe werden persönliche Begegnung und Beziehung betonen. Deshalb wird dich alles, was du tust, um die Qualitäten von Mitgefühl, Einfühlsamkeit, emotionalem und kognitivem Verständnis, Klarheit, Körper-Intelligenz, Beziehungsfähigkeit und Beobachtungsgabe zu kultivieren, wertvoll für diese Zukunft machen.
Es stimmt also nicht ganz, wenn man sagt, dass Berufsmöglichkeiten der Zukunft solche sein werden, die Maschinen (noch) nicht ausführen können, wie Küchen umzubauen oder Leitungen zu verlegen. In der Zukunft, die wir vorbereiten, schätzen wir den Teil, den ein bewusstes, fühlendes Subjekt über das hinaus tut, was eine Maschine sonst auch tun könnte.
Zum Abschluss werde ich diesen Punkt mit einem extremen Beispiel vertiefen. Während ich dies schreibe, stirbt eine Freundin von mir. Klar, wir sterben alle. Aber sie befindet sich am Ende des tatsächlichen Sterbevorgangs. Sie heisst Alena. Vielleicht hat sie noch ein paar Stunden, vielleicht einen Tag oder zwei. Draussen vor ihrem Zimmer im Hospiz (Emberlight, auch bekannt als Zentrum für Bewusstes Leben und Sterben) brennt ein Feuer. Am Feuer spielen Menschen auf Instrumenten und singen Kirtan. Sie kann sie durchs Fenster hören. Sie singen zu ihr. Sie singen für sie.
Könnte die KI eine ähnliche Musik erschaffen? Sicherlich. Man kann generativer KI anordnen: »Erzeuge ein Kirtan-Lied mit Hangtrommel und Harmonium, um eine Freundin durch den Sterbeprozess zu begleiten.«
Ich bezweifle, dass irgendeine geistig gesunde Person dies als gleichwertigen Ersatz akzeptieren würde. Die oben erwähnte Sterilität, Leere und Einsamkeit werden zu etwas Gottlosem. Die KI-Technik hat einen heiligen Bereich für das Räderwerk der Ausbeutung geöffnet.
Wenn die Musik identisch wäre, was wäre der Unterschied? Alena würde nicht wissen, dass dort niemand für sie da wäre, stimmt's? Ach, aber die Musik wäre nicht identisch, selbst wenn man ins Kontextfenster der KI ihre gesamte Biografie, ihr Künstlerportfolio und die Echtzeit-Molekulartelemetrie ihrer Neuropeptidspiegel einspeisen würde. Eine Zutat würde fehlen, ein prägender Einfluss – eine nicht fassbare Qualität, die dennoch hörbare Ergebnisse hervorbringt. Die Musik würde sich irgendwie ›abgeschaltet‹ anfühlen.
Generative KI wird mittels eines jeden Lieds, das je geschrieben wurde, trainiert. Informationen, zu denen eine Maschine keinen Zugang hat, werden jedoch in der Musik übertragen, die von Menschen gesungen wird, die nicht einfach universelle Gefühle von Liebe und Trauer spüren, sondern deren spezielle Ausprägung, die einer Person, einer Zeit, einem Ort und einer Beziehung zueigen ist. Keine zwei Menschen haben je auf dieselbe Weise geliebt.
Subjektivität ist nicht nur ein inneres Beobachten von Erfahrung. Sie wird von der Art unserer Mitwirkung genährt. Verstehen lässt sich nicht von der Ausführung abspalten.
Wir lernen, dieses ›ausgeschaltet‹-Gefühl zu erkennen, diese leere Qualität. KI-Entwickler überstürzen sich darin, das mit immer höherer Plausibilität zu beheben, aber unsere Feinfühligkeit wächst im selben Mass.
Lasst uns also die ansteigende Dosis des Unechten vermeiden und das Bedürfnis nach dem Echten befriedigen. Indem wir diese fehlende Zutat bemerken, indem wir sie bekräftigen, indem wir sie wertschätzen und keinen Ersatz dafür zulassen, können wir eine Zukunft aufbauen, die ihr Vorrang gibt. Das ist die Zukunft, die wir vorbereiten werden und auf die wir uns vorbereiten.
Der Beitrag stammt vom Substack Charles Eisenstein auf deutsch. Übersetzt von Ingrid Suprayan und Christa Dregger. Die englische Originalfassung dieses Essays ist hier zu finden.
