Yuval Noah Harari: «Vor einer vergleichbaren Herausforderung hat die Menschheit noch nie gestanden»

«Five more minutes!» – Yuval Noah Hararis Zeit ist knapp bemessen, gleich zwei Assistenten wachen beim Interview über die Einhaltung des eng getakteten Fahrplans. Der israelische Historiker, der 2002 in Oxford promovierte und heute noch in Jerusalem unterrichtet, ist als gefragter Redner auf der ganzen Welt unterwegs. Jüngst machte er an der Ecole polytechnique fédérale de Lausanne (EPFL) halt. Dort haben wir ihn zum Interview getroffen.

Herr Harari, wie man hört, soll aus Ihrem Weltbestseller ein Hollywoodfilm werden. Wenn Sie selber Regie führten, welches Genre würden Sie für Ihre «Kurze Geschichte der Menschheit» wählen – Drama, Komödie, Katastrophenfilm?

Wir arbeiten tatsächlich an diesem Projekt, und es ist ziemlich schwierig. Die ganze Menschheitsgeschichte in einem Film darzustellen, ohne bei einer Doku zu enden: Das ist eine knifflige Aufgabe. Zurzeit studieren wir an verschiedenen Formen herum. Den Katastrophenfilm und die Komödie kann ich aber definitiv ausschliessen! Im Moment sieht es am ehesten nach einem Drama aus, das aber mit Science-Fiction-Elementen angereichert wird, wobei wir nicht ins Phantastische driften werden. Schliesslich erzählen wir eine wirkliche Geschichte.

In dieser Geschichte ist der Mensch der Hauptdarsteller. Was ist das hier und heute für Sie: «der Mensch»?

Ich glaube, dass man im Jahr 2019 vor allem eines über uns wissen muss: Der Mensch ist heute ein «hackable animal» – ein Tier, das gehackt werden kann. Bisher gab es grossen Aufruhr und viele Diskussionen um gehackte Computer, Bankkonten, Online-Profile, Smartphones oder staatliche Systeme. Doch noch haben wir nicht richtig begriffen, dass einige Firmen und Staaten parallel dazu auch die Technologien entwickeln und erlangen, um uns Menschen zu hacken.

Was soll das konkret bedeuten?

Einen Menschen zu hacken, heisst: ihn besser zu verstehen und zu durchschauen, als er selber das vermag. Früher oder später werden verschiedene Instanzen, seien es nun Unternehmen oder Staaten, die Gefühle, Wünsche, Ängste und Gedanken der Menschen mithilfe von Algorithmen ermitteln können. Die Folgen liegen auf der Hand: Wer die inneren Regungen der Menschen kennt, kann ihre Handlungen antizipieren. Und ihre Begehren natürlich auch manipulieren. Letztlich werden diese Instanzen also immer mehr Entscheidungen an unserer Stelle treffen, weil sie unsere inneren Abläufe absolut perfekt erfassen.

Der Mensch kann wohl nur dann derart umfassend gehackt werden, wenn er selber eine Art Computer ist. Glauben Sie, dass wir, mitsamt unseren Gefühlen und Gedanken, nichts als eine Ansammlung von Algorithmen sind?

Was ich selber glaube, ist nicht von Bedeutung. Ich stütze mich auf die Wissenschaft und gebe das zurzeit dominante Paradigma wieder. Und das lautet in den Life-Sciences ganz klar so: Nicht nur der Mensch, sondern alle Organismen sind im Prinzip Algorithmen, die Informationen verarbeiten. Da kommt also Information rein, das Gehirn – unser eingebauter Algorithmus – verarbeitet sie weiter, und daraus resultieren dann Bewegungen und Entscheidungen, aber eben auch Emotionen, Empfindungen und Persönlichkeitsmerkmale.

Wir befänden uns demnach in einem Wettbewerb der Datenverarbeitungssysteme, und der Mensch mit seinem schwachen Algorithmus stünde mittelfristig auf verlorenem Posten?

Nun, über lange Zeit hinweg verfügte der Mensch über das stärkste System. Zunehmend aber wird es tatsächlich übertroffen von anderen Algorithmen.

Diese mechanische Sicht des Menschen gibt es seit langem, schon im 18. Jahrhundert versetzte das Konzept des «homme machine» die Zeitgenossen in Aufregung. Was ist am jetzigen Maschinen-Paradigma neu?

Die Idee der hochentwickelten Maschine hat als solche tatsächlich nichts Originelles. Wenn Menschen früher mit Maschinen verglichen wurden, dann waren es Uhren oder Dampfmaschinen; sie bildeten die Modelle, nach denen unterschiedliche Bewegungen funktionieren sollten. Mit dem Paradigma des Computers wird nun aber jeder erdenkliche Lebensbereich erfasst. Alles, bis hin zum sexuellen Begehren, ist nichts als verarbeitete Information: Das Auge oder die Nase nimmt etwas wahr, das Hirn erkennt die Muster der eingespeisten Daten und gibt daraufhin seine Befehle aus. Ob wir uns zu jemandem hingezogen fühlen oder nicht, ist also eine reine Frage der Mustererkennung.

In dieser stark auf neuronale Prozesse fokussierten Perspektive bleibt vieles ausgeklammert: Was ist Bewusstsein und Geist? Wie beeinflusst der lebende Körper den menschlichen «Computer»? Meines Wissens sind diese Fragen bis heute nicht beantwortet. Könnte die vermeintlich so wissenschaftliche Algorithmentheorie nicht eine jener Fiktionen sein, mit denen sich der Mensch so gerne die Welt erklärt?

Doch, das ist durchaus möglich! Ich bin selber skeptisch gegenüber Teilen dieser Thesen, und zwar eben weil bis anhin gute Theorien zum Bewusstsein und zur Erklärung von subjektiver Erfahrung fehlen.

In Ihren Büchern ist von dieser Skepsis aber nichts zu spüren.

Insbesondere mein letztes Buch war dezidiert politisch gedacht. Es gibt offene philosophische Debatten, ja, aber ganz egal, wie wir uns zu ihnen stellen, eins müssen wir sehen: Die Technologien, die in uns eingreifen können, sind da. Als wir uns noch nach Ähnlichkeiten mit Uhrwerken befragten, gab es keine Möglichkeiten, die menschliche Maschine umzupolen. Das ist jetzt zum allerersten Mal der Fall, und um dieses Problem müssen wir uns dringender kümmern als um die gewiss interessanten philosophischen Fragen. Wir haben keine Zeit zu verschwenden. Daher täten wir meiner Meinung nach gut daran, die Philosophie eine Weile lang beiseitezulassen und den Fokus auf das zu richten, was hier und heute geschieht und täglich extremer wird. Ob wir nun ganz genau wissen, wie und wieso das funktioniert, scheint mir in dieser Situation wirklich zweitrangig.

Was, zum Beispiel, geschieht denn heute an manipulativen Eingriffen ins Innerste des Menschen?

Ganz konkret kann ich es Ihnen anhand meiner eigenen Biografie erläutern. Als ich fünfzehn war, habe ich selber nicht realisiert, dass ich schwul bin. Zwar fühlte ich mich von Jungen angezogen, aber es gab eine Blockade in meinem Kopf, ich hatte kein Bewusstsein für meine «andere» sexuelle Orientierung. Heute können Firmen mit geeigneten Technologien die Präferenzen der Menschen ohne weiteres ermitteln – man braucht dafür nur ihre Augenbewegungen aufzuzeichnen. Noch ehe ich selber es begriffen hatte, hätte also irgendein Konzern bemerken können, dass ich am Strand nur Jungs beobachte.

Das Resultat wäre wohl eine weitere Personalisierung der Werbung: Die fragliche Firma hätte vermutlich versucht, Ihnen ihre Produkte mit schönen Männerbildern schmackhaft zu machen.

Ja, aber das ist nur die eine Seite. Natürlich ist es schlimm genug, dass ich auf diese Weise manipuliert und zu vermutlich sinnlosen Käufen animiert werden kann. Jetzt stellen Sie sich aber einmal vor, was passiert, wenn Staaten diese Technologien einsetzen und Ihre sexuelle Orientierung registrieren. Bekanntlich gibt es nicht wenige Länder, die Homosexualität mit dem Tod bestrafen . . . Ich denke, das macht es deutlich: Es ist höchste Zeit, dass wir diese Probleme ernst nehmen und überlegen, wie wir mit ihnen umgehen, wie wir die Zukunft gestalten wollen.

Einverstanden. Aber wie soll das gehen? Wer alles menschliche Denken und Handeln auf biochemische Prozesse reduziert, bestreitet in aller Regel auch die Existenz des freien menschlichen Willens. Auch Sie tun das in Ihren Schriften dezidiert. Wie kann der Mensch die Zukunft in die «richtige» Richtung lenken, wenn er nicht frei ist, selbstbestimmte Entscheidungen zu treffen?

Wenn ich sage, dass wir keinen freien Willen haben, heisst das nicht, dass wir keine Handlungsmacht besitzen und keine Entscheidungen treffen können. Wir müssen das klar vom freien Willen trennen, und eigentlich würde ich sogar sagen: Je weniger wir an der naiven Vorstellung des freien Willens festhalten, desto mehr Handlungsfähigkeit können wir erlangen.

Das müssen Sie mir erklären.

Es ist doch so: Am einfachsten zu manipulieren sind ausgerechnet jene Leute, die alles, was ihnen dauernd durch den Kopf geht, als Ausdruck ihres eigenen Willens oder als Produkt ihres autonomen Geistes sehen. Solche Personen haben keinerlei über sie hinausreichende Neugier und werden sich nie fragen: Moment einmal, wieso genau habe ich nun diese Cornflakes eingekauft oder jene Partei gewählt? Jede Wahl ist diesem naiven Paradigma gemäss einfach ein Reflex des mysteriösen freien Willens. Dagegen bringt es einen sehr viel weiter, wenn man kritisch danach fragt, wie Vorstellungen, Ideen und Wünsche eigentlich entstehen und geformt werden. Denn erst wenn ich begreife, wie stark mein Denken von allen möglichen biologischen, kulturellen und sozialen Faktoren geprägt wird, kann ich mir so etwas wie Freiheit überhaupt erkämpfen.

Das würde bedeuten: Man muss sich der äusseren Einflüsse bewusst werden, um sich von ihnen frei zu machen – und letztlich wohlüberlegt auf die Welt einzuwirken?

Ja, genau. Das Konzept des freien Willens erweckt den Eindruck, dass Freiheit etwas ist, das man einfach so hat. Aber nein: In unserem normalen Zustand sind wir Menschen dauernd in der Zange etlicher Zwänge, unser Denken speist sich aus anderen Quellen als aus unserer «Seele». Was wir zum Beispiel über die Migration denken, hängt davon ab, in welchem Milieu wir leben und welche Medien wir konsumieren. Um frei zu handeln, ist es unerlässlich, all diesen Mechanismen nachzuforschen. Und wer sich fraglos mit jedem seiner Gedanken identifiziert, tut genau das Gegenteil.

Was formt in Ihren Augen die Geschichte des Menschen, was treibt sie voran?

Es ist eine Kombination von vielen Faktoren. Von materialistischen Sichtweisen, die alles auf die Geografie oder die Ökonomie zurückführen, halte ich nichts. Ich glaube dagegen, dass Erzählungen, Fiktionen, Mythologien einen enormen Einfluss auf den Verlauf der Geschichte haben. Denken Sie doch einmal: Sind Nationen nicht die grössten Kräfte in der gegenwärtigen Welt?

Doch, das kann man gewiss so sehen.

Eben, und Nationen sind nichts anderes als Geschichten! Wir reden von Russen, Franzosen oder Deutschen, als ob das natürliche Spezies wären, doch das ist völlig falsch. Anders als etwa Schimpansen und Gorillas, die sich biologisch unterscheiden, sind die unterschiedlichen Nationen reine Erfindungen, sie haben absolut keine objektiven Realitäten.

Aber sehr reale, nicht selten blutige Auswirkungen – die Konflikte zwischen Franzosen und Deutschen haben Hunderttausende Tote gefordert.

Natürlich, das belegt ja gerade die Macht der Fiktionen. Diese Nationen, die wir heute als völlig normal erachten, haben vor 5000 Jahren in keiner Weise existiert – und 5000 Jahre sind in der Menschheitsgeschichte eine wahrlich kurze Zeit. Doch der Mensch lebt eben davon und prägt seine Geschichte dadurch, dass er solche Storys erfindet – und dann im Kollektiv an sie glaubt. Mit dem Geld oder den Rechtssystemen ist es ja nicht anders. Daneben halte ich aber auch Zufälle für enorm wichtig. Dass zum Beispiel das Christentum oder der Islam eine Weltreligion wurde, war mitnichten determiniert. Wäre Mohammed in einer seiner arabischen Schlachten umgekommen, wäre alles ganz anders verlaufen.

Wenn Storys so zentral sind, dann ist es entscheidend, was für Geschichten wir uns erzählen . . .

Natürlich, eben darum investieren wir jetzt ja zum Beispiel in den Film, und übrigens auch in ein Kinderbuch.

. . . die Frage ist nur: Welche Erzählung braucht die Welt heute?

Die Menschheit muss zurzeit den Blick schärfen für drei existenzielle Herausforderungen: den Atomkrieg, die ökologische Krise und die technologische Disruption.

Seit ein paar Monaten ist Punkt zwei, die Ökokrise, das dominante Thema. Sie selber fokussieren seit je auf die technologische Herausforderung; den Klimawandel handelten Sie in Ihren bisherigen Büchern nur ganz am Rand bzw. in Unterkapiteln ab. Haben Sie sich verschätzt?

Es gibt einen guten Grund, warum ich mich auf die dritte Herausforderung konzentriere: Sie ist die komplizierteste. Die Gefahren, die von ihr ausgehen, sind nicht grösser, aber vermutlich schwieriger zu erkennen. Natürlich gibt es beim Klimawandel noch die paar Leute, die meinen, das sei alles Fake. Doch keiner steht hin und sagt: Ja, es gibt den Klimawandel, und das ist eine wunderbare Sache, lasst uns die Erderwärmung fördern! Im technologischen Bereich ist die Situation sehr viel diffuser. Es ist ganz und gar nicht klar, ob wir hier etwas stoppen sollen und was wir von den neuen Technologien eigentlich wollen.

Viele von ihnen integrieren wir dankbar und freiwillig in unseren Alltag.

Absolut, und die Forschung, gerade im Hirnbereich, hat ja auch ein grossartiges Potenzial. Just gestern hat man mir auf einem Panel ein wunderbares Projekt vorgeführt, das Gelähmten ermöglichen soll, die Beine wieder zu bewegen. Vereinfacht gesagt, liest da ein Computer die Nachricht im Hirn «Beweg das Bein» und schickt die Information an den richtigen Ort im Körper. Das ist einerseits phantastisch, bedeutet aber andererseits eben auch, dass ein Computer lesen kann, was in einem Hirn vor sich geht. Ein Bewegungsbefehl ist unproblematisch, klar, aber was ist mit unseren Emotionen oder Ideen? Und nicht nur diese Verbindungen zwischen Computern und Gehirnen haben wir heute, mit Bio- und Gentechnik wird es auch möglich, die menschlichen Körper zu verändern. Wie wollen wir mit alledem umgehen? Vor einer vergleichbaren Herausforderung hat die Menschheit noch nie gestanden.

Das ist eine überraschende Aussage für einen Historiker. Mir scheint, dass auch frühere Gesellschaften immense Herausforderungen kannten. Überschätzen Sie nicht die Bedeutung unserer Gegenwart?

Nein. Alle früheren Revolutionen haben bloss die äussere Welt verändert. Egal, wie stark die Sesshaftigkeit oder das Christentum unsere Kulturen umgekrempelt hat, egal, wie die Reformation die Wissenschaften und die Industrialisierung das Arbeiten verändert haben: Wir sind immer die gleichen Tiere geblieben, die wir schon vor 30 000 Jahren waren.

Der Mensch hat sich doch stets verändert, immer hat er sich «optimiert», sich Krücken gebastelt, Prothesen eingesetzt oder die Augen scharfsichtig gelasert.

Das sind noch immer äussere Adaptionen, nie zuvor gab es die Möglichkeit, die Strukturen von Körper und Geist auf wirklich profunde Weise zu verändern. Doch wenn künstliche Intelligenz und Biotechnologien unsere Gehirne modifizieren, werden aus diesen «Upgrades» komplett andere Menschen resultieren. In 100 oder 200 Jahren wird die Erde von Wesen dominiert sein, die etwa so viel mit uns heutigen Menschen gemein haben wie wir selber mit Neandertalern oder Schimpansen.

Wäre es schlimm, wenn der Mensch verschwände?

Das kommt darauf an, wodurch er genau ersetzt wird. Wie die neuen Wesen beschaffen sein werden, ist ja vollkommen ungewiss. Man sollte sich das Ganze auch nicht als Hollywood-Katastrophe vorstellen, die den jetzigen Menschen vernichtet, sondern als graduellen Prozess. Ganz allmählich werden sich gewisse Menschen technologisch «optimieren», und dieses Szenario birgt vor allem die Gefahr einer Spaltung: Wenn jene Klassen, die es sich leisten können, langsam zu Supermenschen werden, bleibt der alte Homo sapiens abgehängt zurück. Diese extreme Ungleichheit könnte zu einer ganz neuen Art von Regime führen und das alte faschistische Ideal des «neuen Menschen» plastisch durchsetzen.

Ich erkenne in diesen Horrorszenarien noch eine ganz andere Gefahr: Sie lenken uns von den sehr realen Problemen ab, die sich hier und jetzt in einigen liberalen Ordnungen zeigen. Mich ängstigt weniger der Aufstieg von Supermenschen als jener von autoritären Führern, zum Beispiel in Osteuropa.

Aber diese Dinge hängen doch zusammen! Gerade die illiberalen Regierungen stützen sich ja immer mehr auf die fraglichen Technologien, auf künstliche Intelligenz und Big Data. In Ungarn zum Beispiel geschieht das selbstverständlich, und in China entsteht mit einem technologiebasierten gesellschaftlichen Ranking-System geradezu der Prototyp eines neuen totalitären Regimes.

Wenn wir einmal von den hypothetischen «neuen Menschen» absehen: Wie sind die Totalitarismen des 20. Jahrhunderts an Schrecken zu überbieten?

Nun, «total» wird in unserem Jahrhundert wirklich «total» bedeuten. Nicht nur wird Überwachung rund um die Uhr möglich sein, sie wird sich eben auch aufs Fühlen und Denken erstrecken. Die Propagandaslogans eines Regimes nachzubeten, wird künftig nicht mehr reichen. Gut möglich zum Beispiel, dass in Nordkorea in 10 oder 20 Jahren jedermann ein Armband mit Sensoren tragen muss. Fühlt ein Mensch dann innerlich Ärger aufsteigen, während er bei einer Parade dem Machthaber applaudiert – dann wird er umgehend grosse Probleme bekommen. Eine derart extreme Form von Totalitarismus hat sich nicht einmal George Orwell in «1984» ausmalen können. Aber jetzt ist sie in Reichweite.

Sie reden regelmässig mit wichtigen Politikern, treffen Merkel, Macron und andere zum Gespräch. Welche Ratschläge geben Sie ihnen?

Ich habe keine Ratschläge oder Empfehlungen abzugeben. Es geht eher darum, die Diskussion zu öffnen, ein Bewusstsein für die Probleme zu schaffen. Die Politiker stecken oft in ihrem Kurzfristdenken fest, selten schauen sie weiter als bis zu den nächsten Wahlen. Ich versuche, ihren Blick auf Dinge zu lenken, die in der Zukunft liegen – die wir aber heute mit Entscheidungen beeinflussen können und müssen.

Ist es eine Aufgabe oder gar Pflicht des Intellektuellen, Politik und Gesellschaft aufzurütteln?

Ja, ich glaube, das ist die Hauptaufgabe von Historikern, Philosophen oder Soziologen. Ein Arzt ist dazu da, Leute zu heilen. Ein Computerexperte hat die Aufgabe, Algorithmen zu entwickeln. Idealerweise sind ihm auch die Gefahren seines Tuns bewusst, und es wäre gut, wenn er die Öffentlichkeit darüber auch in Kenntnis setzte. Primär ist er aber nun einmal mit dem Entwickeln seiner Technologien befasst. Die Geisteswissenschafter aber verfehlen ihre wichtigste Rolle, wenn sie nur interne Debatten in ihren Fachgebieten führen. Sie sollen raus, die Leute informieren und Diskussionen führen.

Sie waren ursprünglich Mediävist. Jetzt reden und schreiben Sie über alles Erdenkliche, von der Technologie über das Glück bis zum Terrorismus, und die ganze Welt hängt an Ihren Lippen. Wie fühlt sich das an?

Sehr gut fühlt sich das an, vor allem die Interaktion mit der Öffentlichkeit. Ich bin froh, dass ich nicht mehr in meiner akademischen Blase sitze und nur mit mir selber rede. Doch meine Mittelalterkenntnisse sind eine sehr gute Basis für das, was ich jetzt tue. Ich habe gelernt, in der langen Dauer zu denken, und weiss, dass die Welt, wie wir sie seit fünfzig Jahren kennen, keinen «natürlichen» Zustand darstellt. Weder wird es so weitergehen wie bisher, noch war irgendetwas immer schon so. Menschen können sich ganz unterschiedlich organisieren, und es ist ein ziemlicher Zufall, dass wir hier und heute auf diese scheinbar so normale Weise auf der Welt leben.

Welches politische System verarbeitet die Daten der Bürger für die Bürger besser: Demokratie oder Diktatur?

Der israelische Historiker Yuval Noah Harari zählt zu den Vordenkern der Digitalisierung. Jetzt warnt er vor einem Zerfall von Demokratie und Liberalismus. Viele sprechen ihm nach und stimmen ein in die Lobrede auf einen neuen fürsorglichen Autoritarismus. Doch bedürfen die vorgebrachten Argumente einer Korrektur.

Adrian Lobe 08.05.2018

Künstliche Intelligenz: Aus dem Strudel der Algorithmen taucht das Orakel wieder auf

Es ist, als spräche Gott zu uns: Wenn Algorithmen unser Leben steuern, wird alles besser. Fehler jedenfalls passieren keine mehr.

Roberto Simanowski 13.05.2019

Vom scharfsinnigen Historiker zum allwissenden Pädagogen – Yuval Noah Harari legt ein neues Buch vor

Mit seiner «Kurzen Geschichte der Menschheit» ist der israelische Intellektuelle weltbekannt geworden. In seinem neusten Buch malt Yuval Noah Harari den Untergang unserer Spezies an die Wand – und erteilt uns Lektionen fürs 21. Jahrhundert.

Claudia Mäder 24.10.2018