„Es geht nicht um die KI-Revolution, sondern um die feministische“
Autorinnen: Miriam Meckel & Astrid Maier
Noah Yuval Harari bei Morals & Machines 2018

Fortsetzung...

 

Im Moment tun sich die europäischen Länder schon schwer, sich bei der Flüchtlingspolitik auch nur ansatzweise zu einigen. Wie soll ein weltweiter Konsens zum Verbot für Killerroboter gelingen?

Noah Yuval Harari: Als Historiker, der Interesse an der Zukunft hat, habe ich eine Sorge: Dass nicht künstliche Intelligenz die größte Gefahr für die Menschheit darstellt, sondern natürliche Dummheit.

 

Es gibt ja auch friedfertige Roboter. Einer der berühmtesten ist Sophia. Sie hat sich am Mittwochabend auf unserer Konferenz mit der Bundeskanzlerin unterhalten. Brauchen wir mehr Roboter, die Menschen ähneln und so Vertrauen schaffen?

Harari: Für bestimmte Dienste, etwa die Alten- und Krankenpflege, gibt es gute Gründe, Roboter so zu bauen, dass sie Menschen ähneln. Meist aber stiftet genau das viel Verwirrung. Intelligenz und Bewusstsein gleichzusetzen, verzerrt die gesamte Diskussion.

 

Weshalb?

Harari: Intelligenz ist die Fähigkeit, Probleme zu lösen; Bewusstsein die Fähigkeit, etwas zu fühlen. Bei Menschen gehört beides zusammen. Maschinen lösen Probleme auf eine ganz andere Art. Und wir haben derzeit nicht den kleinsten Hinweis darauf, dass Computer auch nur annähernd dabei sind, so etwas wie ein Bewusstsein zu entwickeln. Vielleicht geschieht das in hundert Jahren. Wenn wir uns künstliche Intelligenz als eine Art menschenähnlichen Roboter vorstellen, verdrängen wir wichtige Dinge.

 

„Nicht künstliche Intelligenz stellt die größte Gefahr für die Menschheit dar, sondern natürliche Dummheit“
Noah Yuval Harari

Was ärgert Sie daran?

Harari: Ich liebe Science Fiction, aber sie hat der Menschheit einen Bärendienst erwiesen. Der übliche Plot sieht vor, dass sich die Maschine gegen ihren Schöpfer wendet. Oft sind diese Roboter übrigens weiblich. Der Wissenschaftler verliebt sich in die von ihm entwickelte Maschine – und schließlich bringt sie ihn um. In diesen Filmen geht es nicht um Menschen, die sich vor Robotern fürchten – sondern um Männer, die Angst vor intelligenten Frauen haben. Es geht also nicht um die KI-Revolution, sondern um die feministische Revolution. Dafür ist es eine Metapher. Für Roboter hat das Geschlecht keinerlei Bedeutung.

 

Jeder kann heute schon einen Sex-Roboter bestellen, der aussieht wie Scarlett Johansson oder Yuval Harari. In Barcelona gibt es sogar schon Bordells mit Sex-Robotern. Was sagt das über unsere Gesellschaft?

Harari: Roboter statt Menschen in Bordellen zu beschäftigen, ist sicherlich eine gute Sache. Denn Roboter leiden nicht. Offenbar ist ein Mann in Kanada dafür bestraft worden, dass er einen Sex-Roboter in Gestalt eines Kindes im Internet bestellt hat. Aber an einem Roboter kann man sich nicht vergehen. Natürlich ist das, was in einem Menschen vorgeht, der solch ein Ding bestellt, ein enormes Problem. Darüber sollten wir uns Gedanken machen – aber nicht darüber, was das für den Roboter bedeutet. Dem macht das nämlich gar nichts aus.

Yuval Noah Harari bei Morals & Machines 2018

Ganz ausschließen wollen Sie künstliches Bewusstsein aber nicht. Nehmen wir an, dass es in hundert Jahren tatsächlich so weit wäre. Dann könnten Roboter auch wie Menschen einen freien Willen entwickeln.

Harari: Wir brauchen kein futuristisches KI-Szenario, um über den freien Willen zu diskutieren. Die Wissenschaft sagt sehr klar, dass der freie Wille ein Mythos ist. Er ist eine Fiktion wie der Glaube an die Seele oder an Gott. Ein Mythos, den wir von früheren Generationen geerbt haben. Das ist ein leeres Konzept, es gibt keinen freien Willen.

 

Wie kommen Sie darauf?

Harari: Die Naturwissenschaft kennt zwei Prozesse: deterministische und zufällige. Und wenn wir beide kombinieren, haben wir probabilistische Prozesse. Aber so etwas wie Freiheit gibt es nicht. Menschen haben definitiv einen Willen - so wie Ratten und Affen auch Wünsche und Bedürfnisse haben. Aber ein freier Wille würde bedeuten, dass man wirklich frei ist, das zu tun, was man will. Ich möchte dieses Wasser trinken, dann nehme ich es und trinke. In diesem Sinne gibt es einen freien Willen für Menschen, Ratten, Paviane, für alle Säugetiere.

 

Morals & Machines in der St. Elisabeth Kirche in Berlin

Und in einem weiteren Sinne nicht?

Harari: Die tiefere Bedeutung des freien Willens ist doch die Freiheit, sich seinen Willen auszusuchen. Niemand kann sich seine Wünsche oder seinen Willen aussuchen. Wir können das sehr einfach bei uns selbst beobachten. Es ist nicht so, dass wir denken: Ich will frisches Wasser, und dann entsteht dieser Wunsch im Kopf. Nein, der Wunsch taucht einfach auf. Aus Gründen, von denen wir noch keine Ahnung habe.

Aber Sie können die Entscheidung treffen, das Wasser nicht zu trinken.

Diese Entscheidung basiert ebenfalls auf Dingen, die ich nicht frei wähle. Vielleicht bin ich ein Kontrollfreak und wenn ein Wunsch aufkommt, sage ich: "Nein, ich mache das nicht." Habe ich mir ausgesucht, ein Kontrollfreak zu sein? Wann in meiner Geschichte habe ich diese Entscheidung getroffen?

 

Woran liegt es dann?

Harari: Egal, wie weit Sie zurück gehen: Jede Entscheidung, die Sie treffen, basiert auf Entwicklungen, die Sie sich nicht frei ausgesucht haben. Und wir geben überhaupt nichts auf, wenn wir uns von dieser Illusion des freien Willens verabschieden. Gerade heute ist es sehr wichtig, dass wir hinter diese Illusion schauen. Denn Menschen, die zu sehr an ihren freien Willen glauben, sind am einfachsten zu manipulieren.

 

 

Der Glaube an unsere Unfreiheit macht uns frei? Wie das denn?

Harari: Wir betreten gerade die Ära, in der Menschen gehackt werden können. Und die Menschen, die man am leichtesten manipulieren kann, sind diejenigen, die sagen: Mich kann man nicht manipulieren. Denn egal, um was es in meinem Leben geht - welches Auto ich kaufe, welche Partei ich wähle - nur ich wähle aus, mit meinem freien Willen.

 

Harari im Gespräch auf der Bühne

Das müssen Sie uns erklären.

Harari: Wir müssen nur herausfinden, welches die Ängste, der Hass, die Wut einer Person sind. Danach ist es sehr einfach, sie über KI-Systeme zu manipulieren. Ein Beispiel: Auch Linksliberale könnten Vorurteile gegenüber Hillbillies in Mississippi haben. Es ist so einfach, eine Fake-News-Story über einen blöden bibeltreuen Hillbilly zu erfinden - und sie würden sie glauben. Sie würden wütend werden und ihr Hass würde sich verstärken. Die Gesellschaft würde sich noch mehr polarisieren. 

 

Wenn wir das Konzept des freien Willens aufgeben, werden wir zu deterministischen, fehlerbehafteten Maschinen. Sie erklären das zur neuen Aufklärung?

Harari: Die Illusion des freien Willens ist gefährlich, weil sie zumindest manchen Menschen das Gefühl gibt: Es gibt nichts über mich zu wissen, weil ich eine frei handelnde Person bin und zu jeder Zeit in meinem Leben tun und lassen kann, was ich will. Und wenn man daran glaubt, dann ist es nicht nötig, herauszufinden, wovor man Angst hat.

 

Sie nehmen sich jedes Jahr 60 Tage für eine Meditations-Auszeit. Versuchen Sie herauszufinden, welche Knöpfe andere Menschen bei Ihnen drücken können?

Harari: Ich nehme jedes Jahr frei, um eine Vipassana-Auszeit zu machen. Das ist eine der ältesten indischen Meditationen. Dann sitze ich 60 Tage lang einfach da und beobachte, was in mir passiert. Ich versuche nichts zu ändern, sondern einfach meine inneren Zwänge besser kennenzulernen. Wenn Sie zwei Wochen lang mit viel Hass dasitzen, wenn Sie von frühmorgens bis spätabends meditieren und nur Hass beobachten, dann lernen Sie diesen Hass sehr viel besser kennen. Ich bin nicht frei davon, aber er hat weniger Macht über mich.

 

Jeder Mensch muss sich selbst besser zu verstehen, wenn künftig künstliche Intelligenz den Arbeitsmarkt automatisieren wird. Wo kriegen Menschen ihre Bestimmung her, wenn es keine Arbeit mehr gibt?

Harari: Die Automatisierung wird kein einmaliges Ereignis sein, bei dem man ein Mal die Bevölkerung umschult und das war's. Nein, es wird weitergehen, und es wird eine Kaskade immer größerer Veränderungen auslösen. Nach zehn Jahren müssen Sie sich vielleicht nochmal neu erfinden, weil Ihr neuer Job gerade wieder verschwunden ist. Und nach weiteren zehn Jahren noch mal.

„Eine riesige Klasse nutzloser Menschen“
Noah Yuval Harari

Brauchen wir ein bedingungsloses Grundeinkommen?

Harari: Das ist eine der Ideen, die weiterhelfen könnten. Aber sagen wir, ich bin jetzt 50 Jahre alt, ich bin durch zwei Zyklen der Neuerfindung gegangen, ich habe einen Beruf mit 20 angefangen, mich mit 30 neu erfunden und nochmals mit 40. Und jetzt reicht’s mir. Dann bin ich im Alter von 50 Jahren raus aus dem Arbeitsmarkt. Aber vielleicht habe ich noch 60 Jahre zu leben, denn die Lebenserwartung steigt. Also was tun wir mit einer Person, die noch 60 Jahre zu leben hat und mental und physisch voll leistungsfähig, aber raus aus dem Arbeitsmarkt ist? Das ist ein anderes Problem, das wir lösen müssen.

 

Und wie? 

Harari: Darauf wird jedes Land seine eigene Antwort finden müssen. Manche Gesellschaften könnten sehr grausam sein und sagen: Ihr seid aus dem Spiel, ihr seid uns egal. Dann hätten wir eine riesige Klasse nutzloser Menschen. Nutzlos nicht aus Sicht der Eltern oder Kinder, sondern nutzlos aus der Sicht von Wirtschaft und Politik. Sie tragen nichts zur Gesellschaft bei, sie haben keine politische Macht. Es muss aber nicht so kommen. Es hängt von den Entscheidungen ab, die wir heute treffen.

 

Noah Yuval Harari bei Morals&Machines 2018 im Gespräch mit WirtschaftsWoche-Herausgeberin Miriam Meckel

Sie haben ein Buch über die Geschichte der Menschheit geschrieben, dann über die Zukunft der Menschheit. Ihr nächstes Buch erscheint im September. Wie lautet Ihre Analyse unserer Gegenwart?

 

Harari: Das neue Buch nimmt die Erkenntnisse aus der Vergangenheit und der Zukunft, um auf gegenwärtige Ereignisse zu schauen. Es gibt keine Einzelteile oder eine Storyline, es betrachtet die Vielfalt gegenwärtiger Probleme wie den Aufstieg des Populismus, die Migrationskrise oder Terrorismus aus dieser Langzeitperspektive. Eine der Kernbotschaften ist, dass alle gegenwärtigen Probleme globale Probleme sind, für die es nur gemeinsame Lösungen gibt.