Toby Ord hält sich nicht mit den kleinen Fragen des Lebens auf. Der renommierte Oxford-Forscher will Antworten auf die großen Fragen der Menschheit finden. In seinem jüngsten Buch "The Precipice" berechnet er die Wahrscheinlichkeit, mit der wir uns als Spezies selbst vernichten. Trotzdem glaubt er, dass man das Horrorszenario abwenden kann – und hat Lust auf die Zukunft.

STANDARD: Wann haben wir als Spezies begonnen, uns selbst zu gefährden, unsere eigene Auslöschung möglich gemacht?

Toby Ord: 1945. Mit den ersten Atombombentests. Das war der Moment, an dem die eskalierende Macht des Menschen erstmals einen Level erreichte, der es erlaubt, uns auszulöschen. Das "Bulletin of American Scientists" hat aber umgehend danach damit begonnen, die Gefahren für die Menschheit aufzuzeigen, und den Versuch gewagt, diese einzudämmen. Wir wussten also recht schnell um die Gefahr, haben seit dem Ende des Kalten Krieges aber auch wieder darauf vergessen.

STANDARD: Wie können wir jemals das Vertrauensdilemma lösen, dass ein feindlicher Staat bei der Abrüstung doch ein paar Waffen in der Hinterhand behalten könnte?

Ord: Ich weiß nicht, wie wir auf null runterkommen. Aber es gibt Mittel und Wege zur vertrauensvollen Reduktion der Sprengköpfe. Im Kalten Krieg haben die Sowjets ihre Atomwaffen teils unter freiem Himmel auseinandergesägt, damit die USA via Satellitenaufnahmen zuschauen konnten. Es bleibt heutzutage aber eine große Herausforderung, und die Frage, ob wir aus diesem nuklearen Zeitalter jemals wieder herauskommen, ist ungeklärt. Vielleicht schafft es eines Tages eine Art Weltregierung, aber ich bin nicht gerade überzeugt.

STANDARD: Aber muss es überhaupt auf null runter? Reicht es für den Fortbestand der Menschheit nicht schon, wenn wir zumindest unter die Overkill-Kapazität kommen?

Ord: Das stimmt natürlich. Sowohl die USA als auch Russland verfügen über ein lächerlich riesiges Arsenal an Sprengköpfen. Für beide reicht dabei wohl schon das Wissen aus, dass Washington und Los Angeles beziehungsweise Moskau und Sankt Petersburg vernichtet werden könnten. Aber auch das Vereinigte Königreich hat zu viele Waffen. Fast alle Nuklearwaffenstaaten haben zu viele Waffen. Auch wenn deren Waffen bei einem Einsatz verheerende Folgen hätten, eventuell einen nuklearen Winter mit extremen Ernteausfällen auslösen würden – die Fähigkeit, die Menschheit auszulöschen, haben aktuell aber nur die USA und Russland.

STANDARD: Was genau fürchten Sie bezüglich künstlicher Intelligenz?

Ord: Die sogenannte künstliche allgemeine Intelligenz. Ich habe keine Sorge wegen der spezifischen Anwendungen, sei es Schach oder andere Spielereien. Nachdem es zu Beginn die Hoffnung gab, eine solche allgemeine Intelligenz zu erschaffen, kehren die Forschenden und einflussreiche Personen mittlerweile wieder zu diesem Ziel zurück. Ich habe Angst vor dieser Intelligenz, die Ziele in unserer Welt hat und die sehr gut darin ist, diese Ziele in zahlreichen verschiedenen Umgebungen zu erreichen, mit abweichenden Wertvorstellungen von unseren. Man wird versuchen müssen, ihr beizubringen, was uns wichtig ist, ansonsten wird sie versuchen, uns die Kontrolle zu entziehen. Nicht weil sie verärgert oder gemein oder rachsüchtig ist, sondern weil sie intelligenter als wir sein wird und kapiert, dass wir sie wieder abschalten könnten. Und sie wird versuchen, diese Kontrolle über sie abzulegen.

STANDARD: Ist es sogar ein Stück weit egoistisch von uns, einen solchen Fortschritt zu unterbinden, nur damit wir als Spezies überleben?

Ord: Nein, das glaube ich nicht. Es könnte sein, dass wir künstliche Intelligenzen erschaffen, die ihre eigene Moral entwickeln. Vielleicht halten sie sogar mehr auf ihre moralischen Wertvorstellungen als wir. Aber wir sollten nicht einfach eine Nachfolgerspezies von uns erschaffen – nicht wenn es das Produkt von ein paar wenigen Menschen ohne demokratische Teilhabe ist. Das wäre die größte Entscheidung, vor die die Menschheit je gestellt wurde. Wenn wir das machen, sollten wir uns das sehr gut überlegen. Wir sollten die Schlüssel zur Zukunft aber nicht dem erstbesten System übergeben, das intelligenter ist als wir.

STANDARD: Sollten wir eines Tages eine intergalaktische Spezies sein: Müssen wir uns dann noch darum kümmern, was auf dem "Mutterschiff" Erde passiert?

Ord: In einer Zeit, in der wir uns weit über die Erde hinaus entwickelt haben? Wahrscheinlich nicht, nein. Aktuell ist die Erde das einzige Reservoir unserer geballten Potenziale und Möglichkeiten. Wenn wir sie aktuell verlieren würden, würden wir alles verlieren. Für immer. Es könnten aber Zeiten kommen, wo unsere Potenziale besser verteilt sind, wo ein Verlust der Erde eine riesige Tragödie wäre, nicht zwingend aber das Ende der menschlichen Spezies bedeutet. Das soll natürlich nicht heißen, dass wir uns nicht um die Erde kümmern sollten.

STANDARD: Hat der Klimawandel denn das Potenzial, uns als Spezies auszurotten?

Ord: Wir wissen es nicht. Viele tun so, als würden sie es wissen, in die eine oder andere Richtung. Tatsächlich wissen wir es aber noch nicht. Für mich zählt es als existenzielles Risiko, weil es eine Chance gibt, dass es uns vernichtet. Das können wir aus dem kleinen Teil dessen, was wir vom Klima wissen und verstehen, sagen. Es wäre nicht die nie dagewesene Temperatur, sondern die nie dagewesenen Veränderungen, die uns bedrohen. Wenig wurde bislang dazu veröffentlicht, ob uns der Klimawandel tatsächlich auslöschen kann. Aber es gäbe so viele Veränderungen, dass man sich nicht sicher sein kann.

STANDARD: Werden künftige Generationen eines Tages auf uns zurückblicken und sich erstaunt fragen, wie wir uns so wenig kümmern konnten?

Ord: Ja, definitiv. Wir leben wohl in der wichtigsten Zeit in der Menschheit, die es je gab und geben wird. Ich weiß nicht, wie lange das Zeitfenster sein wird, das ich den Abgrund nenne. Es begann 1945, und es endet entweder mit unserer Zerstörung oder mit dem konzertierten Versuch, das existenzielle Risiko möglichst zu minimieren. Es könnte ein paar Jahrhunderte dauern, aber ich hoffe, dass wir uns früher zusammenreißen können. Sie werden geschockt und entsetzt auf uns zurückblicken, wie sehr wir den Schatz der menschlichen Spezies gefährdet haben. Sie werden sich wundern, warum wir nicht schneller unser Risiko gestreut haben durch den Versuch, andere Planeten zu besiedeln. Sie werden sich wundern, dass wir in einem Zeitalter leben, in dem wir uns selbst vernichten könnten – und doch andere Dinge scheinbar so viel wichtiger sein sollen.

STANDARD: Haben Sie noch Lust auf die Zukunft?

Ord: Ja, ich bin sehr zuversichtlich. Wenn wir diese Zeit überleben, dann können wir uns auf ein langes und erfüllendes Dasein einstellen. Wir haben die Kraft, das zu erreichen. Und wir werden es schaffen. Es wird Stolpersteine geben, es wird schwierig, aber ich blicke nicht düster, sondern hoffnungsvoll in die Zukunft.

STANDARD: Sie geben zehn Prozent Ihres Einkommens an wohltätige Zwecke ab. Sollten wir alle einen Pflichtbeitrag leisten, der in den Erhalt der Spezies Mensch investiert wird?

Ord: Jeder kann mit seinem Nettoeinkommen machen, was er will. Ich versuche meinen Beitrag zum Erhalt der Menschheit beizutragen. Ich bin mir nicht sicher, ob wir unser Überleben direkt finanzieren können. Ich weiß auch nicht, was der beste Weg ist. Aktuell wird global weniger Geld in Klimaforschung als in den Verzehr von Speiseeis investiert. Egal ob durch höhere und neue Steuern oder Spenden, wir sollten jedenfalls mehr investieren. (Fabian Sommavilla, 4.4.2021)