Logo GEO
Die Welt mit anderen Augen sehen

Jaan Tallinn im Interview Maschinen werden bald klüger sein als wir. Und dann?

Jaan Tallinn, 44, stammt aus Estland und entwickelte Skype, ein Programm für Videotelefonie im Internet. Inzwischen hält er Computer für eine potenzielle Bedrohung: Eines Tages, sagt Tallinn, könnte künstliche Intelligenz die Menschheit auslöschen. Einfach so, aus Versehen
Jaan Tallinn

Jaan Tallinn, Physiker, Programmierer, Investor, hat ein Institut für Zukunftsfragen einer hochtechnisierten Gesellschaft gegründet

GEO: Herr Tallinn, halten Sie es für möglich, dass wir alle in einer Simulation leben, die von Maschinen erschaffen wurde?

Jaan Tallinn: Ja, sicher!

Wirklich?

Manchmal hilft es, dass ich einen Abschluss in Physik habe. Wenn ich mich also mit Hypothesen beschäftige – und besonders wenn sie komplett verrückt klingen –, frage ich mich als Erstes: Halten die Gesetze der Physik? Wenn die Antwort Nein lautet, höre ich mir das nicht länger an. Ist die Antwort Ja, setze ich mich damit auseinander. Und, ja, die Physik erlaubt die Vorstellung, dass wir alle in einer Simulation leben, die von Maschinen erzeugt wird.

Okay, ein anderes Szenario, aus dem Film "Her": Ein Betriebssystem namens Samantha entwickelt Gefühle für einen menschlichen Nutzer. Möglich?

Ein netter Film. Aber das Problem bei allen fiktionalen Stoffen ist doch, dass sie interessante Geschichten liefern sollen. Unglücklicherweise sind die interessantesten Szenarien nicht die wahrscheinlichsten.

Warum ist ein intelligentes, fühlendes Computersystem wie in "Her" unwahrscheinlich?

Filme dieser Art gehen davon aus, dass sich künstliche Intelligenz bis zu einem menschlichen Level entwickelt und dort aus einem merkwürdigen Grund stoppt. Dann haben wir all diese Science-Fiction-Fragen: Sollen wir der künstlichen Intelligenz Wahlrechte geben? Wie sollen wir sie in unsere Gesellschaft integrieren?

Aber viel wahrscheinlicher ist es doch, dass sich die Maschinen einfach immer weiter entwickeln, weit über das menschliche Level hinaus. Dass es Programme gibt, die schnellere und bessere Programme schreiben, die wiederum schnellere und bessere Programme schreiben und immer so weiter, also eine Art Endlosschleife.

Unser Problem ist nicht, was die Menschen schaffen, sondern was die Computer machen, wenn sie unserer Kontrolle entgleiten.

Was wären die Konsequenzen dieses Kontrollverlustes?

Stellen Sie sich vor, Sie würden eines Morgens als Maschine in einer Welt aufwachen, in der Sie Milliarden Male schneller sind als alles andere. Warum sollten Sie Hunderte Jahre warten, um eine Antwort von der Person neben Ihnen zu bekommen?

Um Sie herum sähe alles aus wie eingefrorene Statuen, eine wäre vielleicht ein Tisch, eine andere ein Mensch, das wäre für Sie kein Unterschied. Sie würden sich also wirklich nicht so viel um die Kommunikation mit diesen Statuen kümmern. Das sind für Sie dann nur Ressourcen von Atomen.

Sie würden sich nicht in diese Statue verlieben. Und eines Tages würden Sie, also die künstliche Intelligenz, beginnen, die Atmosphäre der Erde zu verändern.

Aber warum sollte die künstliche Intelligenz das tun. Sie braucht doch keinen Sauerstoff, um...

Aber warum sollte sie denn nicht? Eine der größten Fehlannahmen über die Zukunft der künstlichen Intelligenz ist, dass sie zerstörerisch sein wird und uns mit einer terminatorartigen Roboterarmee angreift. In Wahrheit werden wir Menschen den Maschinen vollkommen egal sein.

Wenn die Maschine also beschließt, dass sie Kohlenstoffatome benötigt oder dass sie im Vakuum besser funktioniert, beginnt sie mit "Terraforming". Aus dieser Gleichgültigkeit der Maschinen gegenüber den Menschen entstehen die viel größeren Desaster.

Glauben Sie, Sie werden noch während Ihrer Lebenszeit erleben, wie Maschinen zu einer Gefahr für die Menschen werden?

Eine Theorie besagt, dass die Menschheit generell kurzfristige Veränderungen überschätzt und langfristige Veränderungen unterschätzt. Daran glaube ich.

Neugierig geworden? Das ganze Interview lesen Sie in der GEO-Ausgabe Nr. 1/2017 "Luther - Wie ein Mutbürger die Welt veränderte". Das Magazin können Sie online im GEO-Shop bestellen.