Fast jeder, der sich auch nur ein wenig mit dem Thema künstliche Intelligenz befasst, kommt zu dem Schluss, dass dies entweder zu einer feurigen Apokalypse oder zu einer magischen Utopie führen wird. Es gibt praktisch keine Optionen zwischen. Dies liegt natürlich teilweise daran, dass Slogans wie "Das Ende ist nahe!" oder "Utopie kommt!" Aber dennoch…
Ein Teil davon läuft darauf hinaus, wie die Menschen Veränderungen empfinden, besonders große. Millennialismus hat nichts damit zu tun, ein Millennial zu sein, in den 90ern geboren zu werden und sich an die Fernsehserie Buffy the Vampire Slayer zu erinnern. Es ist ein Denkstil über die Zukunft, der mit einem tiefsitzenden Schicksalsgefühl verbunden ist. Millennialismus ist "die Erwartung, dass die Welt zerstört und durch eine perfekte Welt ersetzt wird und dass ein Erlöser kommt, der das Böse stürzt und die Gerechten tröstet."
Millennial-Überzeugungen verbinden dementsprechend eng die Ideen der Zerstörung und Schöpfung. Darunter sind die Ideen großer, apokalyptischer, seismischer Verschiebungen, die das Gewebe der alten Welt zerstören und etwas völlig Neues aufbauen werden. Ein ähnliches Glaubenssystem existiert in vielen der großen Religionen der Welt und sogar in den nicht ganz atheistischen und agnostischen Religionen, die an Technologie glauben.
Sehen Sie zum Beispiel, wie Futuristen auf eine technologische Singularität warten. Laut Ray Kurzweil ist die Singularität die Schaffung eines Paradieses. Jeder wird dank der Biotechnologie, die unsere Krankheiten heilen wird, unsterblich. Unser Gehirn kann in die Cloud hochgeladen werden. Ungleichheit und Leiden werden als Phänomene verschwinden. "Zerstörung der Welt" wird durch den Lieblingsbegriff von Silicon Valley ersetzt: Störung oder radikaler Wandel in der Industrie. Und wie bei anderen tausendjährigen Überzeugungen hängt Ihre endgültige Sichtweise davon ab, ob Sie auf das Ende der Welt oder die Geburt einer Utopie warten.
Es gibt viele gute Gründe, dieser Art des Denkens skeptisch gegenüberzustehen. Das vielleicht überzeugendste davon ist, dass die Überzeugungen der Millennials einfach die Einstellung der Menschen zu Veränderungen widerspiegeln. Schauen Sie sich nur an, wie viele Variationen dieser Überzeugungen in der Welt aufgewachsen sind.
Diese Überzeugungen sind in Aspekten der christlichen Theologie präsent, obwohl sie im 19. und 20. Jahrhundert in ihrer modernen Form populär wurden. Ideen wie Ewige Trübsal - langjähriges Leiden und Nöte - und die Entrückung, wenn die Gerechten auferstehen und das Böse bestraft wird. Nach dieser Zerstörung wird die Welt wieder aufgebaut oder die Menschen werden in den Himmel kommen.
Trotz des dogmatischen Atheismus gab es viele ähnliche Überzeugungen im Marxismus. Die einzige Frage bezieht sich auf die Geschichte. So wie Gläubige nach Signalen suchen, die auf die Erfüllung von Prophezeiungen hinweisen, suchen Marxisten nach Anzeichen dafür, dass wir uns in der Endphase des Kapitalismus befinden. Sie glauben, dass sich die Gesellschaft unweigerlich verschlechtern und auf den Grund gehen wird - genau wie Christen glauben.
Nach dem Marxismus versammelt sich die Arbeiterklasse und stürzt den Unterdrücker, wenn die Ausbeutung der Arbeiterklasse durch die Reichen nicht mehr nachhaltig ist. "Trauer" wird durch "Revolution" ersetzt. Manchmal werden revolutionäre Figuren wie Lenin oder Marx selbst als Messias gefeiert, die das Millennium näher bringen; Ihre Rhetorik enthält unweigerlich Forderungen nach der Zerstörung des alten Systems, auf dessen Ruinen "wir werden unser bauen, wir werden eine neue Welt bauen". Die rechtschaffenen Arbeiter werden ihr Recht bekommen, und die böse Bourgeoisie wird zerstört.
Werbevideo:
Sogar in der nordischen Mythologie gibt es ein Element davon, wie James Hughes in seinem Aufsatz in Nick Bostroms Buch Global Catastrophic Risks feststellte. In Ragnarok werden sowohl Menschen als auch Götter in der letzten apokalyptischen Schlacht besiegt, aber da dies alles ein wenig düster ist, fügten die Skandinavier die Idee eines neuen Landes hinzu, auf dem die Überlebenden in Harmonie leben werden.
Der Tag des Jüngsten Gerichts ist auch zu einem kulturellen Pfad geworden. Nehmen Sie die alten Ägypter und ihre Überzeugungen über das Leben nach dem Tod; Der Herr der Unterwelt Osiris wiegt das Herz eines Sterblichen zusammen mit einer Feder. Wenn das Herz des Verstorbenen durch Übertretungen zu schwer wird, wird der Dämon es essen und die Hoffnung auf ein Leben nach dem Tod wird verschwinden.
Vielleicht passiert so etwas während der Singularität. Wenn sich unsere Technologie und damit unsere Stärke verbessert, werden unsere Herzen, die Herzen der Menschen, gegen Federn gewogen. Wenn sie sich als zu schwer herausstellen - mit Dummheit, Arroganz, Vorurteilen, Bösem - werden wir den Test nicht bestehen und zerstört werden. Aber wenn wir durch die Singularität gehen und sie verlassen, erwartet uns der Himmel. Wie bei anderen Glaubenssystemen gibt es keinen Raum für Ungläubige; Die ganze Gesellschaft wird sich radikal verändern, ob Sie es mögen oder nicht. Technologische Bewunderung.
Es scheint, dass jede größere Entwicklung eine solche Reaktion hervorruft. Und auch Atomwaffen. Entweder wird es der letzte Strohhalm sein und wir werden uns selbst zerstören, oder die Kernenergie kann genutzt werden, um eine bessere Welt zu schaffen. In den frühen Tagen des Atomzeitalters wurde von Elektrizität gesprochen, die "zu billig zum Zählen" sei. Wissenschaftler, die an der Bombe arbeiteten, dachten oft, dass wir mit solch einer zerstörerischen Kraft in menschlichen Händen einfach zusammenkommen und als Spezies zusammenarbeiten müssten.
Wenn wir immer wieder dieselbe Antwort unter verschiedenen Umständen sehen, die in verschiedenen Bereichen auftauchen, sei es Wissenschaft, Religion oder Politik, müssen wir die menschliche Voreingenommenheit berücksichtigen. Wir lieben die Überzeugungen der Millennials. Wenn also die Idee der künstlichen Intelligenz aufkommt, die die menschliche Intelligenz übertrifft, legen wir sofort ein bekanntes Muster fest.
Wir mögen keine Fakten. Die Informationen gefallen uns nicht. Wir sind nicht so rational wie wir denken. Wir schaffen Erzählungen. Physiker beobachten die Welt, und wir verweben unsere eigenen Beobachtungen in narrative Theorien, Geschichten über winzige Billardkugeln, die hier und da fliegen und miteinander kollidieren, oder über Raum und Zeit, die sich biegen, biegen und ausdehnen. Historiker versuchen, einem endlosen Strom von Ereignissen einen Sinn zu geben. Wir lieben Geschichten: Geschichten, die unsere Vergangenheit, unsere Gegenwart darstellen und uns auch auf die Zukunft vorbereiten.
Die tausendjährige Erzählung ist schön und überzeugend. Er bringt dir sozialen Wandel. Er kann Ihr tägliches Leiden rechtfertigen, wenn Sie trauern. Er gibt Ihnen Hoffnung, dass Ihr Leben wichtig und sinnvoll ist. Es gibt Ihnen ein Gefühl dafür, wie sich die Dinge gemäß den Regeln in eine bestimmte Richtung entwickeln und nicht nur im Chaos. Er verspricht, dass die Gerechten gerettet und die Ketzer bestraft werden, auch wenn auf dem Weg Leiden ist. Schließlich verspricht die tausendjährige Erzählung den Himmel am Ende des Tunnels.
Wir sollten mit der tausendjährigen Erzählung vorsichtig sein, wenn wir über technologische Entwicklung, Singularität und existenzielle Risiken nachdenken. Wir riefen "Wölfe!" Viele Male, wenn sie nicht da waren. Vielleicht steht die Welt auch jetzt noch nicht vor einer Katastrophe. Natürlich ist diese Geschichte nicht so attraktiv. Natürlich will jeder ein bezauberndes Ende.
Wenn Sie jedoch tiefer graben, werden Sie feststellen, dass tausendjährige Überzeugungen nicht immer die vielversprechendsten sind, da sie den menschlichen Agenten aus der Gleichung herausnehmen. Wir müssen an Grautöne glauben und die finstere Apokalypse mit der rotäugigen KI und die fabelhafte Utopie mit der allmächtigen KI, die Menschen verehrt, aufgeben.
Ilya Khel
