Fast jeder, der sich auch nur ein wenig mit dem Thema künstliche Intelligenz befasst hat, muss zu dem Schluss kommen, dass künstliche Intelligenz uns entweder zu einer schrecklichen Apokalypse oder direkt zu einer fabelhaften Utopie führen wird. Und es gibt praktisch keine Zwischenoptionen. Dies wird natürlich teilweise durch die Tatsache diktiert, dass laute Slogans wie "Das Ende ist nahe!" oder zum Beispiel "Utopia kommt!" Aber dennoch…
Es läuft teilweise darauf hinaus, wie die Menschen Veränderungen empfinden, insbesondere große Veränderungen. Millennialismus hat nichts damit zu tun, in den 90ern geboren zu werden, ein "Millennial" zu sein und sich an die Serie über Buffy, die Vampirsiegerin, zu erinnern. Es ist ein Denkstil über die Zukunft, der mit einem tiefsitzenden Schicksalsgefühl verbunden ist. Millennialismus ist "die Erwartung, dass unsere Welt zerstört und durch eine perfekte Welt ersetzt wird und dass ein Erlöser erscheint, der alles Böse niederwirft und die Gerechten trösten kann."
Dementsprechend verbinden die Überzeugungen der Millennials die Ideen der Schöpfung und Zerstörung eng miteinander. Darunter sind die Ideen von apokalyptischen, riesigen, seismischen Verschiebungen, die das Gewebe der alten Welt zerstören und etwas völlig Neues aufbauen können. Ein ähnliches Glaubenssystem gibt es in vielen großen Weltreligionen und sogar in den nicht ganz so agnostischen und atheistischen Religionen, die eher an Technologie als an göttliche Essenzen glauben.
Stellen Sie sich zum Beispiel vor, wie Futuristen eine technologische Singularität antizipieren. Laut Ray Kurzweil ähnelt die Singularität der Schaffung eines Paradieses. Jeder wird unsterblich sein, weil Biotechnologie auftauchen wird, die unsere Krankheiten heilen kann; und unser Gehirn kann in die Cloud hochgeladen werden; Leiden und Ungleichheit werden als Phänomene verschwinden. "Zerstörung der Welt" wird durch den Lieblingsbegriff von Silicon Valley ersetzt: Disruption, eine radikale Veränderung in der Branche. Und wie bei anderen tausendjährigen Überzeugungen hängt Ihre endgültige Sichtweise stark davon ab, was Sie erwarten: die Geburt einer Utopie oder das Ende der Welt.
Es gibt viele sehr gute Gründe, dieser Art des Denkens skeptisch gegenüberzustehen. Der vielleicht überzeugendste dieser Gründe ist, dass alle Überzeugungen der Millennials einfach die Einstellung der Menschen zu Veränderungen widerspiegeln. Schauen Sie sich nur an, wie viele Variationen dieser Überzeugungen in der Welt gewachsen sind.
Diese Überzeugungen finden sich in Aspekten der christlichen Theologie, obwohl sie im neunzehnten und zwanzigsten Jahrhundert in ihrer modernen Form populär wurden. Ideen wie Ewige Trauer, viele Jahre der Not und des Leidens und die Entrückung, wenn die Gerechten auferstehen und das Böse bestraft wird. Nach all dieser Zerstörung wird die Welt neu erschaffen oder die Menschen werden in den Himmel kommen.
Trotz des dogmatischen Atheismus gab es auch viele ähnliche Überzeugungen im Marxismus. Die einzige Frage bezieht sich auf die Geschichte. So wie Gläubige nach Signalen suchen, die auf die Erfüllung aller Prophezeiungen hinweisen können, suchen Marxisten nach Anzeichen dafür, dass wir uns in der Endphase des Kapitalismus befinden. Sie glauben, dass die Gesellschaft sich verschlechtert und unweigerlich auf den Grund gehen wird - in der Tat, wie auch Christen denken.
Wie der Marxismus argumentiert, versammelt und stürzt die Arbeiterklasse den Unterdrücker, wenn die Ausbeutung der Arbeiterklasse durch die Reichen instabil ist. "Trauer" wird durch "Revolution" ersetzt. Manchmal werden revolutionäre Figuren wie Lenin oder Marx selbst als Messias proklamiert, die das Millennium näher bringen; Ihre Rhetorik enthält immer Forderungen nach der Zerstörung des alten Systems, auf dessen Ruinen "wir werden unser bauen, wir werden eine neue Welt bauen". Die rechtschaffenen Arbeiter werden bekommen, was sie verdienen, und die böse Bourgeoisie wird zerstört.
Werbevideo:
Sogar in der nordischen Mythologie gibt es ein Element davon, wie James Hughes in seinem Aufsatz in Nick Bostroms Buch Global Catastrophic Risks feststellte. In Ragnarok werden sowohl Menschen als auch Götter in der letzten apokalyptischen Schlacht besiegt, aber da dies alles ein wenig düster ist, fügten die Skandinavier die Idee eines neuen Landes hinzu, auf dem die Überlebenden in Harmonie leben werden.
Der Tag des Jüngsten Gerichts ist auch zu einem kulturellen Pfad geworden. Nehmen Sie die alten Ägypter und ihre Überzeugungen über das Leben nach dem Tod; Der Herr der Unterwelt Osiris wiegt das Herz eines Sterblichen zusammen mit einer Feder. Wenn das Herz des Verstorbenen durch Übertretungen zu schwer wird, wird der Dämon es essen und die Hoffnung auf ein Leben nach dem Tod wird verschwinden.
Wahrscheinlich wird während der Singularität etwas Ähnliches passieren. Wenn sich unsere Technologie und damit unsere Stärke verbessert, werden unsere Herzen, die Herzen der Menschen, gegen Federn gewogen. Wenn sie sich als zu schwer herausstellen - mit Dummheit, Arroganz, Vorurteilen, Bösem - werden wir den Test nicht bestehen und zerstört werden. Aber wenn wir durch die Singularität gehen und sie verlassen, erwartet uns der Himmel. Wie bei anderen Glaubenssystemen gibt es keinen Raum für Ungläubige; Die ganze Gesellschaft wird sich radikal verändern, ob Sie es mögen oder nicht. Technologische Bewunderung.
Jede größere Entwicklung scheint eine ähnliche Reaktion hervorzurufen. Und auch Atomwaffen. Entweder wird es der letzte Strohhalm sein und wir werden uns selbst zerstören, oder die Kernenergie kann genutzt werden, um eine bessere Welt zu schaffen. In den frühen Tagen des Atomzeitalters wurde von Elektrizität gesprochen, die "zu billig zum Zählen" sei. Wissenschaftler, die an der Bombe arbeiteten, dachten oft, dass wir mit solch einer zerstörerischen Kraft in den Händen des Menschen einfach zusammenkommen und als Spezies zusammenarbeiten müssten.
Wenn wir immer wieder dieselbe Antwort unter verschiedenen Umständen sehen, die in verschiedenen Bereichen auftauchen, sei es Wissenschaft, Politik oder Religion, müssen wir die menschliche Voreingenommenheit berücksichtigen. Wir lieben die Überzeugungen der Millennials. Wenn also die Idee der künstlichen Intelligenz aufkommt, die die menschliche Intelligenz übertrifft, legen wir sofort ein bekanntes Muster fest.
Wir mögen keine Fakten. Die Informationen gefallen uns nicht. Wir sind nicht so rational wie wir denken. Wir schaffen Erzählungen. Physiker beobachten die Welt, und wir verweben unsere eigenen Beobachtungen in narrative Theorien, Geschichten über winzige Billardkugeln, die hier und da fliegen und miteinander kollidieren, oder über Raum und Zeit, die sich biegen, biegen und ausdehnen. Historiker versuchen, einem endlosen Strom von Ereignissen einen Sinn zu geben. Wir lieben Geschichten: Geschichten, die unsere Vergangenheit, unsere Gegenwart darstellen und uns auch auf die Zukunft vorbereiten.
Die tausendjährige Erzählung ist sehr schön und überzeugend. Er bringt dir sozialen Wandel. Er kann Ihr tägliches Leiden rechtfertigen, wenn Sie trauern. Er gibt Ihnen Hoffnung, dass Ihr Leben wichtig und sinnvoll ist. Es gibt Ihnen ein Gefühl dafür, wie sich die Dinge gemäß den Regeln in eine bestimmte Richtung entwickeln und nicht nur im Chaos. Er verspricht, dass die Gerechten gerettet und die Ketzer bestraft werden, auch wenn auf dem Weg Leiden ist. Schließlich verspricht die tausendjährige Erzählung den Himmel am Ende des Tunnels.
Wir müssen mit der tausendjährigen Erzählung vorsichtig sein, wenn wir über technologische Entwicklung, Singularität und existenzielle Risiken nachdenken. Wir riefen "Wölfe!" Viele Male, wenn sie nicht da waren. Vielleicht steht die Welt auch jetzt noch nicht vor einer Katastrophe. Natürlich ist diese Geschichte nicht so attraktiv. Natürlich will jeder ein bezauberndes Ende.
Wenn Sie jedoch tiefer graben, werden Sie feststellen, dass tausendjährige Überzeugungen nicht immer die vielversprechendsten sind, da sie den menschlichen Agenten aus der Gleichung herausnehmen. Wir müssen an Grautöne glauben und die finstere Apokalypse mit der rotäugigen KI und die fabelhafte Utopie mit der allmächtigen KI, die Menschen verehrt, aufgeben.
