Mit der Beschleunigung des technologischen Fortschritts nähert sich die Menschheit möglicherweise schnell einem kritischen Punkt ihrer Entwicklung. Neben bekannten Bedrohungen wie dem nuklearen Holocaust bietet uns die Aussicht auf schnell fortschreitende Technologien wie Nanosysteme und Maschinenintelligenz beispiellose Chancen und Risiken. Unsere Zukunft und ob wir überhaupt eine Zukunft haben werden, hängt davon ab, wie wir mit diesen Herausforderungen umgehen. Mit der schnell fortschreitenden Technologie brauchen wir ein besseres Verständnis der Dynamik des Übergangs von der menschlichen zur „post-menschlichen“Gesellschaft. Es ist besonders wichtig zu wissen, wo sich die Fallen befinden: Wege, auf denen Dinge tödlich schief gehen können.
Während wir seit langem einer Vielzahl von persönlichen, lokalen und übertragbaren weltweiten Gefahren ausgesetzt sind, analysiert dieser Artikel eine neu aufkommende Kategorie: existenzielle Risiken. Dies nennen wir die Risiken von Ereignissen, die zum Aussterben oder zur Schädigung des Herzens führen können und das Potenzial des intelligenten Lebens auf der Erde beeinträchtigen. Einige dieser Gefahren sind relativ bekannt, während andere völlig übersehen werden. Bestehende Bedrohungen weisen eine Reihe von Funktionen auf, die das herkömmliche Risikomanagement in diesem Fall unwirksam machen. Im letzten Kapitel dieses Artikels werden einige der ethischen und politischen Auswirkungen dieses Problems erörtert. Ein klareres Verständnis der Bedrohungslandschaft ermöglicht es uns, bessere Strategien zu formulieren.
Das Leben ist gefährlich und Gefahr ist überall. Glücklicherweise sind nicht alle Risiken gleich ernst. Für unsere Zwecke können wir drei Dimensionen verwenden, um Risiken zu beschreiben: Umfang, Intensität und Wahrscheinlichkeit. Mit "Skala" meine ich die Größe der Gruppe gefährdeter Personen. Mit "Intensität" meine ich, wie viel Schaden jedem Einzelnen in der Gruppe zugefügt wird. Und mit "Wahrscheinlichkeit" meine ich die derzeit beste subjektive Schätzung der Wahrscheinlichkeit eines negativen Ergebnisses.
1. Typologie der Risiken
Je nach Umfang und Intensität können sechs qualitativ unterschiedliche Risikogruppen unterschieden werden (Tabelle 1). Eine dritte Dimension, die Wahrscheinlichkeit, kann diesen beiden Dimensionen überlagert werden. Wenn alle Dinge gleich sind, ist ein Risiko schwerwiegender, wenn es eine erhebliche Wahrscheinlichkeit hat und wenn unser Handeln es erhöhen oder verringern kann.
Skala / Intensität: Erträgliche Intensität Tödliche Intensität
globaler Ozonabbau X.
Werbevideo:
lokaler wirtschaftlicher Abschwung im Land Völkermord
Persönlicher Autodiebstahl Tod
"Persönlich", "lokal" oder "global" bezieht sich auf die Größe der Bevölkerung, die direkt betroffen ist; Das globale Risiko betrifft die gesamte Menschheit (und unsere Nachkommen). "Tolerierbare Risikointensität" und "tödliche Intensität" beziehen sich darauf, wie stark die gefährdete Bevölkerung betroffen sein wird. Das tolerierbare Risiko kann auch zu großer Zerstörung führen, aber es bleibt die Möglichkeit, sich von Schäden zu erholen oder Wege zu finden, um die negativen Folgen zu überwinden. Im Gegensatz dazu besteht das ultimative Risiko darin, dass Objekte, die ihm ausgesetzt sind, entweder sterben oder irreversibel beschädigt werden, so dass sie ihr Potenzial, das Leben zu leben, das sie leben möchten, radikal verringern. Im Falle persönlicher Risiken kann das Endergebnis beispielsweise Tod, irreversibler schwerer Hirnschaden sein,oder lebenslange Haft. Ein Beispiel für ein lokalisiertes Todesrisiko kann der Völkermord sein, der zur Zerstörung eines ganzen Volkes führt (was mehreren indischen Völkern passiert ist). Ein weiteres Beispiel ist die Bekehrung zur ewigen Sklaverei.
2. Existenzrisiken
In diesem Artikel werden wir die Risiken der sechsten Kategorie diskutieren, die in der Tabelle als X gekennzeichnet ist. Dies ist eine Kategorie globaler tödlicher Risiken. Ich werde sie existenzielle Bedrohungen nennen.
Existenzbedrohungen unterscheiden sich von global tolerierbaren Risiken. Beispiele für letztere sind: Bedrohung der biologischen Vielfalt der terrestrischen Ökosphäre, moderate (und sogar große) globale Erwärmung und möglicherweise erstickende kulturelle und religiöse Epochen wie das "dunkle Zeitalter", selbst wenn sie die gesamte Gesellschaft umfassen, wenn sie früher oder später enden (obwohl siehe das Screech-Kapitel unten). Zu sagen, dass ein globales Risiko tolerierbar ist, bedeutet natürlich nicht, dass es akzeptabel oder nicht sehr ernst ist. Ein Weltkrieg mit konventionellen Waffen oder ein Jahrzehnt des Reiches im nationalsozialistischen Stil werden äußerst schlimme Ereignisse sein, obwohl sie in die Kategorie tolerierbarer globaler Risiken fallen, da sich die Menschheit möglicherweise erholen wird. (Andererseits,Diese Ereignisse stellen für viele Menschen und für verfolgte ethnische Gruppen ein lokales Todesrisiko dar.)
Ich werde die folgende Definition des existenziellen Risikos verwenden:
Eine Existenzbedrohung ist ein Risiko, bei dem ein negatives Ergebnis entweder das auf der Erde entstandene intelligente Leben zerstört oder dessen Potenzial irreversibel und erheblich verringert.
Existenz ist ein Risiko, das die gesamte Menschheit bedroht. Solche Katastrophen haben enorme negative Folgen für die gesamte Zukunft der irdischen Zivilisation.
3. Die Einzigartigkeit des Problems der Existenzbedrohungen
Risiken in dieser sechsten Kategorie sind kürzlich aufgetreten. Dies ist einer der Gründe, warum es nützlich ist, sie in eine separate Kategorie zu unterteilen. Wir haben keine natürlichen oder kulturellen Mechanismen entwickelt, um mit solchen Risiken umzugehen. Unsere Institutionen und Verteidigungsstrategien waren geprägt von Risiken wie gefährlichen Tieren, feindlichen Menschen oder Stämmen, vergifteten Lebensmitteln, Autounfällen, Tschernobyl, Bhopal, Vulkanausbrüchen, Erdbeben, Dürren, dem Ersten Weltkrieg, dem Zweiten Weltkrieg, Grippeepidemien und Pocken, schwarze Pest und AIDS. Diese Art von Katastrophe ist schon oft vorgekommen, und unsere kulturelle Einstellung zum Risiko wurde durch Versuch und Irrtum beim Umgang mit solchen Bedrohungen geprägt. Aber eine Tragödie direkt für die Teilnehmer dieser Veranstaltungen zu sein,Von einem weiten Standpunkt aus - vom Standpunkt der gesamten Menschheit - waren selbst die schrecklichsten dieser Katastrophen nur Wellen auf der Oberfläche des großen Meeres des Lebens. Sie hatten weder einen signifikanten Einfluss auf die Gesamtzahl der glücklichen und leidenden Menschen noch auf das langfristige Schicksal unserer Spezies.
Abgesehen von artenzerstörenden Kometen und Asteroiden-Kollisionen (die äußerst selten sind) gab es wahrscheinlich bis Mitte des 20. Jahrhunderts keine signifikanten Existenzbedrohungen, und wir konnten definitiv nichts dagegen tun.
Die erste vom Menschen geschaffene Bedrohung der Existenz war die erste Atombombe. Zu dieser Zeit gab es einige Bedenken, dass die Explosion eine Kettenreaktion auslösen würde, indem sie die Atmosphäre „in Brand setzt“. Obwohl wir jetzt wissen, dass ein solches Ergebnis physikalisch unmöglich war, stimmte diese Annahme zu der Zeit mit der Definition einer existenziellen Bedrohung überein. Damit etwas ein Risiko darstellt, reicht es aufgrund des verfügbaren Wissens und Verständnisses aus, dass die subjektive Wahrscheinlichkeit eines ungünstigen Ergebnisses besteht, auch wenn sich später herausstellt, dass objektiv keine einzige Chance bestand, dass etwas Schlimmes passiert ist. Wenn wir nicht wissen, ob etwas objektiv riskant ist, ist es im subjektiven Sinne riskant. Diese subjektive Bedeutung ist natürlich das, worauf wir unsere Entscheidungen stützen sollten. Wir müssen jederzeit unsere beste subjektive Einschätzung verwenden, obWas sind die objektiven Risikofaktoren?
Eine viel größere Existenzbedrohung entstand gleichzeitig mit der Entstehung von Atomwaffenarsenalen in der UdSSR und in den USA. Ein vollwertiger Atomkrieg war mit einer erheblichen Wahrscheinlichkeit und mit Konsequenzen möglich, die so hartnäckig sein konnten, dass sie als global und endgültig charakterisiert wurden. Unter den Menschen, die mit den damals verfügbaren Informationen am besten vertraut waren, gab es echte Bedenken, dass ein nukleares Harmagedon passieren und unsere Spezies auslöschen oder die menschliche Zivilisation dauerhaft zerstören könnte. Russland und die Vereinigten Staaten verfügen weiterhin über riesige nukleare Arsenale, die genutzt werden könnten in einer zukünftigen Konfrontation, durch Zufall oder absichtlich. Es besteht auch das Risiko, dass andere Länder eines Tages große Arsenale aufbauen. Beachten Sie jedoch, dass ein kleiner Austausch von Atomschlägen, zum Beispiel zwischen Indien und Pakistan,ist keine Bedrohung für die Existenz, da es die Menschheit nicht zerstören und das menschliche Potenzial nicht irreversibel schädigen wird. Ein solcher Krieg wäre jedoch ein lokales Todesrisiko für diese Städte. Leider werden wir sehen, dass nukleares Harmagedon und Kometen- oder Asteroideneinschläge nur ein Auftakt für die Existenzbedrohungen im 21. Jahrhundert sind.
Die Besonderheiten der Herausforderungen existenzieller Bedrohungen lassen sich anhand der folgenden Ausführungen veranschaulichen.
Unser Ansatz für existenzielle Bedrohungen kann nicht auf Versuch und Irrtum beruhen. Es gibt keine Möglichkeit, aus Fehlern zu lernen. Der reaktive Ansatz - beobachten, was passiert ist, den Schaden begrenzen und aus der Erfahrung lernen - funktioniert nicht. Wir müssen vielmehr einen proaktiven Ansatz verfolgen. Dies erfordert Voraussicht, um neue Arten von Risiken zu erkennen, und die Bereitschaft, entschlossene Präventionsmaßnahmen zu ergreifen und ihre moralischen und wirtschaftlichen Kosten zu tragen.
Wir können uns nicht sicher auf unsere Institutionen, moralischen Standards, sozialen Einstellungen oder nationalen Sicherheitspolitiken verlassen, die sich aus unserer Erfahrung im Umgang mit anderen Arten von Risiken entwickelt haben. Existenzbedrohungen sind ein anderes Tier. Es kann schwierig für uns sein, sie so ernst zu nehmen, wie sie es verdienen, da wir solche Katastrophen noch nie erlebt haben. Unsere kollektive Angstreaktion ist wahrscheinlich schlecht auf das Ausmaß der Bedrohung abgestimmt.
Die Reduzierung existenzieller Bedrohungen ist ein allgemeines öffentliches Gut (Kaul, 1999) und wird daher möglicherweise nicht angemessen vom Markt bereitgestellt (Feldman, 1980). Existenzbedrohungen stellen eine Bedrohung für alle dar und erfordern möglicherweise eine internationale Reaktion. Die Achtung der nationalen Souveränität ist keine legitime Entschuldigung dafür, dass keine Gegenmaßnahmen gegen kritische Existenzen ergriffen wurden.
Wenn wir das Wohlergehen künftiger Generationen berücksichtigen, wird der Schaden durch existenzielle Bedrohungen mit einem weiteren Faktor multipliziert, der davon abhängt, ob und wie viel künftiger Nutzen in Betracht gezogen wird (Caplin, Leahy 2000; Schelling 2000: 833-837).
Angesichts der unbestreitbaren Bedeutung des Themas ist es überraschend, wie wenig systematische Arbeit in diesem Bereich geleistet wurde. Dies liegt zum Teil daran, dass die schwerwiegendsten Risiken (wie wir später zeigen werden) aus erwarteten zukünftigen Technologien resultieren, die wir erst seit kurzem verstehen. Ein weiterer Teil der Erklärung kann der unweigerlich interdisziplinäre und spekulative Charakter des Forschungsthemas sein. Zum Teil kann die Vernachlässigung auf die Zurückhaltung zurückgeführt werden, ernsthaft über depressive Themen nachzudenken. Dies bedeutet nicht, dass wir entmutigt werden sollten, sondern dass wir uns genau ansehen müssen, was schief gehen kann, damit wir robuste Strategien entwickeln können, um unsere Überlebenschancen zu verbessern. Dazu müssen wir wissen, wo wir uns konzentrieren müssen.
4. Klassifizierung von Existenzrisiken
Wir werden die folgenden 4 Kategorien verwenden, um existenzielle Risiken zu klassifizieren:
Explosionen (Pony) - Das intelligente Leben, das auf der Erde entstanden ist, wird infolge einer relativ plötzlichen Katastrophe ausgerottet, die entweder infolge eines Unfalls oder absichtlich auftreten kann.
Crunches - Die Fähigkeit der Menschheit, sich zur Posthumanität zu entwickeln, ist irreversibel geschädigt, obwohl die Menschen irgendwie weiterleben.
Schreie - Es wird eine Form der Posthumanität erreicht, aber es wird nur ein extrem enger Bruchteil des Spektrums dessen sein, was möglich und erwünscht ist.
Wimmern - Die posthumane Zivilisation entsteht, entwickelt sich jedoch in eine Richtung, die allmählich, aber unwiderruflich zum völligen Verschwinden von Dingen führt, die wir schätzen, oder zu einem Zustand, in dem diese Werte nur in geringem Maße von dem Niveau verwirklicht werden, das erreicht werden könnte.
Mit einer solchen Klassifizierung können wir beginnen, die wahrscheinlichsten Szenarien in jeder Kategorie zu analysieren. Die Definitionen werden im weiteren Verlauf auch klarer.
Dank der Beschleunigung des technologischen Fortschritts nähert sich die Menschheit einem kritischen Punkt ihrer Entwicklung. Neben den bekannten Bedrohungen wie dem nuklearen Holocaust bietet uns die Aussicht auf sich schnell entwickelnde Technologien wie Nanosysteme und Maschinenintelligenz beispiellose Chancen und Risiken. Unsere Zukunft und ob wir eine Zukunft haben werden, hängt davon ab, wie wir mit diesen Herausforderungen umgehen. Mit der schnell fortschreitenden Technologie brauchen wir ein besseres Verständnis der Dynamik des Übergangs von der menschlichen zur „post-menschlichen“Gesellschaft. Es ist wichtig zu wissen, wo sich die Fallen befinden: Wege, auf denen Dinge tödlich schief gehen können.
Während wir über umfangreiche Erfahrungen mit der Exposition gegenüber einer Vielzahl persönlicher, lokaler oder tolerierter weltweiter Gefahren verfügen, analysiert dieser Artikel eine kürzlich aufkommende Kategorie: existenzielle Risiken. Dies nennen wir die Risiken von Ereignissen, die zum Aussterben des Menschen oder zu Herzschäden führen können und das Potenzial des intelligenten Lebens auf der Erde beeinträchtigen. Einige dieser Gefahren sind relativ bekannt, während andere übersehen werden. Bestehende Bedrohungen weisen eine Reihe von Funktionen auf, die das herkömmliche Risikomanagement in diesem Fall unwirksam machen. Im letzten Kapitel dieses Artikels werden einige der ethischen und politischen Auswirkungen dieses Problems erörtert. Ein klareres Verständnis der Bedrohungslandschaft ermöglicht es uns, die Hauptstrategien zu formulieren.
Es ist gefährlich zu leben und Gefahr ist überall. Glücklicherweise sind nicht alle Risiken gleich ernst. Für unsere Zwecke verwenden wir drei Dimensionen, um Risiken zu beschreiben: Umfang, Intensität und Wahrscheinlichkeit. Mit "Skala" meine ich die Größe der Gruppe gefährdeter Personen. Mit "Intensität" meine ich, wie viel Schaden jedem Einzelnen in der Gruppe zugefügt wird. Und mit "Wahrscheinlichkeit" meine ich die derzeit beste subjektive Schätzung der Wahrscheinlichkeit eines negativen Ergebnisses.
5. Typologie der Risiken
Je nach Umfang und Intensität gibt es sechs Risikogruppen.
Skala / Intensität: Erträgliche Intensität / tödliche Intensität
globaler / Ozonabbau, X.
lokaler / wirtschaftlicher Abschwung im Land, Völkermord
Personen- / Autodiebstahl, Tod
Eine dritte Dimension, die Wahrscheinlichkeit, kann diesen beiden Dimensionen überlagert werden. Wenn alle Dinge gleich sind, ist ein Risiko schwerwiegender, wenn es eine erhebliche Wahrscheinlichkeit hat und wenn unser Handeln es erhöhen oder verringern kann.
"Persönlich", "lokal" oder "global" bezieht sich auf die Größe der Bevölkerung, die direkt betroffen ist; Das globale Risiko betrifft die gesamte Menschheit (und deren Nachkommen). "Tolerierbare Risikointensität" und "tödliche Intensität" beziehen sich darauf, wie stark die gefährdete Bevölkerung betroffen sein wird. Das tolerierbare Risiko kann auch zur Zerstörung führen, aber es bleibt die Möglichkeit, sich von Schäden zu erholen oder Wege zu finden, um die negativen Folgen zu überwinden. Im Gegensatz dazu besteht das ultimative Risiko darin, dass Objekte, die ihm ausgesetzt sind, entweder sterben oder irreversibel beschädigt werden, so dass sie ihr Potenzial verringern, das Leben zu leben, das sie leben möchten. Für persönliche Risiken ist das Endergebnis Tod, irreversibler, schwerer Hirnschaden oder lebenslange Haft. Ein Beispiel für ein lokales Todesrisiko ist der Völkermord, der zur Zerstörung eines Volkes führt (was mehreren indischen Völkern passiert ist). Ein weiteres Beispiel ist die Bekehrung zur ewigen Sklaverei.
Existenzrisiken
In diesem Artikel werden wir die Risiken der sechsten Kategorie diskutieren, die in der Tabelle als X gekennzeichnet ist. Dies ist eine Kategorie globaler tödlicher Risiken. Ich werde sie existenzielle Bedrohungen nennen.
Existenzbedrohungen unterscheiden sich von global tolerierbaren Risiken. Beispiele für letztere sind: Bedrohung der biologischen Vielfalt der terrestrischen Ökosphäre, moderate (und sogar große) globale Erwärmung und möglicherweise erstickende kulturelle und religiöse Epochen wie das "dunkle Zeitalter", selbst wenn sie die gesamte Gesellschaft umfassen, wenn sie früher oder später enden (obwohl siehe das Screech-Kapitel unten). Zu sagen, dass ein globales Risiko tolerierbar ist, bedeutet natürlich nicht, dass es akzeptabel oder nicht ernst ist.
Ein Weltkrieg mit Standardwaffen oder ein Jahrzehnt des Reiches im nationalsozialistischen Stil werden äußerst schlimme Ereignisse sein, obwohl sie in die Kategorie der tolerierbaren globalen Risiken fallen, da sich die Menschheit schließlich erholen kann. (Aber diese Ereignisse werden für viele und für verfolgte ethnische Gruppen ein lokales Todesrisiko darstellen.)
Ich werde die folgende Definition des existenziellen Risikos verwenden:
Eine Existenzbedrohung ist ein Risiko, bei dem ein negatives Ergebnis entweder das intelligente Leben auf der Erde zerstört oder irreversibel und sein Potenzial verringert.
Existenz ist ein Risiko, das die gesamte Menschheit bedroht. Solche Katastrophen haben negative Folgen für die Zukunft der irdischen Zivilisation.
Die Einzigartigkeit des existenziellen Bedrohungsproblems
Risiken in dieser sechsten Kategorie sind kürzlich aufgetreten. Dies ist einer der Gründe, warum es nützlich ist, sie in eine separate Kategorie zu unterteilen. Wir haben keine natürlichen oder kulturellen Mechanismen entwickelt, um mit solchen Risiken umzugehen. Unsere Institutionen und Verteidigungsstrategien waren geprägt von Risiken wie gefährlichen Tieren, feindlichen Menschen oder Stämmen, vergifteten Lebensmitteln, Autounfällen, Tschernobyl, Bhopal, Vulkanausbrüchen, Erdbeben, Dürren, dem Ersten Weltkrieg, dem Zweiten Weltkrieg, Grippeepidemien und Pocken, schwarze Pest und AIDS. Diese Art von Katastrophe ist schon oft vorgekommen, und unsere kulturelle Einstellung zum Risiko wurde durch Versuch und Irrtum beim Umgang mit solchen Bedrohungen geprägt. Aber eine Tragödie direkt für die Teilnehmer dieser Veranstaltungen zu sein,Von einem weiten Standpunkt aus - aus Sicht der Menschheit - waren selbst die schrecklichsten dieser Katastrophen nur Wellen auf der Oberfläche des großen Meeres des Lebens.
Sie hatten weder einen signifikanten Einfluss auf die Gesamtzahl der glücklichen und leidenden Menschen noch auf das langfristige Schicksal unserer Spezies.
Abgesehen von artenzerstörenden Kometen und Asteroiden-Kollisionen (die äußerst selten sind) gab es bis Mitte des 20. Jahrhunderts keine Existenzbedrohungen, und mit keinem von ihnen konnten wir definitiv etwas anfangen.
Die erste vom Menschen geschaffene Bedrohung der Existenz war die erste Atombombe. Zu dieser Zeit gab es einige Bedenken, dass die Explosion eine Kettenreaktion auslösen würde, indem sie die Atmosphäre „in Brand setzt“. Obwohl wir jetzt wissen, dass ein solches Ergebnis physikalisch unmöglich war, stimmte diese Annahme zu der Zeit mit der Definition einer existenziellen Bedrohung überein. Damit etwas ein Risiko genug ist, um eine subjektive Wahrscheinlichkeit für ein ungünstiges Ergebnis zu haben, auch wenn sich später herausstellt, dass objektiv keine einzige Chance bestand, dass etwas Schlimmes passiert ist. Wenn wir nicht wissen, ob etwas objektiv riskant ist oder nicht, ist es ein Risiko im subjektiven Sinne. Diese subjektive Bedeutung ist natürlich das, worauf wir unsere Entscheidungen stützen sollten. Zu jedem Zeitpunkt müssen wir unsere beste subjektive Einschätzung der objektiven Risikofaktoren vornehmen.
Eine viel größere Existenzbedrohung entstand gleichzeitig mit der Entstehung von Atomwaffenarsenalen in der UdSSR und in den USA. Ein vollwertiger Atomkrieg war mit einer erheblichen Wahrscheinlichkeit und mit Konsequenzen möglich, die so hartnäckig sein konnten, dass sie als global und endgültig charakterisiert wurden. Unter den Menschen, die mit den damals verfügbaren Informationen am besten vertraut waren, gab es echte Bedenken, dass ein nukleares Harmagedon passieren könnte und dass es unsere Spezies auslöschen oder die menschliche Zivilisation für immer zerstören würde.
Russland und die Vereinigten Staaten verfügen über riesige nukleare Arsenale, die bei zukünftigen Konfrontationen versehentlich oder absichtlich eingesetzt werden könnten. Es besteht auch das Risiko, dass andere Länder eines Tages große Arsenale aufbauen. Ein kleiner Austausch von Atomschlägen zum Beispiel zwischen Indien und Pakistan ist jedoch keine Bedrohung für die Existenz, da er die Menschheit nicht zerstören und das menschliche Potenzial nicht irreversibel schädigen wird. Ein solcher Krieg wäre jedoch ein lokales Todesrisiko für diese Städte. Leider werden wir sehen, dass nukleares Harmagedon und Kometen- oder Asteroideneinschläge nur ein Auftakt für die Existenzbedrohungen im 21. Jahrhundert sind.
Die Art der Probleme, die sich aus existenziellen Bedrohungen ergeben, wird durch die folgenden Bemerkungen veranschaulicht.
Unser Ansatz für existenzielle Bedrohungen kann nicht auf Versuch und Irrtum beruhen. Aus Fehlern kann man nicht lernen. Der reaktive Ansatz - beobachten, was passiert ist, den Schaden begrenzen und aus der Erfahrung lernen - funktioniert nicht. Wir müssen proaktiv vorgehen. Dies erfordert Voraussicht, um neue Arten von Risiken zu erkennen, und die Bereitschaft, vorbeugende Maßnahmen zu ergreifen und ihre moralischen und wirtschaftlichen Kosten zu tragen.
Wir können uns nicht sicher auf Institutionen, moralische Standards, soziale Einstellungen oder nationale Sicherheitspolitiken verlassen, die sich aus der Erfahrung im Umgang mit anderen Arten von Risiken entwickelt haben. Existenzbedrohungen sind ein anderes Tier. Es fällt uns schwer, sie so ernst zu nehmen, wie sie es verdienen, da wir solche Katastrophen noch nie erlebt haben. Die kollektive Angstreaktion ist wahrscheinlich schlecht auf das Ausmaß der Bedrohung abgestimmt.
Die Reduzierung existenzieller Bedrohungen ist ein allgemeines öffentliches Gut (Kaul, 1999) und wird daher vom Markt unterversorgt (Feldman, 1980). Existenzbedrohungen sind Bedrohungen für alle und erfordern eine internationale Reaktion. Die Achtung der nationalen Souveränität ist keine legitime Entschuldigung dafür, dass keine Gegenmaßnahmen gegen kritische Existenzen ergriffen wurden.
Angesichts der unbestreitbaren Bedeutung des Themas ist es überraschend, wie wenig systematische Arbeit in diesem Bereich geleistet wurde. Dies liegt zum Teil daran, dass die schwerwiegendsten Risiken (wie wir später zeigen werden) aus erwarteten zukünftigen Technologien resultieren, die wir erst kürzlich verstanden haben.
Ein weiterer Teil der Erklärung kann der unweigerlich interdisziplinäre und spekulative Charakter des Forschungsthemas sein. Zum Teil kann die Vernachlässigung auf die Zurückhaltung zurückgeführt werden, ernsthaft über depressive Themen nachzudenken. Dies bedeutet nicht, dass wir entmutigt werden sollten, sondern dass wir uns genau ansehen müssen, was schief gehen kann, damit wir robuste Strategien entwickeln können, um unsere Überlebenschancen zu verbessern. Dazu müssen wir wissen, wo wir uns konzentrieren müssen.
Existenzrisikoklassifizierung
Wir werden die folgenden 4 Kategorien verwenden, um existenzielle Risiken zu klassifizieren:
Explosionen (Pony) - Das intelligente Leben, das auf der Erde entstanden ist, wird infolge einer relativ plötzlichen Katastrophe ausgerottet, die entweder infolge eines Unfalls oder absichtlich auftreten kann.
Crunches - Die Fähigkeit der Menschheit, sich zur Posthumanität zu entwickeln, ist irreversibel geschädigt, obwohl die Menschen irgendwie weiterleben.
Schreie - Es wird eine Form der Posthumanität erreicht, aber es wird nur ein extrem enger Bruchteil des Spektrums dessen sein, was möglich und erwünscht ist.
Wimmern - Die posthumane Zivilisation entsteht, entwickelt sich jedoch in eine Richtung, die allmählich, aber unwiderruflich zum völligen Verschwinden von Dingen führt, die wir schätzen, oder zu einem Zustand, in dem diese Werte nur in geringem Maße von dem Niveau verwirklicht werden, das erreicht werden könnte.
Mit einer solchen Klassifizierung können wir beginnen, die wahrscheinlichsten Szenarien in jeder Kategorie zu analysieren. Die Definitionen werden im weiteren Verlauf auch klarer.
Pony
Dies ist die offensichtlichste Form des globalen Risikos. Dieses Konzept ist am einfachsten zu verstehen. Im Folgenden sind einige der wahrscheinlichsten Möglichkeiten aufgeführt, die Welt explosionsartig zu beenden. Ich habe versucht, sie in aufsteigender Reihenfolge (nach meiner Einschätzung) der Wahrscheinlichkeit zu ordnen, dass das intelligente Leben auf der Erde ausgerottet wird. In Bezug auf die Bestellung wollte ich jedoch eine Grundlage für weitere Diskussionen schaffen, anstatt eindeutige Aussagen zu treffen.
1. Vorsätzlicher Missbrauch der Nanotechnologie
In ihrer ausgereiften Form wird die molekulare Nanotechnologie die Schaffung selbstreplizierender Roboter von der Größe von Bakterien ermöglichen, die sich von Abwasser oder anderen organischen Stoffen ernähren können (Drexler 1985, 1992; Merkle et al. 1991: 187-195; Freitas 2000). Solche Replikatoren können die Biosphäre auffressen oder auf andere Weise zerstören, z. B. durch Vergiften, Verbrennen oder Blockieren des Sonnenlichts. Ein Mann mit kriminellen Absichten mit dieser Nanotechnologie kann das intelligente Leben auf der Erde zerstören, indem er solche Nanobots in die Umwelt abgibt.
Die Technologie zur Erzeugung zerstörerischer Nanobots scheint viel einfacher zu sein als die Technologie zur Schaffung einer wirksamen Abwehr gegen einen solchen Angriff (globales nanotechnologisches Immunsystem, "aktiver Schild" (Drexler 1985)). Daher wird es wahrscheinlich eine Zeit der Verwundbarkeit geben, in der verhindert werden muss, dass diese Technologien in die falschen Hände geraten. Diese Technologien können auch schwierig zu handhaben sein, da sie keine seltenen radioaktiven Isotope oder riesigen, leicht nachweisbaren Fabriken erfordern, wie dies bei der Herstellung von Atomwaffen der Fall ist (Drexler 1985).
Selbst wenn wirksame Abwehrmechanismen gegen begrenzte Angriffe auf die Nanotechnologie vorhanden sind, bevor gefährliche Replikatoren von Selbstmordregimen oder Terroristen entwickelt und erworben werden, besteht immer noch die Gefahr eines Wettrüstens zwischen Staaten, die Nanotechnologie besitzen. Es wurde argumentiert (Gubrud 2000), dass die molekulare Herstellung zu einer größeren Instabilität im Wettrüsten und zu einer größeren Instabilität in Bezug auf Krisen führen wird als Atomwaffen. Die Instabilität des Wettrüstens bedeutet, dass jede konkurrierende Seite von dem Wunsch dominiert wird, ihre Rüstung zu stärken, was zu einer raschen Entfaltung des Wettrüstens führt. Instabilität in Bezug auf Krisen bedeutet, dass das erste Schlagen der Hauptanreiz für jede Seite ist. Zwei ungefähr gleich starke Gegner,Nachdem sie nanotechnologische Waffen erworben haben, werden sie unter diesem Gesichtspunkt mit der Massenproduktion und dem Design von Waffen beginnen, die so lange fortgesetzt werden, bis eine Krise eintritt und ein Krieg beginnt, der möglicherweise eine universelle endgültige Zerstörung verursachen kann. Dass dieses Wettrüsten vorhergesagt werden kann, ist keine Garantie dafür, dass rechtzeitig ein internationales Sicherheitssystem eingerichtet wird, um diese Katastrophe zu verhindern. Ein nukleares Wettrüsten zwischen der UdSSR und den USA wurde vorhergesagt, aber es geschah trotzdem.dass das internationale Sicherheitssystem rechtzeitig geschaffen wird, um diese Katastrophe zu verhindern. Ein nukleares Wettrüsten zwischen der UdSSR und den USA wurde vorhergesagt, aber es geschah trotzdem.dass das internationale Sicherheitssystem rechtzeitig geschaffen wird, um diese Katastrophe zu verhindern. Ein nukleares Wettrüsten zwischen der UdSSR und den USA wurde vorhergesagt, aber es geschah trotzdem.
2. Nuklearer Holocaust
Die Vereinigten Staaten und Russland verfügen immer noch über riesige Reserven an Atomwaffen. Aber wird ein vollwertiger Atomkrieg zur wirklichen Ausrottung der Menschheit führen? Beachten Sie, dass:
(a) Damit es zu einem existenziellen Risiko wird, ist es ausreichend, dass wir nicht sicher sind, ob es nicht passieren wird.
(b) Die klimatischen Auswirkungen eines groß angelegten Atomkrieges sind wenig bekannt (es besteht die Möglichkeit eines nuklearen Winters).
(c) zukünftige Wettrüsten zwischen Ländern können nicht ausgeschlossen werden, und dies könnte dazu führen, dass noch größere Arsenale entstehen als auf dem Höhepunkt des Kalten Krieges. Der weltweite Vorrat an Plutonium nimmt stetig zu und hat 2.000 Tonnen erreicht, was etwa dem Zehnfachen der in Sprengköpfen verbleibenden Menge entspricht (Leslie 1996: 26). Selbst wenn einige Menschen die kurzfristigen Auswirkungen des Atomkrieges überleben, könnte dies zum Zusammenbruch der Zivilisation führen. Die steinzeitliche Menschheit ist möglicherweise widerstandsfähiger gegen das Aussterben als andere Tierarten.
3. Wir leben in einer Simulation und sie schaltet sich aus
Es kann argumentiert werden, dass die Hypothese, dass wir in einer Computersimulation leben, einer signifikanten Wahrscheinlichkeit zugeschrieben werden sollte (Bostrom 2001). Die Hauptidee hinter dem sogenannten Proof of Simulation ist, dass in Zukunft möglicherweise große Mengen an Rechenleistung verfügbar sind (Moravec 1989, 1999) und dass sie unter anderem verwendet werden können, um eine große Anzahl fein strukturierter Simulationen der Vergangenheit durchzuführen. menschliche Zivilisationen. Unter ein paar nicht so unglaublichen Annahmen kann das Ergebnis sein, dass die meisten Köpfe wie wir simulierte Köpfe sind, und daher müssen wir eine signifikante Wahrscheinlichkeit zuschreiben, dass wir solche simulierten Köpfe sind und nicht die (subjektiv nicht unterscheidbaren) Köpfe natürlich entwickelter Wesen. Und wenn ja, laufen wir Gefahrdass die Simulation jederzeit ausgeschaltet werden kann. Die Entscheidung, unsere Simulation zu stoppen, kann auf unsere Handlungen oder externe Faktoren zurückzuführen sein.
Während es für jemanden leichtfertig erscheint, eine solch radikale Hypothese neben einer spezifischen Bedrohung durch einen nuklearen Holocaust aufzustellen, müssen wir unsere Schlussfolgerungen auf Argumentation und nicht auf untrainierte Intuition stützen. Bis die Argumente von Bostrom (2001) widerlegt werden, wäre es intellektuell unehrlich, das Herunterfahren der Simulation als mögliche Ursache für das Aussterben des Menschen zu ignorieren.
4. Schlecht programmierte Superintelligenz
Wenn wir das erste superintelligente Gerät entwickeln (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson et al. 1998), können wir einen Fehler machen und Ziele setzen, die es angesichts seiner Kolossalität auf die Zerstörung der Menschheit ausrichten ein intellektueller Vorteil, der die Kraft dazu gibt. Zum Beispiel können wir fälschlicherweise ein Ziel auf niedrigerer Ebene zu einem übergroßen Status erheben. Wir sagen ihm, er solle ein mathematisches Problem lösen, und er gehorcht und verwandelt alle Materie im Sonnensystem in ein riesiges Computergerät, während er die Person tötet, die diese Frage gestellt hat. (Zur weiteren Analyse dieses Themas siehe (Yudkowsky 2001)).
5. Gentechnisch verändertes biologisches Objekt
Aufgrund der enormen Fortschritte in der Gentechnologie kann ein Tyrann, Terrorist oder Verrückter möglicherweise ein „Doomsday-Virus“erzeugen: einen Organismus, der lange Latenz mit hoher Virulenz und Letalität verbindet (National Intelligence Council 2000).
Gefährliche Viren können sogar versehentlich gezüchtet werden, wie kürzlich von australischen Forschern gezeigt wurde, die ein modifiziertes Mauspocken-Ektromelien-Virus mit 100% iger Letalität entwickelten, als sie versuchten, ein Verhütungsvirus für Mäuse zur Bekämpfung von Nagetierschädlingen zu entwickeln (Nowak 2001)). Obwohl dieses spezielle Virus den Menschen nicht infiziert, wird vermutet, dass ähnliche Veränderungen die Letalität des menschlichen Pockenvirus erhöhen würden. Was die potenzielle Gefahr hier erhöht, ist, dass die Studie schnell in der offenen wissenschaftlichen Literatur veröffentlicht wurde (Jackson et al. 2001: 1479-1491). Es ist selten, dass Informationen, die in offenen Biotech-Projekten erstellt wurden, geheim gehalten werden, unabhängig davon, obwie schwerwiegend die potenzielle Gefahr ist - und das gilt auch für die Forschung in der Nanotechnologie.
Genetische Medizin wird zu besseren Medikamenten und Impfstoffen führen, aber es gibt keine Garantie dafür, dass die Abwehrkräfte mit der Straftat Schritt halten. (Selbst ein zufällig erzeugtes Mauspockenvirus hatte bei geimpften Mäusen eine Todesrate von 50%.) Letztendlich können die Gefahren biologischer Waffen durch die Weiterentwicklung der Nanomedizin begraben werden, aber obwohl die Nanotechnologie ein enormes langfristiges Potenzial für die Medizin besitzt (Freitas 1999), birgt sie ihre eigenen Gefahren.
6. Fehlerhafter Einsatz gefährlicher Nanotechnologie ("grey goo")
Die Möglichkeit eines Unfalls kann niemals vollständig ausgeschlossen werden.
Es gibt jedoch viele Möglichkeiten, Unfälle mit Todesopfern durch den Einsatz zuverlässiger technischer Lösungen zu vermeiden. Der gefährliche Einsatz selbstreplizierender Systeme kann vermieden werden. Sie können Nanobots von der Verwendung einer seltenen Chemikalie abhängig machen, die in der Natur nicht vorhanden ist. Sie können sie in einer versiegelten Umgebung einschließen. Sie können so gestaltet werden, dass jede Mutation mit ziemlicher Sicherheit dazu führt, dass der Nanobot nicht mehr funktioniert (Foresight Institute 2000). Aus diesem Grund ist der versehentliche Missbrauch von Nanobots weitaus weniger problematisch als der böswillige Missbrauch (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991)).
Die Unterscheidung zwischen zufällig und absichtlich kann jedoch verschwimmen. Obwohl es im Prinzip möglich erscheint, globale nanotechnologische Katastrophen sehr unwahrscheinlich zu machen, können bestimmte Umstände die Verwirklichung dieses idealen Sicherheitsniveaus verhindern. Vergleichen Sie Nanotechnologie mit Nukleartechnologie. Aus technischer Sicht ist es natürlich möglich, Nukleartechnologie nur für friedliche Zwecke einzusetzen, beispielsweise nur in Kernreaktoren, bei denen die Wahrscheinlichkeit, den gesamten Planeten zu zerstören, gleich Null ist. In der Praxis stellte sich jedoch heraus, dass es unmöglich war, den Einsatz von Nukleartechnologie auch für die Schaffung von Atomwaffen zu vermeiden, was zu einem Wettrüsten führte. Bei nuklearen Arsenalen mit hoher Wachsamkeit ist ein hohes Risiko eines versehentlichen Krieges unvermeidlich. Dasselbe kann mit der Nanotechnologie passieren:Sie könnten gezwungen sein, militärischen Zwecken auf eine Weise zu dienen, die ein unmittelbares Risiko für schwere Unfälle darstellen könnte.
In einigen Situationen kann es sogar strategisch vorteilhaft sein, eine bestimmte Technologie oder ein bestimmtes Steuerungssystem absichtlich riskant zu machen, um beispielsweise eine „grundlegend unvorhersehbare Bedrohung zu schaffen, in der es immer ein Zufallselement gibt“(Schelling 1960).
7. Etwas Unerwartetes
Wir brauchen eine solche einheitliche Kategorie. Es wäre dumm zu glauben, dass wir bereits alle wesentlichen Bedrohungen erfunden und vorhergesagt haben. Zukünftige technologische oder wissenschaftliche Entdeckungen könnten leicht neue Wege schaffen, um die Welt zu zerstören.
Einige vorhersehbare Gefahren (und daher nicht aus dieser Kategorie) wurden von der Explosionsliste ausgeschlossen, da sie als zu unwahrscheinliche Ursachen einer globalen Katastrophe erscheinen, nämlich Sonneneruptionen, Supernovae, Explosionen und Fusionen von Schwarzen Löchern, Gammastrahlenausbrüche, Ausbrüche im galaktischen Zentrum, Supervulkane, Verlust der biologischen Vielfalt, erhöhte Luftverschmutzung, allmählicher Verlust der menschlichen Fortpflanzungsfähigkeit und viele religiöse Weltuntergangsszenarien. Die Hypothese, dass wir eines Tages „Erleuchtung“erreichen und kollektiven Selbstmord begehen oder aufhören werden, uns zu vermehren, wie VHEMT (The Voluntary Human Extinction Movement) die Hoffnung befürwortet (Knight 2001), erscheint unwahrscheinlich. Wenn in der Tat,Es wäre besser, nicht zu existieren (wie Silenus König Midas im griechischen Mythos sagte und wie Arthur Schopenhauer argumentierte (Schopenhauer 1891), obwohl er aus Gründen, die für sein spezielles philosophisches System spezifisch sind, nicht zum Selbstmord agitierte), dann würden wir dieses Szenario nicht als global betrachten ein Disaster. Die Annahme, dass das Leben keine schlechte Sache ist, sollte als implizite Annahme in der Definition von Explosionen angesehen werden. Falscher allgemeiner Selbstmord ist ein Existenzrisiko, obwohl seine Wahrscheinlichkeit äußerst gering erscheint. (Weitere Informationen zur Ethik des menschlichen Aussterbens finden Sie in Kapitel 4 von (Leslie 1996: 26).)Dass es nicht schlecht ist, am Leben zu sein, sollte als implizite Annahme bei der Definition von Explosionen betrachtet werden. Falscher allgemeiner Selbstmord ist ein Existenzrisiko, obwohl seine Wahrscheinlichkeit äußerst gering erscheint. (Weitere Informationen zur Ethik des menschlichen Aussterbens finden Sie in Kapitel 4 von (Leslie 1996: 26).)Dass es nicht schlecht ist, am Leben zu sein, sollte als implizite Annahme bei der Definition von Explosionen betrachtet werden. Falscher allgemeiner Selbstmord ist ein Existenzrisiko, obwohl seine Wahrscheinlichkeit äußerst gering erscheint. (Weitere Informationen zur Ethik des menschlichen Aussterbens finden Sie in Kapitel 4 von (Leslie 1996: 26).)
8. Katastrophen infolge physikalischer Experimente
Die Atombomben-Designer des Manhattan-Projekts befürchteten, dass eine Explosion die Atmosphäre entzünden würde, und haben moderne Gegenstücke.
Es gab Spekulationen, dass Experimente mit zukünftigen Hochenergie-Teilchenbeschleunigern die Zerstörung des metastabilen Zustands des Vakuums verursachen könnten, in dem sich unser Kosmos befinden könnte, und es in ein "echtes" Vakuum mit einer niedrigeren Energiedichte verwandeln könnten (Coleman, Luccia 1980: 3305-3315). Dadurch entsteht eine sich ausdehnende Blase der totalen Vernichtung, die sich mit Lichtgeschwindigkeit in der gesamten Galaxie und darüber hinaus ausbreitet und alle Materie auf ihrem Weg auseinander reißt.
Eine andere Idee ist, dass Beschleunigerexperimente negativ geladene, stabile „Strangelets“(eine hypothetische Form von Kernmaterie) oder ein mikroskopisch kleines Schwarzes Loch erzeugen könnten, das in den Erdmittelpunkt eintaucht und den Rest des Planeten zu verbrauchen beginnt (Dar et al. 1999): 142-148). Solche Szenarien scheinen aufgrund unserer besten physikalischen Theorien unmöglich. Der Grund, warum wir Experimente durchführen, liegt genau darin, dass wir nicht wissen, was tatsächlich passieren wird. Viel überzeugender ist, dass die in modernen Beschleunigern erreichbaren Energiedichten viel niedriger sind als die in der Natur gefundenen, wenn kosmische Strahlen kollidieren (Dar et al. 1999: 142-148; Turner, Wilczek 1982: 633-634). Es ist jedoch möglichdass andere Faktoren als die Energiedichte für diese hypothetischen Prozesse wichtig sind und diese Faktoren in zukünftigen neuen Experimenten zusammengeführt werden.
Der Hauptgrund zur Besorgnis über "physische Katastrophen" ist die Beobachtung auf Metaebene, dass ständig Entdeckungen aller Arten gefährlicher physischer Phänomene stattfinden. Selbst wenn jetzt alle physischen Katastrophen, an die wir denken, völlig unwahrscheinlich oder unmöglich sind, können sie dies dennoch tun Es gibt realistischere Wege zur Katastrophe, die darauf warten, entdeckt zu werden. Die hier angegebenen sind nichts weiter als Illustrationen des allgemeinen Falls.
9. Natürlich vorkommende Krankheit
Was wäre, wenn AIDS so ansteckend wäre wie die Erkältung?
Es gibt verschiedene Merkmale der modernen Welt, die eine globale Pandemie viel wahrscheinlicher als je zuvor machen könnten. Reisen, Lebensmittelhandel und städtisches Leben haben in der heutigen Zeit erheblich zugenommen, was es einer neuen Krankheit erleichtert, den größten Teil der Weltbevölkerung schnell zu infizieren.
10. Kollision mit einem Asteroiden oder Kometen
Es besteht ein reales, aber sehr geringes Risiko, dass wir durch einen Asteroiden- oder Kometeneinschlag ausgerottet werden (Morrison et al. 1994).
Um das Aussterben der Menschheit zu verursachen, muss der aufprallende Körper möglicherweise einen Durchmesser von mehr als 1 km (und wahrscheinlich 3 bis 6 km) haben. Es gab mindestens fünf und möglicherweise mehr als ein Dutzend Massensterben Die Erde und zumindest einige von ihnen wurden wahrscheinlich durch Kollisionen verursacht. (Leslie 1996: 81 f). Insbesondere das Aussterben der Dinosaurier vor 65 Millionen Jahren war mit dem Fall eines Asteroiden mit einem Durchmesser von 10 bis 15 km auf der Halbinsel Yucatan verbunden. Es wird angenommen, dass ein Körper mit einem Durchmesser von 1 km oder mehr durchschnittlich alle halbe Million Jahre mit der Erde kollidiert. Bisher haben wir nur einen kleinen Teil potenziell gefährlicher Körper katalogisiert.
Wenn wir einen sich nähernden Körper rechtzeitig erkennen können, haben wir gute Chancen, ihn abzulenken, indem wir ihn mit einer Atomrakete abfangen (Gold 1999).
11. Unaufhaltsame globale Erwärmung
Es gibt ein Szenario, in dem die Freisetzung von Treibhausgasen in die Atmosphäre ein Prozess mit starker positiver Rückkopplung sein kann. Vielleicht ist das mit der Venus passiert, die jetzt eine Atmosphäre von 450 ° C hat. Hoffentlich haben wir jedoch die technologischen Mittel, um diesem Trend entgegenzuwirken, wenn er wirklich gefährlich wird.
Nick Bostrom
