Wenn Sie jemals Rollenspiele gespielt haben - ob online oder in einem altmodischen Garten - wissen Sie, wie einfach es ist, sich an Ihren Avatar zu binden, dh sich an die Rolle des "Kosakenräubers" zu gewöhnen. Sie fühlen buchstäblich Schmerzen, wenn ein Charakter von einem Troll geschlagen, von einem Drachen geröstet oder von einem Schamanen getötet wird. Der amerikanische Soziologe (und begeisterte Spieler) William Sims Bainbridge hat diese Beziehung noch weiter ausgebaut, indem er virtuelle Darstellungen von 17 verstorbenen Familienmitgliedern erstellt hat. In einem 2013 erschienenen Aufsatz über Online-Avatare stellt er sich eine Zeit vor, in der wir unsere Persönlichkeit in eine künstliche intelligente Simulation von uns selbst laden können, die unabhängig von uns handeln und sogar nach unserem Tod bleiben kann.
Welche Verantwortung können wir diesen simulierten Menschen übertragen? Obwohl wir gewalttätigen Computerspielen gegenüber misstrauisch sind, hält es niemand ernsthaft für Mord, einen virtuellen Angreifer zu untergraben. Es ist jedoch nicht länger absurd, sich vorzustellen, dass einmal modellierte Menschen existieren und auch ein gewisses Maß an Autonomie und Bewusstsein haben werden. Viele Philosophen glauben, dass ein Geist wie unser nicht im Netzwerk der Neuronen in unserem Gehirn gespeichert werden muss, sondern in verschiedenen Arten von materiellen Systemen existieren könnte. Wenn sie korrekt sind, gibt es keinen Grund zu der Annahme, warum leistungsfähige Computer das Bewusstsein nicht in ihren Chips speichern können.
Wirst du eine digitale Fliege töten?
Heutzutage versuchen viele Moralphilosophen, die Ethik der Veränderung der menschlichen Bevölkerung zu verstehen und stellen Fragen wie diese: Was kostet das menschliche Leben? Welche Art von Leben sollten wir gestalten wollen? Wie viel Wert sollten wir in die menschliche Vielfalt investieren? Wenn es jedoch um die Ethik des Umgangs mit modellierten Entitäten geht, ist nicht ganz klar, ob wir uns auf dieselbe Logik und Intuition verlassen sollten, die wir in unserer Welt aus Fleisch und Blut verwenden. Tief in unserer Seele fühlen wir uns falsch, einen Hund oder sogar eine Fliege zu töten. Aber würde das Deaktivieren der Fliege - oder des menschlichen Gehirnmodells - töten? Wenn das „Leben“neue digitale Formen annimmt, kann unsere eigene Erfahrung nicht länger als verlässlicher moralischer Begleiter fungieren.
Adrian Kent, ein theoretischer Physiker an der Universität von Cambridge, beschloss, diese Lücke im moralischen Denken zu untersuchen. Angenommen, wir haben gelernt, das menschliche Bewusstsein auf einem Computer billig und einfach zu emulieren, schreibt er in einem der Artikel. Wir möchten dieser virtuellen Kreatur eine reichhaltige und lohnende Umgebung für die Kommunikation bieten - ein lebenswertes Leben. Vielleicht könnten wir dies mit echten Menschen tun, indem wir ihr Gehirn detailliert scannen und auf einem Computer replizieren. Man kann sich vorstellen, wie eine solche Technologie Menschen vor einer tödlichen Krankheit „rettet“; Einige Transhumanisten sehen darin den Weg zum unsterblichen Bewusstsein.
Natürlich könnte dies alles ein Wunschtraum sein - aber nehmen wir das Gegenteil an. Lassen Sie uns nun eine Reihe von nützlichen moralischen Prinzipien in die Hände bekommen, die Jeremy Bentham Ende des 18. Jahrhunderts eingeführt und anschließend von John Stuart Mill verfeinert hat. Alles in allem, sagte Bentham, sollten wir uns bemühen, möglichst vielen Menschen maximales Glück (oder "Nutzen") zu bringen. Oder, in Mills Worten, "Handlungen sind im Verhältnis zu ihrer Zufriedenheit gerechtfertigt und nicht gerechtfertigt, wenn sie zu einem Mangel an Glück führen."
Die Prinzipien des guten Benehmens haben viele Kritiker. Wie können wir zum Beispiel Arten von Glück messen oder vergleichen - indem wir den Wert der Liebe einer Großmutter zum Beispiel auf der gleichen Skala mit Bewunderung für einen virtuosen Konzertpianisten abwägen? "Selbst wenn Sie den Utilitarismus ernst nehmen wollen, wissen Sie nicht, welche Eigenschaften Sie in Ihre Berechnungen einfließen lassen", sagt Ken. Die meisten heutigen Glaubenssysteme akzeptieren jedoch standardmäßig, dass ein moralischer Kompass, der auf größeres Glück hinweist, einem, der von ihm wegschaut, eindeutig vorzuziehen ist.
Werbevideo:
Nach Kents Szenario kann man davon ausgehen, dass wir unsere modellierten oder simulierten Kreaturen - nennen wir sie Sims - ohne Einschränkungen weiterentwickeln müssen, wenn wir von utilitaristischen Motiven ausgehen. In der realen Welt hat eine solche unkontrollierte Fortpflanzung offensichtliche Nachteile. Die Menschen werden emotional und wirtschaftlich unter einer großen Familie leiden. Überbevölkerung setzt bereits globale Ressourcen unter Druck und so weiter. In der virtuellen Welt gibt es jedoch möglicherweise keine solchen Grenzen. Sie können eine Utopie mit nahezu unbegrenzten Ressourcen erstellen. Warum kannst du dann nicht so viele Welten wie möglich erschaffen und sie mit freudigen Sims füllen?
Unsere Intuition schlägt die Antwort vor: aber warum? Vielleicht hat eine bewusste Sim einfach nicht den gleichen inneren Wert wie eine Person aus Fleisch und Blut? Dieser Punkt wird von Michael Medery, einem Ethiker der Philosophie des Geistes und der virtuellen Realität an der Tulane University in New Orleans, zum Ausdruck gebracht und ist der Ansicht, dass er ernst genommen werden sollte.
Einige Philosophen glauben, dass wir selbst ähnliche simulierte Wesen sein können. Wir können eine solche Möglichkeit einfach nicht ausschließen, halten diese Fragen jedoch für sinnvoll. Man würde also auch annehmen, dass Sims das Recht haben, Fragen zu stellen.
Kent stellt erneut die Frage: Was wäre richtiger - eine Population identischer oder völlig anderer Kreaturen zu erschaffen? Offensichtlich wäre es effizienter, identische Kreaturen zu erstellen - genug Informationen über eine, um N von ihnen zu erstellen. Aber unser Instinkt sagt uns, dass Vielfalt Bedeutung und Wert hat. Und warum, ich frage mich, ob es keinen Grund gibt zu glauben, dass N verschiedene Individuen glücklicher sind als N identische.
Kents Ansatz ist, dass verschiedene Leben mehreren Kopien desselben vorzuziehen sind. "Ich kann den Gedanken nicht loswerden, dass ein Universum mit einer Milliarde unabhängiger identischer Emulationen von Alice weniger interessant und von geringerer Qualität sein wird als ein Universum mit einer Milliarde verschiedener Individuen", sagt er. Er nennt dieses Konzept Replikationsminderwertigkeit.
Wenn wir den Kosmos betrachten, in dem Milliarden von Alice leben, lohnt es sich wirklich, über ein Leben zu sprechen, das sich um ein Vielfaches vervielfacht hat, oder über ein Leben, das sich über viele Welten erstreckt. Daraus kann folgen, dass viele Alice in einer identischen Umgebung nicht mehr als einen Wert haben. Er nennt dieses Szenario die Nutzlosigkeit der Replikation. "Ich bin zu dieser Meinung geneigt", sagt Kent und gibt jedoch zu, dass er zu seiner Verteidigung kein unwiderlegbares Argument finden kann.
Kents Gedankenexperiment berührt einige alte Geheimnisse der Moralphilosophie, die nie gelöst wurden. Der im vergangenen Jahr verstorbene englische Philosoph Derek Parfit sprach sie in seiner monumentalen Arbeit über Persönlichkeit und Selbst, Gründe und Persönlichkeiten (1984) an. Parfit dachte über Fragen nach, wie viele Menschen es überhaupt geben sollte und ob es moralisch immer besser sein wird, der Hektik der Welt ein lebenswertes Leben hinzuzufügen, wenn wir die Gelegenheit dazu bekommen.
Selbst wenn Sie den utilitaristischen Standpunkt akzeptieren, besteht das Problem, das größte Glück für die größte Anzahl zu finden: Doppelte Kriterien schaffen Mehrdeutigkeit. Stellen Sie sich zum Beispiel vor, wir haben die Kontrolle darüber, wie viele Menschen in einer Welt mit begrenzten Ressourcen leben. Man würde denken, dass es eine optimale Anzahl von Menschen geben sollte, die (im Prinzip) die Ressourcen bestmöglich nutzen, um Glück und Wohlstand für alle zu gewährleisten. Aber wäre in einer solchen Utopie nicht Platz für eine andere Person? Wäre es nicht akzeptabel, das Glück aller ein wenig zu verringern, um ein weiteres glückliches Leben zu gewährleisten?
Das Problem ist, dass dieser Prozess kein Ende hat. Wenn die Zahlen steigen, kann das zusätzliche Glück eines neuen Lebens die Kosten der bereits Lebenden überwiegen. Letztendlich, sagt Parfit, kommen Sie zu einem "ekelhaften Ergebnis": Ein Szenario, in dem das beste Ergebnis eine aufgeblähte Bevölkerung von Menschen wäre, die hoffnungslos unglücklich, aber besser dran sind, als es überhaupt kein Leben gab. Zusammengenommen summieren sich ihre mageren Glücksfetzen auf mehr als die Summe einer kleinen Anzahl wirklich glücklicher Menschen. "Es fällt mir schwer, diese Schlussfolgerung zu akzeptieren", schrieb Parfit, aber können wir diesen Ansatz rechtfertigen? Kent weiß es nicht. "Ich weiß nicht, ob es eine ausgewogene Entscheidung über die widerliche Folgerung geben kann", sagt er.
Die Wurzel dieser Frage liegt in dem, was Parfit das „Problem der Nichtidentität“nannte: Wie können wir rational über die Fragen besorgter Personen nachdenken, wenn ihre Existenz von den Entscheidungen abhängt, die wir treffen (wie die Suche nach einem Platz für „einen anderen“)? Das Abwägen der Vor- und Nachteile, die einen Einzelnen je nach den von uns getroffenen Entscheidungen betreffen können, ist im Prinzip nicht so schwierig. Angesichts der Möglichkeit, dass dieses Zeichen möglicherweise nie existiert hat, wissen wir nicht mehr, wie es berechnet werden soll. Im Vergleich zu Null oder Nichts wird alles ein Gewinn sein, so dass selbst die schlimmsten Szenarien der Existenz moralisch gerechtfertigt werden können.
Es gibt ein anderes sehr seltsames Szenario in diesem utilitaristischen Bevölkerungsspiel. Was wäre, wenn es Menschen mit einem so großen Bedürfnis nach Glück gäbe, dass sie mehr von anderen verlangen würden, als sie sich leisten könnten? Der amerikanische Philosoph Robert Rozick nannte diese Kreation ein "utilitaristisches Monster" und kritisierte sie in seinem Buch Anarchy, State and Utopia (1974). Laut Nozick wird dieses Bild "von uns allen verlangen, für das Monster zu opfern, um unseren Gesamtnutzen zu erhöhen." Ein Großteil von Parfits Buch war ein - letztendlich erfolgloser - Versuch, sowohl der abscheulichen Schlussfolgerung als auch dem nützlichen Monster zu entkommen.
Kehren wir nun zu Kents virtuellen Welten voller Sims und seinem Prinzip der unvollständigen Replikation zurück - wenn eine bestimmte Anzahl verschiedener Leben mehr wert ist als die gleiche Anzahl identischer. Vielleicht können wir so Parfits abscheuliche Schlussfolgerung vermeiden. Ungeachtet dessen, was Leo Tolstoi zu Beginn von Anna Karenina (1878) über die Ungleichheit unglücklicher Familien sagte, scheint es, dass eine große Anzahl unglücklicher Leben in ihrer düsteren Traurigkeit fast gleich sein wird. Folglich wird es nicht möglich sein, sie aufzuheben und das allgemeine Glück Tropfen für Tropfen zu steigern.
Auf die gleiche Weise duldet die Minderwertigkeit der Replikation das utilitaristische Monster - per Definition muss es einzigartig und daher "lohnender" sein als die unvermeidliche Ähnlichkeit der Leben, die es ernähren. Diese Entscheidung befriedigt uns auch nicht. "Es wäre schön, wenn die Leute irgendwie mehr über diese Themen nachdenken würden", gibt Kent zu. "Ich bin irgendwie verwirrt von ihnen."
Für den amerikanischen libertären Ökonomen Robin Hanson, Professor für Wirtschaftswissenschaften an der George Mason University in Virginia, sind diese Überlegungen weniger mentale Experimente als vielmehr Vorhersagen der Zukunft. Sein Buch "The Age of Em" präsentiert eine Gesellschaft, in der alle Menschen ihr Bewusstsein in einen Computer hochladen, um ihr Leben in Form von "Emulationen" (nicht Sims, sondern Emas) zu leben. "Milliarden solcher Downloads könnten in einem Hochhaus leben und arbeiten, und es wäre Platz für alle", schreibt er.
Hanson untersuchte ausführlich, wie eine solche Wirtschaft funktionieren könnte. Ems können von beliebiger Größe sein - einige von ihnen werden sehr klein sein - und die Zeit kann für sie anders verlaufen als für Menschen. Es wird eine enge Aufsicht und ein kleines Gehalt geben, aber sie können dieses Leiden loswerden, indem sie sich für ein Leben ohne Arbeit entscheiden. (Hanson glaubt, dass wir bereits in einer solchen Welt leben können.)
Dieses Szenario ermöglicht die Möglichkeit der Vervielfältigung von selbst, da der Geist bereits auf den Computer übertragen wurde, so dass das Erstellen von Kopien recht einfach ist. Hanson sagt, dass das Problem der Identität in diesem Fall verschwommen ist: Duplikate sind anfangs "dieselbe Person", aber allmählich divergiert ihre Identität, wenn sie beginnen, getrennt zu leben.
Hanson schlägt vor, dass das Duplizieren von Personen nicht nur möglich, sondern auch wünschenswert ist. Im kommenden Zeitalter von Emus werden Menschen mit besonders wertvollen geistigen Fähigkeiten viele Male "geladen". Und im Allgemeinen werden die Leute sowieso mehrere Kopien von sich selbst als eine Form der Versicherung machen wollen. "Sie bevorzugen möglicherweise Redundanz in ihrer eigenen Implementierung, um sicherzustellen, dass sie unerwartete Katastrophen überstehen können", sagt Hanson.
Aber er glaubt nicht, dass sie Kents Szenario eines identischen Lebens bevorzugen würden. Ems “wird keinen besonderen Wert darauf legen, dasselbe Leben zu verschiedenen Zeiten und an verschiedenen Orten zu führen. Sie investieren Wert in mehrere Kopien, da diese Kopien funktionieren oder mit anderen kommunizieren können. Für diese Art von Arbeit und Beziehung muss jedoch jede Kopie kausal unabhängig sein und ihre Geschichten müssen auf der Grundlage von Aufgaben oder als Partner miteinander verflochten sein. “
In jedem Fall müssen sie sich mit moralischen Schwierigkeiten auseinandersetzen, die wir noch nicht überschätzen können. "Ich denke nicht, dass die Moral, die Menschen haben, allgemein genug oder zuverlässig genug ist, um selbstbewusste Antworten auf Situationen wie diese zu geben, die so weit von der 'Erfahrung' unserer Vorfahren entfernt sind", sagt Hanson. "Ich gehe davon aus, dass Emus viele unterschiedliche widersprüchliche Meinungen zu solchen Dingen haben wird."
Ems, Sims und unsere virtuelle Zukunft
Jetzt mag das alles sehr seltsam klingen, wie apokryphe mittelalterliche Gespräche über Engel, die auf Zehenspitzen tanzen. Werden wir jemals in der Lage sein, ein virtuelles Leben zu schaffen, das dem realen Leben überhaupt ähnlich sein wird? "Ich glaube nicht, dass jemand sicher sagen kann, ob dies möglich ist oder nicht", sagt Kent, auch weil "wir kein gutes wissenschaftliches Verständnis des Bewusstseins haben."
Trotzdem schreitet die Technologie voran und diese Fragen bleiben offen. Der schwedische Philosoph Nick Bostrom vom Institut für die Zukunft des Menschen argumentierte, dass die Rechenleistung, die der "posthumanen" Zivilisation zur Verfügung steht, es einfach machen würde, Kreaturen zu simulieren, die in der Welt leben und sie so real fühlen, wie wir unsere eigenen sind. (Bostrom glaubt auch, wir könnten in einer solchen Simulation leben.) Die Frage, wie wir solche Welten bevölkern können, stellt "ein echtes Dilemma für Programmierer, Wissenschaftler und Gesetzgeber der Zukunft dar, wenn auch nicht so weit entfernt", sagt Kent.
Kents Szenario kann bereits reale Auswirkungen haben. Argumente zur Maximierung des Nutzens und das Problem der Nichtidentität ergeben sich in Diskussionen über die Förderung und Verhinderung der menschlichen Empfängnis. Wann sollten Sie sich weigern, im Falle eines Risikos zu empfangen, beispielsweise wenn bei einem Kind Anomalien auftreten? Keine der neuen Methoden garantiert vollständige Sicherheit und wird niemals garantiert, aber eine IVF würde niemals durchgeführt werden, wenn dies eine Voraussetzung wäre. Es wird erwartet, dass eine solche Technik eine bestimmte Risikoschwelle erreicht. Der utilitaristische Ansatz stellt diese Idee jedoch in Frage.
Was wäre, wenn eine neue assistierte Reproduktionsmethode ein moderates Risiko hätte, bei der Geburt kleine Defekte wie Muttermale zu entwickeln? (Dies ist ein echtes Argument: Nathaniel Hawthornes Geschichte von 1843 erzählt von einem Alchemisten, der mit fatalen Folgen versuchte, die Marke von seiner Frau zu entfernen, zitierte der US Bioethics Council von 2002.) Es ist schwer zu sagen, dass Personen, die mit einem solchen Punkt markiert sind, schlechter sind als andere und daher bei der Methode nicht berücksichtigt werden sollten. Aber wo soll die Linie gezogen werden? Wann ist es besser, einen Geburtsfehler überhaupt nicht umzusetzen?
Einige haben dieses Dilemma bei der Verteidigung des Klonens von Menschen erwähnt. Werden Gefahren wie soziales Stigma oder verzerrte elterliche Motive und Erwartungen die Vorteile des Schenkens überwiegen? Wer sind wir, um die Wahl für den geklonten Menschen zu treffen? Wer werden wir sein, wenn wir diese Wahl treffen, bevor der Mensch überhaupt existiert?
Diese Art von Argumentation scheint zu erfordern, dass wir gottähnliche Entscheidungen treffen. Aber eine feministische Beobachterin könnte denken, dass wir das Opfer einer Version von Frankensteins Fantasie sind. Mit anderen Worten, ist das nicht eine Gruppe von Männern, die davon träumen, endlich Menschen zu erfinden, wenn Frauen dies seit Jahrhunderten tun? Das Gefühl der Neuheit, das zu all diesen Kontroversen führt, hat einen patriarchalischen Charakter.
Trotzdem wirft die Perspektive des virtuellen Bewusstseins einige sehr frische und faszinierende ethische Fragen auf - die laut Kent dazu führen, dass wir den intuitiven Wert, den wir dem Leben und der Demografie beimessen, in Frage stellen. Es ist äußerst schwierig, ein starkes Argument dafür zu sehen, dass eine bestimmte Anzahl unterschiedlicher Leben moralisch besser sein wird als dieselbe Anzahl derselben. Warum denken wir so? Wie können wir Vorurteile abbauen?
Man könnte sagen, dass die wahrgenommene Homogenität in der menschlichen Bevölkerung die Fähigkeit zu Empathie und ethischem Denken untergräbt. Die „gesichtslose“Menge, der sich der Einzelne widersetzt, ist ein bekanntes Klischee, das ein Gefühl von Heldentum hervorruft. Dies ist jedoch nicht unbedingt richtig.
Vielleicht haben wir eine evolutionäre Abneigung gegen dieselben Individuen, besonders wenn man bedenkt, dass die genetische Vielfalt einer Population ihr Überleben sichert? Denken Sie nur an Filme über eineiige Zwillinge oder Klone - es sieht nicht immer gut aus. Es sieht sogar bedrohlich aus. 1919 verband Sigmund Freud dieses Gefühl mit der Idee eines bösen Doppelgängers. Und wenn dies bei eineiigen Zwillingen noch verständlich ist, sehen hundert „identische“Zeichen schrecklich aus.
Es sieht nicht so aus, als würden wir in naher Zukunft in der realen oder virtuellen Welt mit Armeen von Duplikaten konfrontiert sein. Aber der Wert von Gedankenexperimenten besteht darin, dass sie Ihnen einen neuen Weg bieten, die Fragen der Welt zu verstehen. Indem wir uns die Ethik unserer Beziehung zu Sims vorstellen, entdecken wir eine wackelige oder nicht existierende Logik, die wir instinktiv verwenden, um den moralischen Wert unseres eigenen Lebens abzuwägen.
Ilya Khel
