Als KI-Forscher bin ich oft mit der Meinung konfrontiert, dass viele Menschen Angst vor KI haben und was daraus werden kann. In der Tat ist es nicht verwunderlich, wenn man aus der Perspektive der Menschheitsgeschichte betrachtet und gleichzeitig darauf achtet, was die Unterhaltungsindustrie uns füttert, dass die Menschen möglicherweise Angst vor einer Cyber-Rebellion haben, die uns zwingt, in isolierten Gebieten zu leben und andere in eine "Matrix-ähnliche" Art menschlicher Batterien zu verwandeln …
Und doch fällt es mir bei all diesen evolutionären Computermodellen, die ich in der KI-Entwicklung verwende, schwer zu glauben, dass meine harmlosen Kreaturen, die wie Tränen eines Babys auf meinem Computerbildschirm sauber sind, eines Tages zu Monstern einer futuristischen Dystopie werden könnten. Kann ich wirklich als "Zerstörer der Welten" bezeichnet werden, wie Oppenheimer es einmal bereute und über sich selbst sagte, nachdem er das Programm zur Schaffung einer Atombombe geleitet hatte?
Vielleicht würde ich solchen Ruhm akzeptieren, oder vielleicht haben die Kritiker meiner Arbeit doch recht? Vielleicht sollte ich wirklich aufhören, Fragen zu vermeiden, welche Ängste ich über KI als KI-Experte habe?
Angst vor Unvorhersehbarkeit
Der HAL 9000, der Traum des Science-Fiction-Schriftstellers Arthur Charles Clarke, der 2001 vom Filmemacher Stanley Kubrick in A Space Odyssey zum Leben erweckt wurde, ist ein hervorragendes Beispiel für ein System, das aufgrund unvorhergesehener Umstände abgestürzt ist.
In vielen komplexen Systemen - der Titanic, dem NASA-Space Shuttle und dem Kernkraftwerk Tschernobyl - mussten Ingenieure viele Komponenten kombinieren. Vielleicht wussten die Architekten dieser Systeme genau, wie jedes ihrer Elemente einzeln funktioniert, aber sie verstanden nicht gut genug, wie all diese Komponenten zusammenarbeiten würden.
Werbevideo:
Das Ergebnis waren Systeme, die von ihren eigenen Schöpfern nie vollständig verstanden wurden, was zu bekannten Konsequenzen führte. In jedem Fall - das Schiff sank, zwei Shuttles explodierten und fast ganz Europa und Teile Asiens waren mit dem Problem der radioaktiven Kontamination konfrontiert - verursachte eine Reihe relativ kleiner Probleme, die gleichzeitig auftraten, einen katastrophalen Effekt.
Ich kann mir gut vorstellen, wie wir, die Schöpfer der KI, zu ähnlichen Ergebnissen kommen können. Wir nehmen die neuesten Entwicklungen und Forschungen in der Kognitionswissenschaft (die Wissenschaft des Denkens), übersetzen sie in Computeralgorithmen und fügen all dies zu bestehenden Systemen hinzu. Wir versuchen, KI zu entwickeln, ohne unsere eigene Intelligenz und unser Bewusstsein vollständig zu verstehen.
Systeme wie Watson von IBM oder Alpha von Google sind künstliche neuronale Netze mit beeindruckender Rechenleistung und der Fähigkeit, wirklich komplexe Aufgaben zu bewältigen. Das Einzige, zu dem ein Fehler in ihrer Arbeit führen wird, ist das Ergebnis eines Verlusts im intellektuellen Spiel "Jeopardy!" oder eine verpasste Gelegenheit, ein weiteres weltweit bestes Logik-Brettspiel Go zu besiegen.
Diese Konsequenzen sind nicht globaler Natur. In der Tat ist das Schlimmste, was Menschen in diesem Fall passieren kann, dass jemand etwas Geld bei den Wetten verliert.
Die KI-Architektur wird jedoch immer komplexer und Computerprozesse werden schneller. Die KI-Fähigkeiten werden nur mit der Zeit zunehmen. Und dies wird uns bereits dazu führen, dass wir der KI trotz des zunehmenden Risikos unvorhergesehener Umstände immer mehr Verantwortung übertragen werden.
Wir sind uns bewusst, dass "Fehler Teil der menschlichen Natur sind", daher wird es für uns einfach physisch unmöglich sein, in allem ein wirklich sicheres System zu schaffen.
Angst vor Missbrauch
Ich bin nicht wirklich besorgt über die Unvorhersehbarkeit der Konsequenzen in der Arbeit der KI, die ich mit dem sogenannten Neuroevolution-Ansatz entwickle. Ich erstelle virtuelle Umgebungen und fülle sie mit digitalen Kreaturen, wobei ich ihrem Gehirn Befehle gebe, um Probleme mit zunehmender Komplexität zu lösen.
Mit der Zeit steigt und entwickelt sich die Effizienz der Problemlösung durch diese Kreaturen. Diejenigen, die den besten Job machen, werden für die Reproduktion ausgewählt, wodurch auf ihrer Basis eine neue Generation entsteht. Im Laufe der Generationen entwickeln diese digitalen Kreaturen kognitive Fähigkeiten.
Zum Beispiel machen wir gerade die ersten Schritte bei der Entwicklung von Maschinen, um einfache Navigationsaufgaben auszuführen, einfache Entscheidungen zu treffen oder ein paar Informationen zu speichern. Aber bald werden wir die Entwicklung von Maschinen sehen, die komplexere Aufgaben ausführen können und insgesamt ein viel effizienteres Intelligenzniveau haben. Unser oberstes Ziel ist es, Intelligenz auf menschlicher Ebene zu schaffen.
Im Verlauf dieser Entwicklung werden wir versuchen, alle Fehler und Probleme zu finden und zu beheben. Mit jeder neuen Generation können die Maschinen besser mit Fehlern umgehen als die vorherigen. Dies erhöht die Wahrscheinlichkeit, dass wir alle unvorhersehbaren Konsequenzen in Simulationen identifizieren und beseitigen können, noch bevor sie in der realen Welt realisiert werden können.
Eine weitere Möglichkeit, die die evolutionäre Entwicklungsmethode bietet, besteht darin, künstliche Intelligenz mit Ethik auszustatten. Es ist wahrscheinlich, dass solche ethischen und moralischen Eigenschaften einer Person wie Zuverlässigkeit und Altruismus das Ergebnis unserer Entwicklung und ein Faktor für ihre Fortsetzung sind.
Wir können eine gebaute Umgebung schaffen und Maschinen befähigen, Freundlichkeit, Ehrlichkeit und Empathie zu demonstrieren. Dies könnte eine Möglichkeit sein, um sicherzustellen, dass wir gehorsamere Diener entwickeln als rücksichtslose Killerroboter. Während Neuroevolution das Ausmaß unbeabsichtigter Konsequenzen im KI-Verhalten verringern kann, kann sie den Missbrauch künstlicher Intelligenz nicht verhindern.
Als Wissenschaftler muss ich meinem Bekenntnis zur Wahrheit gerecht werden und berichten, was ich durch meine Experimente entdeckt habe, ob mir die Ergebnisse gefallen oder nicht. Meine Aufgabe ist es nicht zu bestimmen, was ich mag und was nicht. Das einzig Wichtige ist, dass ich meine Arbeit öffentlich machen kann.
Angst vor falschen sozialen Prioritäten
Wissenschaftler zu sein bedeutet nicht, die Menschlichkeit zu verlieren. Ich muss mich auf einer bestimmten Ebene wieder mit meinen Hoffnungen und Ängsten verbinden. Als moralisch und politisch motivierter Mensch muss ich die möglichen Folgen meiner Arbeit und ihre möglichen Auswirkungen auf die Gesellschaft berücksichtigen.
Als Wissenschaftler und als Vertreter der Gesellschaft haben wir immer noch keine klare Vorstellung davon, was genau wir von der KI erwarten und was sie letztendlich werden sollte. Dies ist natürlich teilweise darauf zurückzuführen, dass wir sein Potenzial immer noch nicht vollständig verstehen. Dennoch müssen wir klar verstehen und entscheiden, was wir von wirklich fortschrittlicher künstlicher Intelligenz erhalten wollen.
Einer der größten Bereiche, auf die die Leute achten, wenn sie über KI sprechen, ist die Beschäftigung. Roboter erledigen für uns bereits komplexe physische Arbeiten wie das Zusammenbauen und Zusammenschweißen von Karosserieteilen. Aber eines Tages wird der Tag kommen, an dem Roboter mit der Ausführung kognitiver Aufgaben beauftragt werden, dh mit der Aufgabe, die zuvor als ausschließlich einzigartige Fähigkeit der Person selbst angesehen wurde. Selbstfahrende Autos können Taxifahrer ersetzen. Selbstfahrende Flugzeuge benötigen keine Piloten.
Anstatt in Notaufnahmen mit immer müden Mitarbeitern und Ärzten medizinisch versorgt zu werden, können Patienten mithilfe von Expertensystemen Untersuchungen durchführen und Diagnosen lernen, wobei sie sofort auf alle medizinischen Kenntnisse zugreifen können. Chirurgische Operationen werden von Robotern durchgeführt, die nicht ermüdungsanfällig sind, mit einer perfekt „geschulten Hand“.
Rechtsberatung wird in einem umfassenden Rechtsrahmen angeboten. Für die Anlageberatung wenden wir uns an fachkundige Marktprognosesysteme. Vielleicht wird eines Tages die gesamte menschliche Arbeit von Maschinen erledigt. Sogar meine Arbeit kann schneller erledigt werden, indem eine große Anzahl von Maschinen verwendet wird, die unermüdlich erforschen, wie Maschinen intelligenter gemacht werden können.
In der Realität unserer heutigen Gesellschaft zwingt die Automatisierung die Menschen bereits dazu, ihren Arbeitsplatz zu verlassen, was die reichen Besitzer solcher automatisierten Maschinen noch reicher und den Rest noch ärmer macht. Dies ist jedoch kein wissenschaftliches Problem. Dies ist ein politisches und sozioökonomisches Problem, das die Gesellschaft selbst lösen muss.
Meine Forschung wird das nicht ändern, aber meine politischen Grundlagen können zusammen mit der Menschheit zu Umständen führen, unter denen KI zu einer äußerst nützlichen Funktion werden kann, anstatt die Kluft zwischen einem Prozent der Weltelite und dem Rest von uns zu vergrößern.
Angst vor einem katastrophalen Szenario
Wir sind zu der letzten Angst gekommen, die uns der verrückte HAL 9000, der Terminator und jede andere bösartige Superintelligenz auferlegt haben. Wenn sich die KI weiterentwickelt, bis sie die menschliche Intelligenz übertrifft, würde ein künstliches superintelligentes System (oder eine Sammlung solcher Systeme) den Menschen als nutzloses Material betrachten? Wie können wir unsere Existenz angesichts einer Superintelligenz rechtfertigen, die in der Lage ist, das zu tun und zu schaffen, was kein anderer Mensch kann? Werden wir in der Lage sein, das Schicksal zu vermeiden, von den Maschinen, die wir mit geschaffen haben, vom Erdboden gewischt zu werden?
Daher wird die wichtigste Frage unter solchen Umständen so klingen: Warum braucht uns künstliche Superintelligenz?
Wenn eine solche Situation eingetreten wäre, würde ich wahrscheinlich sagen, dass ich ein guter Mensch bin, der sogar zur Schaffung dieser Superintelligenz beigetragen hat, mit der ich jetzt konfrontiert bin. Ich würde an sein Mitgefühl und sein Einfühlungsvermögen appellieren, damit die Superintelligenz mich so mitfühlend und einfühlsam am Leben lässt. Ich möchte auch hinzufügen, dass die Artenvielfalt selbst einen Wert hat und das Universum so groß ist, dass die Existenz der menschlichen Spezies darin tatsächlich ziemlich unbedeutend ist.
Aber ich kann nicht für die ganze Menschheit sprechen, daher wird es für mich schwierig sein, ein gültiges Argument für uns alle zu finden. Es ist nur so, dass ich, wenn ich uns alle anschaue, wirklich sehe, dass wir viel getan haben und viel falsch machen. In der Welt herrscht gegenseitiger Hass. Wir ziehen gegeneinander in den Krieg. Wir verteilen Lebensmittel, Wissen und Gesundheitsversorgung ungerecht. Wir verschmutzen den Planeten. In dieser Welt gibt es natürlich viele gute Dinge, aber wenn Sie sich all die schlechten Dinge ansehen, die wir geschaffen haben und weiterhin schaffen, wird es sehr schwierig sein, ein Argument zu finden, das unser Weiterleben unterstützt.
Glücklicherweise müssen wir unsere Existenz noch nicht rechtfertigen. Wir haben noch Zeit. 50 bis 250 Jahre, je nachdem, wie schnell sich künstliche Intelligenz entwickelt. Wir als Spezies haben die Fähigkeit, zusammenzukommen und eine gute Antwort auf die Frage zu finden, warum Superintelligenz uns nicht vom Planeten abwischen sollte.
Es wird sehr schwierig sein, dieses Problem zu beheben. Zu sagen, dass wir Vielfalt und ethnokulturelle Unterschiede unterstützen und dies zu tun, sind schließlich ganz andere Dinge. Wie kann man sagen, dass wir den Planeten retten und erfolgreich damit umgehen wollen?
Wir alle, sei es jeder Einzelne oder die Gesellschaft als Ganzes, müssen uns auf ein katastrophales Szenario vorbereiten und diese Zeit nutzen, um zu zeigen und zu beweisen, warum unsere Kreationen es uns ermöglichen sollten, weiter zu existieren. Oder wir können einfach weiterhin blind glauben, dass eine solche Entwicklung von Ereignissen unmöglich ist, und einfach aufhören, über dieses Thema zu sprechen.
Unabhängig davon, welche physische Gefahr die Superintelligenz für uns darstellt, sollten wir nicht vergessen, dass sie auch eine politische und wirtschaftliche Gefahr darstellt. Wenn wir keinen Weg finden, unseren Lebensstandard zu verbessern, werden wir den Kapitalismus einfach mit einem Arbeiter für künstliche Intelligenz befeuern, der nur wenigen Auserwählten dienen wird, die über alle Produktionsmittel verfügen.
Dieser Artikel wurde ursprünglich auf theconversation.com von Arend Hintze, Associate Professor am Institut für Integrative Biologie, Informatik und Ingenieurwesen der University of Michigan, veröffentlicht
Nikolay Khizhnyak
