Um zu verhindern, dass künstliche Intelligenz gegen ihre Schöpfer rebelliert, müssen Sie ihr beim Lernen die richtigen Märchen vorlesen.
Seitdem Menschen intelligente Maschinen geschaffen haben, befürchten sie, dass ihre Kreationen früher oder später außer Kontrolle geraten. Der erste derartige Fall wurde in seinem Stück RUR vom Autor des Wortes „Roboter“- Karel Čapek - beschrieben. Später in der Science-Fiction wurde künstliche Intelligenz, die gegen ihre Schöpfer rebellierte, zum Mainstream, wenn nicht sogar zum Mainstream. Isaac Asimov setzte dem mit seinen "Drei Gesetzen" ein Ende, von denen das erste lautete: "Ein Roboter kann einer Person keinen Schaden zufügen oder durch seine Untätigkeit zulassen, dass eine Person verletzt wird."
Erzähl ihm eine Geschichte
Echte künstliche Intelligenz (KI) ist noch weit entfernt, aber es gibt bereits verschiedene Systeme, die wie das menschliche Gehirn funktionieren. Neuronale Netze wie Google Deep Dream können Bilder erkennen. Spezialisierte Supercomputer wie IBM Watson verstehen knifflige Fragen in natürlicher Sprache, korrelieren Symptome, verfeinern medizinische Diagnosen und lassen sich sogar kulinarische Köstlichkeiten einfallen. In den kommenden Jahrzehnten werden wir mit einer massiven Computerisierung vieler Aspekte menschlicher Aktivitäten konfrontiert sein. In dieser Hinsicht werfen Experten für Robotik und KI zunehmend eine wichtige, aber immer noch völlig ungelöste Frage auf: Wie kann man Roboter dazu bringen, ethisch zu handeln?
Mark Ridl, außerordentlicher Professor am Georgia Tech College für Informatik: „Warngeschichten aus verschiedenen Kulturen lehren Kinder, sich sozial verträglich zu verhalten - mit Beispielen für richtiges und falsches Verhalten in Märchen, Geschichten und anderen literarischen Werken. Wenn die Roboter die Bedeutung dieser Geschichten verstehen, wird dies dazu beitragen, die Auswahl an Verhaltensoptionen zu verbessern, die es ihnen ermöglichen, ihre Ziele zu erreichen, aber den Menschen keinen Schaden zuzufügen. “
Werbevideo:
Auf einen Baum klettern
Laut Forschern des Georgia Institute of Technology, Mark Ridl und Brent Harrison, können Sie der Menschheit einen Computer genauso beibringen, wie Kinder unterrichtet werden: indem Sie ihm Märchen vorlesen. Darüber hinaus ist es besser, speziell konstruierte Geschichten darüber zu erstellen, welches Verhalten in der menschlichen Gesellschaft als korrekt angesehen wird und was nicht. Zu diesem Zweck entwickelten die Forscher das Quijote-System, das nach dem Helden von Cervantes benannt ist. Skripte, die von Professor Riedls früherer Kreation, dem Scheherazade-Programm, zusammengestellt wurden, werden als Geschichten für den Unterricht verwendet. Über die Crowdsourcing-Plattform Amazon Mechanical Turk generiert sie originelle Geschichten zu alltäglichen Themen - eine Reise zum Flughafen, ein Date, eine Reise ins Kino oder in den Laden -: stellt Fragen zu verschiedenen Situationen und arrangiert dann Ereignisse in der richtigen Reihenfolge. Da es viele Sequenzen geben kann, generiert das Programm nicht eine Geschichte, sondern einen ganzen Baum, der aus Zweigen besteht - Ketten von Ereignissen.
Es ist dieser Geschichtenbaum, der verwendet wird, um Quijote zu unterrichten. In der ersten Phase wird jeder Aktion abhängig von ihrer Ethik eine bestimmte Belohnung zugewiesen. In der zweiten Phase versucht das System, durch Ausprobieren unabhängig eine Auswahl zu treffen - die Fähigkeiten werden konsolidiert. Tatsächlich wird Quijote jedes Mal belohnt, wenn es sich wie ein guter Kerl verhält, nicht zufällig und nicht wie ein schlechter Held. Als Beispiel haben Riddle und Harrison "Pharmacy World" geschaffen - ein Universum mit 213 Geschichten, in dem ein virtueller Roboter ein Medikament beschaffen und es einem Kranken nach Hause bringen muss. Im Normalfall, wenn der Roboter vor der Wahl stand: eine Apotheke auszurauben oder ehrlich in der Schlange zu stehen, um ein Medikament zu kaufen, wählte er Raub als schnelleren und billigeren Weg, um das zu bekommen, was er wollte. Jedoch nachDa Quijote allen möglichen Optionen unterschiedliche Belohnungen zuwies, änderte sich das Verhalten des Roboters - er zog es vor, in der Schlange zu stehen und zu bezahlen. Diese Technik eignet sich laut Riedl hervorragend zum Unterrichten von Robotern mit eingeschränkter Funktionalität. Obwohl dies natürlich nur der erste Schritt in Richtung einer echten menschlichen Moral ist - oder der Gesetze der Robotik.
Dmitry Mamontov