Spezialisten auf dem Gebiet der Schaffung künstlicher Intelligenz auf menschlicher Ebene müssen heute nicht nur wissenschaftliche, sondern auch ethische Probleme lösen. Vor welchen Herausforderungen stehen Wissenschaftler? Wie kann man die Menschheit vor potenziellen Bedrohungen schützen, die durch die Schaffung eines übermächtigen Geistes entstehen, und in der neuen Welt menschlich bleiben? Alexey Samsonovich, Professor am Institut für Intelligente Kybernetische Systeme der Nationalen Forschungsnuklearuniversität "MEPhI" (IIKS NRNU MEPhI), berichtete dem Korrespondenten des Projekts "Social Navigator" der MIA "Russia Today" Anna Kurskaya darüber.
- Alexey Vladimirovich, unser Gespräch findet im Rahmen der Internationalen Konferenz "Biologisch inspirierte kognitive Architekturen" BICA 2019 statt. Welche Diskussionsthemen treten heute im Zusammenhang mit der Schaffung künstlicher Intelligenz auf menschlicher Ebene in den Vordergrund?- Auf der Konferenz konnten wir erneut die wichtigsten Herausforderungen im Bereich der Schaffung künstlicher Intelligenz der nächsten Generation erkennen, die ein gleichberechtigter Partner und Freund des Menschen werden sollte. Erstens besteht die Herausforderung darin, emotionale Intelligenz auf menschlicher Ebene zu schaffen, die Emotionen bei der Entscheidungsfindung und Verhaltensgenerierung nutzen kann. Diese Qualität ermöglicht es der Maschine insbesondere, langfristige soziale Bindungen aufzubauen, ähnlich wie zwischen Angehörigen. Es wird ihr auch ermöglichen, ihre Handlungen und Entscheidungen zu rechtfertigen, Ziele und eine Art zu lernen zu wählen. Emotionale Intelligenz ist der Schlüssel zur Beantwortung anderer Herausforderungen. Es ist nicht auf die Fähigkeit beschränkt, Emotionen zu erkennen und auszudrücken, die heute von den meisten Forschern auf diesem Gebiet beschäftigt werden. Obwohl beide Prozesse notwendig sind,Es ist viel wichtiger und schwieriger, den Zusammenhang zwischen dem einen und dem anderen zu verstehen, der durch emotionale Intelligenz bereitgestellt wird. Zweitens muss der intelligente Agent den Kontext des Geschehens verstehen. Dies bedeutet, dass er auf der Grundlage der ihm zur Verfügung stehenden Informationen das globale Szenario der Vergangenheit und der Zukunft unabhängig generieren und kontinuierlich aktualisieren, seine Rolle darin bestimmen und dann auf dieser Grundlage spezifische Ziele für sich selbst festlegen und Pläne entwickeln muss, um diese zu erreichen. In der wissenschaftlichen Literatur wird diese Fähigkeit allgemein als "narrative Intelligenz" bezeichnet (sie sollte nicht mit Programmen verwechselt werden, die nach einem Skript oder einer Erzählung arbeiten, die zuvor von einer Person geschrieben wurden).dass er das globale Szenario der Vergangenheit und der Zukunft auf der Grundlage der ihm zur Verfügung stehenden Informationen unabhängig generieren und kontinuierlich aktualisieren, seine Rolle darin bestimmen und dann auf dieser Grundlage spezifische Ziele festlegen und Pläne entwickeln muss, um diese zu erreichen. In der wissenschaftlichen Literatur wird diese Fähigkeit allgemein als "narrative Intelligenz" bezeichnet (sie sollte nicht mit Programmen verwechselt werden, die nach einem Skript oder einer Erzählung arbeiten, die zuvor von einer Person geschrieben wurden).dass er das globale Szenario der Vergangenheit und der Zukunft auf der Grundlage der ihm zur Verfügung stehenden Informationen unabhängig generieren und kontinuierlich aktualisieren, seine Rolle darin bestimmen und dann auf dieser Grundlage spezifische Ziele festlegen und Pläne entwickeln muss, um diese zu erreichen. In der wissenschaftlichen Literatur wird diese Fähigkeit allgemein als "narrative Intelligenz" bezeichnet (sie sollte nicht mit Programmen verwechselt werden, die nach einem Skript oder einer Erzählung arbeiten, die zuvor von einer Person geschrieben wurden).oder Erzählung).oder Erzählung). - Gibt es eine dritte Herausforderung?
- Es wird die Implementierung des aktiven Lernens künstlicher Intelligenz sein, die wie eine Person ein Wertesystem entwickelt, das den Lernprozess motiviert, selbst Ziele und eine Roadmap für das Lernen bildet und Mittel auswählt (z. B. Experimente zum Testen von Hypothesen, Suchen nach verfügbaren Ressourcen oder Fragen an eine Person). und setzt diese Mittel aus eigener Initiative ein, um das Ziel zu erreichen. Gleichzeitig muss die Maschine in der Lage sein, sich unabhängig vom Niveau eines Kindes zum Niveau eines Erwachsenen und weiter zur Superintelligenz zu entwickeln.
Dieser dritte Bereich könnte als „Lernintelligenz auf menschlicher Ebene“bezeichnet werden, um ihn von „Deep Learning“und anderen heute beliebten Arten des maschinellen Lernens zu unterscheiden. Nach meinem Verständnis wird Lernintelligenz auf menschlicher Ebene durch emotionale und narrative Intelligenz möglich sein.
Welche Forschung machst du jetzt? Wie schreitet Ihre Arbeit an der Schaffung virtueller menschlicher Assistenten und der Modellierung emotionaler Intelligenz voran?
- Wir beschäftigen uns mit der Modellierung menschlicher emotionaler Intelligenz mit dem Ziel, sozial kompatible virtuelle menschliche Assistenten basierend auf unseren Modellen zu entwickeln.
Wir betrachten eine breite Palette spezifischer Aufgaben und Forschungsbereiche. Dies ist beispielsweise die Erstellung eines virtuellen Partners in einem Videospiel. virtueller Koordinator oder Moderator; virtueller kreativer Assistent des Komponisten, Choreografen, Designers, Assistenten des Insight-Problemlösers; ein virtueller Zuhörer (in Zukunft - ein virtueller Gesprächspartner); sowie ein virtuelles Haustier, das hinsichtlich seiner sozialen und emotionalen Eigenschaften mit einem realen Haustier vergleichbar ist.
Die Ergebnisse sind hier nur schwer detailliert darzustellen, finden sich aber in unseren offenen Publikationen. Bei aller Breite unserer Versuche und Erfolge brauchen wir einen Durchbruch in eine Richtung: um den praktischen Wert des allgemeinen Modells der menschlichen emotionalen Intelligenz zu beweisen, das in einem intellektuellen Agenten verkörpert ist.
Kürzlich wurde unser BICA-Labor in der Abteilung für Kybernetik am NRNU MEPhI mit neuen Forschungsmethoden angereichert, darunter eine experimentelle Plattform, die auf virtueller und gemischter Realität basiert (mit Verfolgung der Augenrichtung des Probanden) sowie Elektromyographie und automatische Analyse von Gesichtsausdrücken, mit denen wir Emotionen von eingetauchten Probanden registrieren können virtuelle Umgebungen. Der Großteil unserer Arbeit wird jetzt mit diesen Technologien erledigt. EEG und fMRI werden auch in einigen Experimenten verwendet.
Werbevideo:
Unser unmittelbares übergeordnetes Ziel ist es, die sozio-emotionale kognitive Architektur von Ebica (eBICA) zu verfeinern, empirisch zu validieren und darauf basierend effektive Demonstrationen zu erstellen. Diese Arbeit wird am NRNU MEPhI mit finanzieller Unterstützung des Stipendiums der Russischen Wissenschaftsstiftung Nr. 18-11-00336 durchgeführt.
Vor kurzem kündigte Elon Musks Startup Neuralink Entwicklungen an, die in Zukunft eine Person zu einem Cyborg machen könnten, der in der Lage ist, einen Computer mit der Kraft des Denkens zu steuern. Wie vielversprechend ist diese Forschungsrichtung für Sie?
- Nach meinem Verständnis sollte künstliche Intelligenz einerseits ein gleichberechtigter Partner und Freund des Menschen werden und andererseits eine Erweiterung der normalen oder den Ersatz verlorener menschlicher Fähigkeiten, einschließlich Mittel, die auf einer direkten Schnittstelle zum menschlichen Gehirn beruhen.
In diesem Fall könnte eine Person buchstäblich einen Computer oder einen Mikrochip als Teil ihres Gehirns verwenden. Beide zielen auf das Gute ab und sollten vollständig von seinem Schöpfer kontrolliert werden. Ich wünsche Elon Musk viel Erfolg.
Wie groß ist der Bedarf an Mitteln zur Bekämpfung künstlicher Intelligenz?
- Ich denke, dass in unserer Zeit Werkzeuge für künstliche Intelligenz unter der Kontrolle einer Person bleiben werden, schon allein aufgrund ihrer Abhängigkeit von ihrem Dienst durch eine Person und der Bereitstellung von allem, was sie benötigen. Wenn jemand sie gegen eine Person wenden kann, dann nur die Person selbst. Dann sollte das Problem der Konfrontation dieser Menschen in Betracht gezogen werden.
Es ist kein Geheimnis, dass das Militär vor allem künstliche Intelligenz braucht. Nach wie vor werden neue Angriffs- und Verteidigungsmittel geschaffen. Die Besonderheit unserer Zeit ist jedoch, dass beide künstliche Intelligenz beinhalten. In diesem Sinne ist die Notwendigkeit, Mittel zur Konfrontation zu entwickeln, groß und für einige Länder aus finanzieller Sicht eine Priorität.
Was erwartet uns nach der Schaffung künstlicher Intelligenz, die dem Menschen überlegen ist? Werden wir mit Maschinen koexistieren oder werden wir uns zu einem einzigen Ganzen vereinen?
- Künstliche Intelligenz wird und wird bereits ein wesentlicher Bestandteil der menschlichen Zivilisation. Gleichzeitig sind noch zwei Möglichkeiten möglich: die Vererbung unserer Werte, Bestrebungen und Ideale durch künstliche Intelligenz oder deren Ersatz durch "Maschinenwerte", die sich nicht nur auf Maschinen, sondern auch auf Menschen erstrecken. Welcher dieser beiden Wege verwirklicht wird, liegt bei uns.
Was bedeutet es, im Zeitalter der künstlichen Intelligenz menschlich zu bleiben?
- Im Zeitalter der künstlichen Intelligenz menschlich zu bleiben bedeutet, den ersten Weg zu beschreiten.
