Mikhail Burtsev, Leiter des Labors für neuronale Systeme und Deep Learning am Moskauer Institut für Physik und Technologie, spricht darüber, ob es möglich ist, ein vollwertiges Computeranalogon des menschlichen Geistes zu erstellen, und erklärt, warum Wissenschaftler es entwickeln und wie es vor Trollangriffen geschützt werden kann.
Ende Juli starteten Wissenschaftler des MIPT einen internationalen Wettbewerb für „gesprochene“Systeme der künstlichen Intelligenz, die eine lebende Person imitieren können, und luden alle ein, die mit ihnen kommunizieren und die daraus resultierenden Dialoge bewerten wollten. Mit Hilfe von Freiwilligen hoffen die Wissenschaftler, in den nächsten drei Jahren einen Sprachassistenten zu schaffen, der fast genauso gut mit einer Person wie einem lebenden Gesprächspartner kommunizieren kann.
Der Wettbewerb wurde von Wissenschaftlern der Universitäten von Montreal, McGill und Carnegie Mellon mitorganisiert. Sie können am Testen von Dialogsystemen teilnehmen, indem Sie dem Link folgen.
Tatsächlich wurden diese Ideen heute nicht erfunden - moderne Sprachassistenten von Google, Apple, Amazon und anderen IT-Unternehmen sind zu Beginn des Computerzeitalters in der Vergangenheit verwurzelt. Die erste derartige Sprechmaschine namens ELIZA wurde 1966 gegründet und war in der Tat ein Witz, eine Parodie eines Psychotherapeuten, der einem Patienten nutzlose Ratschläge gab.
In den folgenden Jahren und Jahrzehnten schufen Programmierer immer komplexere und "live" Systeme für die Kommunikation mit einem Computer. Das fortschrittlichste dieser Systeme kann die Stimmung des Eigentümers erkennen, sich an seine alten Wünsche und Vorlieben erinnern und einige der Routine- und Haushaltsaufgaben für ihn lösen, Lebensmittel oder Waren im Geschäft bestellen oder die Rolle eines Betreibers in Callcentern spielen.
Mikhail, seit der Gründung von ELIZA sind fast 50 Jahre vergangen. Was hat sich in dieser Zeit im Allgemeinen geändert und kann grundsätzlich erwarten, dass Wissenschaftler in Zukunft ein solches System schaffen können, das Menschen nicht von einem lebenden Gesprächspartner unterscheiden können?
- Ich denke, dass es in naher Zukunft möglich sein wird, eine Technologie für gesprochene Intelligenz zu entwickeln, die es der Maschine ermöglicht, sich der Ebene des menschlichen Dialogs zu nähern. Wir arbeiten an dieser Aufgabe im Rahmen des iPavlov-Projekts, das Teil der Nationalen Technologieinitiative ist.
Der Benutzer sollte sich mit einem automatischen Dialogsystem genauso wohl fühlen wie mit einer lebenden Person. Auf diese Weise können Informationssysteme geschaffen werden, die besser verstehen, was eine Person von ihnen will, und in natürlicher Sprache auf sie reagieren.
Werbevideo:
Conversational Intelligence kann verwendet werden, um viele Sprach- und Textschnittstellen zu automatisieren, einschließlich Messenger wie Telegram. Wie Statistiken zeigen, werden Boten heutzutage aktiver genutzt als soziale Netzwerke, und eine sehr große Menge an Informationen wird über Textkommunikationskanäle übertragen.
Sie sind beispielsweise bequem für den Transport zu verwenden, und durch Hinzufügen eines Dialogassistenten - eines Chat-Bots - können Benutzer nicht nur miteinander kommunizieren, sondern auch die erforderlichen Informationen erhalten, Einkäufe tätigen und viele andere Dinge tun. Dies wird dazu führen, dass Instant Messenger und Sprachassistenten nach und nach die üblichen Webseiten und Anwendungen ersetzen und auch die Rolle von Online-Beratern und Call-Center-Spezialisten spielen.
Kann Russland angesichts der Präsenz von Apple, Google und Amazon auf diesem Markt hier konkurrieren? Gibt es eine Besonderheit in der russischen Sprache, die potenzielle Konkurrenten russischer Unternehmen und Wissenschaftler behindern könnte?
- Natürlich ist die russische Sprache komplexer, und einige der Methoden, die heute bei der Entwicklung von Dialogsystemen und Sprachassistenten in der Welt verwendet werden, können nicht ohne Verfeinerung und wesentliche Modifikationen angewendet werden, die es ihnen ermöglichen würden, mit einer reichhaltigeren Grammatik zu arbeiten.
Andererseits verbirgt niemand die grundlegenden Algorithmen, die in der Arbeit von Siri, Cortana, Google und anderen digitalen Assistenten verwendet werden - sie stehen uns zumindest auf der Ebene der Forschung und Konzepte zur Verfügung. Forschungsarbeiten und Programmcode sind häufig öffentlich zugänglich - im Prinzip kann er an Russisch angepasst werden.
Mikhail Burtsev, Leiter des Labors für Neuronale Systeme und Deep Learning, MIPT
Darüber hinaus gibt es nicht viele Versuche, dies auf "industrieller" Ebene umzusetzen. Das einzige große Projekt wird von Yandex durchgeführt, die einen Assistenten für das Alice-Projekt entwickelt.
In unserem Projekt versuchen wir, Tools zu erstellen, die die Erstellung solcher "industriellen" Dialogsysteme für eine Vielzahl von Zwecken vereinfachen und beschleunigen. Die Entwicklung eines universellen Sprachassistenten, der jedes Problem lösen kann, ist selbst für große Unternehmen eine äußerst schwierige Aufgabe.
Andererseits ist die Automatisierung eines kleinen Unternehmens, das ein spezielles Dialogsystem verwendet, viel einfacher zu implementieren. Wir hoffen, dass die Tools, die wir erstellen, Unternehmern und Programmierern helfen werden, solche Probleme schnell genug zu lösen, ohne tiefes Wissen zu haben und ohne große Anstrengungen dafür zu unternehmen.
Viele Wissenschaftler wie Roger Penrose oder Stuart Hameroff glauben, dass der menschliche Geist quantenhafter Natur ist und es im Prinzip unmöglich ist, ein Maschinenanalog zu bauen. Stimmen Sie ihnen zu oder nicht?
- Wenn Sie sich meiner Meinung nach ansehen, was wir heute über die Struktur des Gehirns und die Natur des menschlichen Bewusstseins wissen, dann haben wir bisher keine grundlegenden Hindernisse, um seine Arbeit mit einem Computer zu reproduzieren.
Penrose und Hameroff haben eine Reihe von Hypothesen, von denen sie glauben, dass sie erklären, warum dies nicht möglich ist. Bisher haben Neurophysiologen keine experimentellen Beweise dafür gefunden, dass diese Hypothesen richtig sind, und unsere aktuelle Wissensbasis spricht für das Gegenteil.
Eine andere Sache ist, dass der Zeitrahmen für die Erstellung einer solchen Maschine nicht vollständig definiert bleibt. Es scheint mir, dass dies in mindestens 50 oder sogar 100 Jahren geschehen kann.
Erfordert dies grundlegend neue Technologien und Computer, deren Funktionsprinzipien den Neuronen näher stehen als der digitalen Logik?
- Wenn wir glauben, dass die menschliche Intelligenz auf irgendeiner Form von Berechnung basiert, kann jedes universelle Computersystem, das einer Turing-Maschine entspricht, theoretisch die Arbeit des menschlichen Gehirns emulieren.
Eine andere Sache ist, dass diese Maschine sehr langsam laufen kann, was sie aus praktischer Sicht unbrauchbar macht. Heute ist es schwer zu erraten, welche Technologien für den Bau von Computern wir hier benötigen.
Welche anderen Aufgaben können digitale Assistenten neben den heutigen Aufgaben lösen? Können sie verwendet werden, um Texte in toten Sprachen oder Chiffren wie das Voynich-Manuskript zu entziffern?
- Im Moment hat meines Wissens niemand versucht, mithilfe neuronaler Netze die Geheimnisse toter Sprachen aufzudecken und Texte zu entschlüsseln, aber es scheint mir, dass jemand in naher Zukunft versuchen wird, dies zu tun. Wir wiederum haben uns noch nicht für solche Dinge interessiert.
"Helfer" ist eigentlich ein sehr weit gefasstes Konzept, das viele sehr unterschiedliche Dinge beinhalten kann. Wenn wir zum Beispiel dieselbe ELIZA, die virtuelle „Psychotherapeutin“, nehmen, stellt sich die Frage: Ist sie eine Assistentin oder nicht?
Dialogsysteme können nicht nur zur Lösung praktischer Probleme eingesetzt werden, sondern auch, um Menschen zu unterhalten oder ihre Stimmung zu erhalten. Die Frage hier ist in der Tat, was wir unter dem Konzept eines persönlichen Assistenten verstehen und wie breit oder eng es ist. Im weitesten Sinne können solche Systeme alle Kommunikationsprobleme lösen, wenn auch mit unterschiedlichem Erfolg.
Neben der direkten Kommunikation mit Menschen können Konversationsschnittstellen auch verwendet werden, um Maschinen beizubringen, schnell eine gemeinsame Sprache zu finden und Informationen von einem System auf ein anderes zu übertragen.
Dadurch wird das Problem des Herstellens von Links und des Übertragens von Daten zwischen vorhandenen und erstellten Diensten umgangen, da diese die API-Spezifikationen des anderen nicht kennen müssen, um miteinander zu kommunizieren. Sie können Daten in natürlichen Sprachen oder in ihrer eigenen künstlichen Sprache austauschen, die von Maschinen oder Menschen für solche Zwecke erfunden werden.
Grob gesagt können sich sogar Systeme, die einander "unbekannt" sind, darauf einigen, eine gemeinsame Kommunikationssprache für sie zu verwenden und keine festen Regeln für den Informationsaustausch. Wenn sie etwas nicht verstehen, können sie sich gegenseitig nach unbekannten Dingen fragen, wodurch die gesamte Infrastruktur für die Bereitstellung von Diensten und Diensten im Internet unglaublich flexibel wird und neue Dienste ohne die Hilfe von Menschen schnell integriert werden können.
In diesem Zusammenhang stellt sich die Frage, wer für die Empfehlungen der "Psychotherapeutin" ELIZA, Computerärzte und anderer Sprachassistenten verantwortlich sein sollte, deren Rat das Wohlbefinden und die Gesundheit einer Person stark beeinträchtigen kann
- Dies ist eine sehr schwierige Frage, da es heute keine klaren Kriterien gibt, die uns helfen würden, zu verstehen, wie wir in solchen Fällen handeln sollen. Viele Internetdienste und -dienste, die Empfehlungen an Benutzer ausgeben, beginnen erst zu funktionieren, nachdem der Benutzer den Nutzungsbedingungen und den Konsequenzen, die sich aus der Arbeit mit ihnen ergeben können, zugestimmt hat.
Es scheint mir, dass die Arbeit von Chat-Bots und Sprachassistenten - zumindest in den frühen Stadien ihrer Existenz - auf ähnliche Weise geregelt werden könnte. Wenn ein Bot beispielsweise einfach Informationen sucht und analysiert, die sich ähnlich wie eine Suchmaschine verhalten, können dieselben Regeln auf ihn angewendet werden. Für den Fall, dass er medizinischen oder rechtlichen Rat gibt, sollte die Form der Verantwortung anders sein.
Beispielsweise sollten solche Systeme den Benutzer klar über die Konsequenzen der Wahl zwischen künstlicher Intelligenz und einem normalen Arzt informieren. Eine Person hat die Wahl - dem Arzt zu vertrauen, der beispielsweise in 10% der Fälle falsch liegt, oder auf eine Maschine zu setzen, die in 3% der Fälle die falsche Antwort gibt. Im ersten Fall ist der Arzt für den Fehler verantwortlich, im zweiten Fall der Benutzer selbst.
Letztes Jahr startete Microsoft den Tay. AI-Chatbot, den er einen Tag später buchstäblich ausschalten musste, da die Internetnutzer aus einem „Teenager-Mädchen“einen echten Rassisten machten. Ist es möglich, solche Dialogsysteme vor Trollen und Scherzen zu schützen?
- Es scheint mir, dass Sie sich verteidigen können, aber ob es sich lohnt, hängt vom Zweck des Systems ab. Es ist klar, dass wir seine Antworten filtern können, wenn das System keine spezifischen Bemerkungen machen sollte - unhöflich oder extremistisch. Diese Filterung kann entweder in der Phase des Trainings des Systems oder bereits während der Generierung von Antworten erfolgen.
Eine ähnliche Aufgabe zur Bewertung der Qualität des Dialogs wurde übrigens von Teams im Rahmen des DeepHack Turing-Hackathons für wissenschaftliche Schulen gelöst, der vor einigen Wochen am MIPT stattfand. Die Teilnehmer entwickelten Algorithmen, die anhand der Hinweise im Dialog vorhersagen konnten, welche Art von Bewertung eine Person dem Dialogsystem geben würde.
Der nächste Schritt bei der Entwicklung dieses Ansatzes ist die Erstellung eines Programms, mit dem die Akzeptanz von Phrasen oder die Zuverlässigkeit von Quellen bewertet werden kann, mit denen Antworten auf Benutzeranfragen generiert werden. Es scheint mir, dass es helfen würde, dieses Problem zu lösen.
