"Der Aufstieg der Maschinen", "The Terminator Returns" … Eine Menge Science-Fiction basiert auf der Tatsache, dass Computer so intelligent werden, dass sie verstehen, dass sie ohne eine Person besser dran sind. Märchen? Wie man aussieht. Bis 2050 kann ein typischer Heimcomputer so viele Informationen verarbeiten, wie alle Menschen auf der Erde zusammengenommen.
2050 ist jedoch unter der Bedingung, dass sich die Maschinen allmählich entwickeln. So funktioniert es nicht. Unsere Beziehung zur elektronischen Welt schreitet sprunghaft voran. Einmal - eine Maus wurde am Auto befestigt. Einmal - das Internet erschien. Einmal gab es Smartphones mit Tablets.
Der nächste Durchbruch kommt, wenn der Computer Menschen verstehen kann. Smartphones haben bereits Apps wie Siri und Cortana, mit denen Sie sich einfach unterhalten können. Das Problem ist jedoch, dass der Computer nicht versteht, was wir sagen, sondern was wir meinen! Das einfachste Beispiel: Der Satz "Er hat mich verlassen", der von einer tränenbefleckten Frau und dem Chef eines Mannes gesagt wird, hat eine völlig andere Bedeutung.
Also: Sobald Maschinen lernen, die Nuancen der menschlichen Sprache zu erkennen, werden unsere Hände einerseits im wörtlichen und im übertragenen Sinne gelöst. Ich habe mit dem Computer gesprochen und er hat alles getan. Nähern wir uns andererseits nicht einer gefährlichen Linie und beseitigen die letzte Barriere in der Kommunikation zwischen Menschen und seelenlosem Eisen?
Ich wollte schon lange mit einem bekannten Wissenschaftler, Direktor für Sprachforschung bei ABBYY, Leiter der Abteilungen für Computerlinguistik an der Russischen Staatlichen Universität für Geisteswissenschaften und dem Moskauer Institut für Physik und Technologie, Vladimir Selegey, darüber sprechen. Aber als ich ihm meine apokalyptischen Ängste erzählte, runzelte er die Stirn.
„Ja, Science Fiction ist voller dunkler Vorhersagen darüber, wie von Menschen geschulte Maschinen ohne sie auskommen werden. Mir ist jedoch nicht klar, warum eine Zunahme des in Programme eingebetteten Wissens einen Computer dazu veranlasst, Entscheidungen zu treffen, ohne die Erlaubnis einer Person einzuholen.
Tatsächlich besteht das Problem nicht darin, dass der Computer lernt, ohne Menschen auszukommen, sondern dass Menschen bei der Lösung bestimmter Probleme auf sich selbst verzichten möchten. Hier ist Tschernobyl …
Werbevideo:
Und was hat Tschernobyl damit zu tun?
- Ein Kernreaktor ist ein sehr komplexes physikalisches Modell. Es scheint, dass alle Steuerparameter des Reaktors bekannt sind, alles strengen physikalischen Gesetzen folgt und die Entscheidungsfindung vollständig dem Computer anvertraut werden kann. Aber…
1986, eine Woche nach dem Unfall, nahm ich an einem Seminar über den Einsatz künstlicher Intelligenz in der Industrie teil. Schon damals war klar, dass wir durch die Übertragung der Entscheidungsfindung auf einen Computer einem ernsthaften Risiko ausgesetzt sind. Es ist üblich, dass Programme Fehler enthalten. Sogar die Satelliten haben Softwareprobleme.
Das heißt, eine Person ist zuverlässiger als ein Computer, obwohl sie viel schneller "denkt"?
- Eine Person hat neben allem anderen Motivation. Er löst seine Probleme - Bildung, Zeugung, Karriere, er weiß, wie man sich fühlt …
Aber kann ein schlauer Programmierer ein Programm schreiben, das eine Aggressionsmaschine lehrt …
- Sie können beispielsweise versuchen, einen Militärroboter zu erstellen, der selbst Entscheidungen trifft und analysiert, was er sieht und hört. Und es wird sehr gefährlich sein. Aber nicht, weil der Roboter plötzlich den Wunsch hat zu zerstören, wie es von Science-Fiction-Autoren geschrieben wurde. Aufgrund des Fehlers eines Programmierers kann die Vernachlässigung einiger Faktoren zu einem unvorhersehbaren Roboterverhalten führen.
Bisher sind wir jedoch weit davon entfernt, selbstlernende Programme zu erstellen, mit denen völlig neues Wissen generiert werden kann. Gehen Sie grob gesagt unabhängig von der Multiplikationstabelle zur Fähigkeit über, komplexe Gleichungen zu lösen.
In der zweiten Hälfte des 20. Jahrhunderts waren futuristische Vorhersagen auf dem Gebiet der Wissenschaft sehr beliebt. Alles an der Intelligenz des Computers ging in die Milch. Niemand hat das Internet, die unglaubliche Freiheit des Zugangs zu Informationen und Mobiltelefonen vorhergesagt. Aber alle sprachen über denkende Computer.
Zum Beispiel hat unser erstes Schachsystem KAISA Ende der 60er Jahre bei der Weltmeisterschaft unter Computern erfolgreich abgeschnitten. Es wurde angenommen, dass es notwendig war, die Algorithmen eines menschlichen Spiels zu simulieren, damit eine Maschine eine Person schlagen konnte. Den Verstand, den Intellekt und die sehr mysteriöse Intuition zu legen, die den Schachspieler dazu bringt, die richtigen Entscheidungen zu treffen.
Heute schlägt der Computer eine Person. Aber ihm wurde nie Intuition beigebracht. Eine Milliarde gespielter Spiele, all die Erfahrung des Spiels, all die Entscheidungen, die jemals von Schachspielern getroffen wurden, wurden in sein Gedächtnis geladen. Und sie haben ihnen beigebracht, dies bei der Auswahl des optimalen Spielplans zu verwenden, was ihnen eine enorme Geschwindigkeit bei der Aufzählung und Bewertung von Optionen bietet. Der Computer schlägt die Weltmeister, macht ihm aber keine Freude. Alles ist völlig anders als Menschen.
Aber Sie sind einer von denen, die dem Computer nur beibringen, "den Kopf einzuschalten"
- Wir versuchen nur, Programmen beizubringen, Texte zu „verstehen“, damit sie Informationen daraus extrahieren, sammeln und verallgemeinern können. Damit die Menschen gefiltertes Wissen erhalten, das aus Milliarden von Quellen ausgewählt wird. Dies ist sehr schwierig, da eine Person selbst nicht sehr gut weiß, wie ihre Sprachfähigkeiten angeordnet sind, auf denen ihr Verständnis anderer Personen basiert.
Statistische maschinelle Übersetzung ist mittlerweile beliebt. Der Computer versteht überhaupt nicht, worum es in dem übersetzten Text geht, er weiß nur, wie man die wahrscheinlichsten Varianten der Übersetzung kleiner Fragmente (in wenigen Worten) findet und die riesigen Mengen menschlicher Übersetzungen analysiert, die in seinem Speicher gespeichert sind. Im Allgemeinen ist der Text klar. Es wäre jedoch leichtfertig, auf der Grundlage einer solchen Übersetzung eine verantwortungsvolle Entscheidung zu treffen.
Okay, kann der Computer die Anweisungen für mich übersetzen?
- Anleitung? Das ist gefährlich.
- Ja zu einem einfachen Kühlschrank!
- Auch zum Kühlschrank! Ich möchte, dass unsere Programme übersetzt werden, versuchen, den Text zu verstehen, zwischen Optionen wählen, die auf Wissen basieren, und nicht nur, weil diese Korrespondenz am häufigsten in unserer Datenbank gefunden wird.
Okay, nehmen wir an, Sie haben das Problem gelöst und ein System erstellt, mit dem Computer lernen, die Nuancen unserer Sprache zu verstehen und sie sogar genau in eine andere Sprache zu übersetzen. Und dann bedroht eine neue Gefahr die Menschen - es besteht kein Grund zum Nachdenken. Es wird nicht nötig sein, das Gedächtnis zu trainieren, Gehirn. Benötigen Sie Informationen - bitte Wikipedia. Sie müssen mit einem Ausländer sprechen - Übersetzer …
- Je höher der Grad an Intelligenz und Wissen einer Person ist, desto nützlicher ist für sie der nächste "kluge Assistent". Und je niedriger, desto mehr Möglichkeiten scheinen überhaupt nicht zu denken. Computertechnologien führen zur Polarisierung der Gesellschaft. Grob gesagt führte das Aufkommen des Taschenrechners nicht zur Degeneration der Mathematiker. Aber bei einigen Schulkindern war offensichtlich ein Rückgang der ohnehin geringen Fähigkeiten zu verzeichnen.
- Sie wissen, für mich ist die Anzahl der Menschen, die Analphabeten schreiben oder nicht in der Lage sind, ihre Gedanken und Gefühle auszudrücken, ohne Partner zu verwenden, ein ernstzunehmender Indikator für einen Rückgang des Bildungsniveaus
- Ja, die Leute fingen an, weniger kompetent zu schreiben. Einfach, weil im Allgemeinen weniger bearbeitete Texte gelesen werden und viel mehr solcher Ressourcen, bei denen die Rechtschreibung sehr verschwommen ist. Hat das die Leute dumm gemacht? Wahrscheinlich nicht.
Sehen Sie einen Zusammenhang zwischen der Tatsache, dass eine Person ihre Gedanken in ihrer Muttersprache ungebildet ausdrückt, und der Tatsache, dass sie dümmer geworden ist?
„Ich würde nicht so weit gehen. Obwohl es offensichtlich ist: Weil Kinder weniger zu lesen begannen, traten einige Probleme beim Transfer von Wissen und Kultur zwischen den Generationen auf. Das ist ein Problem. Heute sehen wir, dass ein modernes Schulkind mit den gleichen Noten wie vor 30 Jahren die Literatur schlechter kennt.
Hier! …
„… Aber andererseits weiß er viele andere Dinge viel besser, von denen niemand dachte, dass sie sie wissen könnten.
Ist das ein natürlicher Prozess?
- Ja. Darüber hinaus kann zum ersten Mal in der Geschichte der Menschheit Wissen nicht wie seit Jahrhunderten von den Ältesten auf die Jüngeren übertragen werden. Es gab einen Wissenstransfer von den Jüngeren zu den Ältesten, der bisher für die menschliche Kultur überhaupt nicht charakteristisch war. Ein Kind bringt Vater oder Mutter bei, mit einem Mobiltelefon an einem Computer zu arbeiten, und bietet seinen Eltern verschiedene Wissensquellen. Und noch mehr Kinder reisen um die Welt. Sehr oft sind sie eine Quelle für geografisches und kulturelles Wissen.
Hören Sie, aber hier fing alles mit Computern an. Sie befreiten die Menschen sogar von der Notwendigkeit, sich die elementaren Regeln der Grammatik zu merken
- Erst Anfang der 90er Jahre arbeitete ich in einem Team, das eines der ersten Rechtschreibprüfungssysteme für die russische Sprache entwickelte. War es hilfreich oder schädlich, dies zu tun? Aus meiner Sicht sehr nützlich. Dieses System ermöglichte eine schnellere Dokumentenerstellung. Und dann hängt alles von der Verantwortung der Person ab. Wer hat gesagt, dass nach dem Auto überhaupt keine Überprüfung mehr erforderlich ist? Das System trägt nur dazu bei, es viel effizienter zu machen.
Aber wir vertrauen dem Computer
- Dies bedeutet nur, dass die Person, die das Programm erstellt hat, Sie nicht darüber informiert hat, dass es viele Phänomene gibt, die das Gerät nicht überprüfen kann. Verhandlung zum Beispiel.
Leider führen neue Technologien häufig zum Verlust traditioneller Fähigkeiten. Ich habe Reparaturen in der Wohnung durchgeführt. Ich wollte Holzfenster installieren, die zuvor installiert wurden. Dies stellte sich jedoch als unmöglich heraus. Alle installieren doppelt verglaste Fenster. Leider hören die Leute auf, viele Dinge mit ihren Händen zu tun. Was zu tun ist, so funktioniert das Leben. Leider.
Sie sind also Konformist?
- Nein. Ich glaube, dass es nicht gut ist, absolut schädliche Dinge zu tun. Aber wenn Sie sowohl Gewinn als auch Verlust haben, müssen Sie die Risiken abschätzen … Wenn Sie Medikamente herstellen, glauben Sie nicht, dass nicht nur gute, sondern auch schlechte Menschen aufgrund ihrer Verwendung überleben werden.
In unserem Fall ist es gleichzeitig mit der Entwicklung von Technologien notwendig, diejenigen zu schulen, die sie nutzen. Die negativen Folgen neuer Technologien spiegeln sich vor allem bei denen wider, die auf keiner technologischen Ebene ihre Arbeit sehr gut machen.
Nehmen Sie zum Beispiel Medizin. Wir möchten dem Arzt helfen, eine Entscheidung zu treffen. Wir erstellen ein Computer-Expertensystem, das auf der Analyse einer großen Anzahl zuverlässiger Diagnosen der besten Ärzte basiert. Es gibt einem Fachmann die Möglichkeit, sich einem größeren Wissensvolumen zuzuwenden als er selbst. Aber die endgültige Entscheidung liegt bei ihm, nicht beim Computer! Für einen schlechten Arzt ist alles anders - er wird darauf vertrauen, was er nicht zuverlässig überprüfen kann. Aber mit dem Aufkommen solcher Technologien scheint mir die Medizin im Durchschnitt immer besser und nicht schlechter zu werden.
Nun, wir waren überzeugt, dass das intellektuelle System, eine Person durch einen Computer zu verstehen, mehr Nutzen als Schaden bringen wird. Aber wann wird sie erscheinen?
- Dies ist eine sehr schwierige Aufgabe, die nicht sofort gelöst werden kann. Es ist notwendig, dem Computer Wissen über Sprache und Wissen über die Welt, Methoden der Folgerung und den Vergleich von Werten beizubringen. Etwas, das wir jetzt wissen, etwas wird Jahre dauern. Zum Beispiel brauchen wir verlässliche Daten zum Sprachgebrauch, die individuelle und soziale Unterschiede berücksichtigen. Und diese Unterschiede sind sehr bedeutend. Zum Beispiel haben wir ein spezielles Projekt durchgeführt, das sich mit regionalen Unterschieden in der russischen Sprache befasst. Sammelte ein Wörterbuch, in dem fast zehntausend Wörter enthalten sind, die für Einwohner nur bestimmter Regionen unseres Landes die Norm sind
Wer sind wir?
„Dies ist ein gemeinsames Projekt namens Languages of Russian Cities, an dem ABBYY-Spezialisten, Sprachwissenschaftler, Enthusiasten aus verschiedenen Teilen Russlands und russischsprachigen Ländern beteiligt sind. Wir haben die Sprache regionaler Medien, sozialer Netzwerke, Dekrete und Entscheidungen lokaler Behörden analysiert. Und dies ist nur ein kleiner Teil des Wissens, das einem Computer vermittelt werden muss!
Was ist der grundlegende Unterschied zwischen Ihrem Übersetzungsansatz und den von Google verwendeten Systemen?
- Statistische Systeme bauen keine sprachlichen Strukturen auf. Sie suchen nach Übersetzungsübereinstimmungen für kleine Fragmente von 5-7 Wörtern. Die Sprache ist jedoch so angeordnet, dass sich die verwandten Wörter sehr oft viel weiter befinden, und wenn dieser Zusammenhang nicht berücksichtigt wird, entstehen Fehler. Aber sehr oft sind solche Details bei der Übersetzung wichtig, deren Vernachlässigung die Bedeutung vollständig ändern kann. Um alles zu berücksichtigen, ist es notwendig, während der Analyse das gesamte System der sprachlichen Verbindungen zwischen Wörtern zu identifizieren, was als Struktur eines Satzes bezeichnet wird. Wir übersetzen keine Satzteile aus der Sprache in die Sprache, wir versuchen, die semantische Struktur des Satzes zu identifizieren und diese Struktur dann mittels einer anderen Sprache zu synthetisieren.
Diese semantischen Strukturen werden jedoch nicht nur und weniger für maschinelle Übersetzungen verwendet. Sie werden auch benötigt, um die Probleme der intelligenten Suche und Informationsanalyse, die heute für ABBYY als Handelsunternehmen wichtiger sind, effektiv zu lösen. Zum Beispiel basieren die kürzlich veröffentlichten ersten Lösungen für den Unternehmensmarkt auf diesen Technologien: Sie ermöglichen lediglich das Suchen und Analysieren von Daten in dem riesigen Informationsfluss, der in Organisationen gespeichert ist.
Und welche Sprache ist aus Ihrer Sicht schwieriger zu verstehen?
- Es ist allgemein anerkannt, dass die Sprachen, in denen Sie mehr Regeln lernen müssen, umso schwieriger sind. Beim Computerverständnis ist dies jedoch nicht der Fall.
Etwas, das für eine Person schwierig ist, zum Beispiel ein reichhaltiges Flexionssystem auf Russisch oder Litauisch, vereinfacht die Aufgabe für einen Computer in bestimmten Phasen der Analyse.
Zum Beispiel ist die chinesische Sprache sehr schwierig, weil sie keine Morphologie enthält und daher die große Mehrdeutigkeit, mit der der Computer konfrontiert ist. Für die Computeranalyse der chinesischen Sprache ist es daher sehr wichtig, Kenntnisse über die Welt zu nutzen, die wichtiger sind als beispielsweise bei der Analyse von Sprachen mit einer entwickelten Morphologie.
Wir haben es geschafft, mit Russisch, Deutsch, Englisch, Französisch, Spanisch, Chinesisch zu arbeiten. Die Sprachanalyse ist in Stufen unterteilt. Einige Stufen haben Spezifität, Schwierigkeiten für eine Sprache, andere für eine andere. Im Wesentlichen sind die Technologien, mit denen wir arbeiten, auf alle Sprachen anwendbar.
Wann wird Ihrer Meinung nach der Tag kommen, an dem wir parallel zu unserem Gespräch eine schnelle und verständliche Übersetzung auf dem Computer erhalten können? Nehmen wir an, wir unterhalten uns jetzt und erhalten sofort eine Abschrift unseres Gesprächs auf Spanisch
- Es wird ziemlich bald möglich sein. Das glaube ich nicht in zwei Jahren. Aber … Was wird benötigt, um dieses Problem zu lösen? Wir müssen unsere Sprachanalysesysteme verbessern. Wir können noch kein spontanes Gespräch führen, es vom Lärm trennen und den gewünschten Text erhalten. Und jedes Jahr gibt es Fortschritte in diese Richtung.
Trotzdem wird es solche Dinge geben, die die Maschine nicht eindeutig interpretieren kann. Und hier wird die Genauigkeit des Verstehens und der Übersetzung von der Verfügbarkeit des Wissenssystems über die Welt und von den Inferenzmechanismen abhängen.
In jedem Fall bleibt jedoch die Gefahr des vollständigen Vertrauens in ein solches Programm bestehen. Es ist ein Fehler zu glauben, dass Sie beispielsweise in fünf Jahren einen Brief an einen Computer diktieren können, dieser übersetzt, an Ihren Geschäftspartner sendet und alles in Ordnung ist. Niemand garantiert, dass die Maschine das "Nicht" nicht irgendwo verpasst oder andere Fehler macht, wonach Ihre Geschäftsbeziehung als vollständig angesehen werden kann.
Das heißt, eine Person als Controller sollte es immer noch sein?
- Bestimmt. Blindes Vertrauen in Technologie ist gefährlich.
