Kapitel aus einem Buch des Polytechnischen Museums
Mensch und Roboter - wo liegt die Grenze zwischen ihnen und welche Gefahren bringt unsere Nähe mit sich? Basierend auf persönlichen Erfahrungen, zahlreichen Interviews und Daten aus der neuesten Forschung bietet der angesehenste Wissenschaftler auf diesem Gebiet, David Mindell, einen Blick hinter die Kulissen der innovativsten Anwendungen der Robotik. Indicaror. Ru veröffentlicht ein Kapitel aus seinem Buch „Aufstieg der Maschinen ist abgesagt! Mythen über Robotisierung “.
Vom Menschen betrieben - fern - autonom
Tief in der Nacht, hoch über dem Atlantik in der Weite zwischen Brasilien und Afrika, wurde ein Linienflugzeug bei schlechtem Wetter gefangen. Das gefrorene Eis verstopfte kleine Röhren in der Nase des Flugzeugs, die seine Geschwindigkeit bestimmten und Daten an die Computer übermittelten, die das Flugzeug kontrollierten. Computer könnten ohne diese Informationen weiter fliegen, aber das darin eingebettete Programm sah keine solche Ausrichtung vor. Das automatische Fly-by-Wire-System gab auf und schaltete ab und übertrug die Kontrolle auf die Menschen - die Piloten, die im Cockpit des Liners saßen: der 32-jährige Pierre-Cedric Bonin und der 37-jährige David Robert. Bonin und Robert, beide entspannt und ein wenig müde, waren überrascht, als sie plötzlich entdeckten, dass sie bei schlechten Wetterbedingungen und sogar nachts manuell ein großes Verkehrsflugzeug in großer Höhe fliegen mussten. Und unter günstigeren Bedingungen wäre es eine schwierige Aufgabe, der sich die Piloten in letzter Zeit nicht gestellt haben. Der Crew Commander, der 58-jährige Marc Dubois, flog in diesem Moment nicht mit dem Flugzeug, sondern ruhte sich in der Kabine aus. Die Piloten mussten wertvolle Zeit aufwenden, um ihn ins Cockpit zu rufen. Trotz der Tatsache, dass sich das Flugzeug zu dem Zeitpunkt, als die Computer ausgeschaltet wurden, im geraden Horizontalflug auf Höhe befand, hatten die Piloten Schwierigkeiten, die mageren Luftparameter zu verstehen. Einer von ihnen zog den Steuergriff zu sich hin, der andere schob ihn nach vorne. Das Verkehrsflugzeug fuhr etwa eine Minute lang geradeaus weiter und begann dann zu fallen. Die Piloten mussten wertvolle Zeit aufwenden, um ihn ins Cockpit zu rufen. Trotz der Tatsache, dass sich das Flugzeug zu dem Zeitpunkt, als die Computer ausgeschaltet waren, im Geradeausflug auf einer Ebene befand, war es für die Piloten nicht einfach, die mageren Luftparameter zu verstehen. Einer von ihnen zog den Steuergriff zu sich hin, der andere schob ihn nach vorne. Das Verkehrsflugzeug fuhr etwa eine Minute lang geradeaus weiter und begann dann zu fallen. Die Piloten mussten wertvolle Zeit aufwenden, um ihn ins Cockpit zu rufen. Trotz der Tatsache, dass sich das Flugzeug zu dem Zeitpunkt, als die Computer ausgeschaltet waren, im Geradeausflug auf einer Ebene befand, war es für die Piloten nicht einfach, die mageren Luftparameter zu verstehen. Einer von ihnen zog den Steuergriff zu sich hin, der andere schob ihn nach vorne. Das Verkehrsflugzeug fuhr etwa eine Minute lang geradeaus weiter und begann dann zu fallen.und begann dann zu fallen.und begann dann zu fallen.
Am 1. Juni 2009 flog Air France Flug 447 in den Ozean und tötete mehr als 200 Passagiere und Besatzungsmitglieder. Er verschwand fast spurlos in den Wellen. In einem weltweit vernetzten System internationaler Fluggesellschaften ist es unvorstellbar, dass das Flugzeug einfach verschwindet. Es wurden umfangreiche koordinierte Sucharbeiten organisiert. Nur wenige Tage später wurden Spuren des Flugzeugs auf dem Meeresboden gefunden. Um jedoch den größten Teil der Trümmer des Verkehrsflugzeugs und der Black Boxes zu finden, dank derer die Ursache der Tragödie ermittelt werden konnte, wurde das weite Gebiet des Meeresbodens durchsucht, das sich hoffnungslos langsam bewegte. Mehr als zwei Jahre später, in einer Tiefe von 3,2 km, fast genau an dem Punkt, an dem das Verkehrsflugzeug gegen die Meeresoberfläche stürzte,Ein autonomes Unterwasserfahrzeug namens Remus 6000 glitt lautlos unter dem ungeheuren Druck der Wassersäule durch die Dunkelheit. Der wie ein Torpedo geformte Roboter bewegte sich etwas schneller als ein Fußgänger und hielt eine konstante Höhe von etwa 60 m über dem Boden. In dieser Position erhielt sein akustischer Scanner die klarsten Bilder. Das akustische Signal bewegte sich ca. 800 m in alle Richtungen, der Roboter sammelte Gigabyte an Informationen über die zurückgegebenen Signale. Der Roboter sammelte Gigabyte an Informationen über die zurückgegebenen Signale. Der Roboter sammelte Gigabyte an Informationen über die zurückgegebenen Signale.
Die Oberfläche war bergig, so dass der Meeresboden stark anstieg. Trotz seiner künstlichen Intelligenz traf der Roboter gelegentlich auf die Oberfläche, meistens ohne Konsequenzen. Drei dieser Roboter arbeiteten harmonisch zusammen: Während zwei von ihnen unter Wasser suchten, befand sich der dritte an Bord des Schiffes an der Oberfläche. Ein solcher "Boxenstopp" dauerte drei Stunden, in denen die Mitarbeiter des Roboters Informationen umschrieben, die Batterien aufluden und neue Suchpläne aufstellten. Auf dem Schiff arbeitete ein Team von zwölf Ingenieuren des Woods Hole Oceanographic Research Institute unter der Leitung von Mike Purcell, der Pionier bei der Konstruktion und Entwicklung der Suchfahrzeuge war, zwölf Stunden in Schichten. Sie wurden wie jedes Formel-1-Mechanikerteam geladen.
Als das Gerät an die Oberfläche stieg, brauchten die Ingenieure etwa 45 Minuten, um die gesammelten Informationen auf einen Computer herunterzuladen, und dann eine weitere halbe Stunde, um sie zu verarbeiten, damit sie schnell auf dem Monitor angezeigt werden konnten. Französische und deutsche Ermittler und Vertreter von Air France schauten über ihre Schultern. Ihre Handlungen wirkten kalkuliert und umsichtig, aber die Spannung lag in der Luft: Der Einsatz war zu hoch im Hinblick auf den Nationalstolz der Franzosen, den Ruf des Airbus-Herstellers und die Sicherheit aller Flugreisen.
Werbevideo:
Mehrere frühere Expeditionen waren erfolglos. In Frankreich, Brasilien und auf der ganzen Welt warteten die Familien der Opfer auf Neuigkeiten. Das Entschlüsseln von Informationen von einem akustischen Scanner erfordert eine sorgfältige Analyse, die einem Computer nicht vollständig vertraut werden kann. Purcell und seine Ingenieure stützten sich auf jahrelange Erfahrung. Auf ihren Monitoren studierten sie Kilometer für Kilometer den felsigen Boden. Diese Routinearbeit dauerte fünf Tage, bis ihre Monotonie unterbrochen wurde: Eine Ansammlung von Trümmern erschien auf dem Bildschirm, und dann gelangten die Wissenschaftler in das Katastrophengebiet - sie erhielten ein starkes Signal von Objekten künstlichen Ursprungs in der Ozeanwüste. Zumindest nahmen sie das an, konnten es aber immer noch nicht sicher sagen. Die Ingenieure programmierten die Fahrzeuge so um, dass sie in das Katastrophengebiet zurückkehrten und sich dort hin und her bewegten. Diesmal mussten die Roboter nahe genug heran kommen, damit die Kameras im Licht der Seitenlichter in einer Höhe von etwa 9 m über dem Boden fotografieren konnten. Als die Fahrzeuge die Bilder an die Oberfläche brachten, sahen Ingenieure und Ermittler das Gebiet der Katastrophe und erhielten eine Antwort: Sie fanden das Wrack eines Verkehrsflugzeugs, das für Hunderte von Menschen zu einem Grab wurde. Bald kehrte ein anderes Team mit einem anderen Robotertyp - einem ferngesteuerten Unterwasserfahrzeug - zum Schauplatz der Tragödie zurück. Bald kehrte ein anderes Team mit einem anderen Robotertyp - einem ferngesteuerten Unterwasserfahrzeug - zum Schauplatz der Tragödie zurück. Bald kehrte ein anderes Team mit einem anderen Robotertyp - einem ferngesteuerten Unterwasserfahrzeug - zum Schauplatz der Tragödie zurück.
Es war ein Hochleistungsgerät, das speziell für Tiefenarbeiten entwickelt wurde. Es wurde über ein Kabel mit dem Schiff verbunden. Mithilfe von Karten, die aus einer erfolgreichen Suche generiert wurden, lokalisierte das ROV die Black Boxes - den Sprachrekorder und den Datenlogger des Flugzeugs - und hob sie an die Oberfläche. Aufzeichnungen über die letzten Minuten der zum Scheitern verurteilten Piloten wurden aus den Tiefen des Ozeans abgerufen, und nun konnten die Ermittler die schicksalhaften Umstände nachstellen, die zu Verwirrung an Bord des Roboterflugzeugs führten. Dann begann das Unterwasserfahrzeug eine traurige Mission - die Überreste der Toten zu bergen.
Der Absturz von Air France Flug 447 und eine Operation zum Auffinden seiner Trümmer verbinden moderne Automatisierung und Robotik in zwei extremen Umgebungen: am Rande der Stratosphäre und in den Tiefen des Meeres. Das Flugzeug fiel aufgrund von Fehlern in der menschlichen Interaktion mit automatisierten Systemen in den Ozean. Dann wurden seine Fragmente von Menschen mit ferngesteuerten und autonomen Robotern entdeckt.
Obwohl die Wörter „automatisiert“und „autonom“(in ihrer gebräuchlichsten Bedeutung) bedeuten, dass solche Systeme unabhängig voneinander arbeiten, war der Ausfall oder Erfolg in beiden Fällen nicht darauf zurückzuführen, dass Maschinen und Personen getrennt handelten, sondern auf die kombinierte Aktion von Maschinen. und Leute. Menschliche Piloten kämpften um das Leben eines Flugzeugs, das für mehr Sicherheit und Zuverlässigkeit automatisiert war. Viele miteinander verbundene Schiffe, Satelliten und frei schwebende Bojen halfen bei der Lokalisierung der Absturzstelle. Ingenieure verarbeiteten Informationen von Robotern und handelten darauf.
Automatisierte und autonome Fahrzeuge kehrten ständig zu ihren Schöpfern - den Menschen - zurück, um Informationen, Energie und Anweisungen zu erhalten. Die Tragödie von Air France Flug 447 hat deutlich gemacht, dass wir uns durch ständige Anpassung und Modifizierung unserer Umgebung neu gestalten. Wie konnten Piloten so süchtig nach Computern werden, dass sie ein perfekt funktionierendes Flugzeug auf See abwarfen? Welche Rolle spielt der Mensch in Bereichen wie Transport und Transport, Forschung und militärische Aktivitäten, wenn immer mehr Aufgaben von vorrangiger Bedeutung von Maschinen ausgeführt zu werden scheinen? Der extreme Gesichtspunkt ist, dass Menschen kurz davor stehen, "außer Betrieb zu gehen", dass Roboter "buchstäblich ein Software-Update benötigen", um vollständig autonom zu werden, wie Scienti fi c American kürzlich schrieb. Diese Ansicht sagt unsdass Roboter vorankommen - wir begegnen ihnen zunehmend in einer vertrauten Umgebung. Bedenken hinsichtlich der unbekannten und fragwürdigen Fähigkeiten künstlicher Intelligenz ergeben sich aus der Überzeugung, dass wir uns auf dem Höhepunkt der "Superintelligenz" befinden. Unsere Welt steht am Rande des Wandels, tatsächlich verändert sie sich bereits unter dem Einfluss von Robotern und Automatisierung.
Plötzlich tauchen neue Projekte auf, die alte Träume von intelligenten Maschinen verkörpern, die uns helfen, unsere beruflichen Pflichten zu erfüllen, körperliche Arbeit und Routineaufgaben im Alltag zu erleichtern. Roboter, die auf physischer, kognitiver und emotionaler Ebene in unmittelbarer Nähe zum Menschen existieren und arbeiten, werden zu einem immer umfangreicheren und vielversprechenderen Forschungsthema. Autonomie - der Traum, dass sich Roboter eines Tages als völlig unabhängige Einheiten verhalten werden - bleibt eine Quelle der Inspiration, Innovation und Angst. Die Aufregung wird durch die Schwere des Experiments verursacht; Die genauen Formen dieser Technologien sind bei weitem nicht vollständig, und noch weniger sicher sind ihre sozialen, psychologischen und kognitiven Auswirkungen.
Wie werden unsere Roboter uns verändern? In welchem Bild und in welcher Ähnlichkeit werden wir sie machen? Was bleibt von unseren traditionellen Tätigkeitsfeldern übrig - Wissenschaftler, Anwalt, Arzt, Soldat, Manager und sogar Fahrer und Hausmeister -, wenn diese Aufgaben von Maschinen ausgeführt werden? Wie werden wir leben und arbeiten? Wir müssen nicht spekulieren: Zum größten Teil ist diese Zukunft bereits heute angekommen, wenn nicht im Alltag, dann unter extremen Bedingungen, wo wir seit Jahrzehnten Roboter und Automatisierung einsetzen. Der Mensch kann nicht allein in den oberen Schichten der Atmosphäre, in den Tiefen des Ozeans, im Weltraum existieren. Aufgrund der Notwendigkeit, Menschen in diese gefährlichen Zustände zu schicken, wurden Robotik und Automatisierung in diesen Bereichen früher als in anderen uns vertrauten Tätigkeitsbereichen erstellt und implementiert.
In extremen Umgebungen wird die Beziehung zwischen Menschen und Robotern auf Festigkeit geprüft. Die innovativsten Entwicklungen treten in einem solchen Umfeld auf. Hier haben Ingenieure die größte Freiheit zu experimentieren. Trotz physischer Isolation zeigten sich hier erstmals die kognitiven und sozialen Auswirkungen verschiedener Geräte. Angesichts von Menschenleben, teurer Ausrüstung und unternehmenskritischen Missionen muss die Autonomie immer durch Sicherheits- und Zuverlässigkeitsaspekte eingeschränkt werden. Unter solchen Bedingungen treten die Eitelkeiten und Angelegenheiten des Alltags vorübergehend in den Hintergrund, und wir finden, isoliert von der umgebenden Dunkelheit, fragmentarische, gespenstische Allegorien des menschlichen Lebens in der Welt der Technologie. Soziale und technologische Prozesse im Cockpit eines Verkehrsflugzeugs oder in einem Tiefseefahrzeug unterscheiden sich nicht grundlegend von ähnlichen Prozessen in einer Fabrik, in einem Büro oder in einem Auto. Unter extremen Bedingungen erscheinen sie jedoch expliziter und sind daher leichter zu verstehen.
Jeder Flug eines Verkehrsflugzeugs ist eine Geschichte, genau wie jede ozeanografische Expedition, Raumfahrt oder militärische Operation. Durch diese Geschichten von bestimmten Menschen und Maschinen können wir Daten über subtile Dynamik zusammenfügen. Unter extremen Bedingungen bekommen wir eine Vorstellung von unserer nahen Zukunft, wenn solche Technologien in Bereichen menschlicher Aktivität wie Straßenverkehr, Gesundheitswesen, Bildung usw. eingeführt werden können. Geräte, die von einer Person ferngesteuert oder autonom gesteuert werden, eröffnen qualitativ neue Möglichkeiten der Interaktion zwischen Menschen und Maschinen. neue Formen der Präsenz und neue Erfahrungen, während wir gleichzeitig auf die Gefahren, ethischen Aspekte und unerwünschten Folgen des Lebens mit intelligenten Maschinen aufmerksam machen. Wir sehen eine Zukunft, in der menschliche Präsenz und Wissen wichtiger werden.als je zuvor, aber auf ungewöhnliche und ungewohnte Weise. Und diese Autos sind einfach wunderbar.
Ich bin nicht die einzige Person, die mein ganzes Leben lang Flugzeuge, Raumschiffe und U-Boote bewundert hat. Tatsächlich waren die Helden der Geschichten, die ich im Folgenden erzählen werde, nicht nur von der Suche nach praktischen Vorteilen geleitet, sondern auch von der Leidenschaft für neue Technologien. Es ist kein Zufall, dass solche Geschichten oft in Science-Fiction-Werken über Menschen und Maschinen beschrieben wurden. Die Geschichten von Menschen und Maschinen, die an der Grenze ihrer Möglichkeiten interagieren, sind fesselnd, überraschend und erwecken die Hoffnung, wer wir werden können. Diese Begeisterung spiegelt sich manchmal in einem naiven Glauben an die Perspektive der Technologie wider. Aber allmählich führt uns ein solches Interesse zu den wichtigsten philosophischen und humanistischen Fragen:Wer sind wir? Wie sind wir mit unserer Arbeit und untereinander verbunden? Wie erweitern unsere Kreationen unsere Erfahrung? Wie können wir in dieser sich verändernden Welt leben? Diese Fragen stellen sich von selbst, wenn Sie mit den Leuten sprechen, die Roboter und Maschinen herstellen und steuern. Ich möchte Ihnen die Informationen mitteilen, die ich aus erster Hand erhalten habe, aus den detailliertesten Interviews und den Ergebnissen der neuesten Forschungsergebnisse des Massachusetts Institute of Technology und anderer Organisationen, in deren Rahmen Robotik- und Automatisierungstests unter extremen Bedingungen der Meerestiefe während Luftflügen (zivil und militärisch) durchgeführt werden. und im Weltraum. Dies ist keine imaginäre Zukunft, sondern das, was heute passiert: Wir werden sehen, wie Menschen Roboter steuern und Informationen über autonome Geräte erhalten. Wir werden analysieren, wie sich diese Interaktionen auf ihre Arbeit auswirken. Lebenserfahrung, Fähigkeiten und Fertigkeiten.
Unsere Geschichte beginnt dort, wo ich selbst begonnen habe - in den Tiefen des Ozeans. Als ich vor 25 Jahren als Ingenieur eingebettete Computer und Werkzeuge für Tiefseeroboter entwickelte, stellte ich erstaunt fest, dass diese Technik die Ozeanographie, die wissenschaftlichen Methoden und sogar die Natur des ozeanografischen Berufs auf unvorhersehbare Weise verändert. Dieses Verständnis führte mich zu zwei parallelen Karrieren. Als Wissenschaftler habe ich die Wechselwirkungen zwischen Mensch und Maschine untersucht, von gepanzerten Schiffen während des amerikanischen Bürgerkriegs bis hin zu Computern und Software, die den Apollo-Astronauten geholfen haben, auf dem Mond zu landen.
Als Ingenieur habe ich die aus dieser Forschung gewonnenen Daten in moderne Projekte integriert - Roboter und Geräte für den Einsatz in enger Interaktion mit Menschen entwickelt. In einigen Geschichten trete ich als Teilnehmer auf, in anderen - als Beobachter und in anderen - in beiden Erscheinungsformen gleichzeitig. Im Laufe der Jahre, in denen ich Erfahrungen gesammelt, gesucht und mit Menschen gesprochen habe, war ich überzeugt, dass wir unsere Meinung über Roboter ändern müssen. Sogar die Sprache, in der wir über sie sprechen, stammt eher aus der Science-Fiction des 20. Jahrhunderts und hat nichts mit den technischen Errungenschaften unserer Zeit zu tun. Beispielsweise werden ferngesteuerte Flugzeuge als Drohnen bezeichnet, als wären sie sinnlose Automaten, obwohl sie tatsächlich streng von Menschen gesteuert werden.
Roboter werden oft als völlig autonome Vermittler präsentiert (und verkauft), aber selbst die heutige eingeschränkte Autonomie existiert oft nur in der menschlichen Vorstellungskraft. Die Roboter, die wir so weit und vielfältig einsetzen, sind kaum Bedrohungsautomaten - sie sind genau wie wir in soziale und technische Netzwerke eingebettet. Nachfolgend sehen wir uns viele Beispiele für die Zusammenarbeit mit unseren Maschinen an. Es geht nur um die Kombinationen. Es ist Zeit zu überlegen, welche Funktionen moderne Roboter tatsächlich ausführen, um unsere Beziehung zu diesen oft erstaunlich geschickten Kreationen menschlicher Hände besser zu verstehen. Ich biete Ihnen eine forschungsbasierte empirische Schlussfolgerung: Egal, was Roboter im Labor tun, in Wirklichkeit, wo Menschenleben und reale Ressourcen auf dem Spiel stehen. Wir bemühen uns, ihre Autonomie auf die große Anzahl erforderlicher Genehmigungen und Möglichkeiten für menschliches Eingreifen zu beschränken.
Ich argumentiere nicht, dass Maschinen intelligent sind, und ich sage nicht, dass sie eines Tages möglicherweise nicht intelligent genug sind. Ich behaupte vielmehr, dass solche Maschinen nicht vom Menschen isoliert sind. Lassen Sie uns drei Mythen des 20. Jahrhunderts auflisten, die sich auf Robotik und Automatisierung beziehen. Der erste Mythos ist der lineare Fortschritt - die Idee, dass die Technologie von der direkten menschlichen Steuerung zur Fernsteuerung und dann zu vollständig autonomen Robotern übergeht. Die Worte des Philosophen Peter Singer, der sich ständig für die Verteidigung autonomer Systeme einsetzt, erfassen die Essenz dieses Mythos. Er schreibt, dass "die Fähigkeit der Menschen, die Kontrolle über das Geschehen zu behalten, sowohl von denjenigen, die an der Spitze stehen, als auch direkt von der Technologie zunichte gemacht wird und die Menschen daher bald aus dem Regelkreis ausgeschlossen werden." Es gibt jedoch keinen Grund anzunehmenDiese Evolution wird diesem Weg folgen, diese "Technologie selbst", wie Singer schreibt, wird zu etwas Ähnlichem führen. Tatsächlich gibt es Hinweise darauf, dass Menschen allmählich tiefer mit ihren Maschinen in Kontakt kommen.
Wir stellen ständig fest, dass sich Menschen, die von ihnen ferngesteuert werden, und autonome Fahrzeuge parallel entwickeln und sich gegenseitig beeinflussen. Beispielsweise könnten unbemannte Luftfahrzeuge ohne entsprechende Änderungen an bemannten Fahrzeugen nicht im nationalen Luftraum der USA fliegen. Oder um ein anderes Beispiel zu nennen: Neue Fortschritte in der Robotik im Bereich der Wartung von Raumfahrzeugen spiegeln sich in der Arbeit von Astronauten mit dem Hubble-Weltraumteleskop wider. Die fortschrittlichsten (und komplexesten) Technologien sind nicht diejenigen, die getrennt von Menschen arbeiten, sondern diejenigen, die am tiefsten in das soziale System eingebettet sind und schneller auf das reagieren, was darin geschieht. Der zweite ist der Substitutionsmythos, die Idee, dass Maschinen allmählich alle Aufgaben übernehmen, die Menschen ausführen. Dieser Mythos ist eine Version des Iron Horse-Phänomens aus dem 20. Jahrhundert.
Anfangs stellten sich die Leute vor, dass die Eisenbahnen die Notwendigkeit von Pferden zunichte machen würden, aber Züge haben sich als sehr unwichtige Pferde erwiesen. Die Eisenbahnen nahmen ihren Platz ein, als die Menschen lernten, mit ihrer Hilfe völlig neue Dinge zu tun. Forscher menschlicher Faktoren und Kognitionswissenschaftler argumentieren, dass Automaten menschliche Aufgaben selten nur „mechanisieren“. Sie erschweren die Aufgabe eher, indem sie häufig die Arbeitsbelastung erhöhen (oder neu verteilen). Ferngesteuerte Flugzeuge führen nicht dieselben Aufgaben aus wie bemannte Flugzeuge. sie übernehmen neue Funktionen. Ferngesteuerte Roboter auf dem Mars replizieren nicht die Arbeit von Geologen auf dem Gebiet. Sie und die Menschen, die mit ihnen arbeiten, lernen, Feldforschung in einer neuen Umgebung unter Verwendung entfernter Mechanismen durchzuführen.
Schließlich haben wir einen dritten Mythos - den Mythos der völligen Autonomie, die utopische Idee, dass Roboter heute oder in Zukunft völlig unabhängig agieren können. Ja, Automaten können natürlich einige der Aufgaben übernehmen, die zuvor von Menschen ausgeführt wurden, und sie sind tatsächlich in der Lage, als Reaktion auf Änderungen in der Umgebung für einen begrenzten Zeitraum unabhängig zu agieren. Aber Maschinen, die nicht von der menschlichen Richtung abhängen, sind nutzlose Maschinen. Nur Stein kann wirklich autonom sein (aber dank seiner Umgebung wurde sogar Stein geschaffen und an seine Stelle gesetzt). Die Automatisierung verändert den Grad der menschlichen Beteiligung am Betrieb einer Maschine, macht sie jedoch nicht vollständig überflüssig. In jedem System, selbst in einem scheinbar autonomen System, können wir immer eine Schnittstelle finden, über die eine Person ihre Arbeit steuern kann. Informationen lesen und dank denen es nützlich wird. Um einen der jüngsten Berichte des Wissenschaftsrates des US-Verteidigungsministeriums zu zitieren: "Es gibt keine vollständig autonomen Systeme, genauso wie es keine vollständig autonomen Soldaten, Seeleute, Flieger oder Marines gibt."
Um im 21. Jahrhundert zu denken und unsere Ansichten über Robotik, Automatisierung und insbesondere die neuere Idee der Autonomie zu ändern, müssen wir verstehen, wie menschliche Absichten, Pläne und Annahmen das Wesen der von ihnen geschaffenen Maschine verändern. Jeder Bediener, der sein Gerät steuert, interagiert mit Designern und Programmierern, deren Präsenz in der Maschine unveränderlich ist - selbst in Form von Strukturelementen oder Codezeilen, die vor vielen Jahren erstellt wurden. Die Bordcomputer von Air France Flight 447 konnten das Flugzeug weiterhin mit begrenzten Fluggeschwindigkeitsdaten fliegen, aber die Menschen hatten sie so programmiert, dass sie dies verhindern konnten. Selbst wenn die Software Maßnahmen ergreift, die nicht vorhergesagt werden können, verhält sie sich im Rahmen der von ihren Erstellern festgelegten Schemata und Einschränkungen. Das,Wie das System entwickelt wurde, von wem und zu welchen Zwecken, bestimmt seine Fähigkeiten und Interaktionsmöglichkeiten mit den Personen, die es verwenden. Mein Ziel ist es, diesen Mythen zu entkommen und das Konzept der Autonomie im Kontext des 21. Jahrhunderts zu verstehen.
Mit den folgenden Geschichten beabsichtige ich, den öffentlichen Diskurs neu zu gestalten und eine Konzeptkarte für eine neue Ära zu erstellen. Um eine solche Karte zu erstellen und in diesem Buch über Geräte und Roboter zu sprechen, werde ich mit den Konzepten von Menschen gesteuert, fern und autonom arbeiten. Das erste ist ein Analogon zu dem nicht immer passenden Wort "bemannt", daher bedeutet "kontrolliert" in einigen Fällen "kontrolliert von einer Person im Fahrzeug". Dies sind natürlich alte und bekannte Arten von Apparaten wie Schiffe, Flugzeuge, Züge und Autos - die Maschinen, durch die Menschen reisen. Normalerweise werden von Menschen gesteuerte Systeme überhaupt nicht als Roboter betrachtet, obwohl sie zunehmend Robotern mit Menschen im Inneren ähneln. Remote, eine abgekürzte Form eines ferngesteuerten Fahrzeugs, zeigt einfach an, wo sich der Bediener in Bezug auf das Fahrzeug befindet. Selbst wenn die kognitive Aufgabe der Steuerung des entfernten Systems fast vollständig mit der direkt vom physisch anwesenden Bediener ausgeführten übereinstimmt, wird der Anwesenheit oder Abwesenheit des Bedieners und den damit verbundenen Risiken eine große kulturelle Bedeutung beigemessen.
Das auffälligste Beispiel ist die Fernkriegsführung, die Tausende von Kilometern von einem Kriegsgebiet entfernt ist. Dies ist eine Erfahrung, die sich völlig von den Aufgaben eines gewöhnlichen Soldaten unterscheidet. Als kognitives Phänomen ist die menschliche Präsenz mit dem sozialen Aspekt verflochten. Automatisierung ist ebenfalls eine Idee des 20. Jahrhunderts und spiegelt immer noch die mechanistische Ansicht wider, dass Maschinen Schritt für Schritt vorgegebenen Verfahren folgen. Der Begriff "automatisiert" wird üblicherweise verwendet, um Computer an Bord von Flugzeugen zu beschreiben, obwohl sie moderne, ziemlich komplexe Algorithmen enthalten. Autonomie ist heutzutage das modischere Wort und eine der wichtigsten Forschungsprioritäten des immer kleiner werdenden US-Verteidigungsministeriums. Einige Forscher unterscheiden klar zwischen Autonomie und Automatisierung, aber meiner Meinung nachDer Unterschied zwischen Autonomie liegt nur in einem größeren Grad unabhängiger Entscheidungsfindung als in einfachem Feedback. Darüber hinaus umfasst und vereint das Konzept der "Autonomie" viele Ideen, die aus der Theorie der künstlichen Intelligenz und anderen Disziplinen entlehnt wurden. Und natürlich wird die Idee der Autonomie von Einzelpersonen und Gruppen zur Ursache ständiger Kontroversen in Politik, Philosophie, Medizin und Soziologie. Dies sollte nicht überraschen, da Techniker häufig Begriffe aus den Sozialwissenschaften ausleihen, um ihre Maschinen zu beschreiben. Die Idee der Autonomie von Individuen und Gruppen wird zur Ursache ständiger Kontroversen in Politik, Philosophie, Medizin und Soziologie. Dies sollte nicht überraschen, da Techniker häufig Begriffe aus den Sozialwissenschaften ausleihen, um ihre Maschinen zu beschreiben. Die Idee der Autonomie von Individuen und Gruppen wird zur Ursache ständiger Kontroversen in Politik, Philosophie, Medizin und Soziologie. Dies sollte nicht überraschen, da Techniker häufig Begriffe aus den Sozialwissenschaften ausleihen, um ihre Maschinen zu beschreiben.
Auch innerhalb des Designgeschäfts kann der Begriff „Autonomie“verschiedene Bedeutungen haben. Autonomie bei der Konstruktion von Raumfahrzeugen besteht in der Verarbeitung der Daten an Bord, die für den Betrieb des Raumfahrzeugs erforderlich sind (unabhängig davon, ob es sich um eine umlaufende automatisierte Station oder einen mobilen Roboter handelt), getrennt von Aufgaben wie der Missionsplanung. Am Massachusetts Institute of Technology, an dem ich unterrichte, umfasst der Inhalt der Autonomie-Engineering-Kurse hauptsächlich die "Pfadplanung" - wie man von einem Punkt zum anderen kommt, ausreichend Zeit verbringt und ohne gegen irgendetwas zu stoßen. In anderen Systemen ist Autonomie analog zu Intelligenz, der Fähigkeit, Entscheidungen zu treffen, die eine Person in bestimmten Situationen treffen würde, oder der Fähigkeit, unter Bedingungen zu handelndie von den Entwicklern des Geräts nicht erwartet oder vorausgesehen wurden.
Autonome Tauchboote werden so genannt, weil sie selbstständig arbeiten und ferngesteuerten Fahrzeugen entgegengesetzt sind, die über lange Kabel mit dem Schiff verbunden sind. Trotzdem sagen die Ingenieure, die solche autonomen U-Boote bauen, dass ihre Fahrzeuge halbautonom sind, da sie nur selten ohne Kontakt zum Betreiber arbeiten. Der Begriff "autonom" impliziert eine größere Handlungsfreiheit. Es beschreibt die Art und Weise, wie das Gerät betrieben wird, was ein potenziell flüchtiger Faktor ist. Eine kürzlich durchgeführte Studie schlägt den Begriff "zunehmende Autonomie" vor: Auf diese Weise betonen die Autoren die relative Natur der Autonomie und geben an, dass "vollständige" Autonomie, dh Maschinen, die keine Informationen von einer Person erhalten müssen, immer unerreichbar sein werden.
In diesem Buch wird eine funktionierende Definition von Autonomie sein: vom Menschen entwickelte Mittel zur Umwandlung von Informationen aus der Umwelt in gezielte Pläne und Maßnahmen. Die Formulierung ist wichtig, und es gibt Kontroversen einen anderen Geschmack. Aber wir sollten uns nicht mit ihnen befassen. Ich werde mich oft auf die Sprache verlassen (die manchmal ungenau sein kann), die von den Leuten verwendet wird, mit denen ich arbeite. In diesem Buch geht es nicht um Definitionen, sondern um Beschreibungen der realen Arbeit - wie Menschen diese Systeme in der realen Welt nutzen, neue Erfahrungen sammeln, forschen oder sogar kämpfen und töten. Was ist wirklich los? Wenn Sie auf die Lebenserfahrung von Designern und Robotern achten, kann alles klar werden. Beispielsweise,Das Wort "Drohne" verbirgt die inhärent menschliche Natur von Robotern und schreibt ihre negativen Seiten abstrakten Ideen wie "Technologie" oder "Autonomie" zu. Wenn wir das Innenleben der Predator-Bediener untersuchen, stellen wir fest, dass sie keinen Krieg mit automatischen Geräten führen - Menschen erfinden, programmieren und steuern immer noch Maschinen.
Es gibt eine lange Debatte über die Ethik und Richtlinien der Fernmord an Drohnen mit Fernbedienern oder die Geheimhaltung solcher Geräte, die im internen US-Luftraum betrieben werden. Diese Debatten haben jedoch mit der Art, dem Ort und dem Zeitpunkt menschlicher Entscheidungen zu tun, nicht mit autonomen Maschinen. Folglich geht es nicht darum, bemannte und unbemannte Fahrzeuge gegenüberzustellen und nicht darum, von Menschen kontrollierte Fahrzeuge autonomen Fahrzeugen gegenüberzustellen. Die Hauptfragen dieses Buches sind: "Wo sind die Leute?", "Wer sind diese Leute?", "Was machen sie?", "Wann machen sie das?" Wo sind die Leute? (Auf einem Schiff … in der Luft … in Autos … oder in einem Büro?) Die Manipulationen des Predator-Betreibers ähneln den Handlungen eines Flugzeugpiloten - er überwacht den Zustand von Bordsystemen, nimmt Informationen wahr,trifft Entscheidungen und unternimmt bestimmte Schritte. Aber sein Körper befindet sich an einem anderen Ort, vielleicht mehrere tausend Kilometer von den Ergebnissen seiner Arbeit entfernt. Dieser Unterschied ist wichtig. Die Aufgaben sind unterschiedlich. Die Risiken sind unterschiedlich, ebenso das Kräfteverhältnis.
Der menschliche Geist ist in der Lage, an andere Orte, in andere Länder, zu anderen Planeten zu reisen. Das durch den Geist und die Sinne gewonnene Wissen unterscheidet sich vom durch den Körper gewonnenen Wissen (wo Sie essen, schlafen, kommunizieren, Stuhlgang machen). Wir entscheiden je nach Situation, welchen der beiden Wege zur Erlangung von Wissen zu beschreiten ist, und dies hat Konsequenzen für diejenigen, die an dem Prozess beteiligt sind. Wer sind diese Leute? (Piloten … Ingenieure … Wissenschaftler … ungeschulte Arbeiter … Manager?) Ändern Sie die Technik, und dann ändern sich sowohl die Aufgabe als auch das Wesen des Spezialisten, der daran arbeitet. Tatsächlich ändern Sie das gesamte Kontingent der Personen, die das System verwalten können. Es dauert Jahre des Studiums und der Ausbildung, um Pilot zu werden, und dieser Beruf steht an der Spitze der Personalhierarchie. Erfordert die Fernbedienung eines Flugzeugs dieselben Fähigkeiten und Eigenschaften? Aus welchen sozialen Schichten kann die Belegschaft rekrutiert werden?
Die zunehmende Automatisierung von Verkehrsflugzeugen entspricht der Ausweitung der Pilotdemografie sowohl in Industrieländern als auch auf der ganzen Welt. Ist ein Forscher jemand, der unter gefährlichen Bedingungen reist, oder jemand, der zu Hause vor einem Computer sitzt? Müssen Sie das Leben an Bord genießen, um Ozeanograph zu werden? Können Sie den Mars im Rollstuhl erkunden? Was sind diese neuen Piloten, Forscher und Wissenschaftler, die mit Fernzugriff arbeiten? Was machen sie? (Fliegen … kontrollieren … Informationen verarbeiten … kommunizieren?) Körperliche Anstrengung wird zur Verarbeitung visueller Informationen und dann zu einer kognitiven Aufgabe. Was früher Kraft erforderte, erfordert jetzt Aufmerksamkeit, Geduld und schnelle Reaktion. Hält der Pilot seine Hände direkt auf den Steuerhebeln,wann fliegt er das flugzeug Oder geben Sie Tastenbefehle in den Autopiloten oder Flugcomputer ein, um die Flugbahn des Flugzeugs zu programmieren? Welche Rolle spielt die Beurteilung der Situation durch die Person? Welche Rolle spielt der Ingenieur, der den Bordcomputer programmiert hat, oder der Luftfahrttechniker, der ihn eingerichtet hat?
Wann machen sie das? (In Echtzeit … mit einiger Verzögerung … im Voraus, Jahre oder Monate vor der Mission?) Der Flug eines normalen Flugzeugs erfolgt in Echtzeit: Eine Person reagiert sofort auf Ereignisse, und ihre Handlungen wirken sich sofort aus. In einem Raumfahrtszenario befindet sich das Gerät möglicherweise auf dem Mars (oder nähert sich einem entfernten Asteroiden). In diesem Fall dauert es 20 Minuten, bis das Gerät den Befehl empfängt, und 20 Minuten, bis der Bediener feststellt, dass etwas passiert ist. Oder wir können sagen, dass das Fahrzeug "im automatischen Modus" landet, wenn wir in Wirklichkeit verstehen, dass es unter der Kontrolle von Programmierern landet, die einige Monate oder Jahre vor der Landung Anweisungen hinterlassen haben (obwohl wir hier möglicherweise Anpassungen am Konzept vornehmen müssen "Steuerung"). Die Steuerung eines automatisierten Systems kann der Interaktion mit einem Geist ähneln. Diese einfachen Fragen lenken unsere Aufmerksamkeit auf die Neuzuweisung und Neuausrichtung.
Neue Formen menschlicher Präsenz und Aktivität sind nicht alltäglich und entsprechen nicht den alten - die kulturelle Identität eines Piloten, der sein Leben riskiert, über das Schlachtfeld zu fliegen, unterscheidet sich von einer Person, die das Fahrzeug von einer Bodenstation aus fernsteuert. Diese Änderungen sind jedoch auch unerwartet - ein entfernter Bediener fühlt sich auf dem Schlachtfeld möglicherweise präsenter als ein Pilot, der hoch darüber fliegt. Wissenschaftliche Informationen über den Mond können gleich oder sogar vollständiger sein, wenn sie von einem ferngesteuerten Fahrzeug gesammelt werden und nicht von einer Person, die direkt auf dem Planeten gelandet ist. Die kulturelle Erfahrung der Monderkundung ist in diesem Fall jedoch völlig anders. Ersetzen wir altmodische Begriffe durch reichhaltige - animierte Bilder davon, wie Menschen Roboter und automatische Systeme in der realen Welt erstellen und steuern. Die folgenden Geschichten sind sowohl wissenschaftlich als auch technisch und humanistisch.
Wir werden sehen, dass von Menschen angetriebene, entfernte und autonome Maschinen die Bewegung und Neuorientierung menschlicher Präsenz und Aktion in Zeit und Raum ermöglichen. Das Wesentliche dieses Buches ist wie folgt: Es ist nicht der Gegensatz von vom Menschen kontrollierten und autonomen Systemen wichtig, sondern die Fragen: "Wo sind die Menschen?", "Wer sind diese Menschen?", "Was machen sie und wann?" Die letzten, schwierigsten Fragen werden sein: "Wie verändert sich die menschliche Wahrnehmung?", "Und warum ist das wichtig?"
