Amerikanische Experten entwickeln ein neuronales Netzwerk, das die Entscheidungen von Kampfrobotern erklären kann. Dies wird das Vertrauen der Menschen in die "elektronischen Soldaten" erhöhen.
Das Projekt Explainable Artificial Intelligence oder einfach XAI (Explainable Artificial Intelligence) ermöglicht es Menschen und Robotern, sich besser zu verstehen. Das neuronale XAI-Netzwerk wird eine logische Kette von "Überlegungen" des Roboters aufbauen und der Person zeigen, warum die Maschine genau eine solche Entscheidung getroffen hat - zum Beispiel, um das Feuer auf ein bestimmtes Ziel zu eröffnen.
Die Entwicklung von gemischten Roboter-Mensch-Kampfeinheiten in der US-Armee ist im Gange. Bisher ist es schwer vorstellbar, aber in einigen Jahrzehnten werden Roboter zu vollwertigen Soldaten - genau wie Menschen. Darüber hinaus können sie eine Person in Situationen ersetzen, in denen es erforderlich sein kann, das Feuer auf ein lebendes Ziel zu eröffnen. Ein solcher Ersatz entbindet eine Person förmlich von der Verantwortung für eine tödliche Entscheidung, kann ihn jedoch nicht der Zweifel und Reue berauben und kann auch zu Misstrauen gegenüber Robotern führen. Sie wissen es nie - vielleicht sind Roboter tatsächlich elektronische Maniacs, die gerne töten?
Das XAI-Projekt sollte dieses Problem in der Mensch-Roboter-Interaktion lösen. Dank der Einführung des neuen Systems kann das Militär (diejenigen, die noch leben) verstehen, nach welchem Kriterium die Maschine dieses oder jenes Objekt oder diese Person als Bedrohung bewertet hat. Darüber hinaus wird XAI es Kampfrobotern erleichtern, sich an die Realitäten eines bestimmten militärischen Konflikts anzupassen und den Grad sinnloser Grausamkeit zu verringern.
Die neue Entwicklung wird nicht nur für das Militär nützlich sein. Es kann auch im zivilen Bereich eingesetzt werden - in der Industrie, in Sicherheitssystemen und in der Medizin. Ein Beispiel für eine solche Verwendung gibt Bill Ferguson, ein führender Spezialist bei Raytheon, der direkt an der Entwicklung eines neuronalen Netzwerks beteiligt ist. „Wenn künstliche Intelligenz auf dem Röntgenbild Anzeichen von Lungenkrebs erkennt, kann der Arzt herausfinden, warum sich das Gerät dafür entschieden hat. Der Computer hebt alle verdächtigen Bereiche hervor, die der Arzt möglicherweise ignoriert hat, und verwechselt sie mit Bildartefakten. Danach kann der Arzt selbst feststellen, ob es sich lohnt, die Diagnose zu korrigieren, oder ob das neuronale Netzwerk fehlerhaft war “, erklärt der Wissenschaftler.
