Wissenschaftler und Programmierer haben aufgehört zu verstehen, wie künstliche Intelligenz Entscheidungen trifft. Dieses Problem wurde von mehreren Spezialisten auf der Hauptkonferenz der KI - Neuronale Informationsverarbeitungssysteme - in Long Beach (Kalifornien) angekündigt.
Von Quartz befragte Experten sagen, dass sie handeln müssen, bevor das System zu komplex wird.
"Wir wollen KI-Entscheidungen nicht als selbstverständlich ansehen, ohne ihre Logik zu verstehen", sagt Jason Yosinski von Uber. "Damit die Gesellschaft Modelle des maschinellen Lernens akzeptieren kann, müssen wir wissen, wie die KI zu bestimmten Schlussfolgerungen gelangt."
Das Problem, das viele Experten als „Black Box“bezeichnen, ist wirklich ernst. Frühere Erfahrungen haben gezeigt, dass KI dazu neigt, voreingenommene Entscheidungen zu treffen und Analogien zu ziehen, wo sie nicht sollten. Da neuronale Netze allmählich die Strafverfolgung, das Gesundheitssystem, die wissenschaftliche Forschung und die Algorithmen infiltrieren, die bestimmen, was Sie heute in Ihrem Facebook-Newsfeed sehen, können KI-Fehler sehr kostspielig sein.
Als Beispiel nennt Kiri Wagstaff, eine KI-Expertin am Jet Propolusion Lab (NASA), eine Mission zum Mars. Die Geräte befinden sich 200 Millionen Meilen von der Erde entfernt und kosten Hunderte Millionen Dollar. Daher sind Fehler in der Arbeit der KI einfach inakzeptabel.
„Die Leute müssen wissen, was KI tut und warum. Wie können sie ihm sonst vertrauen, dass er teure Geräte kontrolliert? “, Sagt Wagstaff.
Derzeit arbeitet der Wissenschaftler an einem Algorithmus, der Bilder sortiert, die von verschiedenen NASA-Raumfahrzeugen aufgenommen wurden. Da die Anzahl der Bilder in Millionenhöhe liegt, können Sie mit dem Computer die interessantesten Bilder sortieren und hervorheben, ohne viel Zeit für diesen Vorgang aufzuwenden. Das Problem liegt jedoch in der Tatsache, dass oft nur die KI allein weiß, warum bestimmte ausgewählte Bilder ungewöhnlich sind.
Daraus schließt Wagstaff, dass bei einem Fehler in diesem Algorithmus eines Tages möglicherweise sehr wichtige Informationen fehlen.
Werbevideo:
„Im Grunde gibt Ihnen der Computer ein Bild und sagt:‚ Sehen Sie, das ist interessant. ' Aber Sie können nicht immer verstehen, warum es interessant ist: Aufgrund der Farbe, Form von Objekten oder ihrer Position im Raum - das wissen Sie wahrscheinlich nicht “, sagt der Wissenschaftler.
Hannah Wallach, Senior Researcherin bei Microsoft, stimmt den Schlussfolgerungen ihrer Kollegen zu.
„Mit zunehmender Verbreitung des maschinellen Lernens und steigenden Einsätzen können wir diese Systeme nicht mehr als Black Box betrachten. Wir müssen verstehen, was in ihnen passiert und was sie tun “, sagte der Forscher.
Glücklicherweise versuchen Wissenschaftler, Methoden zu finden, um die Logik der künstlichen Intelligenz zu verstehen. So präsentierte der Google-Forscher Mitra Raghu einen Bericht, der den Prozess der Verfolgung der Aktionen einzelner "Neuronen" eines neuronalen Netzwerks beschreibt. Durch die Analyse von Millionen von Operationen konnte sie herausfinden, welche der künstlichen "Neuronen" sich auf Missverständnisse konzentrierten, und sie ausschalten. Dies beweist, dass die Übersetzung der Arbeit neuronaler Netze in eine Form, die dem menschlichen Verständnis zugänglich ist, keine so unmögliche Aufgabe ist.
Eine weitere Möglichkeit zur Lösung des Problems besteht darin, die durch künstliche Intelligenz entwickelten Fähigkeiten regelmäßig zu testen.
"Es ist, als würden Schullehrer Kinder bitten, in eigenen Worten zu erzählen, was sie aus der Erklärung des Lehrers verstanden haben", sagt Wagstaff.
Abgesehen davon ist es wichtig, die Interna des Algorithmus zu verstehen, um nicht nur zu verhindern, dass ein hypothetischer Rover von einem Marsfelsen fällt. Wenn Sie erkennen, was der Fehler ist, können Sie vorhandene Systeme noch besser machen.
"Wenn Ihr System nicht funktioniert und Sie nicht wissen, warum, ist es sehr schwierig, etwas dagegen zu unternehmen", sagt Yosinski. "Wenn Sie wissen, was passiert ist, kann die Situation immer korrigiert werden."
Gebrauchte Materialien von der Website hightech.fm