Eine neue Studie hat gezeigt, dass das Manifestieren von Vorurteilen gegenüber anderen keine besondere Intelligenz erfordert und sich leicht in künstlich intelligenten Maschinen entwickeln kann.
Psychologen und Spezialisten für Informationstechnologie an der Universität von Cardiff und am MIT haben gezeigt, dass Gruppen autonomer Maschinen Verzerrungen aufweisen können, indem sie ein solches Verhalten einfach definieren, kopieren und gegenseitig lehren.
Es mag den Anschein haben, dass Vorurteile ein rein menschliches Phänomen sind, bei dem die menschliche Intelligenz Meinungen oder Stereotypen über eine Person oder Gruppe bilden muss. Während einige Arten von Computeralgorithmen bereits Vorurteile wie Rassismus und Sexismus gezeigt haben, die auf der Untersuchung öffentlicher Aufzeichnungen und anderer vom Menschen generierter Daten beruhen, zeigen neue Arbeiten die Fähigkeit der KI, vorurteilsfrei Gruppen zu entwickeln.
Die Forschung wird in wissenschaftlichen Berichten veröffentlicht. Es basiert auf Computersimulationen, wie voreingenommene virtuelle Agenten Gruppen bilden und miteinander interagieren können. Während der Simulation entscheidet jeder Einzelne, ob er jemandem aus seiner Gruppe oder aus einem anderen helfen möchte, abhängig vom Ruf des Einzelnen sowie seiner eigenen Strategie, einschließlich der Vorurteile gegenüber Außenstehenden. Nach Tausenden von Simulationen lernt jeder Einzelne neue Strategien, indem er andere kopiert - unabhängig davon, ob er Mitglied seiner eigenen Gruppe oder der gesamten "Bevölkerung" ist.
Die relative kumulative Häufigkeit der Eigenschaften von Agenten nach Vorurteilen / Roger M. Whitaker.
"Nachdem wir diese Simulationen tausende und tausende Male hintereinander durchgeführt hatten, begannen wir zu verstehen, wie sich Voreingenommenheit entwickelt und welche Bedingungen erforderlich sind, um sie zu kultivieren oder zu verhindern", sagte der Co-Autor der Studie, Professor Roger Whitaker vom Institut für Kriminalitäts- und Sicherheitsforschung und der Fakultät für Informatik und Informatik der Universität Cardiff. „Unsere Simulationen zeigen, dass Voreingenommenheit eine mächtige Naturgewalt ist und durch Evolution in virtuellen Populationen stimuliert werden kann, um breitere Verbindungen zu anderen zu schädigen. Der Schutz vor Vorurteilsgruppen kann versehentlich zur Bildung anderer Vorurteilsgruppen führen und zu einer stärkeren Teilung der Bevölkerung führen. Solche weit verbreiteten Vorurteile sind schwer umzukehren. “
Zu den Forschungsdaten gehören auch Personen, die ihre Voreingenommenheit erhöhen, indem sie bevorzugt diejenigen kopieren, die die besten kurzfristigen Ergebnisse erzielen, was wiederum bedeutet, dass solche Entscheidungen nicht unbedingt besondere Fähigkeiten erfordern.
"Es ist durchaus plausibel, dass autonome Maschinen, die sich mit Diskriminierung identifizieren und andere kopieren können, in Zukunft anfällig für die Phänomene der Vorurteile sein können, die wir in der Gesellschaft sehen", fährt Professor Whitaker fort. „Viele KI-Entwicklungen, die wir heute sehen, beinhalten Autonomie und Selbstkontrolle, dh das Verhalten von Geräten wird auch von denen um sie herum beeinflusst. Aktuelle Beispiele sind Transport und das Internet der Dinge. Unsere Forschung bietet einen theoretischen Einblick, wo sich simulierte Agenten regelmäßig an andere wenden, um Ressourcen zu erhalten."
Werbevideo:
Die Forscher fanden auch heraus, dass es unter bestimmten Bedingungen, einschließlich des Vorhandenseins von mehr gespaltenen Subpopulationen derselben Gesellschaft, schwieriger ist, die Voreingenommenheit zu verstärken.
„Bei einer großen Anzahl von Subpopulationen können unvoreingenommene Gruppengewerkschaften zusammenarbeiten, ohne ausgebeutet zu werden. Es verringert auch ihren Minderheitenstatus und verringert gleichzeitig ihre Anfälligkeit für Voreingenommenheit. Dies erfordert jedoch auch Umstände, unter denen Agenten Interaktionen außerhalb ihrer Gruppe gegenüber günstiger eingestellt sind “, schloss Professor Whitaker.
Vladimir Guillen