Wissenschaftler der University of Chicago (USA) führten eine Studie durch, in der sie zeigten, wie KI verwendet werden kann, um komplexe gefälschte Rezensionen zu schreiben. Solche Rezensionen sind durch moderne Methoden nicht von echten zu unterscheiden, und ahnungslose Leser finden sie sehr zuverlässig.
Restaurantbewertungen wurden unter Verwendung wiederkehrender neuronaler Netze (Deep-Learning-Techniken) generiert, die zuvor auf Tausenden von online verfügbaren Bewertungen im realen Leben trainiert wurden.
Den Forschern zufolge waren die generierten Bewertungen praktisch nicht von den tatsächlichen zu unterscheiden. Die Autoren der Arbeit zeigten also, dass Benutzer gefälschte Bewertungen nicht nur nicht erkannten, sondern sie auch als nützlich erachteten wie echte, die von Menschen geschrieben wurden.
Letzteres ist wahrscheinlich das alarmierendste. Da dies im Wesentlichen bedeutet, dass von AI verfasste Bewertungen ihre Hauptfunktion erfüllen, beeinflussen sie gezielt die Meinung der Menschen.
Es wird angemerkt, dass Plagiate in solchen Überprüfungen (unter Verwendung von Software) selten gefunden wurden. Dies ist auf die Tatsache zurückzuführen, dass die KI sie nach Charakter generiert und keine Wörter aus echten Bewertungen gepflückt hat.
Heute gibt es eine ziemlich große Untergrundindustrie, in der Leute falsche Bewertungen schreiben (für Geld). Wie Professor Ben Y. Zhao von der Universität Chicago in einem Interview mit Business Insider feststellte, könnte die Einführung von KI dies jedoch untergraben. Der Wissenschaftler sagt, dass er noch nichts über die Verwendung solcher Algorithmen in dieser Branche weiß. Es gibt jedoch keine Garantie dafür, dass sich jemand nichts Ähnliches einfallen lässt und es nicht zum persönlichen Vorteil nutzt.
Gleichzeitig schreiben die Forscher, dass die Reaktionen des neuronalen Netzwerks immer noch nicht ideal waren. Es stellte sich heraus, dass der Algorithmus einen kleineren Zeichensatz verwendete - und dies war nicht schwer zu erkennen. Nach Ansicht der Autoren der Arbeit können zukünftige neuronale Netze jedoch noch komplexer sein, und dementsprechend wird das von ihnen erzeugte Feedback schwieriger zu erkennen sein.
Jiao merkt an, dass es nicht nur um gefälschte Restaurantbewertungen geht: Solche Technologien können im Allgemeinen unsere Überzeugungen darüber erschüttern, was real ist und was nicht.
Werbevideo:
Den Text der Studie finden Sie hier.
