Forscher am Massachusetts Institute of Technology (MIT) haben eine Technik entwickelt, mit der künstliche Intelligenz (KI) zur Textanalyse ausgetrickst werden kann, berichtete Wired am 23. Februar.
Forscher haben festgestellt, dass eine geringfügige Änderung einer Phrase, die für eine Person verständlich ist, die KI täuschen kann. Sie entwickelten einen Algorithmus, um Wörter durch Synonyme zu ersetzen und den Erkennungstext der KI auszutricksen. Die Nuance ist, dass der Angriffsalgorithmus selbst AI verwendet, um Synonyme auszuwählen.
Zum Beispiel der Satz "Die Charaktere, die in unglaublich erfundenen Situationen besetzt sind, sind der Realität völlig entfremdet." ("Charaktere, die in unglaublich erfundenen Situationen gespielt werden, sind völlig realitätsfern"), was eine negative Bewertung des Films ist.
Wenn wir die darin enthaltenen Wörter durch Synonyme ersetzen, dann ist der Ausdruck „Die Charaktere, die unter unmöglich konstruierten Umständen besetzt sind, völlig von der Realität entfremdet“(„Charaktere, die unter unglaublich geschickten Umständen gespielt werden, sind vollständig von der Realität getrennt“), dann betrachtet die KI die Bewertung als positiv.
Andere Arten von KI-Systemen können ebenfalls getäuscht werden. In diesem Fall wurden die Sicherheitslücken hauptsächlich in Bild- und Spracherkennungssystemen nachgewiesen.
Die Forscher stellten fest, dass solche subtilen Datenverzerrungen die KI täuschen und zum Angriff auf Systeme verwendet werden können, was mit der Verbreitung der KI in den Bereichen Finanzen, Gesundheitswesen und anderen Bereichen von Bedeutung ist.