Im Internet werden bearbeitete Videos angezeigt, in denen Personen bestimmte Wörter sagen (obwohl sie sie nicht tatsächlich gesagt haben) oder bestimmte Aktionen ausführen (obwohl sie sie nicht tatsächlich ausgeführt haben). Dank neuer Entwicklungen auf der Basis künstlicher Intelligenz wird die Qualität solcher Videofälschungen erheblich zunehmen.
Heutzutage sind Technologien zum Erstellen gefälschter Videos nicht auf die Bewegungen der Lippen und des Gesichts einer Person in den Originalrahmen beschränkt. Ein auf künstlicher Intelligenz basierendes System kann ein realistisches Video erstellen, in dem ein bearbeitetes digitales Bild einer Person ihren Kopf in verschiedene Richtungen bewegen, blinken und Emotionen zeigen kann. Alle Aktionen und Wörter des Schauspielers, der im Originalvideo gedreht wurde, werden auf das gefälschte Video übertragen.
Das Entwicklungsteam verglich den neuen Algorithmus mit vorhandenen Video- und Fotomanipulationssystemen, an denen Facebook und Google beteiligt sind. Der neue Algorithmus übertraf bestehende Techniken und die Teilnehmer des Experiments konnten die Authentizität der Videos kaum bestimmen.
Die Forscher wurden teilweise von Google finanziert. Die Entwickler des Systems hoffen, dass die neue Technologie die virtuelle Realität verbessern wird. AI muss nur einige Minuten des Quellmaterials studieren, um ein modifiziertes Video zu erstellen. Daher argumentieren die Forscher, dass hochwertige Videobearbeitungssoftware erschwinglicher wird.
Die Entwickler verstehen, dass ihre Erfindung einige Bedenken in der Community aufwerfen kann.
Der Forscher Justus Tees sagte gegenüber The Register, er sei besorgt über die ethische Seite des Problems. Die Ergebnisse der Studie wurden veröffentlicht, um die Menschen auf Fortschritte bei den Manipulationstechniken aufmerksam zu machen, sagte Tees.
Die Wissenschaftler "warnten erneut vor der Gefahr", verbesserten jedoch die verdächtige Technologie weiter. Im Text der Studie wurde das ethische Problem nur am Rande erwähnt: Die Entwickler sind der Ansicht, dass jemand das Wasserzeichensystem verbessern oder einen anderen Weg finden sollte, um Videofälschungen zu erkennen.
Die Forscher selbst wollen sich nicht mit diesem Problem befassen, da sie gerade daran arbeiten, das Tool zum Erstellen gefälschter Videos zu verbessern.
Werbevideo:
Anton Komarov
