Deepfake

Inzwischen ist es dank künstlicher Intelligenz problemlos möglich, Bildinhalte in Fotos oder Videos nahezu beliebig zu modifizieren. So kann man Körperteile oder ganze Personen löschen oder austauschen.

Dazu werden sogenannte Deepfake-KIs mit Bildmaterial der zu ersetzenden Personen trainiert, dann gestellte Videos mit ähnlichen Merkmalen verwendet und die KI darauf angesetzt. Diese folgt dann ihrem Training und ersetzt die Person im Video durch die aus den Trainingsdaten. Je mehr Material zum Training zur Verfügung steht, desto einfacher ist das.

Dies wird nicht nur zur Manipulation und zur Verbreitung von Fake-News genutzt, sondern auch für direkt kriminelle Aktivitäten. So werden etwa immer wieder Personen (besonders Frauen) mit künstlichen DeepFake-Pornos erpresst.

Info-Video

Quelle

Werkzeuge

• DeepFaceLab, Software zur Erstellung von DeepFakes
• DeepfakesWEB, Online-Deepfake-Editor
• DeepFaker.app, russischer Telegram-Bot zum erstellen von DeepFakes

Werkzeug zum Erkennen von DeepFakes

• DeepFake-o-meter, wendet verschiedene Methoden an, um DeepFake-Videos zu identifizieren.