Wir alle glauben, dass wir einen KI-Fake sofort durchschauen. Bis wir selbst auf das süße Katzenvideo reinfallen. Jill Wick weiß genau, wie schnell das geht – und wie wir uns wehren können. Im Interview zeigt sie uns die verräterischen Details moderner Deepfakes und erklärt, wie wir unsere Security Awareness mit interaktiven KI-Mini-Games so trainieren, dass wir im Ernstfall intuitiv richtig handeln.

Bist Du schon mal auf einen KI-Fake hereingefallen?

Ja, ich habe eine Erfahrung mit einem sehr süssen Katzenvideo gemacht, das leider KI-generiert war. Ich hatte es gerade geteilt und mir noch einmal angesehen, als mir auffiel, dass die Details nicht stimmten. Das hat mich nachdenklich gestimmt. Sobald mir klar wurde, dass die Katze nicht echt war, verlor das Video seinen Reiz, denn das Besondere daran war ja, dass sich das Tier auf eine so lustige Weise verhält. Aber KI-Videos können solches Verhalten immer zeigen, das ist nichts Besonderes.

Wie kann ich Fake-KI-Content entlarven?

Am Anfang waren die gefälschten Bilder und Videos sehr schlecht gemacht. Die Gesichter ähnelten Horrorgestalten, die Nase war auf dem Kopf, Frauen hatten vier Arme usw. Mit „Anfang” meine ich vor etwa zwei bis drei Jahren. Dann wurde es rapide besser. Eine Weile lang dachten wir, KI-generierte Bilder würden immer dadurch verraten, dass die Menschen mehr als fünf Finger haben. Doch auch diese Zeit ist nun vorbei.

Es gibt weiterhin verräterische Merkmale. Oft stimmt bei Videos die Sprechstimme nicht mit der Lippensynchronisation überein, Bewegungen wirken ruckartig und das Blinzeln ist unnatürlich. Oder die Physik von Objekten auf Fotos stimmt nicht, beispielsweise hängt eine Halskette beim Vorbeugen nicht herunter, sondern bleibt am Körper kleben. Die Farben sind teils sehr unnatürlich und wenn echte Lebewesen gefälscht werden, kann es sein, dass die Haut oder das Fell unnatürlich und plastikartig aussehen.

Du sagst: Awareness kann man lernen. Wie lerne ich wachsam zu sein und wie schnell kann ich es lernen?

In den KI-Mini-Games erfährt man auf spielerische Weise, wie man gefälschte Nachrichten erkennt und umgeht. Pro Spiel wird ein realitätsnahes Szenario beschrieben, in das sich die Spieler hineinversetzen können. Sie überlegen dann, wie sie in dieser Situation handeln würden. Anschliessend wird das Szenario aufgelöst und es werden hilfreiche Tipps gegeben. Das Ganze ist kurzweilig und super unterhaltsam. Damit ist für jede und jeden etwas dabei!

Ich meine, einen KI-Fake identifiziert zu haben. Wie verhalte ich mich jetzt richtig?

Es kommt auf die Situation an. In den sozialen Medien gibt es Millionen von Bildern, die KI-Fakes von Prominenten oder Personen aus deren Umfeld sind. Es gibt sogar einen Creator, der Bilder von Jesus erstellt, der komplett aus Shrimps gemacht wird. Das ist sozusagen „KI-Slop“. Das soll einfach nur Klicks generieren, unterhaltsam sein und uns dazu bringen, auf Fotos zu klicken, damit die Ersteller auf Social Media belohnt werden. Sie erhalten tatsächlich Geld für Klicks. Wenn wir dieser Entwicklung entgegenwirken wollen, müssen wir lernen, uns zurückzuhalten und nicht auf jedes unterhaltsam aussehende Foto zu klicken, damit die Belohnung für diese Leute ausbleibt. Es gibt aber auch eine viel dunklere Seite von KI-Fakes. Beispielsweise können Menschen nun mit KI-Tools ausgezogen werden. Meistens sind dabei Kinder oder Frauen betroffen. Wenn jemand solche pornografischen Inhalte von uns erstellt hat, können wir sie als Persönlichkeitsrechtsverletzung melden und anzeigen. Ebenfalls wird empfohlen, die Plattform, auf der man das Bild gefunden hat, z.B. Instagram, darüber zu informieren und die Person, die es verbreitet, zu melden. Die Rechtslage dazu ist jedoch noch sehr schwach.

Dein Thema ist das Mini-KI-Game. Was verbirgt sich dahinter?

In den KI-Mini-Games erfährt man auf spielerische Weise, wie man gefälschte Nachrichten erkennt und umgeht. Pro Spiel wird ein realitätsnahes Szenario beschrieben, in das sich die Spieler hineinversetzen können. Sie überlegen dann, wie sie in dieser Situation handeln würden. Anschliessend wird das Szenario aufgelöst und es werden hilfreiche Tipps gegeben. Das Ganze ist kurzweilig und super unterhaltsam. Damit ist für jede und jeden etwas dabei!

Ich meine, einen KI-Fake identifiziert zu haben. Wie verhalte ich mich jetzt richtig?

Es kommt auf die Situation an. In den sozialen Medien gibt es Millionen von Bildern, die KI-Fakes von Prominenten oder Personen aus deren Umfeld sind. Es gibt sogar einen Creator, der Bilder von Jesus erstellt, der komplett aus Shrimps gemacht wird. Das ist sozusagen „KI-Slop“. Das soll einfach nur Klicks generieren, unterhaltsam sein und uns dazu bringen, auf Fotos zu klicken, damit die Ersteller auf Social Media belohnt werden. Sie erhalten tatsächlich Geld für Klicks. Wenn wir dieser Entwicklung entgegenwirken wollen, müssen wir lernen, uns zurückzuhalten und nicht auf jedes unterhaltsam aussehende Foto zu klicken, damit die Belohnung für diese Leute ausbleibt. Es gibt aber auch eine viel dunklere Seite von KI-Fakes. Beispielsweise können Menschen nun mit KI-Tools ausgezogen werden. Meistens sind dabei Kinder oder Frauen betroffen. Wenn jemand solche pornografischen Inhalte von uns erstellt hat, können wir sie als Persönlichkeitsrechtsverletzung melden und anzeigen. Ebenfalls wird empfohlen, die Plattform, auf der man das Bild gefunden hat, z.B. Instagram, darüber zu informieren und die Person, die es verbreitet, zu melden. Die Rechtslage dazu ist jedoch noch sehr schwach.

Dein Thema ist das Mini-KI-Game. Was verbirgt sich dahinter?

In den KI-Mini-Games erfährt man auf spielerische Weise, wie man gefälschte Nachrichten erkennt und umgeht. Pro Spiel wird ein realitätsnahes Szenario beschrieben, in das sich die Spieler hineinversetzen können. Sie überlegen dann, wie sie in dieser Situation handeln würden. Anschliessend wird das Szenario aufgelöst und es werden hilfreiche Tipps gegeben. Das Ganze ist kurzweilig und super unterhaltsam. Damit ist für jede und jeden etwas dabei!