Das KI-Vokabular · 07 Wenn es schiefgeht
Was ist Deepfake?
Täuschend echte Bilder, Audios oder Videos von realen Menschen oder Ereignissen, mit KI erzeugt oder manipuliert.
Ein Deepfake ist mit KI erzeugtes oder verändertes Material, das echt aussieht oder klingt: ein Video, in dem jemand etwas sagt, das er nie gesagt hat, eine geklonte Stimme am Telefon, ein überzeugendes Foto von einem Ereignis, das nie stattgefunden hat. Die Werkzeuge dafür sind inzwischen für alle verfügbar.
Deepfakes werden für Betrug genutzt, etwa für gefälschte Anrufe vom „CEO“, der dringend eine Zahlung verlangt, für Desinformation und für Belästigung. Die KI-Verordnung verlangt, dass Deepfakes als solche offengelegt werden, und Technologien zur Kennzeichnung verbreiten sich. Die Erkennung bleibt aber unvollkommen.
Warum es für dich wichtig ist
Stimme und Video sind kein Identitätsnachweis mehr. Zahlungsfreigaben, Passwort-Resets und heikle Anweisungen, die sich auf „Ich habe die Stimme erkannt“ verlassen, sind heute ein echtes Risiko, für Unternehmen jeder Größe.
Own it
Vereinbart Prüfgewohnheiten, bevor ihr sie braucht: unter einer bekannten Nummer zurückrufen, ein Codewort für dringende Anfragen, eine zweite Freigabe für Zahlungen. Wenn du selbst synthetische Medien erstellst, kennzeichne sie klar. So bleiben deine Transparenz und dein Ruf intakt.
Woher es kommt
Das Wort tauchte 2017 als Benutzername „deepfakes“ eines Reddit-Nutzers auf, der mit Deep Learning erstellte Face-Swap-Videos postete. Die breite Öffentlichkeit erreichte es im Dezember 2017 durch Berichte von Samantha Cole bei Vice (Wordorigins). „Deep“ verweist auf Deep Learning, die Machine-Learning-Methode hinter den Face Swaps.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.