Deepfake
Der Begriff stammt aus Online-Foren, in denen Nutzer manipulierte Videos austauschten.
Heute steht er für KI-gestützte Fälschungen von Gesichtern, Stimmen und Bewegungen, die kaum noch von echten Aufnahmen zu unterscheiden sind. Ein Deepfake ist ein digital manipuliertes Medium: ein Video, ein Bild oder eine Audiodatei, die Personen Dinge sagen oder tun lässt, die nie stattfanden. Der Name verbindet «Deep Learning», einen Teilbereich der künstlichen Intelligenz, mit «Fake» für Fälschung. Die Technik ersetzt Gesichter, Stimmen oder Bewegungen so realistisch, dass die Fälschung schwer zu erkennen ist.
Wie ein Deepfake entsteht
Deepfakes entstehen mit neuronalen Netzen. Häufig arbeiten zwei KI-Systeme zusammen: Ein Generator erstellt die Fälschung, ein Diskriminator prüft, wie echt sie wirkt, und beide verbessern sich in jedem Durchlauf. Als Basis dienen echte Aufnahmen der Zielperson. Aus ihnen lernt das System die Muster von Stimme, Mimik und Bewegung.
Für ein überzeugendes Video braucht es Hunderte bis Tausende Bilder. Die KI analysiert Licht, Schatten und Gesichtszüge und überträgt sie auf neues Material. Bei Audio-Deepfakes trainiert das System mit Sprachproben und imitiert Tonfall, Betonung und Sprechgeschwindigkeit. Deepfakes sind darum nicht dasselbe wie klassische Bildbearbeitung: Dort ändert man Pixel direkt, hier lernt ein Modell aus Daten und erzeugt neue Inhalte.
Woran sich Deepfakes erkennen lassen
Perfekte Fälschungen sind schwer zu identifizieren, doch es gibt Hinweise. Die Augen blinzeln oft unnatürlich, Lichtreflexe passen nicht zur Umgebung, Hauttöne wirken auffällig glatt oder fleckig. Bei Stimmen fallen falsche Betonungen oder störende Hintergrundgeräusche auf.
Technische Fehler zeigen sich an den Rändern: Haare oder Ohren sehen verschwommen aus, Bewegungen wirken stellenweise ruckartig, und bei genauer Betrachtung stimmen Schatten nicht mit der Lichtquelle überein. Wie sich solche Spuren systematisch untersuchen lassen, beschreibt der Eintrag zur Bildforensik; Herkunftsnachweise wie KI-Wasserzeichen ergänzen die Prüfung. Neue KI-Werkzeuge machen die Erkennung allerdings immer schwieriger.
Wo Deepfakes auftauchen und was gilt
Deepfakes tauchen in verschiedenen Bereichen auf. In sozialen Medien verbreiten sich manipulierte Videos von Prominenten in erfundenen Situationen, in der Politik sollen Fälschungen Meinungen beeinflussen oder Personen blossstellen. Die Unterhaltungsbranche nutzt die Technik für Effekte, etwa wenn verstorbene Schauspieler in neuen Filmen mitwirken; Werbung setzt bekannte Gesichter ein, und Betrüger verwenden Deepfakes für Phishing oder Erpressung.
Im Privatbereich entstehen Deepfakes mit Apps: Nutzer tauschen Gesichter in Selfies aus oder lassen ihre Stimme klonen. Vom einfachen Face-Swap unterscheidet sich das Verfahren durch den Umfang der Manipulation, von groben «Cheapfakes» — beschleunigten Videos oder falsch geschnittenem Audio — durch Aufwand und Wirkung. Wie die Redaktion Werkzeuge dieser Kategorie einordnet, zeigt die Übersicht zum KI-Face-Swap.
Rechtlich greifen in der Schweiz die bestehenden Normen: Der Persönlichkeitsschutz nach ZGB Art. 28 erfasst Darstellungen ohne Einwilligung der abgebildeten Person, das revDSG regelt die Bearbeitung von Personendaten, und die Aufsicht darüber führt der EDÖB. Einschlägige Bestimmungen des StGB behandelt das Lexikon in eigenen Einträgen. Als Primärquellen dienen die Grundlagenarbeit zu Generative Adversarial Networks von Goodfellow et al. (2014), StyleGAN von Karras et al. (2018), FaceForensics++ von Rössler et al. (2019) sowie der EU AI Act (Verordnung 2024/1689).
Verwandte Begriffe
Face-Swap
Der Austausch von Gesichtern als Ausgangspunkt vieler Deepfakes.
Zum Begriff →Synthetische Medien
Der Oberbegriff für alle Inhalte, die künstliche Intelligenz erzeugt.
Zum Begriff →Bildforensik
Methoden, mit denen sich manipulierte Aufnahmen untersuchen lassen.
Zum Begriff →Deepnude
Was Deepnude bedeutet: Herkunft des Begriffs von 2019.
Zum Begriff →Häufige Fragen zu Deepfakes
Worin unterscheiden sich Deepfakes von synthetischen Medien?
Der Begriff «synthetische Medien» ist weiter gefasst: Er umfasst alle Inhalte, die künstliche Intelligenz erzeugt, darunter auch Texte, 3D-Modelle oder Musik. Deepfakes bilden eine Untergruppe davon. Sie konzentrieren sich auf die Nachahmung realer Personen, also auf Gesichter, Stimmen und Bewegungen, die täuschend echt wirken sollen. Jedes Deepfake ist damit ein synthetisches Medium, aber nicht jedes synthetische Medium ist ein Deepfake.
Ist ein Deepfake dasselbe wie ein Face-Swap?
Nein. Beim Face-Swap wird nur das Gesicht ausgetauscht. Deepfakes gehen weiter: Sie verändern auch Mimik, Stimme und Körperhaltung und erzeugen so ein durchgehend gefälschtes Auftreten. Die Grenze ist allerdings fliessend, denn moderne Werkzeuge kombinieren beide Techniken. Wer die Unterschiede im Detail nachlesen will, findet im Lexikon einen eigenen Eintrag zum Face-Swap mit den technischen Grundlagen.
Woran lässt sich ein Deepfake erkennen?
Hinweise liefern unnatürliches Blinzeln, Lichtreflexe, die nicht zur Umgebung passen, auffällig glatte oder fleckige Hauttöne sowie verschwommene Ränder an Haaren und Ohren. Bei Stimmen fallen falsche Betonungen oder Hintergrundgeräusche auf, bei Bewegungen ruckartige Übergänge. Schatten, die nicht zur Lichtquelle passen, sind ein weiteres Indiz. Neue KI-Werkzeuge machen die Erkennung allerdings zunehmend schwieriger.
Wie ordnet das Schweizer Recht Deepfakes ein?
Die Schweiz behandelt Deepfakes mit den bestehenden Normen: Wer ohne Einwilligung dargestellt wird, kann sich auf den Persönlichkeitsschutz nach ZGB Art. 28 stützen. Werden dabei Personendaten bearbeitet, greift das revDSG; die Aufsicht darüber führt der EDÖB. Einzelne Bestimmungen des StGB erfasst das Lexikon in eigenen Einträgen, etwa zum Schutz vor dem Missbrauch der eigenen Identität.