Deepfake – was es ist und wie man es vom Original unterscheiden kann

Von Jozef Wagner

Digitalisierung

25. 02. 2025 18 min. Epub lesen

Wir treten in eine neue digitale Ära ein, in der wir nicht mehr alles glauben können, was wir sehen und hören. Was einst als unwiderlegbarer Beweis dafür galt, dass etwas wirklich passiert ist, und als Foto, Video oder Tonaufnahme festgehalten wurde, wird nun zunehmend zu einem möglichen Werkzeug der Manipulation. Mit dem Aufkommen der Deepfake-Technologie verschwimmt die Grenze zwischen Realität und Illusion, wie in dem Film „Die Matrix“.

Mit der verfügbaren Computerausrüstung und den Software-Tools kann jeder jedes Bild, jeden Ton und sogar jedes Video so verändern, dass es völlig realistisch aussieht, selbst wenn es eine Täuschung ist. Gefälschte Nachrichten, manipulierte politische Reden oder diffamierende Videos, die den Ruf anderer schädigen, machen es schwer, Wahrheit von Täuschung zu unterscheiden.

Diese Technologien, die einst als atemberaubende Filmeffekte dienten, werden zu einem gefährlichen Werkzeug in den Händen von Betrügern. Die Macher von gefälschten Videos schaffen mit Leichtigkeit realistische Situationen, die die öffentliche Meinung beeinflussen, Fehlinformationen in den Netzwerken verbreiten und den fairen politischen Wettbewerb stören. Umgekehrt machen sich die Konsumenten dieser manipulierten Medien anfällig für Täuschung, Manipulation und Lügen, die schwerwiegende Folgen für ihr Leben haben können.

Das Vertrauen in die digitalen Medien ist zunehmend fragil. Wir werden Zeuge einer Fülle von neuen Falschinformationen, die sich mit erstaunlicher Geschwindigkeit im virtuellen Raum verbreiten. Sie sehen nur allzu echt aus. Können diese digitalen Betrügereien erkannt werden und können wir uns vor Deepfake-Bedrohungen schützen? Lies weiter.

Deepfake-Technologie – Demonstration 1

Deepfake Bedeutung

Deepfake ist eine fortgeschrittene Form der digitalen Manipulation, bei der künstliche Intelligenz (KI) und maschinelles Lernen (MLeingesetzt werden, um audiovisuelle Inhalte zu erstellen oder zu bearbeiten. Die Qualität gefälschter Inhalte hängt davon ab, wie originalgetreu und realistisch sie auf uns wirken und wie schwer sie von echten Inhalten zu unterscheiden sind. Datenwissenschaftler (AWS Data Scientist), spielen in diesem Prozess eine wichtige Rolle, indem sie riesige Mengen an Bild- und Audiodaten analysieren, KI-Modelle trainieren und Algorithmen optimieren, um die Ausgaben von Deepfakes so überzeugend wie möglich aussehen zu lassen.

Der Begriff „Deepfake“ setzt sich aus den Wörtern „deep“ und „fake“ zusammen.. „Deep“ kommt von der KI-Technologie Deep Learning (eine Untergruppe des maschinellen Lernens, die neuronale Netze zur schichtweisen Verarbeitung von Informationen verwendet) und „fake“ bezieht sich auf gefälschte Inhalte.

Der Beginn des Deepfakes

Die Technologie der synthetischen Medien hat ihre Wurzeln im Bereich der Computerbildverarbeitung und der künstlichen Intelligenz, die sich in den 1990er Jahren zu entwickeln begann. In dieser Zeit entstanden Technologien wie computergenerierte Bilder ( CGI), die realistische Animationen und Simulationen von menschlichen Gesichtern ermöglichten. Obwohl diese Technologien zunächst hauptsächlich für die Filmindustrie gedacht waren, legten sie den Grundstein für fortschrittlichere Systeme zur Bild- und Videomanipulation.

Früher dienten sie dazu, atemberaubende Filmeffekte zu erzielen, doch heute sind sie zu einem gefährlichen Werkzeug in den Händen von Betrügern geworden. Die Macher gefälschter Videos können leicht realistische Situationen schaffen, die die öffentliche Meinung beeinflussen, Fehlinformationen in sozialen Netzwerken verbreiten oder sogar den fairen politischen Wettbewerb stören können. Umgekehrt sind die Konsumenten dieser manipulierten Medien anfällig für Täuschungen, Manipulationen und Lügen, die schwerwiegende Folgen für ihr Leben haben können.

Die eigentlichen Grundlagen der Deepfake-Technologie wurden jedoch erst mit der Entwicklung neuronaler Netze gelegt. Im Jahr 2014 stellte Ian Goodfellow, ein Wissenschaftler für maschinelles Lernen, das revolutionäre Konzept der generativen adversarischen Netzwerke ( GANs). Diese Netzwerke funktionieren nach dem Prinzip zweier konkurrierender Algorithmen.

Generator-Algorithmus

Die Hauptaufgabe des Generators besteht darin, die ersten gefälschten digitalen Inhalte wie Audio, Foto oder Video zu erstellen. Ziel des Generators ist es, das Aussehen, die Stimme oder das Verhalten der Zielperson so genau wie möglich zu imitieren.

Diskriminator-Algorithmus

Der Diskriminator analysiert dann die vom Generator erzeugten Inhalte, um festzustellen, inwieweit sie authentisch oder gefälscht erscheinen.

Die Rückkopplung zwischen Generator und Diskriminator durch Wiederholung schafft einen kontinuierlichen Prozess der schrittweisen Verbesserung. Diese Technologie ist zur Grundlage für die Erzeugung realistischer Deepfake-Videos und -Bilder geworden.

Deepfake-Technologie – Demonstration 2

Herkunft des Begriffs Deepfake

Der Name selbst tauchte erstmals Ende 2017 auf der Plattform Reddit auf. Ein Nutzer, der den Spitznamen „Deepfake“ wählte, begann damit, bearbeitete Videos von Prominenten mit pornografischem Inhalt zu teilen, wobei er maschinelle Lernalgorithmen verwendete, um die Gesichter von Prominenten und Pornodarstellern zu vertauschen. Obwohl es sich um Amateurexperimente handelte, lösten diese gefälschten Videos sofort ein breites öffentliches Interesse aus, aber auch Bedenken darüber, wie die Technologie von harmloser Unterhaltung zu unethischen oder illegalen Zwecken ausgenutzt werden könnte.

Schnelle Entwicklung der Deepfake-Technologie

Seit 2018 hat sich die Deepfake-Technologie dramatisch verbessert, was vor allem auf die Verfügbarkeit von leistungsstarken Computern wie GPUs, Ryzen Threadripper und die Entwicklung der Cloud zurückzuführen ist. Regelmäßig werden Fälle bekannt, in denen Deepfake-Videos zur Verbreitung von Fehlinformationen, zur Beeinflussung der öffentlichen Meinung oder zur Erstellung erotischer Inhalte ohne die Zustimmung der beteiligten Personen verwendet wurden.

Deepfake – exponentielle Zunahme von gefälschten Inhalten

In den letzten Jahren haben wir ein exponentielles Wachstum bei der Qualität und Verfügbarkeit von Deepfake-Technologie erlebt. Allein im letzten Jahr ist die Zahl der gefälschten Inhalte im Vergleich zum Vorjahr um 1.700 % gestiegen. Die Qualität des Materials hat sich so weit verbessert, dass über 75 % der Menschen Schwierigkeiten haben, echte von gefälschten Inhalten zu unterscheiden. Während anfangs über 95 % des gefälschten Materials Inhalte für Erwachsene waren, beziehen sich heute bis zu 80 % aller Fälschungen auf Kryptowährungen.

Elon Musk wird am häufigsten von Betrügern ausgewählt, um für dubiose Investitionen zu werben. Menschen haben auf diese Weise bereits Milliarden von Dollar verloren. Die meisten gefälschten Anzeigen, die Nutzer dazu verleiten, in fiktive Anlagen zu investieren, finden sich auf Facebook, aber auch X (ehemals Twitter), YouTube oder Instagram werden für diesen Zweck genutzt.

Deepfake-Technologie – Demonstration 3

Der Prozess der Erstellung eines Deepfakes

Der Prozess beginnt mit dem Sammeln einer großen Datenmenge, vor allem Fotos und Videos der Person, die emuliert werden soll. Je umfangreicher das Material, desto realistischer wird das Endergebnis. Die Daten werden in ein KI-System eingespeist, das mithilfe von maschinellen Lernverfahren charakteristische Merkmale analysiert – Gesichtsausdrücke, Bewegungen von Augen, Mund, Augenbrauen und anderen Gesichtspartien.

Anschließend kommt ein zweiter Datensatz zum Einsatz: Bild- und Tonmaterial der Person, die imitiert werden soll. In den meisten Fällen werden eigene Aufnahmen (z.B. Gesicht und Stimme) auf die Zielperson übertragen. Künstliche Intelligenz nutzt komplexe Algorithmen, um beide Datensätze zu verschmelzen und eine realistisch wirkende Darstellung zu generieren.

Natürlich ist dieser Prozess nicht einfach und erfordert ständige Anpassungen. Um ein überzeugendes Deepfake zu erstellen, müssen wir an der Synchronisierung der Lippen, der Mimik und der allgemeinen Beleuchtung arbeiten. Wir müssen auch mit dem Ton spielen, besonders wenn wir ein Video erstellen, in dem die Person sprechen soll.

Aktuelle Deepfake-Tools können bereits aus einem einzigen Foto eine täuschend echte Imitation erstellen oder eine Stimme nach wenigen Minuten Audioaufnahme nachahmen. Laut einem Deloitte-Bericht ist Deepfake-Software im Dark Web bereits für 20 US-Dollar erhältlich, während professionelle Lösungen mehrere tausend Dollar kosten. Die Qualität hängt dabei direkt von Aufwand und Bearbeitungszeit ab.

Deepfake vs Original – von KI erstellte Gesichter

Mit den Fortschritten in der künstlichen Intelligenz entstehen Technologien, die synthetische Gesichter erzeugen können, die so realistisch sind, dass es für Menschen fast unmöglich ist, sie von echten Gesichtern zu unterscheiden. Eine 2022-Studie von Sophia J. Nachtigall und Hany Farid veröffentlicht im Journal Proceedings of the National Academy of Sciences (PNAS), untersuchte dieses Phänomen.

In der Studie stellten die Autoren fest, dass Gesichter, die mit fortgeschrittenen Algorithmen, insbesondere StyleGAN2, erzeugt wurden, von normalen Beobachtern kaum von echten Gesichtern unterschieden werden können. In Experimenten, in denen die Teilnehmer beurteilen sollten, ob ein Gesicht echt oder synthetisch war, erreichten sie nur eine Genauigkeit von etwa 48,2 % bis 59 %, was auf dem Niveau einer Zufallsschätzung liegt. Auch ein Training und spezielle Instruktionen zur Erkennung von synthetischen Gesichtern führten zu keiner signifikanten Verbesserung der Genauigkeit. Synthetische Gesichter sind inzwischen so genau, dass sie mit bloßem Auge nicht mehr zu erkennen sind.

Glaubwürdigkeit von synthetischen Gesichtern

Die Studie ergab, dass synthetische Gesichter nicht nur schwer von echten Gesichtern zu unterscheiden sind, sondern im Durchschnitt sogar als vertrauenswürdiger eingestuft werden. Die Teilnehmer des Experiments bewerteten die Vertrauenswürdigkeit der Gesichter auf einer Skala von 1 bis 7 (wobei 1 für das am wenigsten vertrauenswürdige und 7 für das am vertrauenswürdigste Gesicht steht). Dabei erreichten die synthetischen Gesichter durchschnittlich 4,82 Punkte, während echte Gesichter nur auf 4,48 Punkte kamen. Dieser Unterschied war zwar gering, aber statistisch signifikant. Als mögliche Erklärung für dieses Phänomen gilt, dass synthetische Gesichter oft ein subtiles Lächeln zeigen, was sich positiv auf ihre Bewertung auswirkt.

Diese Erkenntnisse haben gravierende Auswirkungen auf die digitale Welt. Die Verfügbarkeit dieser Technologie eröffnet Möglichkeiten für Missbrauch – von der Schaffung falscher Identitäten und Betrug bis hin zur anonymen Verbreitung falscher Informationen. In einer Situation, in der jedes Foto oder Video gefälscht werden kann, kann die Authentizität digitaler Inhalte von vornherein in Frage gestellt werden.

Auch wenn die Autoren der Studie vorschlagen, Wasserzeichen in die generierten Bilder einzufügen, ist dies keine Lösung, da KI-Algorithmen diese leicht entfernen können. Eine bessere Lösung wäre die kryptografische Verifizierung, bei der ein privater Verschlüsselungsschlüssel oder eine digitale Signatur an den Inhalt angehängt und der entsprechende öffentliche Schlüssel zur Entschlüsselung der Signatur bereitgestellt wird.

Deepfake Trends 2024

Blicken wir zurück auf das Jahr 2024. Die Studie Deepfake Trends 2024 zeigt, dass Deepfake-basierte Falschinformationen in diesem Jahr besonders erfolgreich waren – vor allem dank frei verfügbarer generativer KI-Tools. Diese manipulierten Inhalte haben sich branchenübergreifend verbreitet, betreffen Unternehmen aller Größenordnungen und machen effektive Identitätsüberprüfungen zu einer dringenden Herausforderung.

Wichtige Erkenntnisse

• Die Häufigkeit von Deepfake-Betrug nimmt zu. Bis zur Hälfte der Unternehmen weltweit haben bereits einen Betrugsversuch mit Audio- oder Video-Deefakes erlebt.
• Die durchschnittlichen finanziellen Verluste belaufen sich auf bis zu 450.000 Dollar, wobei große Unternehmen oft Verluste von über 1 Million Dollar melden.
• Was die Risikowahrnehmung betrifft, so sehen bis zu 66% der Führungskräfte Deepfake als ernsthafte Bedrohung an, wobei Identitätsdiebstahl (42%) und Phishing-Angriffe am häufigsten genannt werden.

Gesamtüberblick und Trends nach Sektoren

Die größten Auswirkungen haben Deepfakes in Ländern wie den Vereinigten Arabischen Emiraten und Singapur, wo mehr als 50% der Unternehmen im letzten Jahr einen Deepfake erlebt haben. Zu den am stärksten betroffenen Sektoren gehören IT, Kryptowährungen und Finanzdienstleistungen, aber auch Unternehmen aus dem Gesundheitswesen und der Luftfahrt berichten von erheblichen Risiken.

Schutzmaßnahmen für Unternehmen

Biometrische Verifikation und Multi-Faktor-Authentifizierung (MFA): Mehr als 84% der Unternehmen setzen moderne Technologien zur Fälschungserkennung ein, wobei biometrische Verfahren wie Fingerabdruck und Aktivitätserkennung die größte Rolle spielen.
Fortgeschrittene KI-Algorithmen: Fast die Hälfte der Unternehmen setzt maschinelles Lernen ein, um die Genauigkeit der Deepfake-Erkennung zu verbessern.

Die Menschen verlieren bereits Milliarden von Dollar pro Jahr, indem sie Betrügern Geld geben. Das Center for Financial Services des Beratungsunternehmens Deloitte prognostiziert, dass generative künstliche Intelligenz bis 2027 in den USA Betrugsverluste in Höhe von 40 Milliarden Dollar verursachen könnte, gegenüber 12,3 Milliarden Dollar im Jahr 2023, was einem Anstieg von 32% pro Jahr entspricht.

In der kommenden Zeit wird es interessant sein zu sehen, wie es den Unternehmen gelingt, sich auf immer raffinierteren Betrug einzustellen.

Deepfake-Technologie – Demonstration 4

Die gute Seite der Deepfake-Technologie

Obwohl Deepfake-Technologien oft mit Betrug und Bedrohungen in Verbindung gebracht werden, geht ihr Potenzial weit über Kriminalität hinaus. Wir werfen einen Blick darauf, wie die Anwendung von Deepfake verschiedene Branchen bereichern und die Qualität unseres täglichen Lebens verbessern kann.

Innovative Unterhaltung und Kunst

Deepfakes sind dabei, die Film- und Fernsehindustrie zu verändern. Sie ermöglichen es, realistische Spezialeffekte zu erzeugen, historische Charaktere zum Leben zu erwecken oder sogar Schauspieler für Szenen zu replizieren, die sonst unmöglich zu filmen wären. Darüber hinaus bieten sie Künstlern neue Möglichkeiten, ihre eigene Kreativität zum Ausdruck zu bringen, indem sie zum Beispiel Standbilder in lebendige Porträts verwandeln.

Personalisierung und Kommunikation

Im Marketing und in der Werbung kann die Deepfake-Technologie die Erstellung von personalisierten Kampagnen ermöglichen, die die Zielgruppen besser erreichen. Zum Beispiel kann die Erstellung von Videos, in denen bekannte Gesichter einzelne Kunden mit Namen ansprechen, das Engagement erhöhen und stärkere Markenbeziehungen aufbauen.

Pädagogische Tools

Deepfake-Technologien finden auch im Bildungsbereich Anwendung. Schulen und Universitäten können realistische Simulationen verwenden, um Geschichte zu lehren, indem historische Figuren „zum Leben erweckt“ werden und ihre Geschichten erzählen, oder um Fachleute wie Ärzte oder Piloten auszubilden, indem reale Situationen simuliert werden.

Schutz des kulturellen Erbes

Deepfakes können verwendet werden, um beschädigte oder verlorene kulturelle Artefakte zu rekonstruieren. Sie helfen dabei, Statuen, Gemälde oder andere historische Denkmäler digital zu restaurieren und sie einem breiteren Publikum zugänglich zu machen. Sie können auch als Hilfsmittel zur Bewahrung von Erinnerungen dienen, indem sie zum Beispiel realistische Modelle von Menschen für Familienarchive erstellen.

Forschung und Entwicklung im Bereich der künstlichen Intelligenz

Deepfake-Technologien tragen auch zur Verbesserung der künstlichen Intelligenz in den Bereichen der Betrugserkennung und des Datenschutzes bei. Die Forschung zur Deepfake-Betrugserkennung bringt neue Methoden zur Verbesserung der Sicherheit in der digitalen Welt.

Wie man einen Deepfake erkennt

Noch vor ein paar Jahren hätte man genau erklären können, wie man Deepfake-Material entlarvt. Heutzutage ist es fast unmöglich, wenn sich jemand die Mühe macht, alle möglichen Details herauszusuchen. Selbst KI-Systeme, die darauf abzielen, Deepfake-Muster in Inhalten zu finden, haben damit ein Problem. Dies gilt für Deepfake-Material, bei dem die Person keine schnellen Bewegungen macht. Zum Beispiel ist es für die Deepfake-Technologie immer noch ein Problem, einen realistischen Turner in einer Übung zu erzeugen. Nicht umsonst wird Turnen als der moderne Turing-Test für Deepfake bezeichnet.

Deepfake-Technologie – Demonstration 5

Wie können Sie sich vor Fehlinformationen schützen?

Cyberkriminelle und Betrüger wissen, dass viele Menschen, vor allem ältere, nicht zwischen einem Deepfake und einem echten unterscheiden können. Sie prüfen nicht, ob der angezeigte Inhalt authentisch ist. Der einzige Schutz, den dir die Natur mitgegeben hat, ist kritisches Denken. Bevor du etwas glaubst, was du siehst, hörst oder liest, musst du innehalten und dir ein paar Fragen stellen. Du hast sie wahrscheinlich schon einmal gehört.

Wer? Wer stellt diese Informationen zur Verfügung und aus welcher Quelle stammen sie?
Was? Was wird gesagt oder gezeigt? Sind die Informationen schockierend? Klingt es zu schön, um wahr zu sein?
Wo? Woher stammen diese Informationen? Ist es möglich herauszufinden, wo sie zuerst veröffentlicht wurde?
Wann? Wann wurde diese Information aufgezeichnet? Kannst du sie überprüfen?
Warum? Warum werden diese Informationen präsentiert? Könnte ein Hintergedanke dahinterstecken?
Wie? Wie weiß ich, dass es echt ist?

Quiz

Du kannst in diesem Quiz sehen, dass es immer schwieriger wird, Deepfake-Inhalte von echten Inhalten zu unterscheiden (Quiz auf Englisch).

Deepfake – Risiko oder Chance?

Die Deepfake-Technologie ist eine faszinierende Demonstration dafür, wie weit menschliche Kreativität und Technologie Hand in Hand gehen können. Sie ermöglicht es uns nicht nur, realistische Bilder und Geschichten zu erstellen, sondern auch das Wesen dessen zu hinterfragen, was wir für die Realität halten. Sie zwingt uns, unser Vertrauen neu zu bewerten – in das, was wir sehen, hören und lesen.

Doch in dieser Illusion liegt auch eine Chance. Sie lehrt uns, genauer hinzusehen, kritische Fragen zu stellen und nicht dem ersten Eindruck nachzugeben. Mit kritischem Denken, Faktenüberprüfung und einer vorsichtigen Herangehensweise können wir diese Technologie nicht nur beherrschen, sondern sie auch zum Nutzen der Gesellschaft einsetzen.

Deepfake ist ein außergewöhnliches Phänomen, wie das Feuer, das gefährlich sein kann, aber auch äußerst nützlich, wenn wir es richtig zu kontrollieren wissen. Es öffnet die Tür zu neuen Formen von Kreativität, Lernen und Innovation. Die Herausforderung besteht nicht nur darin, uns gegen seine Risiken zu schützen, sondern auch Wege zu finden, es so in unser Leben zu integrieren, dass es uns dient und nicht schadet.

Die Zukunft gehört denen, die die Technologie zähmen und sie in ein Werkzeug für das Gute verwandeln können. Kritisches Denken ist unsere größte Waffe. Mit ihm können wir die Illusion überwinden und eine digitale Welt schaffen, in der die Wahrheit stärker ist als die Lüge. Deepfake ist sowohl eine Herausforderung als auch eine Chance – es liegt an uns, mit der Illusion umzugehen.

FAQ Fragen und Antworten

Was ist Deepfake?

Deepfake ist eine Technologie, die künstliche Intelligenz verwendet, um realistische gefälschte Videos oder Audioaufnahmen zu erstellen. Diese Aufnahmen können Menschen zeigen, die Dinge sagen oder tun, die sie in Wirklichkeit nie getan haben.

Wie funktioniert deepfake?

Deepfake verwendet Algorithmen des maschinellen Lernens, insbesondere Techniken wie generative adversarial networks (GANs). Diese Netzwerke lernen aus großen Datenmengen, Gesichter und Stimmen mit hoher Genauigkeit zu reproduzieren.

Welche Einsatzmöglichkeiten bietet die Deepfake-Technologie?

Deepfake kann eine Vielzahl von Anwendungen haben, von der Unterhaltung (z.B. in Filmen und Videospielen) bis hin zu Bildung und Werbung. Es kann aber auch missbraucht werden, um Fehlinformationen zu verbreiten oder Fake News zu erstellen.

Ist es möglich, einen Deepfake zu erkennen?

Die Erkennung von Deepfake-Technologie ist eine Herausforderung, aber es gibt Tools und Techniken, die entwickelt wurden, um gefälschte Videos zu identifizieren. Diese Tools suchen nach Unregelmäßigkeiten bei Bewegung, Beleuchtung und Ton.

Was sind die rechtlichen und ethischen Probleme im Zusammenhang mit Deepfake?

Deepfake wirft viele ethische und rechtliche Fragen auf, darunter Datenschutz, Urheberrecht und die Möglichkeit des Missbrauchs zur Verbreitung von Falschinformationen. Viele Länder haben bereits begonnen, Gesetze zu erlassen, um diese Technologie zu regulieren.

Kann Deepfake die Sicherheit gefährden?

Ja, Deepfake kann für Betrug, Erpressung oder politische Manipulation verwendet werden. Es gibt Fälle, in denen Deepfake-Videos verwendet wurden, um Amtsträger zu diskreditieren oder gefälschte Nachrichten zu verbreiten.

Wie kann ich mich vor einem Deepfake schützen?

Es ist wichtig, beim Konsum von Online-Inhalten wachsam zu sein. Prüfe Informationsquellen, folge offiziellen Kanälen und sei skeptisch bei Videos, die verdächtig aussehen oder ohne Kontext verbreitet werden.

Autor Jozef Wagner, Java Entwickler Senior bei msg life Slovakia

Artikel teilen

Deepfake – was es ist und wie man es vom Original unterscheiden kann

Jozef Wagner

Ich programmiere seit mehr als 10 Jahren in Java und arbeite derzeit bei msg life Slovakia als Senior Java-Programmierer und unterstütze Kunden bei der Implementierung ihrer Anforderungen in die Versicherungssoftware Life Factory. In meiner Freizeit entspanne ich gerne im Wald oder spiele ein gutes Computerspiel.