Deepfakes in der Schule: Sind Ihre Schüler*innen vorbereitet? Dieser kompakte Artikel bietet Lehrkräften praktische Einblicke in die Welt der Deepfakes. Erfahren Sie, wie Sie diese erkennen und Ihre Schüler*innen effektiv schützen können. Ein Muss für jeden, der im digitalen Klassenzimmer bestehen möchte.
Was sind Deepfakes?
Deepfakes sind mit Künstlichen-Intelligenz-Systemen erzeugte Medieninhalte, die durch die Manipulation von Bild-, Audio- oder Videomaterial Gesichter, Stimmen und Handlungen von Personen imitieren.
Sie sind oft so realistisch, dass sie kaum von echten Aufnahmen zu unterscheiden sind.
Das liegt daran, dass solche KI-Systeme mit großen Mengen an Daten, wie Bildern oder Tonaufnahmen der Zielperson, trainiert werden (zum Beispiel einer politischen Persönlichkeit). Die Systeme lernen dadurch, Muster und Eigenschaften dieser Person zu erkennen und zu imitieren. So kann kann ein Video manipuliert werden.
Modernste Techniken und benutzerfreundliche Anwendungen ermöglichen es sogar Nicht-Experten, täuschend echte Fälschungen zu erstellen. Diese können beispielsweise Menschen Dinge sagen oder tun lassen, die in Wirklichkeit nie stattgefunden haben.
Deepfakes stellen daher sowohl eine technische Errungenschaft als auch ein Risiko für Desinformation und Missbrauch dar.
Die wichtigsten Infos
zu KI im Unterricht
direkt in Ihr Postfach
Gefahren, die durch Deepfakes ausgehen
Deepfakes stellen nicht nur eine Bedrohung für die persönliche Sicherheit dar, sondern können auch die Demokratie gefährden.
Hier eine erweiterte Darstellung einiger Gefahren:
- Überwindung biometrischer Systeme: Deepfakes können biometrische Sicherheitssysteme täuschen, indem sie Gesichter, Stimmen und andere Merkmale einer Zielperson nachahmen. So könnten sie unerlaubten Zugang zu sensiblen Informationen erlangen.
- Social Engineering und Phishing: Deepfakes können verwendet werden, um überzeugende Phishing-Angriffe durchzuführen. Durch die Imitation von Stimmen von Autoritätspersonen können sie Menschen dazu verleiten, vertrauliche Informationen preiszugeben.
- Desinformationskampagnen: Sie ermöglichen die Durchführung glaubwürdiger Desinformationskampagnen, indem manipulierte Inhalte von Schlüsselpersonen verbreitet werden, was die öffentliche Meinung irreführen kann.
- Verleumdung: Durch das Zeigen von Personen in unangebrachten Situationen oder das Vortäuschen falscher Aussagen können Deepfakes den Ruf von Einzelpersonen schädigen.
- Gefährdung der Demokratie: Deepfakes können benutzt werden, um politische Agenden zu manipulieren, indem sie gefälschte Nachrichten oder irreführende Darstellungen von Politikern verbreiten. Dies untergräbt das Vertrauen in demokratische Prozesse und Medien, was zu politischer Destabilisierung führen kann.
So können Sie Deepfakes erkennen
Die Erkennung von Deepfakes erfordert ein hohes Maß an kritischem Denken und Medienkompetenz. Ein Hauptproblem ist, dass manche Deepfakes so überzeugend sind, dass selbst Expert*innen sie nur mit Mühe als Fälschungen identifizieren können. Sie nutzen fortschrittliche KI-Technologien, um Gesichter, Stimmen und Körpersprachen mit einer Genauigkeit zu reproduzieren, die kaum von der Realität zu unterscheiden ist.
In der Welt der sozialen Medien, wo Geschwindigkeit oft über Genauigkeit gestellt wird, verbreiten sich Deepfakes rasch und erreichen ein großes Publikum, bevor ihre Echtheit überprüft werden kann. Diese Plattformen sind auf schnellen Konsum ausgerichtet, und Nutzer*innen neigen dazu, Inhalte zu teilen, ohne deren Quelle zu hinterfragen.
Die Aufdeckung von Deepfakes ist ein zeitaufwendiger Prozess. Es erfordert eine gründliche Quellenforschung und oft den Einsatz spezialisierter Software, um Unstimmigkeiten in Videos oder Audiodateien zu identifizieren. Die Herausforderung liegt darin, dass Deepfakes kontinuierlich verbessert werden, wodurch die Erkennungsmethoden ständig angepasst werden müssen.
Die „einfachste“ Art, Deepfakes zu erkennen, ist die gute alte Quellenrecherche!
- Wie habe ich das Video gesehen (auf X, Instagram oder auf der Website der Tagesschau)?
- Sind die im Video getätigten Aussagen kontrovers?
- Würde die im Video gezeigte Person solche Aussagen tätigen?
- Berichten seriöse und große Zeitungen darüber? Wenn nur eine Zeitung darüber berichtet, kann das Video dennoch ein Deepfake sein – am besten das Zwei-Quellen-Prinzip auf 3-4 Quellen erweitern
Dennoch gibt es natürlich auch visuelle und auditive Merkmale, die darauf hinweisen, dass es sich bei einem Video, um ein Deepfake handeln kann.
Visuelle Merkmale
von Deepfakes
Anhand der folgenden Merkmale können Deepfakes erkannt werden:
- Mimik der gezeigten Person und Inhalt des Videos passen nicht zusammen
- Das Video hat eine unregelmäßige Bildqualität
- Die Falten im Gesicht der gezeigten Person passen nicht zu ihrer Mimik
- Bewegungen der Lippen passen nicht zum Gesprochenen
- Die Framerate des Videos fällt abrupt ab (das Video stottert)
- Bewegungen der gezeigten Person sind unscharf (z.B. Bewegungen des Kopfes)
- Es scheint einen inkonsistenten Schatten zu geben
- Teile des Gesichts machen unnatürliche Bewegungen
Auditive Merkmale
von Deepfakes
Anhand der folgenden Merkmale können Deepfakes erkannt werden:
- Der Ton klingt metallisch
- Es gibt ein nicht zu erklärendes Hintergrundrauschen oder andere Geräusche, deren Ursprung nicht klar ersichtlich sind
- Die Interjektionen im gesprochenen Text sind falsch gesetzt
- Die Aussprache von bestimmten Wörtern wirkt falsch
- Die Audioqualität ist konträr zur Videoqualität (entweder das Bild hat eine viel bessere Qualität als das Audio oder andersrum)
- Zwischen den Sätzen gibt es lange unnatürliche Pausen
So entstehen Deepfakes (eine stark vereinfachte Erklärung)
Die Deepfake-Technologie basiert grundlegend auf dem maschinellen Lernen (ML). Maschinelles Lernen befähigt Computer dazu, aus großen Datenmengen zu lernen und komplexe Muster zu erkennen. Im Rahmen der Deepfake-Erstellung spielen neuronale Netze, eine spezielle Form des maschinellen Lernens, eine zentrale Rolle. Diese vom menschlichen Gehirn inspirierten Modelle sind besonders geeignet für die Verarbeitung von Bild- und Audiodaten und tragen wesentlich zur Erstellung von Deepfakes bei.
Der Erstellungsprozess eines Deepfakes umfasst mehrere Schritte:
- Datensammlung (Datenextraktion): Dieser Schritt beinhaltet die Sammlung umfangreicher Bild- oder Videomaterialien der Zielperson. Eine wichtige Voraussetzung ist hierbei, dass die Videos eine Vielzahl von Gesichtsausdrücken, Augenbewegungen und Kopfdrehungen der Zielperson zeigen.
- Analyse (Modelltraining): Die Analyse der gesammelten Daten erfolgt mittels Deep Neural Networks (DNNs), die für die Bild-, Video- oder Sprachverarbeitung spezialisiert sind. In diesem Schritt werden charakteristische Merkmale wie Gesichtszüge, Mimik und Sprachmuster der Zielperson erfasst. Es gibt zwei Hauptansätze: den „Faceswap“, bei dem die Identität einer Quellperson auf das Gesicht einer Ziel person übertragen wird, und die „Reenactment“-Methode, bei der die Gesichtsausdrücke und Kopfbewegungen der Ziel person durch eine Quellperson gesteuert werden.
- Nachbildung (Konvertierung): Die KI nutzt die Informationen aus dem Analyseprozess, um neue Inhalte zu erstellen. Dies geschieht häufig durch Übersynchronisation bestehender Aufnahmen der Person mit neu generiertem KI-Audio, das die Stimme der Person nachahmt. In diesem Schritt werden das Aussehen und die Sprache der Zielperson nachgeahmt, um Szenarien oder Aussagen zu erzeugen, die nie stattgefunden haben.
Ein zentraler Aspekt in der Erstellung von Deepfakes ist die Nutzung von Generative Adversarial Networks (GANs). GANs basieren auf einem Wettbewerb zwischen zwei Systemkomponenten:
- Generator: Erstellt neue Inhalte.
- Diskriminator: Unterscheidet zwischen echten und künstlich generierten Inhalten.
Der Generator erstellt also neue Inhalte und der Diskriminator überprüft, ob die Inhalte echt oder gefälscht sind. Dieser Wettbewerb führt zur kontinuierlichen Verbesserung beider Komponenten und resultiert in immer realistischeren Deepfakes.
