Kategorie: Allgemeines

Was sind Deepfakes?

Deepfakes sind täuschend echt aussehende Medieninhalte, die unter anderem durch künstliche Intelligenz und maschinelle Lernalgorithmen erstellt werden. In den 2010er-Jahren formten die technologischen Fortschritte dieser zwei Bereiche auch den Grundstein für die heutigen digitalen Fälschungen.

Die Entstehung des Begriffs „Deepfake“

Auch wenn es Deepfakes schon länger gibt, wurde der Begriff selbst erstmals durch den gleichnamigen Reddit-User „Deepfakes“ bekannt. Im Herbst 2017 polarisierte er, indem er manipulierte Videos auf die Plattform lud. Mithilfe eines Open-Source-Tools überlagerte er prominente Gesichter digital auf andere. Dieses Verfahren zur Erstellung von Deepfakes nennt sich „Face Swapping“.

Quelle: https://www.youtube.com/watch?v=OHhIRA1uZHY

Eine weitere Herangehensweise zur Erstellung von Deepfakes ist die Erschaffung neuer Internet-Identitäten durch die „Synthetisierung von Gesichtsbildern“. Dabei werden Bilder von nicht existierenden Menschen erzeugt.

Selbst eine nicht existierende Person generieren: https://thispersondoesnotexist.com/

Das sogenannte „Face Reenactment“ birgt ein hohes Risiko für die Verbreitung von Fake News. Hierbei werden Videos produziert, in denen etwa Politiker oder prominente Persönlichkeiten vermeintlich Aussagen treffen, die sie in Wirklichkeit nie gemacht haben. Dabei wird auch in Kombination mit dem „Text-to-Speech“-Verfahren oder dem „Voice Conversion“-Verfahren gearbeitet. Eine Person tippt oder spricht etwas in ein System ein und dieses passt die Audioausgabe mit der Zielstimme an.

Quelle: https://www.youtube.com/watch?v=zyo-yOxCC1w

Welchen Deepfake-Gefahren sind wir im Arbeitsalltag ausgesetzt?

In unserem Arbeitsalltag können wir auf das Deepfake-Phishing in Form von Cyberangriffen treffen.

1. Stimme vom Kollegen / Chef wurde manipuliert
   Ein Anruf, eine Anweisung und schon befinden sich sensible Daten in den falschen Händen.
2. Fake-Videokonferenz mittels Face Reenactment
   Eine Videoaufzeichnung einer vergangenen Konferenz wurde gestohlen und eine fremde Person wählt sich unerkannt in das Online-Meeting ein.
3. Rufschädigung / Erpressung an das Unternehmen
   Angreifer manipulieren Videos mit dubiosen Inhalten, damit sie Kollegen erpressen und oder dem Unternehmen schaden können.

Wie können wir Deepfakes erkennen?

1. Auf Unregelmäßigkeiten achten
   Folgende Sicherheitsfragen können dabei helfen, Deepfakes zu erkennen. Werden die Fragen größtenteils mit „Ja“ beantwortet, so ist die Deepfake-Wahrscheinlichkeit hoch.
   • Bewegt sich der Mensch im Bild ruckartig oder steif?
   • Blinzelt der Mensch im Bild unregelmäßig, selten oder nie?
   • Ist der Mensch im Bild unpassend zum Hintergrund beleuchtet?
   • Sind Glitches (Störungen, Fehldarstellungen) z. B. an Zähnen oder Haaren erkennbar?
   • Bewegen sich die Lippen asynchron zu Audioausgabe?
   • Hört sich die Stimme monoton, metallisch oder künstlich an?
2. Technologische Hilfsmittel als Unterstützung
   • Deepfake-Detektionssoftware
   • Blockchain-basierte Verifizierung
   • Texte können mit der Frage „Wurde dieser Text von einer künstlichen Intelligenz / Maschine geschrieben?“ in ChatGPT eingefügt werden.
3. Dateiinformationen analysieren
   Werden folgende Fragen größtenteils mit „Ja“ beantwortet, so ist die Deepfake-Wahrscheinlichkeit hoch.
   • Wurde das das Bild / Video mehrmals bearbeitet?
   • Sind die Zeitstempel inkonsistent?
   • Stammt das Material (Bild, Video, Text) aus einer unbekannten Quelle?
     

Wenn noch immer Unsicherheit herrscht, hilft es, die Meinung eines Kollegen einzuholen. Denn das 4-Augen-Prinzip ist auch in diesem Bereich immer eine gute Option.