Sehen heißt glauben. Zumindest war das so, bevor uns klar wurde, dass man Videos ganz einfach und überzeugend manipulieren konnte, um Falschmeldungen zu verbreiten und die Geschichte umzuschreiben. Wir haben zwar Wege gefunden, die meisten Falschmeldungen zu entlarven, aber es gibt eine technologische Entwicklung, die immer schneller voranschreitet und es immer schwieriger macht, zu erkennen, was echt und was gefälscht ist.
Deepfakes verändern alles, was wir in Bezug auf manipulierte Videos für möglich gehalten haben. Hier erfahren Sie, was Deepfakes sind und welche Risiken diese Technologie mit sich bringt …
Was ist ein Deepfake?
Der Begriff Deepfakes setzt sich aus den Wörtern „Deep Learning“ und „Fakes“ zusammen. Dies liegt daran, dass diese Videos von künstlicher Intelligenz erstellt werden, die auf Bild- und Videosynthese trainiert ist. Die Definition eines Deepfakes ist also ein gefälschtes Video oder Bild, das mithilfe künstlicher Intelligenz generiert wird, um das Gesicht und die Stimme der dargestellten Person zu ersetzen. Diese KI kann das Gesicht einer Person (der Quelle) auf ein Video einer anderen Person (des Ziels) legen. Fortgeschrittenere Formen der Deepfake-Technologie können inzwischen ein völlig neues Modell einer Person synthetisieren, indem sie die Gesichtsgesten der Quelle und Bilder oder Videos der Person verwenden, die sie imitieren möchte.
Die Technologie kann Gesichtsmodelle auf der Grundlage begrenzter visueller Daten, beispielsweise eines Bildes, erstellen. Je mehr Daten die KI jedoch verarbeiten kann, desto realistischer ist das Ergebnis.
Deshalb sind Politiker und Prominente so leichte Ziele für Deepfakes, da online so viele visuelle Daten verfügbar sind, die die Software nutzen kann. Da Deepfake-Software auf Open-Source-Plattformen verfügbar ist, verfeinern und erweitern die Leute im Internet ständig die Arbeit anderer.
Woher kommen Deepfakes?
Die Technologie hinter Deepfakes wurde für eine Vielzahl von Zwecken entwickelt. Ähnlich wie Photoshop kann die Software professionell, in der Unterhaltung und für Hobbys verwendet werden. Und genau wie bei Photoshop hat die Tatsache, dass die ursprünglichen Entwickler bei der Entwicklung der Software keine bösen Absichten hatten, die Leute nicht davon abgehalten, sie für böswillige Zwecke zu verwenden.
Die Technologie zum Gesichtstauschen wurde ursprünglich hauptsächlich in der Filmindustrie eingesetzt. Eines der berühmtesten Beispiele ist der Film Rogue One: A Star Wars Story aus dem Jahr 2016. In dem Film verwendeten die Filmemacher Gesichtstausch- und Videosynthese-Technologien, um die Figur Großmoff Tarkin nachzubilden.
Im Film wurde auch eine jüngere Version von Prinzessin Leia geschaffen. In beiden Fällen wurden Modelle der Gesichter der Originalschauspieler auf die Ersatzschauspieler proji*ziert.
Apps wie Snapchat verwenden ebenfalls Gesichtstauschtechnologie, um lustige Filter für Benutzer zu erstellen. Die Entwickler dieser Apps verfeinern die Gesichtserkennung und -verfolgung kontinuierlich, um diese Filter effektiver anzuwenden.
Andere haben Videosynthese-Tools entwickelt, um Hologramme für Bildungszwecke zu erstellen. Ein Projekt entwickelte beispielsweise Video- und Gesichtssynthese-Software, damit die Aussagen von Holocaust-Überlebenden als interaktive Hologramme in einem Museum präsentiert werden konnten.
Die Deepfake-Technologie schreitet schnell voran
Maschinelles Lernen macht das Leben einfacher, aber in diesem Fall macht es Fälschungen deutlich einfacher. Genau wieKI-generierte Kunst verändert die Kunstindustrie, Deepfakes haben die Natur von Online-Videos verändert. Einige dieser Änderungen sind jedoch negativ.
Erstens ist Deepfake-Software weithin und kostenlos verfügbar. FakeApp ist beispielsweise eine beliebte Wahl zum Erstellen von Deepfakes. Sie benötigen keine fortgeschrittenen Kenntnisse, um einen Gesichtstausch durchzuführen, die Software erledigt das für Sie.
Aber da KI und Deep Learning dabei helfen, Deepfakes zu erstellen, verbessert sich auch die Technologie und wird in alarmierendem Tempo überzeugender. Manchmal sind diese Änderungen mit bloßem Auge nicht sichtbar, was es schwierig macht zu erkennen, was echt ist und was nicht. Es gibt einige verräterischeAnzeichen, die Ihnen helfen, einen Deepfake zu erkennen, wie etwa das Abschneiden von Kanten oder die Verzerrung von Flächen in bestimmten Winkeln.
In einer Welt voller Fake News könnten überzeugende Deepfakes eine chaotische Kraft gegen das sein, was wir für wahr halten. Der Aufstieg der Deepfakes findet zudem in einer Zeit statt, in der KI-Sprachsynthese undKI-Sprachgeneratorenschreiten auch voran.
KI kann nicht nur gefälschte Videos erstellen, sondern auch Stimmmodelle für Menschen. Das bedeutet, dass Sie keinen Imitator brauchen, um es so klingen zu lassen, als würde ein Politiker eine empörende Aussage machen. Sie können KI stattdessen trainieren, ihre Stimme zu imitieren.
Die Folgen von Deepfakes
Während du kannstVerwenden Sie Deepfakes, um unterhaltsame Videos zu erstellenViele Menschen nutzen Deepfakes auch für böswillige Zwecke. So wurden mit FakeApp gefälschte Videos von Prominenten in kompromittierenden Szenarien erstellt.
Darüber hinaus gibt es in den meisten Ländern noch keine Gesetze, die sich mit dieser Art von Inhalten befassen, was ihre Regulierung erschwert. Zwar sind wir noch weit von der Dystopie entfernt, die von Fehlinformationen und falschen Videobeweisen beherrscht wird, wie wir sie in Filmen wie „Running Man“ sehen, aber wir sind mit den Auswirkungen von Fake News bereits allzu vertraut.
Die Folgen von Deepfakes, die für politische Zwecke eingesetzt werden, sind zweifach. Erstens machen sie die Verbreitung von Fake News viel einfacher. Videos überzeugen die Menschen eher als Texte oder Bilder davon, dass etwas Fiktives tatsächlich passiert ist. Die Leute glauben bereits Schlagzeilen von Fake-Websites, für die es keine Beweise gibt.
Ein Beispiel für Deepfakes, die verwendet werden, um Menschen in die Irre zu führen, ist der Deepfake von 2022, der ein Video des ukrainischen Präsidenten Wolodymyr Selenskyj wiedergab, in dem er Truppen zur Kapitulation aufforderte. Dies erwies sich als Fälschung, aber das Video kursierte trotzdem in den sozialen Medien.
Andererseits könnten Deepfakes auch Politiker ermutigen, sich der Verantwortung zu entziehen. Sie könnten jederzeit leicht behaupten, dass eine Audio- oder Videoaufnahme tatsächlich ein Deepfake sei.
Wie bekämpfen wir Deepfakes?
Es kann schwierig sein,Schützen Sie sich vor Deepfake-Videos. Unternehmen arbeiten jedoch daran, Deepfakes leichter erkennbar zu machen. Es gibt eine Vielzahl von Tools zur Bekämpfung bösartiger gefälschter Videos. Viele dieser Tools verwenden KI, um Manipulationen in Videos zu erkennen.
Die AI Foundation hat ein Browser-Plugin namens Reality Defender entwickelt, das dabei helfen soll, Deepfake-Inhalte im Internet zu erkennen. Ein weiteres Plugin, SurfSafe, führt ähnliche Prüfungen durch. Beide Tools zielen darauf ab, Internetnutzern dabei zu helfen, Fakten von Fiktion zu unterscheiden.
Seriöse Websites zur Faktenprüfunghaben sich auch auf die Anzeige manipulierter Videos ausgeweitet. Inzwischen hat Microsoft auch eine Technologie eingeführt, die dabei helfen soll, Deepfake-Videos zu bekämpfen.
Sogar das US-Verteidigungsministerium hat in Software investiert, um Deepfakes zu erkennen. Denn was würde passieren, wenn ein überzeugendes Video eines Staatsoberhaupts online auftaucht, das einem anderen Land den Krieg oder einen Raketenstart erklärt? Regierungen brauchen Tools, um die Echtheit eines Videos schnell überprüfen zu können.
Unbeabsichtigte Folgen des maschinellen Lernens
Es besteht kein Zweifel, dass KI-Technologie und Deep Machine Learning unser Leben in vielerlei Hinsicht verbessern. Aber die Technologie hat auch unbeabsichtigte Folgen. Es ist schwer vorherzusagen, wie Menschen bestimmte Technologien für böswillige Zwecke nutzen könnten, und Deepfakes sind ein Beispiel dafür.
