Überzeugende „Deep Fakes“, nur um Sie zum Lächeln zu bringen?

Leviathan Press:

Persönlich glaube ich, dass Walter Scheller hinsichtlich der Zukunft von „Deep Fakes“ zu optimistisch ist. Verschiedene Techniken zur Gesichtsveränderung von Prominenten dienen manchmal nicht nur der Unterhaltung und Parodie. Sie geraten häufig in den Fokus der technischen Verarbeitung pornografischer Websites. Denken Sie außerdem an den jüngsten israelisch-palästinensischen Krieg, in dem alle möglichen bösartigen und hasserfüllten Falschinformationen im Umlauf waren, insbesondere gefälschte Bilder, mit denen versucht wurde, die Wut der Menschen durch visuelle Reize zu schüren. Dies hat zweifellos die öffentliche Meinung gespalten und die Flammen der Gewalt angefacht.

Wie können wir im Internet erkennen, was echt ist? Im Frühjahr 2023 löste ein Foto einer Explosion in der Nähe des Pentagons (unten) eine leichte Panik an der Wall Street aus. Dies war der erste Fall, in dem ein von künstlicher Intelligenz generiertes Bild über das Internet verbreitet wurde, um die Märkte zu beeinflussen.

Obwohl die Falschmeldung nach der Zensur verschwand, erschien sie vielen als Vorbote noch schlimmerer Dinge.

Dieses gefälschte Foto zeigt eine große Menge Rauch, der in der Nähe des Pentagons, dem US-Militärhauptquartier in Virginia, aufsteigt. © IAPONOMARENKO/TWITTER

Doch als Walter Scheirer, Informatiker und Experte für Medienforensik an der University of Notre Dame, seine Studenten das Internet nach Beispielen für mithilfe künstlicher Intelligenz manipulierte Videos durchforsten ließ, war er von den Ergebnissen überrascht. Es sei wie „endlose Memes“, sagte er.

Bisher scheinen die meisten überzeugenden Deepfakes eher darauf ausgelegt zu sein, Sie zum Lächeln zu bringen, als einen wirtschaftlichen Zusammenbruch herbeizuführen: ein falscher Tom Cruise, der davon spricht, sich die Hände zu waschen; Nicolas Cage tritt in all seinen Filmen auf; Biden, Trump und Obama spielen zusammen Call of Duty.

Scheller kam zu dem Schluss, dass es im Internet tatsächlich viele falsche Inhalte gebe, diese jedoch überwiegend eher darauf ausgelegt zu sein scheinen, Verbindungen zu schaffen, als zu stören und zu zerstören.

Walter Scherer. © Glass Darkly Films

Scheller und das Internet sind zusammen aufgewachsen. Als älterer Angehöriger der Generation Y beschreibt er seinen ersten Computer als „besonders primitiv“ – eine Set-Top-Box von Texas Instruments, die an den Fernseher der Familie angeschlossen war. In der Mittelschule begann er, sich im Hackerkanal Internet Relay Chat aufzuhalten und virtuell mit Cyberpunk-Rebellen im frühen Computer-Underground zu kommunizieren. Schon damals, sagte er, hätten Hacker es geliebt, wissenschaftliche Fakten und Fiktion zu vermischen, einfach aus Spaß und um anzugeben.

In seinem neuen Buch „A History of Fake Things on the Internet“ argumentiert Scherer, dass die heutigen Deep Fakes am besten in diesem Sinne verstanden werden können: dass sie in vielerlei Hinsicht die digitalen Nachkommen von Parodie- und Fantasietraditionen aus der Zeit vor dem Internet sind, von der Satire des 18. Jahrhunderts bis hin zur viktorianischen Geisterfotografie.

In einem kürzlichen Gespräch erzählte mir Scherer, dass er zu der Erkenntnis gelangt sei, dass die Verbreitung falscher Informationen im Internet keine radikale, schreckliche Abweichung von bürgerlichen Normen darstelle, sondern eine völlig natürliche Entwicklung unseres menschlichen Drangs, Mythen zu erschaffen und Geschichten zu erzählen.

-Wie definieren wir harmlose Falschinformationen und gefährliche Falschinformationen? -

Eines der Dinge, die ich beim Schreiben dieses Buches immer mehr zu schätzen gelernt habe, ist der Wert von Parodie und Satire in der menschlichen Kommunikation. Dies ist eine sehr alte Form der Gesellschaftskritik, die oft recht strategisch eingesetzt wird. Ein sehr berühmtes Beispiel, lange vor dem Internet, war ein Essay von Jonathan Swift aus dem Jahr 1729 mit dem Titel „Ein bescheidener Vorschlag“.

In dem Artikel geht es um Kannibalismus und das Essen von Babys, was in der Tat verstörend ist, aber Swift spricht nicht wirklich über Kannibalismus. Er versucht, eine soziale Kritik an der Armut in Irland zu äußern (der Artikel macht den folgenden Vorschlag: „Stellen Sie 100.000 der 120.000 Babys in Irland als Leckerbissen den Reichen zur Verfügung“, in der Überzeugung, dass dies die finanziellen Schwierigkeiten armer Eltern lindern würde. Anmerkung des Herausgebers). Wenn Sie es kritisch und aufmerksam lesen, werden Sie sofort eine Verbindung herstellen und das Thema möglicherweise auf eine düstere Art und Weise interessant finden – was natürlich Swifts Absicht ist.

© Audible

Doch im Laufe der Jahre wurde der Aufsatz oft missverstanden. Es gibt gelegentlich öffentliche Lesungen, und selbst heute noch verlieren die Leute den Verstand: Wie um alles in der Welt kann jemand dafür eintreten, Babys zu essen? ——Das geht offensichtlich am Thema vorbei.

Viele Inhalte im Internet sind so. Es steckt voller subversiver Inhalte, die ein wenig Nachdenken erfordern, um die Botschaft zu verstehen. Das Problem besteht darin, dass wir aufgrund der Informationsflut in den sozialen Medien oft nur oberflächlich informiert bleiben, was zu Aufruhr führen kann.

-Was ist mit Deep Fakes? Der Inhalt sieht und klingt so authentisch, dass es schwer ist, dies zu erkennen, geschweige denn zu widerlegen. Sind auch diesbezüglich die Bedenken übertrieben?

-Ja, das ist ein neues Problem. Deepfakes tauchten erstmals 2017 im Internet auf, sind also heute keine besonders neue Technologie mehr. Es besteht große Sorge, dass das Video in einem politischen Kontext auftaucht und den Verlauf einer Wahl verändern oder zu politischer Gewalt führen könnte. Aber nichts davon ist passiert.

© Michigan Radio

– Sie schreiben in Ihrem Buch viel über den Computer-Untergrund in den 1990er und frühen 2000er Jahren. Ihrem Bericht zufolge scheint es, dass die Menschen im Internet schon damals die Grenze zwischen Fakten und Fiktion verwischten. Hacker tauschen untereinander technische Informationen sowie Gerüchte und Witze aus. Wie sind Sie als Teenager in diese Welt hineingezogen worden?

- Ich hatte mich schon immer für Computer interessiert, aber in der Mittelschule fand ein Freund von mir einige Hacker-Textdateien, im Grunde von Hackern erstellte Zeitschriften für kreatives Schreiben, und er sagte: „Schau, das Zeug ist wirklich interessant!“ Da wurde mir klar, dass es eine ganz andere Welt der Computer gab.

-Was ist in diesen Dateien? Gibt es Verschwörungsbotschaften wie „Raten Sie mal, was die Regierung wirklich tut?“

– wir werden auf diese Dinge eingehen, aber es steckt noch viel mehr dahinter, zum Beispiel gibt es jede Menge Cheat-Codes für Videospiele. Aber dann geht es tiefer: Haben Sie beispielsweise vom Unix-Betriebssystem gehört, das von Unternehmen und Regierungen verwendet wird? So greifen Sie darauf zu und verwenden es: Dann gibt es den Abschnitt Kreatives Schreiben. Neben den klassischen Verschwörungstheorien gibt es auch jede Menge Inhalte über UFOs und Paranormales, die unmöglich wahr sein können, aber interessant genug sind, um Lust aufs Weiterlesen zu machen. Ich finde es wirklich cool, all diese Ideen zusammenzubringen.

© Wikipedia

-Haben Sie selbst schon einmal an legendären Hackerangriffen teilgenommen? Gibt es etwas, das Sie verraten möchten?

- Ich möchte den in meinem Buch erwähnten Hackern die ganze Ehre erweisen. Ich war damals noch jung.

- Weil es eine Geschichte gibt, die mich neugierig macht. Sie schreiben über eine große Textdatei, die 2012 online aufgetaucht ist und offenbar mehrere Jahre äußerst erfolgreicher Angriffe auf große Unternehmen und staatliche Ziele dokumentiert – tiefgreifende Penetrationsangriffe, für deren Durchführung jemand ins Gefängnis kommen kann. Sie haben kommentiert, dass bis heute niemand weiß, wer dahinter steckt. Ihre Formulierung lässt mich fragen, ob Sie es sind.

-Kein Kommentar.

– (Gelächter) Sie vertreten also offensichtlich die anarchistische Idee, dass das Internet frei sein will. Doch heute unterrichten Sie an der Notre Dame und in Ihrer Biografie heißt es, Sie „setzen sich für die Entwicklung einer Technologie ein, die von der katholischen Soziallehre inspiriert ist“, und ich habe ein wenig Schwierigkeiten, die beiden Dinge miteinander in Verbindung zu bringen: antiautoritärer Hacker und katholischer Sozialdenker. Können Sie das erklären?

-Die Verbindung zwischen ihnen ist die Idee der Gemeinschaft. Hacker sind eine wirklich interessante Subkultur – eine Gruppe von Menschen, die zum ersten Mal miteinander in Kontakt treten und etwas Bleibendes schaffen. Sie haben die Computersicherheitsbranche geschaffen. Und in der katholischen Soziallehre geht es darum: Wie können wir ein Gemeinschaftsgefühl entwickeln? Wie lässt sich ein Konzept gemeinsamer Interessen etablieren?

Hier besteht eine wichtige Verbindung: Wenn man in die Vergangenheit zurückgeht und sich die Ideen ansieht, die wir heute zum Aufbau des Internets verwenden, werden Sie feststellen, dass viele davon von Marshall McLuhan stammen, einem berühmten Medientheoretiker der 1960er Jahre. Er war eng mit der Gegenkulturbewegung verbunden, was viele Menschen jedoch nicht wissen: Er war ein gläubiger Katholik.

Marshall McLuhan (1911–1980) war ein kanadischer Philosoph und Pädagoge, der an der Universität englische Literatur, Literaturkritik und Kommunikationstheorie lehrte. Er war außerdem der Begründer der modernen Kommunikationstheorie und seine Ansichten hatten einen tiefgreifenden Einfluss auf die menschliche Wahrnehmung der Medien. Er hatte die Geburt des Internets vorhergesagt, als das Wort „Internet“ noch nicht existierte, und er war der erste, der den Begriff „globales Dorf“ übernahm. © The Paris Review

-Da bin ich mir wirklich nicht sicher.

- Er konvertierte zum Katholizismus und glaubte, dass der katholische Glaube das ultimative Mediensystem sei. Denn Sie kommunizieren ständig, nicht wahr? Mit Heiligen, mit den Toten und natürlich mit Gott. Es ist faszinierend zu sehen, wie diese Idee sein Denken über Medien durchdringt, kombiniert mit Gebet und Meditation – Formen der Spiritualität. Ihn faszinierte die Idee, den gesamten Planeten durch ein Informationsnetzwerk zu vereinen.

- Hat er nicht geschrieben, dass wir am Ende zu Informationen werden? Das klingt nach einer Art Online-Kommunion.

Absolut richtig. Wenn Sie an Technologie denken, ist sie irgendwie mysteriös, nicht wahr? Ich glaube nicht, dass es eine völlig verrückte Idee ist. Viele Menschen diskutieren auf diese Weise über neue Technologien, insbesondere wenn sie versuchen, künstliche Intelligenz zu verstehen – hat sie beispielsweise eine Art spirituelle Dimension? Ich denke, dass es dafür einen Grund gibt. Alle diese Technologien sind Formen menschlicher Schöpfung, und im Christentum sind wir dazu aufgerufen, gemeinsam mit Gott zu erschaffen. Er hat uns die Fähigkeit gegeben, etwas zu erschaffen.

- Sie glauben also, das Internet sei eine Erweiterung der kollektiven Vorstellungskraft der Menschheit. Anstatt es als marktorientierte Technologie zu betrachten, kann man es als ein Werkzeug zur Mythenbildung betrachten.

Sie sprachen über die Idee des Anthropologen Claude Lévi-Strauss, dass wir gleichzeitig in zwei verschiedenen Reichen leben: der realen Welt oder dem Reich der Wahrheit und dem mythischen Kreislauf. Wie lässt sich dieses Konzept auf all die seltsamen Dinge im Internet anwenden?

-Levi-Strauss war zu der Erkenntnis gelangt, dass die Vorstellungskraft für das menschliche Überleben sehr nützlich sei, im 19. und 20. Jahrhundert jedoch vernachlässigt wurde. Und doch erfinden wir immer noch Geschichten. Nun, warum ist das so? Wenn Sie ein völlig rationaler Mensch wären, würden Sie jeden Aspekt Ihres Lebens optimieren wollen. Warum Zeit mit Geschichtenerzählen und Erfinden verschwenden? Das ist nicht effizient.

Besonders im 21. Jahrhundert ist der Gedanke, dass Tagträumen nützlich sein könnte, schockierend. Sollten wir nicht einfach nur arbeiten? Levi-Strauss glaubte jedoch, dass beide Denkweisen wichtig seien und sich gegenseitig ergänzten.

© The Boston Globe

- Das ist interessant, weil wir uns vielleicht fragen, warum wir so viel Arbeitskraft in den Aufbau einer simulierten virtuellen Welt stecken – in den Versuch, online eine armselige Kopie unserer Schöpfung zu erstellen. Aber mir scheint, Ihr Punkt ist, wie bei Levi-Strauss, dass das Internet uns Menschen die Macht gibt, Mythen zu erschaffen.

Vielleicht ist die Faszination nicht verschwunden, sondern hat sich wieder in diese wilde, ungeformte Grenze eingeschlichen, die unser Internet geschaffen hat. Wenn ja, dann bedeuten all diese kleinen Memes mehr als wir dachten?

-Davon bin ich fest überzeugt. Dies ist nicht überraschend, wenn man die Kultur im Laufe der Jahrhunderte betrachtet. Wir entwickeln innovative neue Technologien und sorgen ständig für Überraschungen – und wir nutzen sie, um Geschichten zu erzählen. Ich glaube, das wird größtenteils missverstanden.

Ich meine, wozu ist das Internet da? Viele Leute sprechen immer noch von der Datenautobahn. Sie gehen dorthin, um sich Fakten zu verschaffen und Ihre Arbeit zu erledigen – ein Rückfall in den Unternehmensrummel der Dotcom-Ära der 90er Jahre. Aber das ist nie die Absicht des Internets. Es ähnelt eher McLuhans Vision eines kreativen Raums, in dem wir Projektionen unserer Vorstellungskraft mit anderen teilen können.

-Das lässt mich denken, dass wir mit den falschen Leuten über das Internet gesprochen haben. Anstatt mit Technikgurus und Internetpolitik-Experten zu sprechen, sollten wir uns an Psychoanalytiker, Anthropologen und Theologen wenden – an Menschen, die sich darauf konzentrieren, über die Geschichten nachzudenken, die wir erzählen, und über unsere unbewussten Beweggründe, sie zu erzählen. Sigmund Freud würde sich online wie zu Hause fühlen.

-Ja, denk an Träume. Ich meine, das Internet – insbesondere durch diese kreativen KI-Technologien – ist wie ein Traum, oder? Wie viel vom menschlichen Leben ist in diesen KI-Illusionen kodiert? Ich denke, dass in diesem Bereich viel interessante Arbeit zu leisten ist, aber es wird sehr wenig getan.

- Noch etwas, das ich kürzlich gelesen habe – „The Resurrected Deepfakes“. „Chatbots“ oder Nachbildungen verstorbener Personen. Dies ist ein Thema, das dringend einer eingehenden Analyse bedarf.

-Ja, es ist eine großartige Idee, dass künstliche Intelligenz den Menschen tatsächlich ein neues Leben schenken kann. Und es ist eine alte Idee, ein bisschen wie die „paranormale Fotografie“, die im späten 19. und frühen 20. Jahrhundert populär war. Fotografen werden immer raffinierter im Umgang mit Spezialeffekten – ja, es ist tatsächlich möglich, Fotos in einer Dunkelkammer zu bearbeiten! Sie entdeckten, dass man zwei unterschiedliche Bilder erhalten konnte, wenn man den Film zweimal belichtete. So könnte man jemanden für ein Porträt Modell sitzen lassen und dann dasselbe Negativ einem alten Foto eines lange verschollenen Verwandten aussetzen, das bei der zweiten Belichtung als geisterhafte Erscheinung erscheinen würde.

© Nationales Wissenschafts- und Medienmuseum

Im Grunde machen die Leute jetzt ähnliche Dinge mit Deepfakes, oder? Die Menschen haben das Bedürfnis, mit ihren verstorbenen Lieben in Kontakt zu bleiben – ich schätze, McLuhan wäre damit durchaus zufrieden gewesen.

- Sie haben mich zu dem Schluss gebracht, dass die Frage, ob etwas im Internet echt oder gefälscht ist, irrelevant zu sein scheint. Es ist nicht so, dass Sie unmoralisches Verhalten gutheißen. Einer Ihrer Hauptpunkte besteht jedoch darin, dass Fehlinformationen im Internet mehr enthüllen als verbergen, weil sie uns etwas über uns selbst verraten. Welche Botschaft vermitteln sie?

- Dies ist die große Frage, die viele Sozialwissenschaftler zu stellen versuchen – eine allgemeine Erklärung, die das gesamte Phänomen zusammenfasst. Aber letzten Endes ist es nur Geschichtenerzählen. Die Leute wollen einfach irgendeine Art von Verbindung zu anderen Leuten. Viele dieser Medienobjekte sind für die zwischenmenschliche Interaktion gedacht. Es gibt etwas, das ich mit Ihnen teilen möchte. Es gibt etwas, das Sie über mich oder meine Community wissen sollten.

Von Anne Strainchamps

Übersetzt von tamiya2

Korrekturlesen/tim

Originalartikel/nautil.us/stop-worrying-about-deepfakes-470212/

Dieser Artikel basiert auf der Creative Commons License (BY-NC) und wird von tamiya2 auf Leviathan veröffentlicht

Der Artikel spiegelt nur die Ansichten des Autors wider und stellt nicht unbedingt die Position von Leviathan dar