Wie kann man den Trick durchbrechen, Menschen durch künstliche Gesichtsveränderung zu betrügen?

Mit der kontinuierlichen Weiterentwicklung der Technologie

KI-Anwendungsszenarien werden immer vielfältiger

„Gesichtsänderung mit einem Klick“, um Fotos mit Ihren Lieblingsidolen zu machen

Onkel verwandelt sich dank KI-Technologie in Sekundenschnelle in eine Lolita-Königin

„AI Stefanie Sun“ wurde sofort nach seinem Debüt populär

…

KI war einst sehr weit von uns entfernt

Jetzt dringt es schnell in das Leben der breiten Öffentlichkeit ein

Es ist zu beachten, dass

Betrüger haben es auch auf KI-Technologie abgesehen

Verwenden Sie es, um „True and False Monkey King“ zu spielen.

Die Person, mit der Sie per Video chatten, ist möglicherweise nicht ich

kürzlich

Die Polizei von Baotou veröffentlichte einen typischen Fall der Verwendung von KI zur Begehung von Telekommunikationsbetrug

Ein Freund rief mich plötzlich per Video an

Herr Guo aus Fuzhou wurde immer noch getäuscht, nachdem er sein Aussehen und seine Stimme bestätigt hatte

4,3 Millionen Yuan wurden in 10 Minuten betrogen

Es stellte sich heraus, dass der Betrüger intelligente KI-Gesichtsveränderungs- und Stimm-Onomatopoesie-Technologie verwendete

Er gab sich als Freund aus und wurde betrogen

Glücklicherweise

Nach dem Alarm aktivierten die Polizei und die Banken in Fuzhou und Baotou schnell den Zahlungsstoppmechanismus

Erfolgreiche Zahlungseinstellung von 3,3684 Millionen Yuan

Nachdem der Fall bekannt wurde

Das Thema #KI-Betrug bricht im ganzen Land aus# wurde zu einer beliebten Suchanfrage

Große Aufmerksamkeit bei den Internetnutzern erregt

Gängige KI-Betrugstaktiken

So verhindern Sie KI-Betrug

Gibt es also keine Möglichkeit, mit Betrügereien im Zusammenhang mit der Gesichtsveränderung durch KI umzugehen?

Im KI-Zeitalter entspricht das, was Sie sehen und hören, nicht unbedingt der Wahrheit, was die Verwirrung erheblich verstärkt. Mittels KI-Technologie, gepaart mit Routinen und Skriptinterpretation, muss dieser Art von Betrug Einhalt geboten werden.

Betrug ist immer so raffiniert, aber Prävention ist immer so abenteuerlich.

Um ein „Wildwachstum“ der KI zu verhindern, muss zunächst eine Aufsicht eingeführt werden.

Es muss klargestellt werden, dass die Gesichtsveränderung durch KI zwar eine neue Sache ist, es aber weder eine „Regulierungslücke“ noch ein „Gesetz gibt, auf das man sich verlassen kann“.

Als Reaktion auf KI-Betrugsfälle mit immer moderneren technischen Mitteln haben die Cyberspace Administration of China, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit am 25. November 2022 gemeinsam die „Vorschriften zum Deep-Synthesis-Management von Internetinformationsdiensten“ (nachfolgend „die Vorschriften“ genannt) erlassen, die am 10. Januar 2023 in Kraft treten. Die Vorschriften verpflichten Anbieter von Deep-Synthesis-Diensten, eine Identifikation hinzuzufügen, die die Verwendung von Informationsinhalten, die mit ihren Diensten erstellt oder bearbeitet werden, nicht beeinträchtigt. Dienste, die Informationsinhaltsfunktionen generieren oder erheblich ändern, wie etwa intelligente Dialoge, synthetische Stimmen, Gesichtsgenerierung und immersive Simulationsszenen, sollten deutlich gekennzeichnet werden, um Verwirrung oder Missverständnisse in der Öffentlichkeit zu vermeiden. Es ist erforderlich, dass keine Organisation oder Einzelperson technische Mittel einsetzt, um relevante Identifikationen zu löschen, zu manipulieren oder zu verbergen.

Am 11. April dieses Jahres hat die Cyberspace Administration of China die „Vorschriften zur Verwaltung generativer künstlicher Intelligenzdienste“ (Entwurf zur Kommentierung) entworfen und darin vorgeschlagen, dass KI-Inhalte wahrheitsgetreu und genau sein müssen. Außerdem wird klar darauf hingewiesen, dass die illegale Beschaffung, Weitergabe und Verwendung personenbezogener Daten, der Privatsphäre und von Geschäftsgeheimnissen verboten ist.

【Freundliche Tipps】

Die Verwendung von KI-gestützter „Gesichtsveränderung“ und ähnlicher Software ist äußerst riskant und birgt rechtliche Risiken und Rechtsstreitigkeiten wegen Urheberrechtsverletzungen. Auch wenn die „KI-Technologie zur Gesichtsveränderung“ nur zum Spaß oder zur Erstellung von Parodiefotos eingesetzt wird, kann es zu einer Verletzung des Bildrechts und des Rufrechts kommen. Wenn schwerwiegende Folgen entstehen, kann auch der Tatbestand der Beleidigung oder Verleumdung erfüllt sein. Wir hoffen, dass jeder diese Technologie legal nutzt. Wenn Sie auf ein Verbrechen stoßen, das dem in diesem Fall unter Einsatz einer „KI-Technologie zur Gesichtsveränderung“ beschriebenen ähnelt, sollten Sie so schnell wie möglich Beweise sammeln und den Fall zeitnah den Justizbehörden melden.

Planung: Cheng Liwei

Text: Lian Yuxin

Grafik: Yuan Yu (außer Comics)

Referenzmaterialien: WeChat-Konto des Cybersicherheitsbüros des Ministeriums für öffentliche Sicherheit, Nachrichtenagentur Xinhua, People's Daily, Guangming Daily, Southeast Net usw.