KI-Betrug steht unmittelbar bevor. Wie können wir ihn verhindern?

Jede Technologie ist ein zweischneidiges Schwert. Welchen Schaden könnte uns künstliche Intelligenz (KI) zufügen?

Derzeit diskutieren Wissenschaftler, Unternehmer, die Medien und andere Menschen in unserem Umfeld über die langfristigen Gefahren der KI, etwa die Möglichkeit, dass Arbeitnehmer ihren Arbeitsplatz verlieren, das menschliche Denken überholt oder ersetzt wird und dass die Menschheit sogar die Kontrolle über die Zivilisation verliert.

Der Schaden, den die KI für uns mit sich bringt, ist jedoch unmittelbar bevorstehend. Darüber hinaus wird den meisten Menschen erst bewusst, dass sie auch Opfer sind, wenn sie es selbst erlebt haben.

Kürzlich war die Nachricht, dass „ein Firmenchef auf einen Betrug mit einer künstlichen Intelligenz zur Gesichtsveränderung gestoßen und innerhalb von 10 Minuten um 4,3 Millionen Yuan betrogen worden sei“, ein heiß diskutiertes Thema auf den großen Nachrichten-Websites. Nach Aussage des Opfers gab sich der Betrüger mithilfe einer KI-Technologie zur Gesichtsveränderung und Stimmveränderung erfolgreich als sein Freund aus und betrog ihn anschließend. „Er hat mich damals per Video angerufen und ich habe das Gesicht und die Stimme im Video bestätigt, also habe ich meine Wachsamkeit fallen lassen.“

Obwohl dieser Vorfall das Bewusstsein für den Betrug mit der „KI-Gesichtsveränderung“ geschärft hat, gibt es tatsächlich weitaus mehr Beispiele für die „KI-Gesichtsveränderung“. Bei bekannten Prominenten, die in Live-Übertragungen Waren verkaufen, bei Gesichtern in anstößigen Videos usw. kann es sich bei all diesen Betrügereien möglicherweise um von Kriminellen mithilfe von KI-Technologie erstellte Betrügereien handeln.

Darüber hinaus nutzen Kriminelle KI-Technologie auch, um Sprachdateien zu extrahieren, nachdem sie die WeChat-Konten anderer Personen gestohlen haben, und begehen Betrug, indem sie WeChat-Sprachnachrichten weiterleiten.

Die Frage ist: Während wir die Annehmlichkeiten der KI-Technologie genießen, stellt sich die Frage, wie wir mit neuen Arten von Betrug wie der „Gesichtsveränderung durch KI“ umgehen sollen.

Im Dezember letzten Jahres veröffentlichten die Cyberspace Administration of China, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit gemeinsam die „Vorschriften zur Verwaltung der Tiefensynthese von Internetinformationsdiensten“. Darin heißt es, dass Anbieter von Tiefensynthesediensten eine Kennzeichnung hinzufügen müssen, die die Verwendung der mithilfe ihrer Dienste erstellten oder bearbeiteten Informationsinhalte nicht beeinträchtigt. Dienste, die Informationsinhaltsfunktionen generieren oder erheblich ändern, wie etwa intelligente Dialoge, synthetische Stimmen, Gesichtsgenerierung und immersive Simulationsszenen, sollten deutlich gekennzeichnet werden, um Verwirrung oder Missverständnisse in der Öffentlichkeit zu vermeiden.

Anfang des Monats veröffentlichte eine Kurzvideoplattform zudem die „Plattformspezifikationen und Brancheninitiativen für KI-generierte Inhalte“, die den Einsatz generativer KI-Technologie zur Erstellung und Veröffentlichung rechtsverletzender Inhalte, darunter insbesondere Bildrechte, Rechte an geistigem Eigentum usw., klar verbieten . Bei Entdeckung solcher Inhalte wird die Plattform strenge Strafen verhängen.

Bei der oben erwähnten Live-Übertragung zum Gesichtstausch besteht möglicherweise der Verdacht, dass die Bildrechte der betreffenden prominenten Künstler verletzt werden. Handelt es sich dabei um gewerbliche Tätigkeiten wie etwa Live-Streaming mit Waren, handelt es sich um einen erschwerenden Umstand. Es ist anzumerken, dass das Live-Streaming von Gesichtsveränderungen auch dann einen Verstoß darstellt, wenn es nur der Unterhaltung dient und keine gewinnbringenden Aktivitäten beinhaltet, solange die Zustimmung des Inhabers der Bildrechte nicht eingeholt wird.

Wie können wir uns also persönlich vor neuen Betrügereien wie der „Gesichtsveränderung durch KI“ in Acht nehmen?

Am 24. Mai gab die Internet Society of China eine Warnung heraus: „Angesichts neuer Betrügereien mit KI-Technologie muss die Öffentlichkeit wachsam sein und Vorsichtsmaßnahmen ergreifen!“ Insbesondere sollten wir die erste Person sein, die für die Sicherheit persönlicher Daten verantwortlich ist , und bei Fernüberweisungen von Geld unbedingt mehrere Überprüfungen durchführen , um unsere „Geldbörsen“ genau im Auge zu behalten.

Was die Branche betrifft, ist Xiong Zhi, ein Sonderkommentator von The Paper, der Ansicht, dass so schnell wie möglich Vorschriften erlassen werden müssen, um die roten Linien für den Datenschutz klarzustellen und die normativen Leitlinien für das Verhalten von Technologiedienstleistern zu stärken. Nur wenn KI-Gesichtsveränderung, KI-Voiceover usw. auf Beweisen basieren und bei jedem Link streng autorisiert sind und die Schwierigkeit des Betrugs erhöht wird, können wir die Sicherheit der Informationen und des Eigentums aller besser schützen.

Wenn Sie schließlich das Gefühl haben, dass Sie unter Betrügereien wie KI-Gesichtsveränderung, KI-Voice-Over usw. leiden oder gelitten haben, müssen Sie lernen, „Gesetze“ anzuwenden, um die „KI-Magie“ zu besiegen . Der beste Weg, damit umzugehen, besteht natürlich darin, sich dafür zu entscheiden, es nicht zu glauben.