Datenvergiftung: Wie wehren sich Künstler gegen KI?

• Die Universität von Chicago hat vor Kurzem ein Tool zur Datenvergiftung namens „Night Sunflower“ entwickelt, das den Lernprozess von Programmen künstlicher Intelligenz, die Bilder generieren, stört, indem es irreführende oder verwirrende Informationen in die Trainingsdaten einbringt, die von diesen Programmen künstlicher Intelligenz verwendet werden.
• Das Datenvergiftungstool „Solanum“ könnte künftig eine Waffe für Künstler werden und dazu beitragen, die unbefugte Nutzung kreativer Werke durch künstliche Intelligenz zu verhindern.
• Im „Top 10 Emerging Technologies in 2023 Report“ des Weltwirtschaftsforums belegte die generative künstliche Intelligenz den zweiten Platz unter den 10 vielversprechendsten neuen Technologien im Jahr 2023.

Im biologischen Sinne wird mit dem Wort Nachtschatten oft eine hochgiftige Pflanze bezeichnet. Doch in letzter Zeit hat es eine neue Bedeutung bekommen. Ein Informatikteam der Universität Chicago hat ein Tool zur Datenvergiftung namens Nightshade entwickelt, das Künstlern dabei helfen soll, sich gegen die unbefugte Nutzung ihrer Werke durch künstliche Intelligenz zu wehren. Die Erfindung wurde im neuesten Artikel des Teams veröffentlicht : „Fast Specific Poisoning Attacks for Text-to-Image Generation Models“.

Was ist „Solanum nigrum“?

Mit dem Data-Poisoning-Tool Nightshade können Künstler die Pixel in ihren Werken ändern. Die Veränderungen sind so subtil, dass sie mit bloßem Auge nicht erkennbar sind. In diesem Fall kann das KI-Programm dazu verleitet werden, das Bild auf eine Weise zu verstehen, die nicht mit der menschlichen Interpretation übereinstimmt.

„(Solche Änderungen) könnten einen Hund in eine Katze verwandeln, ein Auto in eine Kuh, und die Liste geht noch weiter“, erklärte MIT Technology Review in einem Artikel über das Datenvergiftungstool Nightshade .

Diese Methode wird in der Wissenschaft als „Datenvergiftung“ bezeichnet und kann die Leistungsfähigkeit von Werkzeugen der generativen künstlichen Intelligenz beeinträchtigen, indem sie dazu führt, dass diese unerwünschte oder ungenaue Ergebnisse liefern, wodurch die generierten Bilder von den Benutzeranforderungen abweichen.

Der Bericht fügte hinzu, dass Tools der künstlichen Intelligenz typischerweise Daten aus Milliarden von Online-Bildern extrahieren. Daher ist in diesem riesigen Datenkontext die Wahrscheinlichkeit einer Vergiftung der künstlichen Intelligenz umso größer, je häufiger das Datenvergiftungstool „Solanum“ verwendet wird.

Der gesamte Ablauf des Datenvergiftungstools „Solanum“. Bild: Universität Chicago

Warum „Solanum nigrum“ entwickeln?

Über die Ursprünge der Entwicklung des Datenvergiftungstools „Solanum“ sagte Projektleiter Ben Zhao, Professor für Informatik an der Universität Chicago, dass Unternehmen im Bereich künstliche Intelligenz häufig ohne Erlaubnis die Werke von Künstlern verwenden, um ihre eigenen Bilderzeugungstools zu trainieren, ohne Rücksicht auf die Urheberrechte und geistigen Eigentumsrechte der Künstler.

Er hofft, dass das Datenvergiftungstool „Solanum“ dazu beitragen kann, Unternehmen im Bereich der künstlichen Intelligenz für ihre Missachtung der Urheberrechte und geistigen Eigentumsrechte von Künstlern zu bestrafen und das Machtgleichgewicht wieder zugunsten der Künstler zu verschieben.

Ein derartiges Verhalten von Unternehmen im Bereich der künstlichen Intelligenz, die die Urheberrechte und geistigen Eigentumsrechte von Künstlern missachten, ist möglicherweise mittlerweile weit verbreitet. Einem Bericht der Technologie-Nachrichten-Website VentureBeat zufolge haben Künstler, Interpreten und Plattenfirmen Klagen gegen mehrere Unternehmen im Bereich künstliche Intelligenz eingereicht, mit der Begründung , diese Unternehmen hätten die Werke von Künstlern ohne Erlaubnis verwendet, um ihre eigenen Tools für künstliche Intelligenz zu trainieren . Zu den Verklagten gehört OpenAI, der Entwickler von ChatGPT.

Welche Auswirkungen wird „Solanum nigrum“ auf die künstliche Intelligenzbranche haben?

Der Autor des Kommentars im MIT Technology Review sagte außerdem, dass „Solanum“ durch die Störung oder Beeinflussung des Verhaltens von KI-Programmen, die Bilder erzeugen, zu einer wichtigen Initiative werden könnte, um KI-Unternehmen zu Maßnahmen wie der Zahlung von Urheberrechten und einer stärkeren Achtung der kreativen Rechte und Urheberrechte von Künstlern zu bewegen, was bedeutende soziale und industrielle Auswirkungen haben könnte.

Zwar haben Künstler bei der aktuellen Entwicklung der künstlichen Intelligenz ein gewisses Mitspracherecht. Einige KI-Unternehmen haben beispielsweise Systeme oder Prozesse entwickelt, die es Künstlern ermöglichen, zu entscheiden, ob ihre Arbeit in die Trainingsdaten des Modells aufgenommen werden kann. Doch selbst wenn Künstler deren Nutzung nicht zulassen, behalten KI-Unternehmen immer noch einen erheblichen Einfluss auf die Verwendung künstlerischer Inhalte. Derzeit reicht die Stimme der Künstler bei weitem nicht aus.

Generative KI: Eine weltweit aufstrebende Technologie

Das Weltwirtschaftsforum hat den Bericht „Top Ten Emerging Technologies in 2023“ veröffentlicht, der sich auf Technologien konzentriert, von denen erwartet wird, dass sie in den nächsten drei bis fünf Jahren positive Auswirkungen auf die Gesellschaft haben werden. Der Bericht listet die zehn vielversprechendsten neuen Technologien für 2023 auf, wobei die generative künstliche Intelligenz den zweiten Platz einnimmt.

„Während generative KI derzeit hauptsächlich in Bereichen wie der Textgenerierung, Computerprogrammierung, Bild- und Tonerzeugung eingesetzt wird, verfügt die Technologie über das Potenzial, in so unterschiedlichen Bereichen wie Arzneimittelentwicklung, Architektur und Ingenieurwesen eingesetzt zu werden“, heißt es in dem Bericht.

Da generative KI jedoch zunehmend in zahlreiche Aspekte des täglichen Lebens der Menschen integriert wird, betont der Bericht auch, dass Anwendungen vereinbarte professionelle und ethische Standards erfüllen sollten, um das Vertrauen der Öffentlichkeit zu gewinnen.

Autor dieses Artikels:

Victoria Masterson, Leitende Redakteurin, Forumsagenda

Dieser Artikel erschien ursprünglich auf dem Agenda -Blog des Weltwirtschaftsforums.