Nightshade – Met deze nieuwe tool kunnen kunstenaars nu terugslaan tegen AI-bedrijven

Kunstmatige intelligentie wordt steeds vaker gebruikt in de kunstwereld, wat enerzijds nieuwe creatieve mogelijkheden biedt, maar anderzijds veel traditionele kunstenaars tegen de borst stuit.

Generatieve AI en AI-tools hebben een compleet nieuwe dimensie aan kunst . Ze kunnen de stijl van beroemde kunstenaars imiteren, nieuwe werken creëren of zelfs originele, unieke stukken die prijzen kunnen winnen.

Maar niet iedereen is het eens met deze aanpak.

Met Nightshade en vergiftigde beelden slaan kunstenaars nu terug tegen AI-bedrijven en generatieve AI

Onderzoekers van de Universiteit van Chicago hebben Nightshade ontwikkeld, een nieuwe tool waarmee kunstenaars zich kunnen beschermen AI-modellen gemeld MIT Technology Review

Nightshade wijzigt op subtiele wijze trainingsgegevens voor AI-modellen die beelden genereren, waardoor gerichte aanvallen op deze technologieën mogelijk worden.

Deze innovatieve tool stelt kunstenaars in staat om onzichtbare wijzigingen aan te brengen in de pixels van hun kunstwerken voordat ze deze online publiceren. Dit brengt echter het risico met zich mee dat, wanneer deze wijzigingen worden opgenomen in een AI-trainingsset, het resulterende model op onvoorspelbare en chaotische wijze wordt vervormd.

Het opzettelijk 'vergiftigen' van deze trainingsdata kan toekomstige versies van beeldgenererende AI-modellen zoals DALL-E , Midjourney en Stable Diffusion . Sommige resultaten zouden onbruikbaar kunnen worden – honden zouden in katten kunnen veranderen, auto's in koeien, enzovoort.

MIT Technology Review kreeg exclusieve toegang tot een onderzoek dat werd ingediend bij de Usenix

AI-bedrijven zoals OpenAI, Meta, Google en Stability AI worden geconfronteerd met een aantal rechtszaken van kunstenaars die beweren dat hun auteursrechtelijk beschermd materiaal en persoonlijke gegevens zonder toestemming of vergoeding zijn gebruikt.

Ben Zhao , hoogleraar aan de Universiteit van Chicago en leider van het team achter Nightshade, hoopt het machtsevenwicht tussen AI-bedrijven en kunstenaars te herstellen .

Dit moet bereikt worden door een krachtig afschrikmiddel tegen inbreuken op auteursrechten en intellectuele eigendomsrechten van kunstenaars. De bedrijven Meta, Google, Stability AI en OpenAI hebben nog niet gereageerd op het verzoek van MIT Technology Review om commentaar te geven op hun mogelijke reactie.

Nightshade en Glaze als gecombineerd wapen tegen auteursrechtinbreuken door grote AI-bedrijven

Het team van Zhao ontwikkelde ook Glaze – een tool voor kunstenaars – waarmee ze hun eigen persoonlijke stijl kunnen "maskeren" , zodat deze niet door AI-bedrijven gekopieerd kan worden.

Net als bij Nightshade worden subtiele veranderingen aangebracht in de pixels van een afbeelding. Deze zijn onzichtbaar voor het menselijk oog, maar manipuleren machine learning-modellen zodanig dat ze de afbeelding anders interpreteren dan deze in werkelijkheid is.

Het team is van plan de datatool Nightshade in Glaze te integreren . Kunstenaars kunnen zelf kiezen of ze deze tool willen gebruiken of niet. Daarnaast zal Nightshade ook als open source beschikbaar worden gesteld, zodat anderen ermee kunnen experimenteren en hun eigen versies kunnen maken.

Door verschillende versies te gebruiken en te creëren, wordt de tool steeds krachtiger, benadrukt Zhao. De datasets voor grote AI-modellen kunnen uit miljarden afbeeldingen bestaan. Hoe meer giftige afbeeldingen er aan het model worden gevoerd, hoe groter de schade die deze techniek aanricht.

Hoe werken Nightshade en Glaze samen?

Kunstenaars die hun werk online willen delen, maar niet willen dat AI-bedrijven het voor hun eigen doeleinden gebruiken, kunnen nu al een paar maanden gebruikmaken van de oplossing genaamd Glaze ( klik hier voor de tool ).

Gebruikers kunnen hier hun eigen afbeeldingen uploaden en deze in een andere stijl vervormen. Daarnaast is het nu ook mogelijk Nightshade te gebruiken

Wanneer AI-ontwikkelaars het internet afspeuren naar gegevens om modellen te verbeteren of te creëren, krijgen ze gemanipuleerde voorbeelden voorgeschoteld, wat tot storingen leidt.

Deze verontreinigde datamonsters beïnvloeden AI-modellen zodanig dat hoeden bijvoorbeeld worden herkend als taarten en handtassen als broodroosters. Het is extreem moeilijk om dergelijke onjuiste informatie te verwijderen; technologiebedrijven zouden elk afzonderlijk, corrupt datamonster nauwgezet moeten opsporen en verwijderen.

De onderzoekers testten deze aanval op zowel de nieuwste modellen van Stable Diffusion als een zelfontwikkeld AI-model. Toen ze Stable Diffusion slechts 50 afbeeldingen van vergiftigde honden gaven en het vervolgens vroegen om meer afbeeldingen van honden te genereren, was het resultaat vreemd: er verschenen wezens met een buitensporig aantal ledematen en cartoonachtige gezichten.

Met 300 vergiftigde monsters kan een aanvaller er zelfs voor zorgen dat Stable Diffusion kattenafbeeldingen in plaats van hondenafbeeldingen produceert.

Welke invloed hebben deze tools op de machtsverhoudingen tussen makers en AI-bedrijven?

Junfeng Yang , een hoogleraar computerwetenschappen aan de Columbia University die onderzoek heeft gedaan naar de beveiliging van deep learning-systemen en niet bij het project betrokken was, legt overtuigend uit dat Nightshade potentieel een grote impact kan hebben – met name als afschrikkingsmiddel.

AI-bedrijven bijvoorbeeld aangemoedigd kunnen worden om de rechten van kunstenaars beter te respecteren en eerder bereid te zijn licentievergoedingen te betalen .

AI-bedrijven zoals Stability AI en OpenAI, die van tekst naar afbeeldingen , bieden kunstenaars al de mogelijkheid om aan te geven dat hun afbeeldingen niet gebruikt mogen worden voor het trainen van toekomstige versies van deze modellen. Veel kunstenaars vinden dit echter onvoldoende.

Eva Toorenent is een illustrator en kunstenaar die werkt onder het pseudoniem Evaboneva. Ze heeft Glaze gebruikt en merkt kritisch op dat dergelijke opt-out-methoden nog steeds vereisen dat de gebruiker zijn of haar werk aan technologiebedrijven indient.

Toorenent hoopt dat Nightshade de status quo kan veranderen:

Dit zal [AI-bedrijven] ertoe aanzetten hun aanpak te heroverwegen, aangezien ze nu hun hele model kunnen vernietigen door ons werk zonder toestemming te gebruiken.”

Ze gaf commentaar aan de MIT Technology Review.

Een andere kunstenares, Autumn Beverly, vertelde dat tools zoals Nightshade en Glaze haar het vertrouwen teruggaven om haar werk opnieuw online te publiceren. Ze had het eerder verwijderd nadat ze ontdekt had dat het was gekopieerd LAION

Ik ben ontzettend dankbaar dat er een hulpmiddel beschikbaar is waarmee kunstenaars de controle over hun werk terug kunnen krijgen.”

zegt ze.

Joachim Rodriguez y Romero

Eigenaar en directeur van Kunstplaza. Publicist, redacteur en gepassioneerd blogger op het gebied van kunst, design en creativiteit sinds 2011. Succesvolle graad in webdesign als onderdeel van een universitair diploma (2008). Verdere ontwikkeling van creativiteitstechnieken door middel van cursussen vrij tekenen, expressieschilderen en theater/acteren. Diepgaande kennis van de kunstmarkt door jarenlang journalistiek onderzoek en talrijke samenwerkingen met actoren/instellingen uit de kunst en cultuur.

www.kunstplaza.de/