Nightshade – Con questo nuovo strumento, gli artisti ora possono combattere le aziende di intelligenza artificiale

L'intelligenza artificiale viene sempre più utilizzata nel mondo dell'arte, il che da un lato apre nuove possibilità creative, ma dall'altro non piace a molti artisti tradizionali.

L'intelligenza artificiale generativa e gli strumenti di intelligenza artificiale hanno aggiunto una dimensione completamente nuova all'arte . Possono imitare lo stile di artisti famosi, creando nuove opere o persino pezzi originali e unici che possono vincere premi.

Ma non a tutti piace questo approccio.

Con Nightshade e immagini avvelenate, gli artisti ora stanno combattendo contro le aziende di intelligenza artificiale e l'intelligenza artificiale generativa

I ricercatori dell'Università di Chicago hanno Nightshade, un nuovo strumento che consente agli artisti di difendersi modelli di intelligenza artificiale riportata MIT Technology Review

Nightshade altera in modo sottile i dati di addestramento per i modelli di intelligenza artificiale che generano immagini, lanciando così attacchi mirati a queste tecnologie.

Questo strumento innovativo consente agli artisti di apportare modifiche invisibili ai pixel delle loro opere prima di pubblicarle online. Tuttavia, ciò comporta il rischio che, una volta incorporato in un set di addestramento basato sull'intelligenza artificiale, il modello risultante venga corrotto in modo imprevedibile e caotico.

"avvelenamento" deliberato di questi dati di addestramento potrebbe danneggiare seriamente le future versioni di modelli di intelligenza artificiale per la generazione di immagini come DALL-E , Midjourney e Stable Diffusion . Alcuni risultati potrebbero diventare inutilizzabili: i cani potrebbero trasformarsi in gatti, le auto in mucche e così via.

MIT Technology Review ha avuto accesso esclusivo a uno studio di ricerca sottoposto a revisione paritaria alla Usenix

Le aziende di intelligenza artificiale come OpenAI, Meta, Google e Stability AI stanno affrontando una serie di cause legali da parte di artisti che sostengono che il loro materiale protetto da copyright e i loro dati personali sono stati utilizzati senza consenso o compenso.

Ben Zhao , professore all'Università di Chicago e capo del team dietro Nightshade, spera di ripristinare l'equilibrio di potere tra le aziende di intelligenza artificiale e gli artisti .

Questo obiettivo deve essere raggiunto attraverso un forte deterrente contro la violazione dei diritti d'autore e di proprietà intellettuale degli artisti. Le aziende Meta, Google, Stability AI e OpenAI non hanno ancora risposto alla richiesta di commento del MIT Technology Review in merito alla loro potenziale risposta.

Nightshade e Glaze come arma combinata contro le violazioni del copyright da parte delle grandi aziende di intelligenza artificiale

Il team di Zhao ha anche Glaze , uno strumento per artisti che consente loro di "mascherare" , impedendo che venga copiato dalle aziende di intelligenza artificiale.

Analogamente a Nightshade, vengono apportate sottili modifiche ai pixel di un'immagine. Queste modifiche sono invisibili all'occhio umano; tuttavia, manipolano i modelli di apprendimento automatico a tal punto da interpretare l'immagine come qualcosa di diverso da ciò che è in realtà.

Il team prevede di integrare lo strumento di elaborazione dati Nightshade in Glaze . Gli artisti avranno la possibilità di scegliere se utilizzare o meno questo strumento. Inoltre, Nightshade sarà disponibile anche come open source, consentendo ad altri di modificarlo e creare le proprie versioni.

Utilizzando e creando diverse versioni, lo strumento diventa sempre più potente, sottolinea Zhao. I set di dati per i grandi modelli di intelligenza artificiale possono essere costituiti da miliardi di immagini. Più immagini tossiche possono essere inserite nel modello, maggiore è il danno causato da questa tecnica.

Come funzionano Nightshade e Glaze?

Gli artisti che vogliono condividere il loro lavoro online ma non vogliono che le aziende di intelligenza artificiale lo utilizzino per i loro scopi hanno a disposizione una soluzione chiamata Glaze ( clicca qui per lo strumento ).

Qui, gli utenti possono caricare le proprie immagini e modificarle con uno stile diverso. Inoltre, ora è possibile utilizzare Nightshade

Quando gli sviluppatori di intelligenza artificiale setacciano Internet per raccogliere dati per migliorare o creare modelli, si ritrovano di fronte a campioni manipolati, che causano malfunzionamenti.

Questi campioni di dati contaminati influenzano i modelli di intelligenza artificiale in modo tale che, ad esempio, i cappelli vengano riconosciuti come torte e le borse come tostapane. È estremamente difficile rimuovere tali informazioni false: le aziende tecnologiche dovrebbero scrupolosamente individuare ed eliminare ogni singolo campione corrotto.

I ricercatori hanno testato questo attacco sia sui modelli più recenti di Stable Diffusion sia su un modello di intelligenza artificiale sviluppato internamente. Quando hanno fornito a Stable Diffusion solo 50 immagini di cani avvelenati e poi gli hanno chiesto di generarne altre, il risultato è stato strano: sono emerse creature con un numero eccessivo di arti e volti da cartone animato.

Con 300 campioni avvelenati, un aggressore può addirittura far sì che Stable Diffusion crei immagini di gatti invece di immagini di cani.

Che impatto hanno questi strumenti sulle dinamiche di potere tra creatori e aziende di intelligenza artificiale?

Junfeng Yang , professore di informatica alla Columbia University che ha condotto ricerche sulla sicurezza dei sistemi di deep learning e non è stato coinvolto nel progetto, spiega in modo convincente che Nightshade potrebbe avere un impatto potenzialmente significativo, in particolare come deterrente.

Ad esempio, le aziende di intelligenza artificiale essere incoraggiate a rispettare maggiormente i diritti degli artisti e ad essere più disposte a pagare i diritti di licenza .

Aziende di intelligenza artificiale come Stability AI e OpenAI, che di testo in immagini , offrono già agli artisti la possibilità di scegliere di non utilizzare le proprie immagini per addestrare le versioni future di questi modelli. Tuttavia, molti artisti ritengono che questa opzione non sia sufficiente.

Eva Toorenent è un'illustratrice e artista che lavora con lo pseudonimo di Evaboneva , ha utilizzato Glaze e osserva criticamente che tali metodi di opt-out richiederebbero comunque l'invio alle aziende tecnologiche.

Toorenent spera che Nightshade possa cambiare lo status quo:

Ciò costringerà le aziende di intelligenza artificiale a riconsiderare il loro approccio, poiché ora saranno in grado di distruggere l'intero modello utilizzando il nostro lavoro senza consenso"

ha commentato sul MIT Technology Review.

Un'altra artista, Autumn Beverly, ha riferito che strumenti come Nightshade e Glaze le hanno restituito la fiducia necessaria per ripubblicare online il suo lavoro. In precedenza lo aveva rimosso dopo aver scoperto che era stato copiato LAION

Sono davvero grato di avere a disposizione uno strumento che può aiutare gli artisti a riprendere il controllo del proprio lavoro."

dice.

Joachim Rodriguez y Romero

Titolare e amministratore delegato di Kunstplaza. Pubblicista, redattrice e blogger appassionata di arte, design e creatività dal 2011. Laureata in web design (2008). Ha approfondito le tecniche creative attraverso corsi di disegno a mano libera, pittura espressiva e teatro/recitazione. Ha una profonda conoscenza del mercato dell'arte acquisita attraverso anni di ricerca giornalistica e numerose collaborazioni con attori e istituzioni chiave del settore artistico e culturale.

www.kunstplaza.de/