Nightshade – Con questo nuovo strumento, gli artisti ora possono combattere le aziende di intelligenza artificiale

L'intelligenza artificiale viene sempre più utilizzata nel mondo dell'arte, il che da un lato apre nuove possibilità creative, ma dall'altro non piace a molti artisti tradizionali.

L'intelligenza artificiale generativa e gli strumenti hanno aggiunto una dimensione completamente nuova all'arte . Possono imitare lo stile di artisti famosi, creando nuove opere o persino pezzi originali e unici che possono vincere premi.

Ma non a tutti piace questo approccio.

Con Nightshade e immagini avvelenate, gli artisti ora stanno combattendo contro le aziende di intelligenza artificiale e l'intelligenza artificiale generativa

I ricercatori dell'Università di Chicago hanno sviluppato Nightshade, un nuovo strumento che permette agli artisti di difendersi dall'utilizzo delle proprie opere da parte di modelli di intelligenza artificiale generativa. La notizia è stata recentemente riportata da MIT Technology Review

Nightshade altera in modo sottile i dati di addestramento per i modelli di intelligenza artificiale che generano immagini, lanciando così attacchi mirati a queste tecnologie.

Questo strumento innovativo consente agli artisti di apportare modifiche invisibili ai pixel delle loro opere prima di pubblicarle online. Tuttavia, ciò comporta il rischio che, una volta incorporato in un set di addestramento basato sull'intelligenza artificiale, il modello risultante venga corrotto in modo imprevedibile e caotico.

L' "avvelenamento" deliberato di questi dati di addestramento potrebbe danneggiare seriamente le future versioni di modelli di intelligenza artificiale per la generazione di immagini come DALL-E, Midjourney e Stable Diffusion . Alcuni risultati potrebbero diventare inutilizzabili: i cani potrebbero trasformarsi in gatti, le auto in mucche e così via.

MIT Technology Review ha avuto accesso esclusivo a uno studio di ricercapresentato per la revisione paritaria alla conferenza sulla sicurezza informatica Usenix

Aziende di intelligenza artificiale come OpenAI, Meta, Google e Stability AI si trovano ad affrontare numerose cause legali intentate da artisti che sostengono che il loro materiale protetto da copyright e i loro dati personali siano stati utilizzati senza consenso o compenso.

Ben Zhao, professore all'Università di Chicago e a capo del team che ha creato Nightshade, spera di ristabilire l'equilibrio di potere tra le aziende di intelligenza artificiale e gli artisti.

Questo obiettivo deve essere raggiunto attraverso un forte deterrente contro la violazione dei diritti d'autore e di proprietà intellettuale degli artisti. Le aziende Meta, Google, Stability AI e OpenAI non hanno ancora risposto alla richiesta di commento del MIT Technology Review in merito alla loro potenziale risposta.

Nightshade e Glaze come arma combinata contro le violazioni del copyright da parte delle grandi aziende di intelligenza artificiale

Il team di Zhao ha inoltre Glaze , uno strumento per artisti che permette loro di "mascherare" , impedendone la copia da parte di aziende che utilizzano l'intelligenza artificiale.

Analogamente a Nightshade, vengono apportate sottili modifiche ai pixel di un'immagine. Queste modifiche sono invisibili all'occhio umano; tuttavia, manipolano i modelli di apprendimento automatico a tal punto da interpretare l'immagine come qualcosa di diverso da ciò che è in realtà.

Il team prevede di integrare lo strumento di analisi dati Nightshade in Glaze. Gli artisti avranno la possibilità di scegliere se utilizzare o meno questo strumento. Inoltre, Nightshade sarà offerto anche come software open source, consentendo ad altri di modificarlo e crearne versioni personalizzate.

Utilizzando e creando diverse versioni, lo strumento diventa sempre più potente, sottolinea Zhao. I set di dati per i grandi modelli di intelligenza artificiale possono essere composti da miliardi di immagini. Maggiore è il numero di immagini dannose che possono essere fornite al modello, maggiore sarà il danno causato da questa tecnica.

Come funzionano Nightshade e Glaze?

Gli artisti che desiderano condividere le proprie opere online ma non vogliono che le aziende che utilizzano l'intelligenza artificiale le usino per i propri scopi, possono contare su una soluzione chiamata Glaze (clicca qui per lo strumento).

Qui gli utenti possono caricare le proprie immagini e distorcerle con uno stile diverso. Inoltre, ora è anche possibile utilizzare Nightshade

Quando gli sviluppatori di intelligenza artificiale setacciano Internet per raccogliere dati per migliorare o creare modelli, si ritrovano di fronte a campioni manipolati, che causano malfunzionamenti.

Questi campioni di dati contaminati influenzano i modelli di intelligenza artificiale in modo tale che, ad esempio, i cappelli vengano riconosciuti come torte e le borse come tostapane. È estremamente difficile rimuovere tali informazioni false: le aziende tecnologiche dovrebbero scrupolosamente individuare ed eliminare ogni singolo campione corrotto.

I ricercatori hanno testato questo attacco sia sui modelli più recenti di Stable Diffusion che su un modello di intelligenza artificiale sviluppato internamente. Quando hanno fornito a Stable Diffusion solo 50 immagini di cani avvelenati e poi gli hanno chiesto di generarne altre, il risultato è apparso strano: sono emerse creature con un numero eccessivo di arti e volti caricaturali.

Con 300 campioni avvelenati, un aggressore può addirittura far sì che Stable Diffusion crei immagini di gatti invece di immagini di cani.

Che impatto hanno questi strumenti sulle dinamiche di potere tra creatori e aziende di intelligenza artificiale?

Junfeng Yang, professore di informatica alla Columbia University che ha condotto ricerche sulla sicurezza dei sistemi di apprendimento profondo e non è stato coinvolto nel progetto, spiega in modo convincente che Nightshade potrebbe potenzialmente avere un impatto significativo, soprattutto come deterrente.

Ad esempio, si potrebbe incoraggiare le aziende che operano nel settore dell'intelligenza artificiale a rispettare maggiormente i diritti degli artisti e ad essere più disposte a pagare i diritti di licenza .

Aziende di intelligenza artificiale come Stability AI e OpenAI, che immagini da testo , offrono già agli artisti la possibilità di rifiutare l'utilizzo delle proprie immagini per addestrare le future versioni di questi modelli. Tuttavia, molti artisti ritengono che ciò non sia sufficiente.

Eva Toorenent è un'illustratrice e artista che lavora con lo pseudonimo di Evaboneva , la quale ha utilizzato Glaze e osserva criticamente che tali metodi di opt-out richiederebbero comunque l'invio di dati alle aziende tecnologiche.

Toorenent spera che Nightshade possa cambiare lo status quo:

Ciò costringerà le aziende di intelligenza artificiale a riconsiderare il loro approccio, poiché ora saranno in grado di distruggere l'intero modello utilizzando il nostro lavoro senza consenso"

ha commentato sul MIT Technology Review.

Un'altra artista, Autumn Beverly, ha riferito che strumenti come Nightshade e Glaze le hanno ridato la fiducia necessaria per ripubblicare online le sue opere. Le aveva precedentemente rimosse dopo aver scoperto che erano state copiate senza il suo permesso su un popolare database di immagini chiamato LAION

Sono davvero grato di avere a disposizione uno strumento che può aiutare gli artisti a riprendere il controllo del proprio lavoro."

dice.

Joachim Rodriguez y Romero

Titolare e amministratore delegato di Kunstplaza. Pubblicista, redattrice e blogger appassionata di arte, design e creatività dal 2011. Laureata in web design (2008). Ha approfondito le tecniche creative attraverso corsi di disegno a mano libera, pittura espressiva e teatro/recitazione. Ha una profonda conoscenza del mercato dell'arte acquisita attraverso anni di ricerca giornalistica e numerose collaborazioni con attori e istituzioni chiave del settore artistico e culturale.

www.kunstplaza.de/

Potrebbe interessarti anche:

Generatore di arte generativa con IA: il generatore di immagini basato sull'IA offre possibilità illimitate per i creativi. I 20+ migliori generatori di arte e immagini (gratuiti) basati sull'IA del 2026. Arte con IA: 9 domande sull'intelligenza artificiale nell'arte con relative risposte. Creare immagini con l'IA: la guida definitiva ad Artsmart AI. Perché l'intelligenza artificiale (IA) non può (ancora) sostituire gli artisti umani.