Nightshade – Con esta nueva herramienta, los artistas ahora luchan contra las empresas de IA

La inteligencia artificial se utiliza cada vez más en el mundo del arte, lo que, por un lado, abre nuevas posibilidades creativas, pero por otro, disgusta a muchos artistas tradicionales.

La IA generativa y las herramientas de IA han añadido una dimensión completamente nueva al arte . Pueden imitar el estilo de artistas famosos, creando obras nuevas o incluso piezas originales y únicas que pueden ganar premios.

Pero no a todo el mundo le gusta este enfoque.

Con Nightshade e imágenes envenenadas, los artistas ahora están luchando contra las empresas de IA y la IA generativa

Investigadores de la Universidad de Chicago han Nightshade, una nueva herramienta que permite a los artistas modelos de IA defenderse revista MIT Technology Review informó

Nightshade altera sutilmente los datos de entrenamiento de los modelos de IA generadores de imágenes, lanzando así ataques dirigidos contra estas tecnologías.

Esta innovadora herramienta permite a los artistas realizar cambios invisibles en los píxeles de su arte antes de publicarlo en línea. Sin embargo, esto conlleva el riesgo de que, al incorporarse a un conjunto de entrenamiento de IA, el modelo resultante se corrompa de forma impredecible y caótica.

La manipulación de estos datos de entrenamiento podría perjudicar gravemente las futuras versiones de modelos de IA generadores de imágenes como DALL-E, Midjourney y Stable Diffusion . Algunos resultados podrían volverse inservibles: los perros podrían convertirse en gatos, los coches en vacas, etc.

MIT Technology Review tuvo acceso exclusivo a un estudio de investigaciónque para su revisión por pares en la Usenix se presentó

Empresas de inteligencia artificial como OpenAI, Meta, Google y Stability AI se enfrentan a numerosas demandas de artistas que alegan que su material protegido por derechos de autor y sus datos personales fueron utilizados sin su consentimiento ni compensación.

Ben Zhao, profesor de la Universidad de Chicago y director del equipo detrás de Nightshade, espera restablecer el equilibrio de poder entre las empresas de IA y los artistas.

Esto se logrará mediante una fuerte disuasión contra la infracción de los derechos de autor y los derechos de propiedad intelectual de los artistas. Las empresas Meta, Google, Stability AI y OpenAI aún no han respondido a la solicitud de comentarios de MIT Technology Review sobre su posible respuesta.

Nightshade y Glaze como arma combinada contra las infracciones de derechos de autor por parte de grandes empresas de inteligencia artificial

El equipo de Zhao también Glaze , una herramienta para artistas que les permite "enmascarar" , impidiendo que las empresas de IA lo copien.

Al igual que Nightshade, se realizan cambios sutiles en los píxeles de una imagen. Estos son invisibles para el ojo humano; sin embargo, manipulan los modelos de aprendizaje automático hasta tal punto que interpretan la imagen como algo diferente de lo que realmente es.

El equipo planea integrar la herramienta de datos Nightshade en Glaze. Los artistas podrán elegir si desean usarla o no. Además, Nightshade se ofrecerá como software de código abierto, lo que permitirá a otros experimentar con ella y crear sus propias versiones.

Zhao subraya que, al usar y crear diferentes versiones, la herramienta se vuelve cada vez más potente. Los conjuntos de datos para grandes modelos de IA pueden constar de miles de millones de imágenes. Cuantas más imágenes tóxicas se introduzcan en el modelo, mayor será el daño causado por esta técnica.

¿Cómo funcionan Nightshade y Glaze?

Los artistas que desean compartir su trabajo en línea pero no quieren que las empresas de IA lo utilicen para sus propios fines tienen una solución llamada Glaze (haga clic aquí para acceder a la herramienta).

Aquí, los usuarios pueden subir sus imágenes y distorsionarlas con un estilo diferente. Además, ahora también es posible Nightshade usar

Cuando los desarrolladores de IA buscan en Internet para recopilar datos para mejorar o crear modelos, reciben muestras manipuladas, lo que provoca fallos de funcionamiento.

Estas muestras de datos contaminadas influyen en los modelos de IA de tal manera que, por ejemplo, los sombreros se reconocen como pasteles y los bolsos como tostadoras. Eliminar esta información falsa es extremadamente difícil: las empresas tecnológicas tendrían que buscar y eliminar minuciosamente cada muestra corrupta.

Los investigadores probaron este ataque tanto en los modelos más recientes de Difusión Estable como en un modelo de IA desarrollado por ellos mismos. Cuando alimentaron a Difusión Estable con solo 50 imágenes de perros envenenados y luego le pidieron que generara más imágenes de perros, el resultado fue extraño: surgieron criaturas con un número excesivo de extremidades y rostros caricaturescos.

Con 300 muestras envenenadas, un atacante puede incluso hacer que Stable Diffusion cree imágenes de gatos en lugar de imágenes de perros.

¿Qué impacto tienen estas herramientas en la dinámica de poder entre los creadores y las empresas de IA?

Junfeng Yang, profesor de informática en la Universidad de Columbia que ha investigado la seguridad de los sistemas de aprendizaje profundo y que no participó en el proyecto, explica de forma convincente que Nightshade podría tener un impacto importante, sobre todo como elemento disuasorio.

Por ejemplo, a las empresas de IA incentivar a respetar mejor los derechos de los artistas y a estar más dispuestas a pagar derechos de licencia.

Empresas de inteligencia artificial como Stability AI y OpenAI, que imágenes a partir de texto , ya ofrecen a los artistas la opción de no permitir que sus imágenes se utilicen para entrenar futuras versiones de estos modelos. Sin embargo, muchos artistas consideran que esto es insuficiente.

Eva Toorenent es una ilustradora y artista que trabaja bajo el seudónimo de Evaboneva, quien ha utilizado Glaze y señala críticamente que dichos métodos de exclusión voluntaria aún requerirían la sumisión a empresas tecnológicas.

Toorenent espera que Nightshade pueda cambiar el status quo:

Esto obligará a que [las empresas de IA] reconsideren su enfoque, ya que ahora pueden destruir todo su modelo al usar nuestro trabajo sin consentimiento”

Ella comentó al MIT Technology Review.

Otra artista, Autumn Beverly, comentó que herramientas como Nightshade y Glaze le devolvieron la confianza para republicar su trabajo en línea. Anteriormente lo había retirado tras descubrir que LAION había sido copiado

“Estoy realmente agradecido de tener una herramienta disponible que pueda ayudar a los artistas a recuperar el control sobre su trabajo”

Ella dice.

Joachim Rodriguez y Romero

Propietario y Director General de Kunstplaza. Publicista, editor y bloguero apasionado del arte, el diseño y la creatividad desde 2011. Licenciado en Diseño Web (2008), perfeccionó sus técnicas creativas con cursos de dibujo a mano alzada, pintura expresiva y teatro/actuación. Posee un profundo conocimiento del mercado del arte, adquirido a través de años de investigación periodística y numerosas colaboraciones con actores e instituciones clave del sector artístico y cultural.

www.kunstplaza.de/

También te podría interesar:

Generador de arte con IA generativa: este generador de imágenes ofrece posibilidades ilimitadas para los creativos. Más de 20 de los mejores generadores de arte e imágenes con IA (gratuitos) de 2026. Arte con IA: 9 preguntas sobre la inteligencia artificial en el arte respondidas. Creación de imágenes con IA: la guía definitiva de Artsmart AI. Por qué la inteligencia artificial (IA) aún no puede reemplazar a los artistas humanos.