Nightshade – Con esta nueva herramienta, los artistas están contraatacando a las empresas de IA.

La inteligencia artificial se utiliza cada vez más en el mundo del arte, lo que por un lado abre nuevas posibilidades creativas, pero por otro lado desagrada a muchos artistas tradicionales.

La IA generativa y las herramientas de IA han añadido una dimensión completamente nueva al arte . Pueden imitar el estilo de artistas famosos, creando nuevas obras o incluso piezas originales y únicas que pueden ganar premios.

Pero no a todo el mundo le gusta este enfoque.

Con Nightshade e imágenes envenenadas, los artistas ahora están luchando contra las empresas de IA y la IA generativa

Investigadores de la Universidad de Chicago han Nightshade, una nueva herramienta que permite a los artistas defenderse de modelos de IA MIT Technology Review informó

Nightshade altera sutilmente los datos de entrenamiento de los modelos de IA generadores de imágenes, lanzando así ataques dirigidos contra estas tecnologías.

Esta innovadora herramienta permite a los artistas realizar cambios invisibles en los píxeles de su arte antes de publicarlo en línea. Sin embargo, esto conlleva el riesgo de que, al incorporarse a un conjunto de entrenamiento de IA, el modelo resultante se corrompa de forma impredecible y caótica.

El envenenamiento de estos datos de entrenamiento podría perjudicar gravemente futuras versiones de modelos de IA generadores de imágenes, como DALL-E , Midjourney y Stable Diffusion . Algunos resultados podrían resultar inutilizables: los perros podrían transformarse en gatos, los coches en vacas, etc.

MIT Technology Review tuvo acceso exclusivo a un estudio de investigación que fue enviado para revisión por pares en la de Usenix

Empresas de IA como OpenAI, Meta, Google y Stability AI se enfrentan a una serie de demandas de artistas que afirman que su material protegido por derechos de autor y sus datos personales se utilizaron sin consentimiento ni compensación.

Ben Zhao , profesor de la Universidad de Chicago y jefe del equipo detrás de Nightshade, espera restablecer el equilibrio de poder entre las empresas de IA y los artistas .

Esto se logrará mediante una fuerte disuasión contra la infracción de los derechos de autor y los derechos de propiedad intelectual de los artistas. Las empresas Meta, Google, Stability AI y OpenAI aún no han respondido a la solicitud de comentarios de MIT Technology Review sobre su posible respuesta.

Nightshade y Glaze como arma combinada contra las infracciones de derechos de autor por parte de grandes empresas de inteligencia artificial

El equipo de Zhao también Glaze , una herramienta para artistas que les permite "enmascarar" , evitando que sea copiado por empresas de IA.

Al igual que Nightshade, se realizan cambios sutiles en los píxeles de una imagen. Estos son invisibles para el ojo humano; sin embargo, manipulan los modelos de aprendizaje automático hasta tal punto que interpretan la imagen como algo diferente de lo que realmente es.

El equipo planea integrar la herramienta de datos Nightshade en Glaze . Los artistas podrán elegir si desean usarla o no. Además, Nightshade también se ofrecerá en código abierto, lo que permitirá a otros experimentar con ella y crear sus propias versiones.

Al usar y crear diferentes versiones, la herramienta se vuelve cada vez más potente, enfatiza Zhao. Los conjuntos de datos para grandes modelos de IA pueden constar de miles de millones de imágenes. Cuantas más imágenes tóxicas se puedan incorporar al modelo, mayor será el daño causado por esta técnica.

¿Cómo funcionan Nightshade y Glaze?

Los artistas que desean compartir su trabajo en línea pero no quieren que las empresas de IA lo utilicen para sus fines tienen una solución llamada Glaze ( haga clic aquí para ver la herramienta ).

Aquí, los usuarios pueden subir sus imágenes y distorsionarlas con un estilo diferente. Además, ahora también es posible usar Nightshade

Cuando los desarrolladores de IA buscan en Internet para recopilar datos para mejorar o crear modelos, reciben muestras manipuladas, lo que provoca fallos de funcionamiento.

Estas muestras de datos contaminadas influyen en los modelos de IA de tal manera que, por ejemplo, los sombreros se reconocen como pasteles y los bolsos como tostadoras. Eliminar esta información falsa es extremadamente difícil: las empresas tecnológicas tendrían que buscar y eliminar minuciosamente cada muestra corrupta.

Los investigadores probaron este ataque tanto en los modelos más recientes de Stable Diffusion como en un modelo de IA desarrollado por ellos mismos. Al introducir en Stable Diffusion solo 50 imágenes de perros envenenados y luego solicitarle que generara más, el resultado fue extraño: aparecieron criaturas con un número excesivo de extremidades y caras caricaturescas.

Con 300 muestras envenenadas, un atacante puede incluso hacer que Stable Diffusion cree imágenes de gatos en lugar de imágenes de perros.

¿Qué impacto tienen estas herramientas en la dinámica de poder entre los creadores y las empresas de IA?

Junfeng Yang , profesor de informática en la Universidad de Columbia que ha investigado la seguridad de los sistemas de aprendizaje profundo y no participó en el proyecto, explica de manera convincente que Nightshade podría tener un gran impacto, en particular como elemento disuasorio.

Por ejemplo, incentivar a las empresas de IA a respetar mejor los derechos de los artistas y estar más dispuestas a pagar derechos de licencia .

Empresas de IA como Stability AI y OpenAI, que de texto a imagen , ya ofrecen a los artistas la opción de no permitir que sus imágenes se utilicen para entrenar futuras versiones de estos modelos. Sin embargo, muchos artistas consideran que esto es insuficiente.

Eva Toorenent es una ilustradora y artista que trabaja bajo el seudónimo Evaboneva , que ha utilizado Glaze y señala críticamente que dichos métodos de exclusión aún requerirían la presentación a empresas de tecnología.

Toorenent espera que Nightshade pueda cambiar el status quo:

Esto obligará a que [las empresas de IA] reconsideren su enfoque, ya que ahora pueden destruir todo su modelo al usar nuestro trabajo sin consentimiento”

Ella comentó al MIT Technology Review.

Otra artista, Autumn Beverly, informó que herramientas como Nightshade y Glaze le devolvieron la confianza para republicar su obra en línea. Anteriormente la había eliminado tras descubrir que había sido copiada LAION

“Estoy realmente agradecido de tener una herramienta disponible que pueda ayudar a los artistas a recuperar el control sobre su trabajo”

Ella dice.