La inteligencia artificial se utiliza cada vez más en el mundo del arte, lo que, por un lado, abre nuevas posibilidades creativas, pero por otro, disgusta a muchos artistas tradicionales.
La IA generativa y las herramientas de IA han añadido una dimensión completamente nueva al arte . Pueden imitar el estilo de artistas famosos, creando obras nuevas o incluso piezas originales y únicas que pueden ganar premios.
Con Nightshade e imágenes envenenadas, los artistas ahora están luchando contra las empresas de IA y la IA generativa
Investigadores de la Universidad de Chicago han desarrollado Nightshade, una nueva herramienta que permite a los artistas defenderse del uso de sus obras por parte de modelos de IA generativa. Así lo informó recientemente la revista MIT Technology Review
Nightshade altera sutilmente los datos de entrenamiento de los modelos de IA generadores de imágenes, lanzando así ataques dirigidos contra estas tecnologías.
Esta innovadora herramienta permite a los artistas realizar cambios invisibles en los píxeles de su arte antes de publicarlo en línea. Sin embargo, esto conlleva el riesgo de que, al incorporarse a un conjunto de entrenamiento de IA, el modelo resultante se corrompa de forma impredecible y caótica.
MIT Technology Review tuvo acceso exclusivo a un estudio de investigaciónque se presentó para su revisión por pares en la conferencia de seguridad informática Usenix
Empresas de inteligencia artificial como OpenAI, Meta, Google y Stability AI se enfrentan a numerosas demandas de artistas que alegan que su material protegido por derechos de autor y sus datos personales fueron utilizados sin su consentimiento ni compensación.
Ben Zhao, profesor de la Universidad de Chicago y director del equipo detrás de Nightshade, espera restablecer el equilibrio de poder entre las empresas de IA y los artistas.
Esto se logrará mediante una fuerte disuasión contra la infracción de los derechos de autor y los derechos de propiedad intelectual de los artistas. Las empresas Meta, Google, Stability AI y OpenAI aún no han respondido a la solicitud de comentarios de MIT Technology Review sobre su posible respuesta.
Nightshade y Glaze como arma combinada contra las infracciones de derechos de autor por parte de grandes empresas de inteligencia artificial
El equipo de Zhao también Glaze , una herramienta para artistas que les permite "enmascarar" , impidiendo que las empresas de IA lo copien.
Al igual que Nightshade, se realizan cambios sutiles en los píxeles de una imagen. Estos son invisibles para el ojo humano; sin embargo, manipulan los modelos de aprendizaje automático hasta tal punto que interpretan la imagen como algo diferente de lo que realmente es.
El equipo planea integrar la herramienta de datos Nightshade en Glaze. Los artistas podrán elegir si desean usarla o no. Además, Nightshade se ofrecerá como software de código abierto, lo que permitirá a otros experimentar con ella y crear sus propias versiones.
Zhao subraya que, al usar y crear diferentes versiones, la herramienta se vuelve cada vez más potente. Los conjuntos de datos para grandes modelos de IA pueden constar de miles de millones de imágenes. Cuantas más imágenes tóxicas se introduzcan en el modelo, mayor será el daño causado por esta técnica.
¿Cómo funcionan Nightshade y Glaze?
Los artistas que desean compartir su trabajo en línea pero no quieren que las empresas de IA lo utilicen para sus propios fines tienen una solución llamada Glaze (haga clic aquí para acceder a la herramienta).
Glaze – Descargue el software desde la página del Laboratorio de Arena de la Universidad de Chicago
Aquí, los usuarios pueden subir sus imágenes y distorsionarlas con un estilo diferente. Además, ahora también es posible usar Nightshade
¡Hola artistas! Esperamos que Glaze les resulte fácil de usar. Si tienen algún problema o pregunta, respondan a este tuit y les responderemos. También pueden enviarnos un mensaje directo (los mensajes directos están abiertos) si prefieren comunicarse de forma privada. ¡Gracias a @ZakugaMignon por la sugerencia! #AskGlaze
Cuando los desarrolladores de IA buscan en Internet para recopilar datos para mejorar o crear modelos, reciben muestras manipuladas, lo que provoca fallos de funcionamiento.
Estas muestras de datos contaminadas influyen en los modelos de IA de tal manera que, por ejemplo, los sombreros se reconocen como pasteles y los bolsos como tostadoras. Eliminar esta información falsa es extremadamente difícil: las empresas tecnológicas tendrían que buscar y eliminar minuciosamente cada muestra corrupta.
Los investigadores probaron este ataque tanto en los modelos más recientes de Difusión Estable como en un modelo de IA desarrollado por ellos mismos. Cuando alimentaron a Difusión Estable con solo 50 imágenes de perros envenenados y luego le pidieron que generara más imágenes de perros, el resultado fue extraño: surgieron criaturas con un número excesivo de extremidades y rostros caricaturescos.
Con 300 muestras envenenadas, un atacante puede incluso hacer que Stable Diffusion cree imágenes de gatos en lugar de imágenes de perros.
¿Qué impacto tienen estas herramientas en la dinámica de poder entre los creadores y las empresas de IA?
Junfeng Yang, profesor de informática en la Universidad de Columbia que ha investigado la seguridad de los sistemas de aprendizaje profundo y que no participó en el proyecto, explica de forma convincente que Nightshade podría tener un impacto importante, sobre todo como elemento disuasorio.
Por ejemplo, se podría incentivar a las empresas de IAa respetar mejor los derechos de los artistas y a estar más dispuestas a pagar derechos de licencia .
Empresas de inteligencia artificial como Stability AI y OpenAI, que imágenes a partir de texto , ya ofrecen a los artistas la opción de no permitir que sus imágenes se utilicen para entrenar futuras versiones de estos modelos. Sin embargo, muchos artistas consideran que esto es insuficiente.
Eva Toorenent es una ilustradora y artista que trabaja bajo el seudónimo de Evaboneva, quien ha utilizado Glaze y señala críticamente que dichos métodos de exclusión voluntaria aún requerirían la sumisión a empresas tecnológicas.
Toorenent espera que Nightshade pueda cambiar el status quo:
Esto obligará a que [las empresas de IA] reconsideren su enfoque, ya que ahora pueden destruir todo su modelo al usar nuestro trabajo sin consentimiento”
Ella comentó al MIT Technology Review.
Otra artista, Autumn Beverly, comentó que herramientas como Nightshade y Glaze le devolvieron la confianza para republicar su trabajo en línea. Anteriormente lo había retirado tras descubrir que había sido copiado sin su permiso en una popular base de datos de imágenes llamada LAION
“Estoy realmente agradecido de tener una herramienta disponible que pueda ayudar a los artistas a recuperar el control sobre su trabajo”
Propietario y Director General de Kunstplaza. Publicista, editor y bloguero apasionado del arte, el diseño y la creatividad desde 2011. Licenciado en Diseño Web (2008), perfeccionó sus técnicas creativas con cursos de dibujo a mano alzada, pintura expresiva y teatro/actuación. Posee un profundo conocimiento del mercado del arte, adquirido a través de años de investigación periodística y numerosas colaboraciones con actores e instituciones clave del sector artístico y cultural.
Una necesidad básica de toda persona creativa artística es probablemente poder vivir de su arte.
es fundamental ganar dinero a través del arte. De hecho, contrariamente a la creencia popular, muchos artistas hoy en día pueden vivir bien de su trabajo creativo. Sin embargo, la gran mayoría de los artistas independientes aún dependen de fuentes de ingresos adicionales (por ejemplo, impartiendo cursos, realizando encargos, trabajando en proyectos paralelos, etc.).
El reconocimiento como artista no suele traer seguridad financiera inmediata. Por lo tanto, los artistas suelen ser también artistas de la vida.
Las oportunidades de ganarse la vida con el arte han aumentado significativamente gracias a internet y las redes sociales. Sin embargo, los artistas necesitan ser versátiles y flexibles para triunfar. Cierta perseverancia también es esencial.
Las relaciones con los clientes y el automarketing también son pilares importantes para el éxito como artista.
En esta sección recopilamos numerosos artículos, información, consejos y recomendaciones para ayudarte a vivir de tu arte.
Arte con IA: Arte e Inteligencia Artificial
En esta sección de la revista encontrará numerosos informes y artículos sobre el uso de la inteligencia artificial (IA) en el arte, el diseño y la arquitectura.
No se trata sólo de cómo se puede utilizar la IA en estas áreas, sino también de qué impacto tiene esto en el trabajo creativo.
Si bien algunos expertos creen que el uso de la IA conducirá a una revolución en el arte y el diseño, también hay voces dentro de la propia industria que se muestran escépticas ante el arte con IA y los generadores de imágenes impulsados por IA .
Un ejemplo temprano del uso de la IA en el arte, que data de 2016, es el proyecto "El Próximo Rembrandt". En este caso, se desarrolló un software que creó una nueva pintura al estilo del pintor holandés basándose en el análisis de datos, sin intervención humana.
El resultado fue sorprendentemente realista y demostró claramente el potencial de esta tecnología incluso en aquel entonces.
¿Qué implica este desarrollo para la artesanía tradicional? ¿ Desaparecerá o se crearán nuevas oportunidades?
Estas preguntas preocupan a muchas personas tanto dentro como fuera de la industria.
En cualquier caso, la conexión entre el arte y la inteligencia artificial nos ofrece perspectivas interesantes sobre posibles escenarios futuros.
¡Le invitamos cordialmente a unirse a nosotros en un viaje de descubrimiento!
Decoración de pared J-Line "Tres mujeres africanas", pintura acrílica y mezcla de cuerdas sobre lienzo
325,00 €
