Meta AI – Sobre la explotación de artistas en Instagram

Desde principios de junio, los artistas han estado abandonando Instagram para proteger su trabajo de la IA de Meta . Meta anunció que, inicialmente, entrenará su IA con las creaciones de artistas en Instagram en Estados Unidos y Latinoamérica, sin compensación ni opción de exclusión. Esto aún no se aplica en la Unión Europea.

Sin embargo, también debemos prestar atención a lo que sucede en nuestro propio país y seguir de cerca la actualidad. Para protegerse, cada vez más artistas recurren a la aplicación Cara .

¿Qué había pasado?

Pintores, fotógrafos y otros artistas llevan mucho tiempo utilizando Instagrampara mostrar su trabajo y aumentar su visibilidad. Sin embargo, muchos están abandonando la plataforma debido a la preocupación de que Meta, la empresa matriz de Instagram, esté utilizando sus obras para entrenar modelos de inteligencia artificial, tal como Washington Post informó

Como señal de protesta, los artistas vuelven a compartir mensajes y plantillas en otras plataformas. Muchos se están cambiando a Cara, una aplicación específica para artistas que prohíbe el uso de su contenido con fines de inteligencia artificial.

La indignación surgió después de que un gerente de Meta anunciara en mayo que las publicaciones públicas de Instagram se usarían como datos de entrenamiento. Unas semanas más tarde, la compañía informó a los usuarios en Europa que sus usarían para el entrenamiento de IA a partir del 26 de junio se sin la opción de no participar.

En la Unión Europea, sin embargo, las personas tienen derecho a decidir cómo se utilizan sus datos personales. Las tensiones entre los creadores de contenido en línea y las empresas de IA han aumentado. Todo lo que se publica públicamente en internet se considera actualmente material de entrenamiento potencial para los sistemas de IA. Esto podría llevar a que quienes crearon esos datos —como autores, músicos y artistas visuales— sean reemplazados por la IA.

Los artistas se sienten impotentes: dependen de metaaplicaciones para promocionarse, pero no pueden evitar que su trabajo se utilice con fines de inteligencia artificial. Algunos ya están al borde de perder su medio de vida.

¿Qué es Meta AI?

Meta AI es un producto innovador basado en aprendizaje automático e inteligencia artificial que se integra fácilmente en diversas metaplataformas como Facebook, WhatsApp e Instagram. También ofrece la opción de uso independiente.

IA El modelo se basa en diversas fuentes, entre las que se incluyen información disponible públicamente en línea, datos con licencia y conocimientos obtenidos del uso de los productos y servicios de Meta.

Meta anunció oficialmente que su IA ha sido entrenada recientemente en publicaciones y fotos de Facebook e Instagram. El comunicado dice:

Las publicaciones compartidas públicamente en Instagram y Facebook, incluyendo fotos y texto, formaron parte de los datos utilizados para entrenar los modelos de IA generativa que impulsan las funciones que anunciamos. No entrenamos estos modelos con publicaciones privadas de otras personas. Tampoco utilizamos el contenido de sus mensajes privados con amigos y familiares para entrenar nuestra IA

Meta ha publicado un documento titulado "Cómo Meta utiliza la información para modelos y funciones de IA generativa" que explica los detalles.

La nueva política de privacidad de Meta y la impotencia de sus usuarios

El último cambio de Meta a su política de privacidad ha decepcionado a muchos de sus 1.200 millones de usuarios en todo el mundo, tras la revelación inicial del mes pasado.

Al aceptar los términos y condiciones de Meta para uno de sus productos, los usuarios en muchas partes del mundo aceptan automáticamente que Meta puede usar su información para desarrollar sus modelos de IA.

Meta ahora puede usar fotos, publicaciones, obras de arte originales y otros recursos creativos de artistas para entrenar el generador de imágenes de IA de la empresa. Esta política entra en vigor hoy, 26 de junio de 2024.

Tal y como Wired , poco después del anuncio de Meta, más de 130.000 usuarios de Instagram compartieron mensajes en la plataforma afirmando que no daban su consentimiento para el uso de sus datos en el entrenamiento de la IA.

Sin embargo, según la legislación vigente, los creadores de contenido en Instagram parecen haber "META-físico" vendido

Únicamente en la Unión Europea, las estrictas directrices de protección de datos y los derechos de propiedad intelectual impiden que Meta Group realice estos ajustes también en este país.

Cara como refugio de protesta

La fundadora de Cara, Jingna Zhang, anunció con orgullo que la aplicación había pasado de 40 000 a 650 000 usuarios en tan solo una semana. En un momento dado, incluso se posicionó entre las cinco mejores aplicaciones sociales de la App Store. Queda por ver si Meta quedará impresionada por este éxito. «Fue una noche en vela», comentó Zhang, quien no solo es fotógrafa, sino también una ferviente defensora de los derechos de los artistas. «Esto supera nuestras expectativas».

Artistas como Zhang han emprendido acciones legales contra empresas de IA como Google y Stability AI , alegando que entrenan sus algoritmos con material protegido por derechos de autor de internet. Autores y editores como George R.R. Martin , así como The New York Times, también han tomado medidas legales similares. Las empresas argumentan que el material de entrenamiento se rige por las leyes de "uso legítimo" , que permiten remezclas e interpretaciones.

Zhang mencionó recientemente que la aplicación gratuita Cara, lanzada en enero de 2023, falló varias veces esta semana debido a problemas técnicos, a pesar de su continua popularidad. La página de inicio de la aplicación, disponible en iOS, Android y la web, se asemeja a un feed de Instagram y ofrece funciones como "Me gusta", "Comentar" y "Republicar".

Ben Zhao, profesor de informática en la Universidad de Chicago, observó con preocupación cómo diversas plataformas hacen falsas promesas y engañan a los usuarios. Algunas plataformas para artistas incluso se están convirtiendo en lo que se denomina "granjas de IA". Zhao y su colega Heather Zheng desarrollaron la herramienta Glaze para proteger la originalidad de las obras de arte de la imitación por IA y la integraron con éxito en Cara.

Según las preguntas frecuentes de Cara, los artistas tienen prohibido publicar obras generadas por IA hasta que "problemas éticos y de privacidad de datos de gran alcance" se resuelvan tecnología de detección de la empresa de IA Hive (AI Detector) se utiliza para detectar infracciones y etiquetar las imágenes subidas con la "NoAI", protegiéndolas así de la copia no autorizada.

Sin embargo, persiste el riesgo de que las empresas de IA sigan utilizando las imágenes. Algunos artistas ya están informando sobre el impacto de la IA en el éxito de sus negocios.

Cómo la IA generativa perjudica a los artistas

La artista e ilustradora Kelly McKernan, , se unió a Facebook e Instagram hace más de una década y ha utilizado con éxito estas plataformas para atraer clientes.

Sin embargo, en 2022 y 2023, experimentó una caída del 30 por ciento en sus ingresos debido a la creciente prevalencia de imágenes generadas por IA en Internet, según declaró al Washington Post.

Cuando buscó su nombre en Google, descubrió que el primer resultado era una imagen generada por IA con su mismo estilo, lo que la frustró. La política de Meta sobre la recopilación de datos por parte de IA resultó decisiva. Junto con otros dos artistas, McKernan presentó una demanda contra empresas de IA como Midjourney y Stability AI.

La ilustradora independiente Allie Sullberg decidió descargar la aplicación Cara hace dos semanas tras observar que muchos de sus colegas artistas en Instagram hablaban sobre el rastreo mediante IA y el cambio a Cara. Expresó su frustración porque Meta presenta sus iniciativas de IA como beneficiosas para los creadores, a pesar de que en realidad no obtienen ningún beneficio significativo al aplicar modelos a su trabajo.

Los usuarios de meta estándares aceptan automáticamente las directrices de IA al usar las plataformas, de acuerdo con las políticas de privacidad y los términos de servicio. Sullberg afirmó que comenzó a usar Instagram El primer modelo de imágenes generativas para usuarios finales, DALL-E de OpenAI, se lanzó en 2021.

Un portavoz de Meta dijo al Washington Post que la compañía no ofrece una opción de exclusión voluntaria.

Sin embargo, dependiendo de dónde vivan las personas, pueden plantear inquietudes sobre el uso de sus datos personales para el desarrollo de IA de acuerdo con las leyes locales de protección de datos”

Así que Richards.

esto es una muestra de irrespeto sin precedentes hacia los millones de artistas en Instagrama quienes Meta les debe gran parte de su éxito. Es como una bofetada.

Jon Lam, reconocido artista de videojuegos y defensor de los derechos de autor, ha estado buscando exhaustivamente soluciones para detener la extracción de datos mediante IA en Instagram. Tras descubrir un formulario relevante, comprobó que solo se aplicaba a usuarios en Europa, donde existen estrictas normativas de protección de datos.

Lam afirmó sentirse "profundamente enfadado y disgustado" con Meta y otras empresas de inteligencia artificial.

Estas empresas se han desviado de sus orígenes. Nos han dado la falsa impresión de que las redes sociales sirven para mantener el contacto con amigos y familiares y compartir actividades

Así que Lam.

Una década después, son simplemente plataformas en las que se pueden recopilar datos y generar datos de entrenamiento”

McKernan expresó su esperanza de que las demandas en curso presionen a las empresas de IA para que cambien sus políticas.

La complacencia ha permitido a empresas como Meta obtienen sus ingresos— tratar a

Esa fue su declaración.

La protección de datos europea (aún) salva a los artistas del hambre de datos de Meta en la UE

Los profesionales creativos de la Unión Europea pueden respirar tranquilos, al menos por ahora. El intento de Meta, la empresa matriz de Facebook, de utilizar las publicaciones públicas de los usuarios en Europa para entrenar sus modelos de IA se ha visto frustrado temporalmente tras la presión ejercida por defensores de la protección de datos.