Protegiendo el Arte en la Era de la Inteligencia Artificial

Protegiendo el Arte en la Era de la Inteligencia Artificial: Conoce a Nightshade
Nuevas herramientas están surgiendo para proteger a los artistas y su arte en la era de la inteligencia artificial. ¡Prepárate para conocer a Nightshade!
Con el objetivo de proteger los derechos de autor de los artistas, investigadores han decidido crear un "escudo invisible" para proteger el arte digital: Nightshade. En pocas palabras, realiza pequeños cambios en las imágenes (que nosotros, simples mortales, no percibimos) pero que confunden a los modelos de inteligencia artificial. Por ejemplo, un perro puede convertirse en un gato cuando la IA lo reproduce.

La idea detrás de Nightshade es clara: empoderar a los artistas para que luchen contra las empresas de IA, como OpenAI y Google, que utilizan el arte sin el debido consentimiento. Este uso indebido del arte disponible en línea está poniendo a estas empresas en el punto de mira de varias demandas presentadas por artistas que afirman que sus creaciones han sido mal utilizadas.

Ben Zhao, profesor de la Universidad de Chicago y líder del equipo creador de Nightshade, pretende que la herramienta sea una llamada de atención para las grandes empresas, recordándoles que deben respetar el arte, el trabajo y la propiedad intelectual de los artistas. MIT Technology Review intentó contactar con los gigantes tecnológicos, pero ninguno hizo comentarios al respecto.

El mismo equipo que desarrolló Nightshade también creó Glaze, una herramienta que permite a los artistas "camuflar" su estilo artístico único, impidiendo que estas empresas de IA lo copien. Y lo mejor es que están considerando combinar ambas herramientas.

La buena noticia es que Nightshade será de código abierto, lo que significa que otros desarrolladores podrán mejorarla. Cuanta más gente la use y adapte, más potente se volverá, lo que tiende a ser cada vez mejor para proteger el arte y al artista.

La IA generativa no solo se basa en imágenes. ¿Conoces Riffusion? ¿Crea música a partir de indicaciones de texto? Haga clic aquí
Evitando la IA en favor del arte

Nightshade funciona de forma brillante, aprovechando una vulnerabilidad en los modelos de inteligencia artificial. Estos modelos aprenden de una gran cantidad de datos, muchos de ellos provenientes de imágenes recopiladas de internet, y Nightshade modifica ligeramente estas imágenes para el entrenamiento automático.

Si un artista no quiere que las empresas de inteligencia artificial copien su arte, con la ayuda de una herramienta llamada Glaze, puede subir su obra, camuflarla con un estilo artístico diferente al suyo y luego usar Nightshade.

Así, cuando los desarrolladores de inteligencia artificial buscan más datos en internet, encuentran estas imágenes "envenenadas", lo que genera confusión en los modelos de IA.

Cuando la herramienta de inteligencia artificial encuentra estas imágenes corruptas, la situación se complica. Los investigadores probaron Nightshade en algunos modelos y los resultados fueron sorprendentes.

Al alimentar a un modelo con solo 50 imágenes alteradas de perros, este comenzó a generar criaturas extrañas, con muchas extremidades y rostros exagerados. Al aumentar la dosis de imágenes "envenenadas", ¡los perros incluso se convirtieron en gatos!

Lo más increíble (y un poco aterrador) es que estos modelos de inteligencia artificial son muy buenos para establecer conexiones, así que cuando Nightshade "ataca" la palabra "perro", no solo afecta a esa palabra, sino también a conceptos similares como "cachorro", "husky" e incluso "lobo". Un desastre para un sistema que afirma tener una obra de arte como referencia.

Y aún hay más... Si la inteligencia artificial obtiene una imagen envenenada relacionada con "arte fantástico", otros conceptos como "dragón" y "un castillo de El Señor de los Anillos" también pueden ser manipulados.

Los riesgos

Por supuesto, también existen riesgos de que las personas utilicen esta técnica de "envenenamiento" con fines maliciosos, y los expertos advierten que es hora de crear defensas contra este tipo de ataques.

Gautam Kamath, profesor de la Universidad de Waterloo que no participó en el estudio, elogió la investigación y planteó una cuestión crucial: a medida que estos modelos de IA se vuelven más potentes y la gente confía más en ellos, las vulnerabilidades se agravan aún más.

Poder para proteger el arte y a los artistas

Con el objetivo de proteger a los artistas, un juez federal estadounidense ha dictaminado que el arte generado por IA no puede protegerse legalmente. ¿Lo has visto? ¡Haz clic aquí!

Nightshade está cambiando la forma en que los artistas ven internet y sus creaciones.

Junfeng Yang, profesor de informática de la Universidad de Columbia que ha estudiado la seguridad de los sistemas de aprendizaje profundo y que no participó en el estudio, cree que a medida que Nightshade gane fuerza, las empresas de IA podrían empezar a replantear sus métodos y quizás a respetar más los derechos de los artistas. Quizás estemos un paso más cerca de proteger el arte y los derechos de los autores.

Empresas líderes como Stability AI y OpenAI ya ofrecen a los artistas la opción de que sus imágenes no se utilicen en modelos de entrenamiento de IA.

Si bien esto puede parecer una medida interesante, los artistas afirman que no es del todo cierto. Eva Toorenent, ilustradora y artista que ha utilizado Glaze, cree que las políticas de uso obligan a los artistas a superar las barreras para proteger su arte, al tiempo que otorgan a las empresas la mayor parte del poder. Sin embargo, espera que Nightshade haga que estos gigantes tecnológicos se lo piensen dos veces antes de aceptar obras sin permiso.

Por otro lado, algunos artistas están notando los efectos positivos de estas herramientas. Otra artista, Autumn Beverly, por ejemplo, ha vuelto a internet y publica su trabajo con confianza gracias a Nightshade y Glaze. Tras el uso de su arte sin consentimiento, ahora siente que tiene más control sobre dónde y cómo aparece. Reconoce el gran valor de estas herramientas al devolver a los artistas el control sobre su arte.

La tendencia es que estas herramientas para proteger a los artistas mejoren con el tiempo. Regular el arte y muchos otros temas es un desafío en un escenario de rápida evolución como el actual con la inteligencia artificial. Pero no podemos ignorar los esfuerzos para que el arte y la tecnología coexistan, en beneficio de todas las partes interesadas.
Fuente