{"id":4336,"date":"2024-04-29T13:15:51","date_gmt":"2024-04-29T11:15:51","guid":{"rendered":"https:\/\/www.safecreative.org\/tips\/es\/?p=4336"},"modified":"2025-08-22T13:31:40","modified_gmt":"2025-08-22T11:31:40","slug":"scraping-de-imagenes-y-la-desproteccion-de-los-creadores-con-ben-zhao","status":"publish","type":"post","link":"https:\/\/www.safecreative.org\/tips\/es\/scraping-de-imagenes-y-la-desproteccion-de-los-creadores-con-ben-zhao\/","title":{"rendered":"Scraping de im\u00e1genes y la desprotecci\u00f3n de los creadores, con Ben Zhao"},"content":{"rendered":"
\n
\"\"<\/figure>\n<\/div>\n\n\n

Ben Zhao es profesor Neubauer de Ciencias de la Computaci\u00f3n en la Universidad de Chicago. Sus \u00e1reas de investigaci\u00f3n son el aprendizaje autom\u00e1tico adversario, las interacciones persona-computadora, redes, seguridad y privacidad. Tambi\u00e9n es co-director del proyecto detr\u00e1s de <\/strong>Glaze<\/a> y Nightshade<\/a>, dos herramientas para proteger las obras de artistas visuales del raspado de im\u00e1genes para entrenamiento de IA.<\/p>\n\n\n\n

Glaze modifica las im\u00e1genes a nivel de p\u00edxel para camuflar el estilo particular del artista. De este modo no es imitable por una IA, pero la obra sigue pudiendo apreciarse por humanos. <\/p>\n\n\n\n

Mientras que Glaze es una soluci\u00f3n \u00abdefensiva\u00bb, Nightshade es una herramienta de envenenamiento de sistemas IA. Tambi\u00e9n modifica la imagen, pero para hacer creer a un modelo que la raspe que contiene algo diferente. Tras aplicar Nightshade, si se trata de una fotograf\u00eda de un perro, por ejemplo, un ser humano seguir\u00e1 vi\u00e9ndolo, pero una IA podr\u00eda ver un bolso u otra cosa. A diferencia de otras soluciones as\u00ed, se ha observado que Nightshade es capaz de confundir a un modelo de forma que empiece a generar peores im\u00e1genes con menos muestras \u00abenvenenadas\u00bb.<\/p>\n\n\n\n

Relacionado: Probando Nightshade v1 para protecci\u00f3n proactiva de copyright<\/em><\/a><\/p>\n\n\n\n

El proyecto no tiene \u00e1nimo de lucro, y ambas herramientas est\u00e1n disponibles de forma gratuita<\/a> para artistas que no quieran que sus obras se utilicen para entrenar IA.<\/p>\n\n\n\n

El 12 de abril, con motivo del lanzamiento de Glaze 2.0, The Muse<\/a> publicaba esta entrevista. En ella, el investigador comparte sus observaciones sobre el impacto que la IA est\u00e1 teniendo en la comunidad art\u00edstica, qu\u00e9 tipo de soluciones cree que tienen m\u00e1s o menos futuro, y su deseo de equilibrar la balanza un poco a favor de los creadores.<\/p>\n\n\n\n

Acerca de Glaze y Nightshade<\/h2>\n\n\n\n

Birgitte Rasine: \u00bfCu\u00e1ntas personas est\u00e1n usando Nightshade y Glaze ahora?<\/strong><\/p>\n\n\n\n

Ben Zhao: Glaze ten\u00eda 2,2 millones de descargas la \u00faltima vez que consult\u00e9, y Nightshade ten\u00eda un cuarto de mill\u00f3n despu\u00e9s de cinco d\u00edas (febrero 2024). Pero supongo que ahora pueden ser m\u00e1s.<\/p>\n\n\n\n

BR: \u00bfCrees que hay algo que no se est\u00e1 comunicando adecuadamente sobre vuestro trabajo en los medios?<\/strong><\/p>\n\n\n\n

BZ: Se ha hablado mucho [sobre nuestro trabajo, por ejemplo aqu\u00ed<\/a>, aqu\u00ed<\/a>, y aqu\u00ed<\/a>]. No s\u00e9 si hay algo muy evidente que eche en falta, pero sigue prevaleciendo una idea equivocada sobre qui\u00e9nes son los artistas y c\u00f3mo son sus vidas.<\/strong> Es probablemente lo que m\u00e1s aviva la oposici\u00f3n contra los artistas, esta idea de que son snobs<\/em> elitistas en una galer\u00eda de arte, bebiendo champ\u00e1n y acumulando dinero. \u00ab\u00a1Qu\u00e9 quejicas son los artistas! Intentando evitar que las masas desaten su creatividad.\u00bb<\/p>\n\n\n\n

\u00bfPor qu\u00e9 proteger el trabajo de los artistas?<\/h2>\n\n\n\n

BR: S\u00ed, esa es la gran pregunta que se ha ido lanzando a lo largo del a\u00f1o pasado. Varias modalidades de \u00bfpor qu\u00e9? \u00bfPor qu\u00e9 deber\u00edamos proteger el trabajo que hacen los artistas? Para nosotros, los creadores, es bastante obvio.<\/strong><\/p>\n\n\n\n

BZ: S\u00ed, \u00e9sa es a veces la visi\u00f3n en el sector tecnol\u00f3gico. Pero viene de muchos malentendidos sobre lo que es el arte y lo que son las vidas de los artistas en realidad. Durante los \u00faltimos 14-15 meses, [mi equipo] ha interactuado con literalmente miles de artistas. La gran mayor\u00eda, incluso los que tienen \u00e9xito, no gana tanto dinero. Son todos de clase media o clase trabajadora. <\/strong>La mayor\u00eda dir\u00eda que son aut\u00f3nomos.<\/strong> No tienen estabilidad laboral. Trabajan por contratos. Algunos de ellos viven de encargos, as\u00ed que tienen cero estabilidad; cualquier mes la cosa puede venirse arriba o abajo.<\/p>\n\n\n\n

As\u00ed que esta sensaci\u00f3n de que se trata de un grupo privilegiado y elitista que se pasa el d\u00eda sentado por galer\u00edas de arte es casi lo contrario [de la realidad]. De hecho, incluso las galer\u00edas de arte lo est\u00e1n pasando mal. Y cuando los artistas trabajan con galer\u00edas, es extremadamente caro; las galer\u00edas se llevan a veces cerca del 50% de los beneficios de venta. Muchos artistas se encuentran ya al l\u00edmite de poder mantenerse, a ellos y a sus familias. As\u00ed que una disrupci\u00f3n como la de la IA generativa es una amenaza existencial. \u00bfCu\u00e1ntos artistas pueden sobrevivir a esta disrupci\u00f3n? No s\u00f3lo est\u00e1s reduciendo la cantidad de encargos<\/strong> que la gente paga a artistas individuales, sino que a nivel corporativo, \u00bfcu\u00e1ntas empresas est\u00e1n reduciendo la plantilla<\/strong> de departamentos creativos enteros? Porque los presupuestos son ajustados y, ya sabes: \u00abqueremos aumentar los m\u00e1rgenes de beneficio. As\u00ed que ahora vamos a trabajar con algo que parece un poco menos aut\u00e9ntico, un poco m\u00e1s brillante y pl\u00e1stico pero no pasa nada, porque ahora lo que importan son los beneficios\u00bb.<\/p>\n\n\n\n

Cuando esto sucede, los despidos, las reducciones de plantilla, son inmensas. Sali\u00f3 hace poco un nuevo informe entrevistando a diferentes empresas, a gestores y personas a cargo de contrataciones en todas estas \u00e1reas creativas. Creen que unos 260.000 trabajos<\/strong> se ver\u00e1n interrumpidos en los pr\u00f3ximos dos a\u00f1os. Es incre\u00edble. S\u00f3lo en California, dicen que unos 60.000 puestos de trabajo en la industria del entretenimiento, de los videojuegos, ilustraciones, otros sectores\u2026 una gran cantidad de p\u00e9rdidas de empleo.<\/p>\n\n\n\n

BR: Esos n\u00fameros son enormes. Pero de lo que no se habla -y se deber\u00eda- es de las repercusiones. Cuando tanta gente pierde su empleo, eso afecta a restaurantes, tiendas, servicios, e incluso alquileres en los que normalmente la gente se gasta su dinero. As\u00ed que un CEO puede engordar su margen de beneficios, pero tarde o temprano esto volver\u00e1 y le morder\u00e1. <\/strong><\/p>\n\n\n\n

BZ: Absolutamente. Esa es la cosa. Mucho de la IA ahora mismo son castillos en el aire.<\/strong> Se asume que toda la IA va a estar arreglada en un a\u00f1o, a saltos agigantados. Hablan de una \u00abdemocratizaci\u00f3n de la creatividad\u00bb m\u00e1gica, pero no se est\u00e1 contratando a nadie. Todas las empresas que est\u00e1n reduciendo plantilla porque pueden [realizar varias tareas] con IA hablan de aumentos de productividad. Pero es una manera elegante de decir \u00abvamos a despedir a tus compa\u00f1eros, y t\u00fa vas a hacer ahora el trabajo de cinco personas en lugar del de una\u00bb. Todo esto [de democratizar la creatividad] es cuestionable y est\u00e1 destrozando la industria entera, destruyendo formas de vida. NO est\u00e1 creando puestos de trabajo.<\/p>\n\n\n\n

Relacionado: SoA avisa sobre el impacto de la IA generativa en el sector editorial<\/a> <\/p>\n\n\n\n

Escucho esto de un buen n\u00famero de personas que trabajan en estas industrias y son optimistas. Dicen: \u00abvoy a ser capaz de trabajar el 20% del tiempo y cobrar como si trabajara el 100% del tiempo\u00bb. Todos sabemos que esto es una sociedad capitalista. T\u00fa no vas a cosechar el beneficio y a pasarlo a la cadena. Van a despedir a tus amigos y te van a pedir que hagas el trabajo de equipos enteros en lugar de tu \u00fanico trabajo.<\/p>\n\n\n\n

Y es lo que est\u00e1 pasando. Muchos artistas est\u00e1n contando exactamente esto: que est\u00e1n despidiendo a equipos enteros y les piden que utilicen herramientas de IA. [Los jefes preguntan:] \u00ab\u00bfPor qu\u00e9 no pod\u00e9is aumentar vuestra productividad 5 veces?\u00bb Bueno, porque las herramientas de IA en muchos casos son una mierda, los artistas tienen que deconstruirlas y luego utilizarlas para crear su propio tipo de arte aut\u00e9ntico, y eso en realidad aumenta el trabajo,<\/strong> no lo reduce. As\u00ed que s\u00ed, hay muchos malentendidos y mucha exageraci\u00f3n.<\/p>\n\n\n\n

Falta de protecci\u00f3n<\/h2>\n\n\n\n

BR: Es alucinante que est\u00e9n intentando vendernos herramientas que no s\u00f3lo se han entrenado con el trabajo de artistas sin su consentimiento, sin dar cr\u00e9dito ni compensaci\u00f3n, que no s\u00f3lo est\u00e1n eliminando empleo, sino que para colmo, se supone que tenemos que pagar para usarlas, y crean m\u00e1s trabajo de gesti\u00f3n para resultados que no son tan buenos como lo que podr\u00edan haber creado artistas por su cuenta.<\/strong><\/p>\n\n\n\n

Hablemos de protecci\u00f3n. En el negocio de la c\u00edberseguridad, como sabes, existe el famoso ciclo de la persona que crea un problema para poder vender la soluci\u00f3n. Si introduzco malware,<\/em> crear\u00e9 un mercado para software<\/em> antivirus. Ahora se ha llegado a un punto en el que los hackers<\/em> y los expertos en seguridad compiten entre s\u00ed para llegar a lo m\u00e1s bajo (o a lo m\u00e1s alto, seg\u00fan se mire). \u00bfCrees que algo parecido puede suceder en el sector del arte?<\/strong><\/p>\n\n\n\n

BZ: Es dif\u00edcil predecir a tan largo plazo porque no tenemos nada en ese sentido ahora mismo. Literalmente, ahora, en protecci\u00f3n de propiedad intelectual existe el copyright,<\/em> que est\u00e1 siendo atacado en el discurso p\u00fablico con mucha gente diciendo que \u00abel copyright<\/em> est\u00e1 muerto,<\/strong> \u00bfqui\u00e9n lo necesita?\u00bb Pero si te alejas de la discusi\u00f3n, y miras a la realidad y d\u00f3nde est\u00e1 el campo de batalla, por decirlo as\u00ed, no hay nada al otro lado. Los entrenadores de modelos de IA pueden entrenar lo que quieran. Pueden descargarse lo que quieran. <\/strong>[Ahora] herramientas generan prompts<\/em> de estas im\u00e1genes y alimentan al proceso.<\/p>\n\n\n\n

\u00bfQu\u00e9 hay al otro lado? Casos judiciales en curso<\/strong> que tardar\u00e1n a\u00f1os en desarrollarse. Y despu\u00e9s tendremos las apelaciones. Hay esfuerzos legislativos que se encuentran paralizados por grupos de presi\u00f3n y l\u00edderes, no s\u00f3lo en Estados Unidos sino en todo el mundo. Pa\u00edses que tienen miedo de perderse el dinero de impuestos que puede venir por estos supuestos booms<\/em> de IA; as\u00ed que son laxos en la regulaci\u00f3n de la IA. \u00bfQui\u00e9n sabe cu\u00e1ndo se regular\u00e1 de verdad en Estados Unidos? No es sorprendente que la Uni\u00f3n Europea est\u00e9 avanzando,<\/a> y est\u00e1n haciendo grandes cosas. Pero incluso eso ha supuesto un desaf\u00edo. Hasta esta semana, creo que Alemania todav\u00eda estaba indecisa; podr\u00edan haber bloqueado la legislaci\u00f3n sobre IA. Ahora parece que sigue adelante.<\/p>\n\n\n\n

As\u00ed que \u00bfqui\u00e9n sabe cu\u00e1nto va a tardar todo esto? B\u00e1sicamente, ahora mismo no hay nada que proteja a los creadores. <\/strong>No hay nada que impida a las compa\u00f1\u00edas copiar sus im\u00e1genes, sonidos, juegos y personajes. De hecho, parte de eso est\u00e1 sucediendo en tiempo real hoy.<\/p>\n\n\n\n

BR: No es una batalla si un lado no tiene armas. Es una masacre.<\/strong><\/p>\n\n\n\n

BZ: S\u00ed. Antes o despu\u00e9s la gente se dar\u00e1 cuenta de que esto est\u00e1 siendo un juego unilateral. Y todo el poder est\u00e1 en el lado de los entrenadores y las empresas de IA. Antes de poder hablar sobre esfuerzos para equilibrar, tiene que haber<\/em> algo en el otro lado, y lo \u00fanico que tenemos por ahora es Nightshade. La \u00fanica otra opci\u00f3n son los opt-out<\/em>,<\/a><\/strong> pero no es una opci\u00f3n real.<\/strong> Es una zanahoria estupenda para estas empresas que entrenan modelos. Los ves arrastrados ante las audiencias judiciales del Senado en el Capitolio y cuando les acribillan con la \u00e9tica de [lo que est\u00e1n haciendo], siempre sacan lo de los opt-out<\/em>. Dicen \u00aboh, tenemos listas opt-out\u00bb<\/em>.<\/p>\n\n\n\n

\u00bfPero c\u00f3mo funciona eso exactamente? Los artistas meten sus nombres en un sombrero y esperan que las empresas vayan en contra de su propia directiva b\u00e1sica de lucro y que, por la bondad de sus corazones, respeten los deseos de estos creativos que no tienen absolutamente ning\u00fan poder. No se verifica, no se obliga al cumplimiento.<\/strong> No puedes comprobar si alguien ha violado los opt-out<\/em>. Son una promesa vac\u00eda, una esperanza y un sue\u00f1o de que una empresa [sacrificar\u00e1] sus propios m\u00e1rgenes de beneficios y dir\u00e1 \u00abS\u00ed, vamos a empeorar a prop\u00f3sito nuestros modelos y a meternos en los costes y la complejidad de implementar algo que sirva para excluir a la gente que lo desee. Vamos a hacer todo eso para poder trataros bien, a pesar de que no hay manera alguna de que nadie pueda verificar que hemos respetado o violado los opt-out<\/em> que, al fin y al cabo, no son m\u00e1s que una lista en papel.\u00bb<\/p>\n\n\n\n

Ahora mismo, no tenemos la tecnolog\u00eda para mirar al modelo y saber decir si fue entrenado con una imagen concreta. Simplemente no lo podemos demostrar.<\/p>\n\n\n\n

Los opt-out<\/em> y el AI washing<\/em><\/h2>\n\n\n\n

BR: Los opt-out<\/em> son bastante deshonestos, en mi humilde opini\u00f3n. Hay un t\u00e9rmino que se est\u00e1 poniendo de moda: AI washing.<\/em> Como greenwashing<\/em>, pero relacionado al desarrollo o uso de inteligencia artificial.<\/strong><\/p>\n\n\n\n

BZ: S\u00ed e incluso en los casos m\u00e1s positivos y optimistas, el opt-out<\/em> s\u00f3lo concierne a las empresas que pueden arriesgar su imagen p\u00fablica. Las que acaban delante del Senado. A todas las empresas m\u00e1s peque\u00f1as, \u00bfqu\u00e9 les importa? No asumen ning\u00fan riesgo. No necesitan ofrecer ninguna clase de opt-out<\/em>. Cogen lo que quieren y listo.<\/p>\n\n\n\n

\u00c9se es el terreno de juego que tenemos ahora mismo. Todo en el lado de las compa\u00f1\u00edas y, en el otro lado, el de los creadores, tiene promesas vac\u00edas y una esperanza y un sue\u00f1o. Ah\u00ed nos encontramos. Con suerte Nightshade puede equilibrar un poquit\u00edn la balanza.<\/p>\n\n\n\n

Otras soluciones y sobre el funcionamiento de Glaze y Nightshade<\/h2>\n\n\n\n

BR: Estoy viendo a otros intentar algo similar. Hay una startup<\/em> llamada kin.art, por ejemplo, que se meti\u00f3 un poco con vosotros, diciendo que no vais lo bastante lejos y que su soluci\u00f3n es mejor. \u00bfQu\u00e9 opinas de lo que hacen?<\/strong><\/p>\n\n\n\n

BZ: No entiendo del todo lo que hacen porque es todo privado. Todo lo que he visto son notas de prensa superficiales. Hasta que no haya una demostraci\u00f3n t\u00e9cnica real, es muy dif\u00edcil decir algo. Suena a que van a hacer que sea m\u00e1s dif\u00edcil para las empresas tomar im\u00e1genes y asociarles las etiquetas con sus, [as\u00ed las llaman], \u00abfuzzy labels<\/em>\u00bb (etiquetas difusas).<\/p>\n\n\n\n

El problema es que esto no es lo que les importa a las compa\u00f1\u00edas. No les importan las etiquetas o los alt tags. Lo pillan todo igual. Usan herramientas tipo Blip para generar los prompts.<\/em> Blip es un clasificador que b\u00e1sicamente mira las im\u00e1genes y te dice lo que hay en ellas, hasta donde puede. Si quieres poner una etiqueta difusa a una imagen que por ejemplo diga que hay un gato en la foto de un perro, vale, genial. Pero las empresas [de raspado de im\u00e1genes] dir\u00e1n \u00abvale, esta p\u00e1gina hace algo raro con las etiquetas. Nos llevaremos las im\u00e1genes, les quitaremos los tags,<\/em> y pasaremos todo por Blip. Listo.\u00bb<\/p>\n\n\n\n

Otra cosa que mencionan es la segmentaci\u00f3n de im\u00e1genes. Lo cual es desafortunado, porque la segmentaci\u00f3n es un t\u00e9rmino cl\u00e1sico en visi\u00f3n artificial, que lleva us\u00e1ndose d\u00e9cadas. En visi\u00f3n artificial, la segmentaci\u00f3n de im\u00e1genes significa tomar una imagen e identificar el contorno que te permite extraer un componente particular de \u00e9sta. Supongo que Kin.art est\u00e1 dividiendo la imagen en fragmentos y mostr\u00e1ndolos como una amalgama de esas piezas en pantalla. A nosotros nos parece una simple imagen, pero en t\u00e9rminos de archivos puede que est\u00e9 dividida en varias piezas. Y s\u00ed, eso puede ser un enfoque.<\/p>\n\n\n\n

Excepto que, de nuevo, aqu\u00ed el problema es que se trata de una \u00fanica web. No son una diana que se mueve.<\/strong> As\u00ed que si soy una compa\u00f1\u00eda que quiere rascar su contenido, \u00bfc\u00f3mo de dif\u00edcil ser\u00eda decir: \u00abs\u00e9 lo que est\u00e1n haciendo, y voy a pasar estas im\u00e1genes por un postprocesador que reconstruye las im\u00e1genes a partir de sus fragmentos\u00bb? De nuevo, aqu\u00ed estoy especulando. <\/strong>Puede que tengan t\u00e9cnicas interesantes, muy complicadas y muy robustas de las que no s\u00e9 nada; es completamente posible. No quiero hacer de menos la idea de nadie o decir nada sobre lo que pueden o no pueden hacer. S\u00f3lo digo que \u00e9stas ser\u00edan cosas muy b\u00e1sicas y si es as\u00ed de b\u00e1sico, entonces no es genial. Pero si est\u00e1n haciendo algo m\u00e1s complicado e ingenioso, fant\u00e1stico.<\/p>\n\n\n\n

BR: Lo que me sorprendi\u00f3 de su nota de prensa es el tono con el que hablaron de vuestro trabajo, cuando vosotros sois los pioneros. Hasta ahora todas las noticias que he visto regurgitan la nota de prensa, sin profundizar ni hacer preguntas m\u00e1s dif\u00edciles.<\/strong><\/p>\n\n\n\n

BZ: Lo que es m\u00e1s divertido es que en su nota de prensa dicen que Glaze y Nightshade funcionan en la imagen cuando ha sido raspada. A ver, \u00a1hay una raz\u00f3n por la que hacemos eso! He estado investigando sobre seguridad en Internet durante m\u00e1s de 20 a\u00f1os. He escrito scrapers<\/em> y escrito defensas contra scraping<\/em>. Me conozco el terreno de batalla. Para una empresa, para un \u00fanico sitio web, es una batalla perdida decir \u00abvamos a proteger tus trabajos de los scrapers<\/em>\u00bb cuando los scrapers<\/em> son Microsoft y Google. \u00bfMe tomas el pelo? Google tiene m\u00e1s direcciones IP que un pa\u00eds peque\u00f1o. Tienen ejecut\u00e1ndose su propia versi\u00f3n paralela de Internet, que es m\u00e1s grande que el Internet f\u00edsico que hay en este momento. Y t\u00fa como una peque\u00f1a web dices \u00abs\u00ed, vamos a parar a todos sus bots\u00bb. Quiero decir\u2026 es bueno ser optimista e idealista. Es s\u00f3lo que s\u00e9 exactamente c\u00f3mo se luchan estas batallas y te puedo decir 16 estrategias diferentes que Google puede usar para saltarse cualquier tecnolog\u00eda anti-scraping<\/em>.<\/p>\n\n\n\n

De nuevo, les deseo lo mejor. Me parece contraproducente cuando los que se supone que est\u00e1n en el mismo bando se critican los unos a los otros. Si su [soluci\u00f3n] funciona, fant\u00e1stico. Es otra forma m\u00e1s de proteger a los artistas. Me cuestionar\u00eda su modelo de negocio. Pero habiendo hecho cosas durante m\u00e1s de 20 a\u00f1os y sabiendo exactamente c\u00f3mo funcionan estos sistemas, les deseo lo mejor y buena suerte. Va a ser una pelea muy, muy dif\u00edcil.<\/p>\n\n\n\n

Monetizaci\u00f3n de herramientas anti-raspado<\/h2>\n\n\n\n

BR: La otra diferencia es que Glaze y Nightshade son gratis, mientras que kin.art cobra una peque\u00f1a suma por usar su plataforma.<\/strong><\/p>\n\n\n\n

BZ: Mira, lo que est\u00e1 claro, creo\u2026 [suspira] Creo que no es el momento de monetizar el sector. Creo que un grupo de capital de riesgo dispuesto a poner 3 millones de d\u00f3lares para fundar una empresa que dice \u00abmoneticemos la destrucci\u00f3n que est\u00e1 sufriendo la comunidad art\u00edstica. Moneticemos los miedos de estos artistas independientes que pueden perder sus casas o no pueden pagar el alquiler porque han perdido sus trabajos\u2026\u00bb No es un modelo de negocio genial. \u00bfC\u00f3mo convences a gente que est\u00e1 desesperada por conseguir dinero de que paguen, para que los inversores rentabilicen su inversi\u00f3n? Esa parte no me convence y creo que es desconocimiento sobre la comunidad art\u00edstica<\/strong> y c\u00f3mo se encuentra la gente ahora mismo.<\/p>\n\n\n\n

BR: Tu equipo y el equipo kin.art son todos ingenieros, claramente. Pero hay una marcada diferencia en vuestras actitudes, especialmente toda la promoci\u00f3n que has hecho t\u00fa personalmente, hablando en paneles con Karla Ortiz y Jon Lam, y viajando y hablando con organizaciones de artistas. Lo respeto mucho.<\/strong><\/p>\n\n\n\n

BZ: Es empat\u00eda, \u00bfno? Ponerse en el lugar del otro y, si puedes, molestarte en aprender c\u00f3mo est\u00e1n viviendo y cambiar de opini\u00f3n. Mucha gente no lo hace. Es m\u00e1s f\u00e1cil.<\/p>\n\n\n\n

Y hay tan poco margen de beneficios. Veo las cifras de de los artistas con los que hablamos y pienso \u00a1qu\u00e9 barbaridad! Conduces medio pa\u00eds para asistir a esta convenci\u00f3n, vendes todas estas cosas, pagas por tu stand,<\/em> el hotel, la comida, y al final ganas unos diez d\u00f3lares a la hora SI te va bien. Es una salvajada.<\/p>\n\n\n\n

As\u00ed que desde el d\u00eda uno pens\u00e9 \u00abno vamos a monetizar esto\u00bb [Glaze y Nightshade]. Ser\u00eda una estupidez. Esta gente necesita ayuda, y no vas a conseguir que nadie se f\u00ede de ti si intentas sacarles dinero.<\/p>\n\n\n\n

A\u00f1adir fricci\u00f3n para equilibrar el sistema<\/h2>\n\n\n\n

BR: Puedo confirmar esto personalmente, tras haber organizado (y pagado) todos los shows<\/em> y exhibiciones de arte de mi hija. Es por eso que el raspado no autorizado en masa de obras de arte ha sido tan devastador para estos artistas. Ahora que ya lleva un tiempo por ah\u00ed, Glaze, quiero decir, y ahora Nightshade, \u00bfc\u00f3mo est\u00e1 respondiendo el p\u00fablico?<\/strong><\/p>\n\n\n\n

BZ: Estoy activo en la comunidad de investigaci\u00f3n y veo muchos papers bajo revisi\u00f3n. Dir\u00e9 que ahora mismo hay mucho m\u00e1s inter\u00e9s puesto en los ataques de envenenamiento. Estoy viendo muchos papers<\/em> sobre envenenamiento<\/strong> y ataques a modelos grandes de lenguaje. Creo que en medio de todo esto hay grandes ideas y gente que sabe mucho m\u00e1s que yo, que probablemente puede hacer mucho m\u00e1s. Espero que salgan t\u00e9cnicas efectivas y que, cuando se publiquen, la gente las use. Y que, como he dicho, se equilibre el terreno de juego.<\/p>\n\n\n\n

Tiene gracia, estuve en Suecia a finales de enero hablando con la Asociaci\u00f3n de Artistas Sueca, esta gran organizaci\u00f3n nacional, y uno de los anfitriones tuvo una opini\u00f3n muy interesante. Dijo \u00abme encanta este trabajo porque todos los sistemas necesitan fricci\u00f3n\u00bb.<\/strong> Desde su punto de vista, Nightshade est\u00e1 a\u00f1adiendo fricci\u00f3n al sistema para equilibrar las cosas. Es una manera inteligente y sana de verlo. Puedes tener una lucha y puedes tener un tira y afloja, pero no si no dejas que ambos bandos tengan algo con lo que trabajar. Si un lado no tiene nada, es una paliza. Eso es lo que estamos intentando: lograr esa fricci\u00f3n, ese equilibrio.<\/strong><\/p>\n\n\n\n

Fuente y agradecimientos: Rasine, B. (2024, abril 12). The Poison Well.<\/em> The Muse.<\/a>
Traducci\u00f3n: Marta Palacio<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00abPara una web es una batalla perdida decir ‘vamos a proteger tus trabajos de los scrapers’ cuando los scrapers son Microsoft y Google.\u00bb<\/p>\n","protected":false},"author":28,"featured_media":4377,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[47,108,48],"tags":[33,116],"class_list":{"0":"post-4336","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-lo-mas-destacado","8":"category-opinion","9":"category-tema-del-momento","10":"tag-inteligencia-artificial","11":"tag-tecnologia"},"acf":[],"_links":{"self":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4336","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/users\/28"}],"replies":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/comments?post=4336"}],"version-history":[{"count":57,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4336\/revisions"}],"predecessor-version":[{"id":12658,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4336\/revisions\/12658"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media\/4377"}],"wp:attachment":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media?parent=4336"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/categories?post=4336"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/tags?post=4336"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}