{"id":3403,"date":"2024-03-27T15:55:08","date_gmt":"2024-03-27T14:55:08","guid":{"rendered":"https:\/\/www.safecreative.org\/tips\/es\/?p=3403"},"modified":"2025-08-21T09:40:33","modified_gmt":"2025-08-21T07:40:33","slug":"models-all-the-way-down-estudio-sobre-ia-generativa-de-imagenes","status":"publish","type":"post","link":"https:\/\/www.safecreative.org\/tips\/es\/models-all-the-way-down-estudio-sobre-ia-generativa-de-imagenes\/","title":{"rendered":"Models all the way down: estudio sobre IA generativa de im\u00e1genes"},"content":{"rendered":"\n

Knowing Machines<\/a> acaba de publicar un estudio titulado Models all the way down,<\/a><\/em> de Christo Buschek y Jer Thorp. En \u00e9l, explican c\u00f3mo se entrenan los modelos de IA que necesitan grandes cantidades de im\u00e1genes, como Midjourney o Stable Diffusion. Lo hacen analizando LAION-5B<\/a>, un set de datos de im\u00e1genes p\u00fablico. <\/p>\n\n\n\n

El art\u00edculo visual original presenta el contenido poco a poco y con ejemplos animados, en un largo scroll.<\/em> Aqu\u00ed resumimos algunos de los puntos clave.<\/p>\n\n\n\n

El estudio se divide en 5 partes: <\/p>\n\n\n\n

    \n
  1. Presentaci\u00f3n de LAION-5B, un conjunto de datos de im\u00e1genes muy conocido y de uso extendido.<\/li>\n\n\n\n
  2. C\u00f3mo obtiene LAION-5B las im\u00e1genes y la informaci\u00f3n que las describe.<\/li>\n\n\n\n
  3. Problemas detectados en cuanto a representaci\u00f3n de diferentes idiomas y culturas en los datos.<\/li>\n\n\n\n
  4. C\u00f3mo se determina el criterio est\u00e9tico en las im\u00e1genes de los modelos.<\/li>\n\n\n\n
  5. Contenido no autorizado o inapropiado: se necesita transparencia para poder auditar estos sistemas.<\/li>\n<\/ol>\n\n\n\n

    Parte 1. LAION-5B<\/h2>\n\n\n\n

    Ya se sabe que para entrenar IA generativa se necesitan inmensas bases de datos. De tal magnitud que ser\u00eda inviable comprobar lo que contienen, o seleccionar el contenido a mano.<\/p>\n\n\n\n

    Los modelos de IA generativa, incluyendo los modelos m\u00e1s populares que se comercializan, suelen utilizar conjuntos de datos disponibles de forma gratuita. Uno de ellos es LAION-5B, con 5’85 billones de im\u00e1genes,<\/strong> lanzado en 2022 por LAION<\/a>. \u00c9sta es una organizaci\u00f3n sin \u00e1nimo de lucro alemana con fines de investigaci\u00f3n. El set de datos es p\u00fablico, pero sus creadores advierten: <\/p>\n\n\n\n

    \n

    \u00abNo recomendamos su uso para crear productos industriales listos para su lanzamiento, ya que la investigaci\u00f3n b\u00e1sica sobre las propiedades generales y la seguridad de estos modelos a gran escala, que nos gustar\u00eda fomentar con este lanzamiento, est\u00e1 a\u00fan en curso.\u00bb<\/p>\n(LAION.ai)<\/cite><\/blockquote>\n\n\n\n

    Uno de los posibles usos de LAION-5B es para entrenamiento de IA generativa de im\u00e1genes. Midjourney y Stable Diffusion, entre otros, lo utilizan. El estudio observa que este inmenso set contiene im\u00e1genes inapropiadas, como CSAM (material de abuso sexual infantil). La organizaci\u00f3n reconoce que los filtros autom\u00e1ticos para detectar y eliminar contenido son imperfectos.<\/p>\n\n\n\n

    Relacionado: LAION-5B se encuentra deshabilitado <\/a>actualmente, tras un estudio de Stanford University que inform\u00f3 sobre la presencia de cientos de im\u00e1genes con CSAM<\/a>. <\/p>\n\n\n\n

    Parte 2. Ver como un modelo<\/h2>\n\n\n\n

    \u00bfC\u00f3mo controlar entonces lo que contienen estos sets de datos? Knowing Machines parte de intentar entender c\u00f3mo se recopila y clasifica la informaci\u00f3n. <\/p>\n\n\n\n

    Common Crawl<\/h3>\n\n\n\n

    LAION-5B est\u00e1 construido en base a otro dataset<\/em> de una organizaci\u00f3n sin \u00e1nimo de lucro: Common Crawl.<\/a> Se trata de un repositorio libre y gratuito de datos extra\u00eddos mediante web crawl<\/em> (rastreo web). El rastreo web recopila informaci\u00f3n autom\u00e1ticamente, a trav\u00e9s de bots.<\/em><\/p>\n\n\n\n

    Relacionado: Dos medidas para que los bots no accedan al contenido de tu web<\/a><\/p>\n\n\n\n

    Algunos sitios web aparecen m\u00e1s que otros. Destacan por ejemplo Pinterest (155 millones de im\u00e1genes con sus descripciones), Shopify (140 millones) y SlidePlayer (72 millones).<\/p>\n\n\n\n

    Common Crawl busca en el HTML de los sitios web el atributo alt<\/code> de las im\u00e1genes. Este atributo est\u00e1 pensado para contener una descripci\u00f3n de la imagen, una alternativa para que usuarios con problemas de visi\u00f3n puedan acceder al contenido. Sin embargo, suele utilizarse para contener otra informaci\u00f3n. Tanto Pinterest como Shopify y SlidePlayer a\u00f1aden texto alt<\/code> a sus im\u00e1genes. Pero en Shopify por ejemplo se usa para meter palabras clave para aparecer en resultados de b\u00fasqueda, no para describir la imagen a una persona que no pueda verla.<\/p>\n\n\n\n

    Por tanto, el texto en alt<\/code> no es de fiar. Para resolver este problema, investigadores de OpenAI desarrollaron una red neuronal llamada CLIP (Contrastive Language-Image Pre-training).<\/a> \u00c9sta punt\u00faa si el texto describe adecuadamente la imagen o no. Hace esto contrastando con sets de datos de referencia como ImageNet-1K.<\/a> La puntuaci\u00f3n va de 0 a 1: si un par de imagen+texto punt\u00faa m\u00e1s de 0’26-0’28, se incluye en LAION.<\/p>\n\n\n\n

    Knowing Machines apunta que, en proporci\u00f3n, muy pocas im\u00e1genes punt\u00faan m\u00e1s de 0’5.<\/strong> Una puntuaci\u00f3n muy alta en CLIP suele significar que la imagen contiene texto, y que \u00e9ste aparece literalmente en la etiqueta alt<\/code>. La mayor\u00eda de im\u00e1genes est\u00e1 por debajo de 0’5, y mover el criterio una cent\u00e9sima arriba o abajo incluye o excluye millones de im\u00e1genes. El criterio exacto, c\u00f3mo se asignan las puntuaciones, se desconoce. Las redes neuronales como CLIP son notoriamente complejas, por lo que a veces se dice que son \u00abcajas negras\u00bb. <\/p>\n\n\n\n

    Cajas negras en cadena<\/h3>\n\n\n\n

    Un patr\u00f3n emerge: para entrenar modelos del tama\u00f1o que se utiliza hoy en d\u00eda, se necesita depender de otros modelos. Cajas negras seguidas de cajas negras. Y la responsabilidad de auditar los modelos se deja \u00abpara que lo resuelvan otros\u00bb.<\/p>\n\n\n\n