{"id":4718,"date":"2024-05-15T07:00:00","date_gmt":"2024-05-15T05:00:00","guid":{"rendered":"https:\/\/www.safecreative.org\/tips\/es\/?p=4718"},"modified":"2025-08-18T13:23:58","modified_gmt":"2025-08-18T11:23:58","slug":"openai-busca-soluciones-contra-la-desinformacion-y-las-infracciones-de-copyright","status":"publish","type":"post","link":"https:\/\/www.safecreative.org\/tips\/es\/openai-busca-soluciones-contra-la-desinformacion-y-las-infracciones-de-copyright\/","title":{"rendered":"OpenAI anuncia medidas contra la desinformaci\u00f3n y las infracciones de copyright"},"content":{"rendered":"\n

La startup<\/em> de inteligencia artificial (IA) se suma al esfuerzo para detectar im\u00e1genes, audios y v\u00eddeos falsos creados con esta tecnolog\u00eda. OpenAI ha lanzado un nuevo detector de deepfakes<\/em><\/strong> que compartir\u00e1 con un peque\u00f1o grupo de investigadores para probarlo. Adem\u00e1s, anuncia un nuevo desarrollo, Media Manager, para que los creadores y titulares de contenido puedan excluir sus obras para entrenar la IA de la empresa.\u00a0<\/p>\n\n\n\n

M\u00e9todos para identificar contenido creado por IA <\/h2>\n\n\n\n

OpenAI ha revelado el lanzamiento de una herramienta que permite detectar im\u00e1genes falsas creadas con la tercera versi\u00f3n de su modelo DALL-E. En un art\u00edculo<\/a> del blog de la compa\u00f1\u00eda, anuncia que ha comenzado a desarrollar nuevos m\u00e9todos<\/strong> para rastrear y comprobar si el contenido se ha creado mediante IA. En este contexto, ha surgido la nueva herramienta para determinar si las im\u00e1genes est\u00e1n generadas por IA, as\u00ed como introducir una marca de agua para etiquetarlas que, esperan, sea resistente a las manipulaciones. Adem\u00e1s, han incorporado marcas de agua para audio en Voice Engine,<\/strong> el modelo de voz personalizado que tambi\u00e9n est\u00e1n perfeccionando.\u00a0<\/p>\n\n\n\n

Detector de im\u00e1genes falsas en pruebas <\/h2>\n\n\n\n

La firma ha indicado que va a compartir el detector de deepfakes<\/em> con un reducido grupo de investigadores especializados en desinformaci\u00f3n para que puedan testarlo en casos reales y ayudar a identificar las mejoras que pueden introducirse. El anuncio lo ha confirmado Sandhini Agarwal, investigadora de OpenAI especializada en seguridad y pol\u00edtica, en The New York Times<\/a>, quien asegur\u00f3 que la herramienta puede contribuir a solucionar el problema, pero no lo va a resolver. En la lucha contra los deepfakes<\/em>, \u00abno existe una soluci\u00f3n milagrosa\u00bb<\/strong>, ha advertido.\u00a0<\/p>\n\n\n\n

El nuevo detector, seg\u00fan las pruebas realizadas por la propia empresa, puede identificar el 98,8% de las im\u00e1genes creadas por DALL-E 3 a partir de una descripci\u00f3n en lenguaje natural. Sin embargo, en otros sistemas, el rendimiento del detector s\u00f3lo alcanza entre el 5% y el 10%, por lo que la compa\u00f1\u00eda ha aclarado que la herramienta<\/strong> no se ha dise\u00f1ado para detectar im\u00e1genes producidas por otros generadores <\/strong>como Midjourney o Stability.\u00a0<\/p>\n\n\n\n

Compromiso con las credenciales de autenticidad <\/h2>\n\n\n\n

Siguiendo la estela de otros gigantes de la tecnolog\u00eda, como Google o Meta, la firma se ha unido al comit\u00e9 directivo de la Coalici\u00f3n para la Procedencia y Autenticidad del Contenido<\/strong>, conocido como C2PA<\/a>, para seguir desarrollando credenciales para el contenido digital. El est\u00e1ndar C2PA es un protocolo universal para etiquetar im\u00e1genes, videos, clips de audio y otros archivos que muestra cu\u00e1ndo y c\u00f3mo fueron producidos o alterados, incluso con IA. OpenAI admite que, aunque estas soluciones t\u00e9cnicas son valiosas, se precisa un esfuerzo conjunto. \u00abEs necesario que plataformas digitales, creadores de contenido y agentes intermediarios colaboren para mantener los metadatos asociados, lo que facilitar\u00eda a los consumidores finales tener transparencia respecto al origen del contenido<\/strong>.\u00bb\u00a0<\/p>\n\n\n\n

Media Manager, proyecto en favor del copyright<\/em> <\/h2>\n\n\n\n

Por otro lado, la startup<\/em> est\u00e1 trabajando en Media Manager,<\/strong> un gestor que permita a los creadores y titulares de contenido indicar sus preferencias sobre el uso de sus obras y datos personales en la IA. Seg\u00fan publica en su blog<\/a>, est\u00e1 colaborando con ellos \u00aba medida que desarrollan la herramienta\u00bb. Prev\u00e9 tenerla implementada en 2025 y \u00abesperamos que establezca un est\u00e1ndar en la industria de la IA\u00bb, indican.\u00a0<\/p>\n\n\n\n

Se entiende que este proyecto tiene como fin ayudar a garantizar el cumplimiento de los derechos de autor, pero a\u00fan se desconocen muchos detalles.<\/strong> Como apunta Wired<\/a>, la compa\u00f1\u00eda no ha dado a conocer a ninguno de sus socios ni ha aclarado c\u00f3mo funcionar\u00e1 la herramienta. \u00bfPodr\u00e1n los propietarios de contenidos hacer una \u00fanica solicitud para cubrir todas sus obras? y \u00bfse podr\u00e1n realizar solicitudes relacionadas con modelos que ya hayan sido entrenados y puestos en marcha? son algunas inc\u00f3gnitas por desvelar. <\/p>\n\n\n\n

Fuente: Wired<\/a>, NYT<\/a> <\/p>\n","protected":false},"excerpt":{"rendered":"

La empresa lanza un detector de deepfakes, se suma a C2PA y anuncia Media Manager, para gestionar derechos de autor.<\/p>\n","protected":false},"author":4,"featured_media":4719,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2],"tags":[12,33,116],"class_list":["post-4718","post","type-post","status-publish","format-standard","has-post-thumbnail","category-noticias","tag-derechos-de-autor","tag-inteligencia-artificial","tag-tecnologia"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4718","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/comments?post=4718"}],"version-history":[{"count":9,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4718\/revisions"}],"predecessor-version":[{"id":12007,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4718\/revisions\/12007"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media\/4719"}],"wp:attachment":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media?parent=4718"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/categories?post=4718"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/tags?post=4718"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}