{"id":4887,"date":"2024-05-22T06:59:00","date_gmt":"2024-05-22T04:59:00","guid":{"rendered":"https:\/\/www.safecreative.org\/tips\/es\/?p=4887"},"modified":"2025-08-21T12:42:50","modified_gmt":"2025-08-21T10:42:50","slug":"scarlett-johansson-reaviva-el-debate-sobre-la-clonacion-de-voz","status":"publish","type":"post","link":"https:\/\/www.safecreative.org\/tips\/es\/scarlett-johansson-reaviva-el-debate-sobre-la-clonacion-de-voz\/","title":{"rendered":"Scarlett Johansson reaviva el debate sobre la clonaci\u00f3n de voz"},"content":{"rendered":"\n<blockquote class=\"twitter-tweet\"><p lang=\"qst\" dir=\"ltr\">her<\/p>&mdash; Sam Altman (@sama) <a href=\"https:\/\/twitter.com\/sama\/status\/1790075827666796666?ref_src=twsrc%5Etfw\">May 13, 2024<\/a><\/blockquote> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script>\n\n\n\n<p>El 14 de este mes OpenAI anunciaba ChatGPT-4o, que permite conversar con el modelo a la vez que se comparte con \u00e9ste audio y v\u00eddeo. Las demostraciones que acompa\u00f1aron al lanzamiento impresionaron sobre todo por la velocidad de respuesta y por <strong>la personalidad y expresividad de las voces.<\/strong> El modelo parece dudar antes de dar alguna respuesta, r\u00ede, bromea, canta y usa sarcasmo.<\/p>\n\n\n\n<p>Existen varias voces disponibles. Una de ellas, llamada Sky, ha recordado a millones de personas a Scarlett Johansson, sobre todo a su actuaci\u00f3n en la pel\u00edcula <em>Her.<\/em> <\/p>\n\n\n\n<blockquote class=\"twitter-tweet\" data-media-max-width=\"560\"><p lang=\"en\" dir=\"ltr\">Say hello to GPT-4o, our new flagship model which can reason across audio, vision, and text in real time: <a href=\"https:\/\/t.co\/MYHZB79UqN\">https:\/\/t.co\/MYHZB79UqN<\/a><br><br>Text and image input rolling out today in API and ChatGPT with voice and video in the coming weeks. <a href=\"https:\/\/t.co\/uuthKZyzYx\">pic.twitter.com\/uuthKZyzYx<\/a><\/p>&mdash; OpenAI (@OpenAI) <a href=\"https:\/\/twitter.com\/OpenAI\/status\/1790072174117613963?ref_src=twsrc%5Etfw\">May 13, 2024<\/a><\/blockquote> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script>\n\n\n\n<h2 class=\"wp-block-heading\">Scarlett Johansson se neg\u00f3 en su momento a dar voz a ChatGPT<\/h2>\n\n\n\n<p>La actriz publicaba ayer las siguientes declaraciones al respecto:<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>\u00abEl septiembre pasado recib\u00ed una oferta de Sam Altman, que quer\u00eda contratarme para que pusiera voz al sistema actual de ChatGPT 4.0. Dijo que cre\u00eda que si yo le diera voz al sistema, eso podr\u00eda servir de puente entre las tecnol\u00f3gicas y los creativos, y ayudar a los consumidores a sentirse c\u00f3modos con el cambio radical en lo que concierne a humanos e IA. Dijo que sent\u00eda que mi voz resultar\u00eda reconfortante para la gente.<\/p>\n\n\n\n<p>Tras considerarlo mucho y por motivos personales, <strong>declin\u00e9 la oferta.<\/strong><\/p>\n\n\n\n<p>Nueve meses despu\u00e9s, mis amigos, familiares y el p\u00fablico general observaron cu\u00e1nto el \u00faltimo sistema llamado \u00abSky\u00bb sonaba como yo.  <\/p>\n\n\n\n<p>Cuando o\u00ed la demo me sorprendi\u00f3, me enfureci\u00f3 y me pareci\u00f3 incre\u00edble que el se\u00f1or Altman buscase conseguir una voz tan sospechosamente parecida a la m\u00eda que <strong>ni mis amigos m\u00e1s cercanos<\/strong> ni los medios de comunicaci\u00f3n pudieran notar la diferencia. El se\u00f1or Altman incluso insinu\u00f3 que la similitud es a prop\u00f3sito, al tuitear la palabra \u00abher\u00bb, una referencia a la pel\u00edcula en la que di voz a un sistema de chat, Samantha, que forma una relaci\u00f3n \u00edntima con un humano.<\/p>\n\n\n\n<p>Dos d\u00edas antes de que la demo de ChatGPT 4.0 se publicase, el se\u00f1or Altman contact\u00f3 con mi agente, pidi\u00e9ndole que reconsiderase. Antes de que pudi\u00e9ramos conectar, el sistema ya se hab\u00eda lanzado. <\/p>\n\n\n\n<p>Como resultado de sus acciones, me he visto obligada a contratar un abogado, que ha escrito dos cartas al se\u00f1or Altman y a OpenAI, exponiendo lo que han hecho y pidi\u00e9ndoles que detallen el proceso exacto con el que han creado a &#8216;Sky&#8217;. Como consecuencia, OpenAI acept\u00f3 a rega\u00f1adientes retirar la voz &#8216;Sky&#8217;.<\/p>\n\n\n\n<p>En un momento en el que todos tenemos que hacer frente a los <em>deepfakes<\/em> y proteger <strong>nuestra propia imagen, nuestro trabajo y nuestra identidad,<\/strong> creo que estas cuestiones merecen una <strong>claridad<\/strong> absoluta. Espero una resoluci\u00f3n en forma de transparencia y la aprobaci\u00f3n de una legislaci\u00f3n adecuada que ayude a garantizar la protecci\u00f3n de los derechos individuales.\u00bb<\/p>\n<\/blockquote>\n\n\n\n<h2 class=\"wp-block-heading\">OpenAI retira a Sky y niega haber usado la voz de la actriz<\/h2>\n\n\n\n<p><a href=\"https:\/\/openai.com\/index\/how-the-voices-for-chatgpt-were-chosen\/\" target=\"_blank\" rel=\"noreferrer noopener\">Seg\u00fan la compa\u00f1\u00eda,<\/a> \u00abla voz de Sky no es una imitaci\u00f3n de Scarlett Johansson, sino que <strong>pertenece a otra actriz<\/strong> profesional\u00bb. Tambi\u00e9n afirman que la similitud con la actriz de <em>Her<\/em> no es impostada, sino que se trata de la voz normal de la profesional contratada. La identidad de esta segunda actriz y los que han dado voz al resto de opciones disponibles en ChatGPT es <strong>confidencial,<\/strong> por lo que no pueden divulgarla. Declaran que estos actores reciben pagos por encima de las tasas m\u00e1s altas del mercado, y que seguir\u00e1 siendo as\u00ed mientras sus voces sean parte del producto.<\/p>\n\n\n\n<p>Dado el revuelo tras la demo y las preguntas en torno a c\u00f3mo se han elegido las voces, OpenAI ha <a href=\"https:\/\/x.com\/OpenAI\/status\/1792443575839678909\" target=\"_blank\" rel=\"noreferrer noopener\">retirado Sky por el momento, hasta aclarar estas dudas<\/a>.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">M\u00e1s actores sorprendidos por el uso de sus voces en otras herramientas de IA<\/h2>\n\n\n\n<p>Aunque \u00e9ste sea el suceso reciente m\u00e1s sonado de este tipo, no se trata ni mucho menos de un caso aislado. Por un lado, los cantantes tambi\u00e9n se enfrentan al impacto de los <em>deepfakes,<\/em> con algunos ejemplos virales como el de <a href=\"https:\/\/remezcla.com\/features\/music\/deepfake-or-art-the-ethics-behind-bad-bunnys-ai-viral-song\/\" target=\"_blank\" rel=\"noreferrer noopener\">Bad Bunny<\/a>. Por otro, en el mundo del doblaje, los actores se est\u00e1n encontrando cada vez m\u00e1s con contratos en los que se les pide que cedan sus derechos, para que los clientes generen versiones sint\u00e9ticas de sus voces. \u00c9stas se llegan a usar para reemplazarles sin compensaci\u00f3n adicional.<\/p>\n\n\n\n<p>Seg\u00fan Tim Friendlander, presidente de la Asociaci\u00f3n Nacional de Actores de Doblaje (NAVA), <strong>el lenguaje de estos contratos puede ser \u00abconfuso y ambiguo\u00bb.<\/strong><\/p>\n\n\n\n<p>Hace poco el <a href=\"https:\/\/www.nytimes.com\/2024\/05\/16\/technology\/ai-voice-clone-lawsuit.html\" target=\"_blank\" rel=\"noreferrer noopener\">New York Times<\/a> informaba sobre el caso de Paul Skye Lehrman y Linnea Sage, dos actores de doblaje profesionales cuyas voces fueron utilizadas por LOVO Inc. sin su consentimiento para entrenar IA. Descubrieron este uso no autorizado por casualidad al escuchar un podcast, en el que apareci\u00f3 un chatbot con la voz de Lehrman.<\/p>\n\n\n\n<p>Han presentado una <a href=\"https:\/\/www.pollockcohen.com\/docs\/2024.05.16-Lehrman-v-LOVO-complaint-Final.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">demanda contra la empresa,<\/a> en la que incluyen una captura de pantalla donde LOVO anuncia el servicio de \u00abclonar cualquier voz y crear contenido de voz personalizado y de alta calidad\u00bb. Entre los ejemplos aparecen las voces de Barack Obama (bajo el nombre \u00abBarack Yo Mama\u00bb) o Ariana Grande (\u00abAriana Venti\u00bb). <\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Regulaci\u00f3n y legislaci\u00f3n sobre <em>deepfakes<\/em><\/h2>\n\n\n\n<p>Las implicaciones para el trabajo de actores y cantantes son claras, pero tambi\u00e9n les preocupa su reputaci\u00f3n. Sarah Elmaleh<em> (Fortnite, Halo Infinite)<\/em> habla desde la experiencia y resalta la importancia de que exista un <strong>consentimiento continuo<\/strong> durante las grabaciones. Si un actor no se siente c\u00f3modo con una l\u00ednea del gui\u00f3n, normalmente puede poner objeciones o negarse a que se use esa l\u00ednea.<\/p>\n\n\n\n<p><a href=\"https:\/\/www.vice.com\/en\/article\/dy7mww\/ai-voice-firm-4chan-celebrity-voices-emma-watson-joe-rogan-elevenlabs\">Ya se han dado casos<\/a> en los que voces, m\u00e1s y menos conocidas, se clonan con fines sat\u00edricos o para da\u00f1ar reputaciones. En 4chan se han compartido por ejemplo clips como la voz de Emma Watson leyendo una secci\u00f3n de <em>Mein Kampf,<\/em> o Ben Shapiro haciendo comentarios racistas sobre Alexandria Ocasio-Cortez. En Maryland, un <a href=\"https:\/\/www.nbcnews.com\/news\/us-news\/teacher-arrested-ai-generated-racist-rant-maryland-school-principal-rcna149345\" target=\"_blank\" rel=\"noreferrer noopener\">entrenador de f\u00fatbol fue arrestado<\/a> tras intentar desprestigiar a un compa\u00f1ero con audio generado por IA. Divulg\u00f3 un clip falso en el que el director del instituto donde ambos trabajaban hac\u00eda comentarios racistas y antisem\u00edticos, llevando a su suspensi\u00f3n temporal.<\/p>\n\n\n\n<p>Los afectados por el momento pueden optar por tomar acciones legales y, en cualquier caso, por informar a sus allegados o fans de que, si su voz aparece en un contexto extra\u00f1o, probablemente no se trate de ellos. Las voces no pueden protegerse por derechos de autor, pero s\u00ed pueden recibir otro tipo de protecciones seg\u00fan la legislaci\u00f3n de cada pa\u00eds. La legislaci\u00f3n espec\u00edfica sobre los <em>deepfakes<\/em> est\u00e1 avanzando, con medidas como el <em>DEEPFAKES Accountability Act<\/em> en EE.UU. y el <em>AI Act<\/em> en la Uni\u00f3n Europea.<\/p>\n\n\n\n<p>Fuentes: <a href=\"https:\/\/x.com\/yashar\/status\/1792682664845254683\" target=\"_blank\" rel=\"noreferrer noopener\">@Yashar Ali<\/a> (X), <a href=\"https:\/\/openai.com\/index\/how-the-voices-for-chatgpt-were-chosen\/\" target=\"_blank\" rel=\"noreferrer noopener\">OpenAI<\/a>, <a href=\"https:\/\/www.nytimes.com\/2024\/05\/16\/technology\/ai-voice-clone-lawsuit.html\" target=\"_blank\" rel=\"noreferrer noopener\">NYTimes<\/a>, <a href=\"https:\/\/www.prnewswire.com\/news-releases\/pollock-cohen-files-class-action-lawsuit-against-tech-company-for-cloning-actors-voices-without-permission-302147803.html\" target=\"_blank\" rel=\"noreferrer noopener\">PRNeswire<\/a>, <a href=\"https:\/\/www.vice.com\/en\/article\/5d37za\/voice-actors-sign-away-rights-to-artificial-intelligence\">Vice<\/a>, <a href=\"https:\/\/www.nbcnews.com\/news\/us-news\/teacher-arrested-ai-generated-racist-rant-maryland-school-principal-rcna149345\" target=\"_blank\" rel=\"noreferrer noopener\">NBCNews<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El caso de la actriz y la voz \u00abSky\u00bb de OpenAI vuelve a llamar la atenci\u00f3n sobre los deepfakes y la situaci\u00f3n de cantantes y actores.<\/p>\n","protected":false},"author":5,"featured_media":4893,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2,48],"tags":[33],"class_list":{"0":"post-4887","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-noticias","8":"category-tema-del-momento","9":"tag-inteligencia-artificial"},"acf":[],"_links":{"self":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4887","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/comments?post=4887"}],"version-history":[{"count":22,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4887\/revisions"}],"predecessor-version":[{"id":12482,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/4887\/revisions\/12482"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media\/4893"}],"wp:attachment":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media?parent=4887"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/categories?post=4887"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/tags?post=4887"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}