{"id":9855,"date":"2025-03-06T15:00:00","date_gmt":"2025-03-06T14:00:00","guid":{"rendered":"https:\/\/www.safecreative.org\/tips\/es\/?p=9855"},"modified":"2025-08-19T10:09:17","modified_gmt":"2025-08-19T08:09:17","slug":"estan-mejorando-los-detectores-de-escritura-por-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.safecreative.org\/tips\/es\/estan-mejorando-los-detectores-de-escritura-por-inteligencia-artificial\/","title":{"rendered":"\u00bfEst\u00e1n mejorando los detectores de escritura por inteligencia artificial?\u00a0"},"content":{"rendered":"\n

El verano de 2023 no fue un buen momento para los detectores de inteligencia artificial (IA). OpenAI, en una decisi\u00f3n que tuvo gran repercusi\u00f3n, retir\u00f3 su detector alegando que no era eficaz. Un estudio del Washington Post<\/em> revel\u00f3 graves lagunas en la eficacia de los sistemas de detecci\u00f3n de IA y otro estudio similar, realizado por investigadores acad\u00e9micos, hall\u00f3 problemas similares. Las cosas no pintaban mucho mejor en el verano de 2024. M\u00e1s tarde, algunos estudios revelaron que la detecci\u00f3n por IA no funcionaba sistem\u00e1ticamente y, peor a\u00fan, que los humanos no eran mucho mejores que los bots<\/em>. <\/p>\n\n\n\n

Sin embargo, en los \u00faltimos meses, los titulares han sido algo m\u00e1s alentadores. Un art\u00edculo reciente de David Gewirtz en ZDNet<\/em> puso de manifiesto que tres detectores de IA eran precisos en todos los test que realiz\u00f3. Un an\u00e1lisis anterior realizado por Chandra Steele en PC Mag<\/em> hab\u00eda arrojado resultados similares. En su perfil de LinkedIn, Anna Mills, detractora ac\u00e9rrima de los detectores de IA, se ha hecho eco recientemente de esta opini\u00f3n. Tras revisar la bibliograf\u00eda m\u00e1s reciente, Mills ha decidido que estos detectores tienen cabida en el proceso. Entonces, \u00bfest\u00e1n mejorando las herramientas de detecci\u00f3n de IA? Si es as\u00ed, \u00bfhasta qu\u00e9 punto podemos confiar en ellas? Las respuestas no son sencillas. <\/p>\n\n\n\n

Primero, las buenas noticias <\/h2>\n\n\n\n

La buena noticia es relativamente simple: la detecci\u00f3n de la escritura con IA est\u00e1 mejorando. El grado de mejora es objeto de debate. Sin embargo, no hay demasiadas dudas de que as\u00ed es. Pero este resultado deber\u00eda ser el esperado. Las herramientas de detecci\u00f3n de IA se perfeccionan y se entrenan constantemente y no son pocos los contenidos generados por humanos y por IA para alimentar estos sistemas. <\/p>\n\n\n\n

Aunque hay debates sobre si la IA generativa se estancar\u00e1 y cu\u00e1ndo, los detectores de IA podr\u00edan no estar sujetos a esos problemas. Por ejemplo, una de las dificultades de los sistemas de IA generativa es encontrar nuevos contenidos con los que entrenarse. Los detectores de IA, sin embargo, disponen de una fuente casi ilimitada de contenidos generados por IA con los que entrenarse. As\u00ed, parece que estos detectores est\u00e1n realmente mejorando. Aun as\u00ed, puede que esto no sea suficiente para tranquilizar a la gente. <\/p>\n\n\n\n

Las malas noticias <\/h2>\n\n\n\n

Las malas noticias son m\u00faltiples. En primer lugar, hay una gran disparidad entre los varios sistemas. Si nos fijamos en el art\u00edculo de Gewirtz, tres herramientas identificaron con \u00e9xito los cinco trabajos. Sin embargo, solo tres diferentes identificaron correctamente dos de ellos. Aunque existen sistemas aceptables, tambi\u00e9n hay mucho material de p\u00e9sima calidad. Los docentes y otras personas que busquen herramientas de detecci\u00f3n de IA deben ser conscientes de ello y mantenerse al d\u00eda de los cambios que se produzcan a lo largo del tiempo. Se trata de un \u00e1mbito que evoluciona r\u00e1pidamente. <\/p>\n\n\n\n

En segundo lugar, incluso los mejores sistemas cometen errores, como, por ejemplo, falsos positivos. Dado que estos m\u00e9todos son cajas negras y que los humanos no pueden verificar ni refutar los resultados, no es recomendable confiar \u00fanicamente en ellos. Por \u00faltimo, se trata del juego del gato y el rat\u00f3n. Varias herramientas pretenden \u00abreescribir\u00bb o \u00abhumanizar\u00bb el texto generado por IA. Asimismo, como vimos anteriormente, la edici\u00f3n humana de textos de IA puede seguir siendo dif\u00edcil de detectar.\u00a0<\/p>\n\n\n\n

En muchos sentidos, volvemos a estar en 2005. Por aquel entonces, la detecci\u00f3n del plagio en las escuelas era todav\u00eda relativamente nueva. Los alumnos pasaban mucho tiempo tratando de encontrar formas de esquivar o burlar los sistemas. A medida que las herramientas de detecci\u00f3n de plagio encontraban nuevos caminos, reparaban sus sistemas. Sin embargo, eso puede no ser tan pr\u00e1ctico con la detecci\u00f3n de IA generativa debido a la naturaleza de \u00abcaja negra\u00bb de los sistemas. En resumen, aunque el progreso de los detectores de IA es sorprendente, tambi\u00e9n hay razones para ser esc\u00e9pticos al respecto.\u00a0<\/p>\n\n\n\n

Una estructura con fisuras <\/h2>\n\n\n\n

Entonces, \u00bfd\u00f3nde queda la detecci\u00f3n de IA? Es una pregunta dif\u00edcil, sobre todo porque su respuesta puede cambiar ma\u00f1ana mismo. Se trata de un campo en transformaci\u00f3n. Sin embargo, hay tres sencillos factores que, con toda probabilidad, no cambiar\u00e1n, y que no se pueden ignorar:\u00a0<\/p>\n\n\n\n

    \n
  • Los detectores de IA nunca ser\u00e1n perfectos. <\/li>\n<\/ul>\n\n\n\n
      \n
    • Siempre ser\u00e1n cajas negras que los humanos no podr\u00e1n verificar. <\/li>\n<\/ul>\n\n\n\n
        \n
      • Los malos resultados, en particular los falsos positivos, son siempre un riesgo. <\/li>\n<\/ul>\n\n\n\n

        En su publicaci\u00f3n, Mills lo reconoc\u00eda. Habl\u00f3 del enfoque de la \u00abestructura con fisuras\u00bb (en ingl\u00e9s, utiliz\u00f3 la met\u00e1fora del \u00abqueso suizo\u00bb, con agujeros visibles en su interior). Mills cit\u00f3 a Philip Dawson como fuente de inspiraci\u00f3n. Dawson, por su parte, atribuye la idea a Kiata Rundle (y a sus asesores de doctorado Guy Curtis y Joseph Clare). La idea es sencilla: cualquier capa o enfoque tendr\u00e1 agujeros o fisuras, incluidos los detectores de IA. Se deben adoptar m\u00faltiples planteamientos en lugar de confiar en un solo estrato. Esto incluye una variedad de opciones, como elaborar tareas dif\u00edciles de resolver para la IA, hacer que se trabaje m\u00e1s en un entorno controlado (como el aula) y hacer preguntas a los alumnos despu\u00e9s de que hayan entregado una tarea.\u00a0<\/p>\n\n\n\n

        Cada estrato que se puede a\u00f1adir previene y detecta el plagio de IA, a la vez que reduce los falsos positivos y minimiza el impacto negativo a los estudiantes honestos. Por tanto, la pregunta no es: \u00ab\u00bfpueden los profesores confiar en los detectores de IA?\u00bb. En su lugar, deber\u00eda ser: \u00ab\u00bfdeber\u00edan ser los detectores de IA uno de esos estratos?\u00bb. En mi opini\u00f3n, tiene sentido. Pero solo si los profesores comprenden las limitaciones.\u00a0<\/p>\n\n\n\n

        Conclusi\u00f3n <\/h2>\n\n\n\n

        Quienes est\u00e1n en contra del uso de softwares <\/em>de detecci\u00f3n de IA guardan un simple recelo: les preocupa que los profesores tomen decisiones bas\u00e1ndose \u00fanicamente en el detector, y que esto vaya en detrimento de alumnos que son objeto de falsos positivos. Pero esta suposici\u00f3n no es gratuita. Hay frecuentes usos indebidos hasta con los softwares <\/em>de detecci\u00f3n de plagio m\u00e1s convencionales. Incluso cuando los profesores pueden examinar r\u00e1pidamente los resultados y hacer una determinaci\u00f3n humana, muchos no lo hacen; de hecho, ha habido numerosos casos de profesores y editores que han confiado ciegamente en porcentajes de concordancia y otros indicadores para definir el plagio. <\/p>\n\n\n\n

        Es f\u00e1cil suponer que los profesores tender\u00e1n a\u00fan m\u00e1s a hacer un mal uso de un sistema que requiere m\u00e1s revisi\u00f3n humana. Y no ayuda el hecho de que veamos titulares como este, en el que las escuelas se enfrentan a represalias tanto dentro como fuera de los tribunales por acusaciones dudosas de IA. En general, los docentes ya est\u00e1n lo suficientemente sobrecargados y mal pagados. Ya tienen bastante trabajo con todo lo que se les pide, y ahora se les suman todos estos problemas derivados de la IA. Es extremadamente injusto. No puedo culpar a los profesores por tener que lidiar con ello. <\/p>\n\n\n\n

        Dicho esto, si hay que elegir entre utilizar \u00fanicamente detectores de IA o no utilizarlos en absoluto, preferir\u00eda no utilizarlos en absoluto. Aunque est\u00e1n mejorando, eso puede cambiar de la noche a la ma\u00f1ana, y los riesgos son demasiado grandes. Sin embargo, tienen cabida, sin duda, como parte de una estrategia matizada y estratificada para reducir el uso no permitido de la IA. El reto consiste en saber si existe la voluntad y la capacidad de aplicar dicha estrategia. <\/p>\n\n\n\n

        Al igual que la detecci\u00f3n de plagio tradicional, la detecci\u00f3n de IA nunca se resolver\u00e1 de forma definitiva. El uso inadecuado de estas herramientas puede perjudicar y perjudicar\u00e1 a los alumnos. Sin embargo, matizar es dif\u00edcil y, para algunos, puede resultar poco pr\u00e1ctico. Esa es la verdadera realidad en muchas aulas de todo el mundo. <\/p>\n","protected":false},"excerpt":{"rendered":"

        \u00bfEst\u00e1n mejorando los detectores de escritura por IA? \u00bfHasta qu\u00e9 punto podemos confiar en ellas? Las respuestas no son sencillas.<\/p>\n","protected":false},"author":36,"featured_media":9858,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[108,48],"tags":[33],"class_list":{"0":"post-9855","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-opinion","8":"category-tema-del-momento","9":"tag-inteligencia-artificial"},"acf":[],"_links":{"self":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/9855","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/comments?post=9855"}],"version-history":[{"count":5,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/9855\/revisions"}],"predecessor-version":[{"id":12307,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/posts\/9855\/revisions\/12307"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media\/9858"}],"wp:attachment":[{"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/media?parent=9855"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/categories?post=9855"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.safecreative.org\/tips\/es\/wp-json\/wp\/v2\/tags?post=9855"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}