{"id":8033,"date":"2026-08-28T14:34:35","date_gmt":"2026-08-28T12:34:35","guid":{"rendered":"https:\/\/laverdad.tech\/?p=8033"},"modified":"2026-08-28T14:38:08","modified_gmt":"2026-08-28T12:38:08","slug":"ha-hecho-esto-una-ia","status":"publish","type":"post","link":"https:\/\/laverdad.tech\/index.php\/2026\/08\/28\/ha-hecho-esto-una-ia\/","title":{"rendered":"\u00bfHa hecho esto una\u00a0IA?"},"content":{"rendered":"\n

Paula Lamo<\/a>, Universidad de Cantabria<\/a><\/em><\/p>\n\n\n\n

Entre otras obligaciones, los proveedores de sistemas generativos deben incorporar marcas que permitan detectar contenidos generados o manipulados artificialmente. Mientras, quienes utilizan estos sistemas tienen obligaciones espec\u00edficas de informaci\u00f3n<\/a> cuando producen deepfakes<\/em><\/a> y determinados textos sobre asuntos de inter\u00e9s p\u00fablico.<\/p>\n\n\n\n

El objetivo parece claro: reducir los riesgos de enga\u00f1o, manipulaci\u00f3n, fraude o desinformaci\u00f3n. Sin embargo, \u00bfqu\u00e9 demuestra realmente encontrar una de esas marcas? \u00bfY qu\u00e9 significa no encontrarla?<\/p>\n\n\n\n

Qu\u00e9 se est\u00e1 incrustando exactamente en los archivos<\/h2>\n\n\n\n

El C\u00f3digo de Buenas Pr\u00e1cticas<\/a> europeo dise\u00f1ado para facilitar el cumplimiento del art\u00edculo 50 contempla diferentes mecanismos de marcado y detecci\u00f3n. El objetivo es que las se\u00f1ales sean legibles por m\u00e1quina, interoperables, robustas y fiables hasta donde resulte t\u00e9cnicamente posible.<\/p>\n\n\n\n

Una de las tecnolog\u00edas que puede utilizarse para acreditar la procedencia son los metadatos<\/a>, es decir, etiquetas con informaci\u00f3n detallada sobre un archivo, criptogr\u00e1ficamente verificables. As\u00ed, el est\u00e1ndar C2PA<\/a> permite asociar a un archivo un historial de procedencia mediante credenciales firmadas digitalmente, de manera que las modificaciones posteriores puedan quedar registradas o ser detectables. Otra posibilidad son las marcas de agua<\/a> imperceptibles incorporadas al propio contenido. Un ejemplo es el sistema SynthID<\/a>, que introduce se\u00f1ales en im\u00e1genes, audio, v\u00eddeo o texto, destinadas a sobrevivir a determinadas transformaciones del archivo.<\/p>\n\n\n\n

Los dos mecanismos persiguen lo mismo, pero funcionan de manera distinta. Los metadatos se parecen a la etiqueta de una chaqueta: viajan con el archivo, aunque pueden desaparecer cuando este se copia, transforma o procesa. La marca de agua se parece m\u00e1s a la filigrana de un billete: est\u00e1 incrustada en el propio contenido y, en principio, resulta m\u00e1s dif\u00edcil de eliminar.<\/p>\n\n\n\n

No obstante, ambas t\u00e9cnicas identifican la procedencia, no la autor\u00eda. Se trata de una limitaci\u00f3n importante que hace que, aunque estamos empezando a disponer del \u00abn\u00famero de serie\u00bb que permite rastrear de d\u00f3nde viene un contenido, sigamos sin tener una prueba capaz de determinar de forma fiable si lo cre\u00f3 una persona o una m\u00e1quina.<\/p>\n\n\n\n

Todos los usos de la IA en el mismo saco<\/h2>\n\n\n\n

Una se\u00f1al de procedencia<\/a> puede acreditar que un determinado sistema intervino en la generaci\u00f3n o manipulaci\u00f3n del contenido. No explica necesariamente cu\u00e1nto intervino, ni cu\u00e1l fue la contribuci\u00f3n intelectual de la persona.<\/p>\n\n\n\n

No es lo mismo pedir a un modelo que genere un trabajo completo desde cero que utilizarlo para traducir un p\u00e1rrafo, mejorar una frase, depurar un fragmento de c\u00f3digo, ordenar datos de laboratorio o retocar una imagen.<\/p>\n\n\n\n

Desde el punto de vista de la autor\u00eda, el esfuerzo y la responsabilidad intelectual pueden conformar situaciones muy distintas. Y una se\u00f1al t\u00e9cnica de procedencia no nos saca de dudas.<\/p>\n\n\n\n

Entonces, \u00bfinterpretaremos socialmente que un trabajo vale menos simplemente porque aparece el aviso de que intervino una IA? Si ocurre, habremos convertido una infraestructura dise\u00f1ada para informar sobre la procedencia en algo parecido a un detector de fraude. Y no lo es.<\/p>\n\n\n\n

La paradoja del que no tiene nada que ocultar<\/h2>\n\n\n\n

Existe, adem\u00e1s, un problema de incentivos. Quien utiliza una herramienta de IA leg\u00edtimamente puede no tener ning\u00fan inter\u00e9s en eliminar su procedencia. Pero ocurre lo contrario con quien pretende hacer pasar un contenido sint\u00e9tico por aut\u00e9ntico.<\/p>\n\n\n\n

Y resulta que, en algunos casos, estas marcas pueden eliminarse. Los metadatos son fr\u00e1giles<\/a> porque pueden desaparecer cuando el archivo se transforma, se vuelve a guardar o pasa por determinados servicios. Una captura de pantalla, por ejemplo, crea un archivo nuevo que ya no conserva necesariamente la cadena de procedencia original. Por su parte, las marcas de agua incorporadas al propio contenido intentan resolver ese problema: pueden dise\u00f1arse para resistir operaciones como compresi\u00f3n, recorte o reescalado<\/a>.<\/p>\n\n\n\n

Pero robusto no significa indestructible. Est\u00e1 demostrado que determinadas marcas invisibles en im\u00e1genes pueden eliminarse mediante ataques de regeneraci\u00f3n<\/a>, en los que se a\u00f1ade ruido \u2013errores, im\u00e1genes borrosas\u2013 para que un modelo generativo reconstruya posteriormente la imagen, debilitando o eliminando la se\u00f1al original.<\/p>\n\n\n\n

Otros trabajos<\/a> han estudiado un reto todav\u00eda m\u00e1s delicado: el compromiso entre hacer una marca suficientemente robusta para sobrevivir a manipulaciones y evitar que el sistema termine detectando como marcados contenidos que no deber\u00edan estarlo.<\/p>\n\n\n\n

En este contexto, las marcas pueden ser muy \u00fatiles para mantener una cadena de procedencia cuando los participantes quieren conservarla. El problema aparece cuando alguien intenta deliberadamente romperla.<\/p>\n\n\n\n

Intentos de regulaci\u00f3n en una red global<\/h2>\n\n\n\n

Europa no es la \u00fanica que intenta afrontar el desaf\u00edo. China introdujo en 2025 medidas espec\u00edficas para identificar contenidos generados mediante IA<\/a>. Corea del Sur tambi\u00e9n ha incorporado la obligaci\u00f3n<\/a> de etiquetar esta clase de contenidos.<\/p>\n\n\n\n

En Estados Unidos, California ha aprobado la ley AI Transparency Act<\/a>, activa tambi\u00e9n desde el 2 de agosto de 2026, que obliga a grandes proveedores de IA generativa a incorporar se\u00f1ales latentes en im\u00e1genes, v\u00eddeo y audio generados por sus sistemas y a proporcionar herramientas que permitan a los usuarios comprobar si un contenido incluye esas se\u00f1ales.<\/p>\n\n\n\n

El resultado es un mosaico de obligaciones, tecnolog\u00edas, excepciones y umbrales desplegado sobre una red que nunca fue dise\u00f1ada para preguntar por el pasaporte de cada archivo.<\/p>\n\n\n\n

Presencia y ausencia no significan lo mismo<\/h2>\n\n\n\n

Disponer de mecanismos capaces de demostrar de d\u00f3nde procede un contenido puede convertirse en una pieza importante de la infraestructura digital. El valor no est\u00e1 solo en se\u00f1alar contenido generado mediante IA: tambi\u00e9n puede estar en acreditar que una fotograf\u00eda procede realmente de la c\u00e1mara o de la organizaci\u00f3n que afirma haberla producido.<\/p>\n\n\n\n

El problema aparece cuando convertimos una se\u00f1al de procedencia en un veredicto sobre la autor\u00eda. Si encontramos una marca fiable, podemos obtener informaci\u00f3n relevante sobre la intervenci\u00f3n de un determinado sistema o sobre el historial del archivo. Pero si no encontramos ninguna, la conclusi\u00f3n no es tan clara. Puede ser un contenido humano. Puede proceder de un sistema que no estaba obligado a incorporar esa se\u00f1al. Puede haber sufrido transformaciones que rompieron su cadena de procedencia. Puede haberse realizado una captura de pantalla. O alguien puede haber intentado deliberadamente eliminar la marca.<\/p>\n\n\n\n

Presencia y ausencia, por tanto, no tienen el mismo valor probatorio. Y entender esa asimetr\u00eda ser\u00e1 imprescindible si estas tecnolog\u00edas empiezan a utilizarse en educaci\u00f3n, periodismo, justicia, redes sociales o propiedad intelectual.<\/p>\n\n\n\n

Al mismo tiempo, una marca de procedencia puede ayudarnos a responder a la pregunta: \u00bfde d\u00f3nde viene esto? Pero no responde a otra mucho m\u00e1s dif\u00edcil: \u00bfqui\u00e9n lo pens\u00f3? Para esa segunda pregunta seguimos sin tener un detector autom\u00e1tico.<\/p>\n\n\n\n

Paula Lamo<\/a>, Profesora e investigadora, Universidad de Cantabria<\/a><\/em><\/p>\n\n\n\n

Este art\u00edculo fue publicado originalmente en The Conversation<\/a>. Lea el original<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Desde el 2 de agosto de 2026, se aplican en la Uni\u00f3n Europea nuevas obligaciones de transparencia para determinados sistemas de inteligencia artificial (IA). Si los usuarios han visto un aviso en la p\u00e1gina principal de herramientas como ChatGPT, Gemini, Claude o Deepseek, no se trata de una campa\u00f1a de imagen de las empresas tecnol\u00f3gicas. Es una consecuencia del art\u00edculo 50 del Reglamento europeo de inteligencia artificial.<\/p>\n","protected":false},"author":1,"featured_media":8034,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","_eb_attr":"","_FSMCFIC_featured_image_caption":"","_FSMCFIC_featured_image_nocaption":"","_FSMCFIC_featured_image_hide":"","footnotes":""},"categories":[482],"tags":[469],"class_list":["post-8033","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-robotica","tag-wi3"],"_links":{"self":[{"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/posts\/8033","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/comments?post=8033"}],"version-history":[{"count":3,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/posts\/8033\/revisions"}],"predecessor-version":[{"id":8040,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/posts\/8033\/revisions\/8040"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/media\/8034"}],"wp:attachment":[{"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/media?parent=8033"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/categories?post=8033"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laverdad.tech\/index.php\/wp-json\/wp\/v2\/tags?post=8033"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}