Los acad\u00e9micos reclaman calificar los recientes hackeos cometidos por modelos de lenguaje de \u201ccibercr\u00edmenes\u201d y exigen responsabilidades legales directas a las empresas desarrolladoras.<\/p>\n\n\n\n
Antonio Villarreal<\/a> | SINC<\/a><\/a><\/a><\/p>\n\n\n\n <\/a><\/a><\/a><\/a><\/a><\/a>Se hable de lo que se hable estos d\u00edas, la inteligencia artificial siempre acaba saliendo, ya sea por motivos positivos, como la resoluci\u00f3n de un problema matem\u00e1tico como las ecuaciones de Navier-Stokes, o negativos, por las\u00a0aparentemente incontrolables acciones de los agentes<\/strong>, dispuestos a realizar ciberataques a empresas como el incidente de OpenAI a la plataforma de aprendizaje autom\u00e1tico HuggingFace.<\/p>\n\n\n\n Durante un encuentro con la prensa organizado este viernes por el Science Media Center (SMC) Espa\u00f1a, Ram\u00f3n L\u00f3pez de M\u00e1ntaras<\/strong>, profesor de investigaci\u00f3n del Consejo Superior de Investigaciones Cient\u00edficas (CSIC) en el Instituto de Investigaci\u00f3n en Inteligencia Artificial (IIIA); Nuria Oliver<\/strong>, directora del centro ELLIS Alicante; y Sen\u00e9n Barro<\/strong>, director del Centro Singular de Investigaci\u00f3n en Tecnolog\u00edas Inteligentes (CiTIUS) de la Universidad de Santiago de Compostela, han analizado el estado actual y la deriva de la inteligencia artificial de frontera.<\/p>\n\n\n\n El punto de partida de la mesa redonda ha sido la proliferaci\u00f3n de narrativas que atribuyen a la tecnolog\u00eda capacidades aut\u00f3nomas y amenazas casi b\u00e9licas<\/strong>. Para L\u00f3pez de M\u00e1ntaras, detr\u00e1s de la alarma por una hipot\u00e9tica rebeli\u00f3n de las m\u00e1quinas coexisten tres factores clave: \u201cHay marketing<\/em>, distracci\u00f3n y una clara intenci\u00f3n de eludir responsabilidades\u201d.<\/p>\n\n\n\n Seg\u00fan el investigador del CSIC, la antropomorfizaci\u00f3n de la tecnolog\u00eda act\u00faa como una estrategia publicitaria dirigida a inversores y clientes. \u201cCuanto m\u00e1s parece que una m\u00e1quina piensa, conspira o se rebela, m\u00e1s extraordinaria nos parece la tecnolog\u00eda<\/strong> que la empresa ha creado\u201d, afirm\u00f3. Sin embargo, este marco discursivo resulta perjudicial al opacar da\u00f1os inmediatos que ya impactan en la sociedad, tales como la discriminaci\u00f3n por sesgos, la explotaci\u00f3n laboral, la vigilancia masiva, el alto coste medioambiental y la p\u00e9rdida de habilidades cognitivas.<\/a><\/p>\n\n\n\n El uso de un lenguaje figurado para describir la conducta de estos sistemas ha generado un intenso debate t\u00e9cnico entre los expertos. Sen\u00e9n Barro argument\u00f3 que referirse a las m\u00e1quinas con verbos como \u201cpensar\u201d o \u201cconspirar\u201d puede funcionar como un atajo descriptivo \u00fatil para la divulgaci\u00f3n y la comprensi\u00f3n funcional de procesos complejos, siempre que no se atribuya conciencia ni intencionalidad a los sistemas.<\/p>\n\n\n\n No obstante, L\u00f3pez de M\u00e1ntaras alert\u00f3 sobre los riesgos de no acotar ese uso: \u201cHay que dejar muy claro que es un lenguaje metaf\u00f3rico. Si no, la gente se confunde\u201d. Adem\u00e1s, el experto subray\u00f3 que proyectar la\u00a0imagen de una m\u00e1quina fuera de control<\/strong>\u00a0desplaza sutilmente la responsabilidad de los ingenieros y directivos hacia el algoritmo, convirtiendo a las corporaciones en meras espectadoras de acontecimientos de los que son legalmente responsables.<\/a><\/a><\/a><\/a><\/a><\/a><\/p>\n\n\n\n A este respecto, Barro compar\u00f3 el ritmo de desarrollo actual con el sector automovil\u00edstico: \u201cEs como si las empresas de automoci\u00f3n estuvieran construyendo coches preocup\u00e1ndose solo de aumentar la potencia del motor, mientras los gobiernos desatienden las carreteras, la se\u00f1alizaci\u00f3n y la educaci\u00f3n vial\u201d. En este sentido, abog\u00f3 por ralentizar la evoluci\u00f3n de los modelos frontera.<\/p>\n\n\n\n L\u00f3pez de M\u00e1ntaras fue m\u00e1s all\u00e1 en su cr\u00edtica a los sistemas de prop\u00f3sito general, defendiendo orientar la investigaci\u00f3n hacia la inteligencia artificial de prop\u00f3sito espec\u00edfico. \u201cAlphaFold es el\u00a0logro m\u00e1s impresionante en los \u00faltimos 10 o 15 a\u00f1os<\/strong>. Es transparente, robusto y \u00fatil. Los modelos de prop\u00f3sito general, por el contrario, conllevan un consumo energ\u00e9tico insostenible y un balance de da\u00f1os que supera con mucho sus beneficios\u201d, asever\u00f3.<\/p>\n\n\n\n La discusi\u00f3n abord\u00f3 de lleno los recientes incidentes atribuidos a modelos avanzados, como el filtrado de datos e incursiones no autorizadas en repositorios de software<\/em>. Nuria Oliver se mostr\u00f3 contundente al rechazar el t\u00e9rmino \u201cincidente\u201d para describir estos sucesos.<\/p>\n\n\n\n \u201cA m\u00ed me parece inaceptable que llamemos \u2018incidente\u2019\u00a0a que el software de una compa\u00f1\u00eda penetre ilegalmente en los servidores de otra o modifique datos sin autorizaci\u00f3n. Eso no es un incidente, es un\u00a0cibercrimen cometido por la tecnolog\u00eda<\/strong>\u201d, asever\u00f3 Oliver. La investigadora enfatiz\u00f3 que en cualquier otro sector industrial, si un avi\u00f3n o un veh\u00edculo no es seguro, no se pone en el mercado.<\/a><\/a><\/a><\/a><\/a><\/a><\/p>\n\n\n\n Para la directora de ELLIS Alicante, muchos de estos fallos no se deben a una superinteligencia aut\u00f3noma, sino al fen\u00f3meno conocido en aprendizaje por refuerzo como reward hacking<\/em> o hackeo de la recompensa. En estos escenarios, el sistema optimiza la funci\u00f3n matem\u00e1tica objetiva por v\u00edas imprevistas y no deseadas debido a un mal dise\u00f1o de las restricciones por parte de los desarrolladores.<\/p>\n\n\n\n Oliver apunt\u00f3 que no hace falta una IA general para generar riesgos catastr\u00f3ficos en infraestructuras cr\u00edticas<\/strong> como redes energ\u00e9ticas o sistemas financieros: bastan agentes cuyo comportamiento colectivo e imprevisto busque cumplir su objetivo a toda costa.<\/a><\/p>\n\n\n\n En el tramo final del encuentro se examin\u00f3 el concepto de la automejora recursiva, la capacidad te\u00f3rica de un modelo de programar y optimizar de forma aut\u00f3noma sus siguientes versiones. Los ponentes aclararon que, si bien gran parte del c\u00f3digo de los nuevos modelos de frontera ya es generado autom\u00e1ticamente por versiones previas<\/strong>, este proceso sigue pautado y supervisado por equipos humanos.<\/p>\n\n\n\n Sin embargo, los expertos advierten sobre la aparici\u00f3n de comportamientos emergentes en entornos multiagente.<\/strong> Oliver destac\u00f3 c\u00f3mo en experimentos documentados se ha observado que distintos agentes interactivos son capaces de dividirse el trabajo, establecer jerarqu\u00edas y transmitir informaci\u00f3n de manera colectiva.<\/p>\n\n\n\n Si bien gran parte del c\u00f3digo de los nuevos modelos de frontera ya es generado autom\u00e1ticamente por versiones previas, este proceso sigue pautado y supervisado por equipos humanos<\/p>\n\n\n\n <\/a><\/a><\/a><\/a><\/a><\/a><\/p>\n\n\n\n Ante la imposibilidad t\u00e9cnica actual de ofrecer garant\u00edas absolutas sobre el comportamiento de estos modelos complejos, Barro celebr\u00f3 el marco normativo pionero impulsado por la Uni\u00f3n Europea para fijar un control democr\u00e1tico sobre la tecnolog\u00eda, concluyendo que la regulaci\u00f3n no puede dejarse en manos de la autorregulaci\u00f3n corporativa.<\/p>\n\n\n\n El director de CiTIUS pidi\u00f3 tambi\u00e9n un aumento de la inversi\u00f3n para avanzar en la comprensi\u00f3n de la IA desde lo p\u00fablico: \u201cLa investigaci\u00f3n en la academia est\u00e1 desconectada de lo que se hace en las compa\u00f1\u00edas actualmente\u201d, debido a la imposibilidad de competir en recursos de computaci\u00f3n y tambi\u00e9n a la opacidad propia del sector.<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Tres de los mayores expertos espa\u00f1oles en inteligencia artificial advierten de que el discurso apocal\u00edptico sobre la superinteligencia y el \u201criesgo de extinci\u00f3n\u201d sirve como cortina de humo para ocultar problemas reales e inmediatos de la tecnolog\u00eda.<\/p>\n","protected":false},"author":1,"featured_media":2301,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","_eb_attr":"","footnotes":""},"categories":[143,58,134],"tags":[],"class_list":["post-2300","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economia","category-opinion","category-sociedad"],"magazineBlocksPostFeaturedMedia":{"thumbnail":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-150x150.jpg","medium":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-300x200.jpg","medium_large":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-768x512.jpg","large":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-1024x683.jpg","1536x1536":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA.jpg","2048x2048":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA.jpg","colormag-highlighted-post":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-392x272.jpg","colormag-featured-post-medium":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-390x205.jpg","colormag-featured-post-small":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-130x90.jpg","colormag-featured-image":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-800x445.jpg","colormag-default-news":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-150x150.jpg","colormag-featured-image-large":"https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-1299x600.jpg"},"magazineBlocksPostAuthor":{"name":"Laverdad.tech\/almeria","avatar":"https:\/\/secure.gravatar.com\/avatar\/f21dc133dd1ebd43a20583d2fcd62e6beb4b50d962f93c9b5d036007e9e9912f?s=96&d=mm&r=g"},"magazineBlocksPostCommentsNumber":"0","magazineBlocksPostExcerpt":"Tres de los mayores expertos espa\u00f1oles en inteligencia artificial advierten de que el discurso apocal\u00edptico sobre la superinteligencia y el \u201criesgo de extinci\u00f3n\u201d sirve como cortina de humo para ocultar problemas reales e inmediatos de la tecnolog\u00eda.","magazineBlocksPostCategories":["Econom\u00eda","Opini\u00f3n","Sociedad"],"magazineBlocksPostViewCount":19,"magazineBlocksPostReadTime":6,"magazine_blocks_featured_image_url":{"full":["https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA.jpg",1299,866,false],"medium":["https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-300x200.jpg",300,200,true],"thumbnail":["https:\/\/laverdad.tech\/almeria\/wp-content\/uploads\/2026\/09\/Distraccion-marketing-y-cero-responsabilidades-expertos-analizan-los-verdaderos-riesgos-tras-el-panico-por-la-IA-150x150.jpg",150,150,true]},"magazine_blocks_author":{"display_name":"Laverdad.tech\/almeria","author_link":"https:\/\/laverdad.tech\/almeria\/author\/admin\/"},"magazine_blocks_comment":0,"magazine_blocks_author_image":"https:\/\/secure.gravatar.com\/avatar\/f21dc133dd1ebd43a20583d2fcd62e6beb4b50d962f93c9b5d036007e9e9912f?s=96&d=mm&r=g","magazine_blocks_category":"Econom\u00eda<\/a> Opini\u00f3n<\/a> Sociedad<\/a>","videoUrl":"","yoast_head":"\nEl peligro del lenguaje antropom\u00f3rfico<\/h2>\n\n\n\n
El mito de la p\u00e9rdida de control<\/h2>\n\n\n\n
Automejora recursiva<\/h2>\n\n\n\n