{"id":40741,"date":"2025-07-09T08:19:00","date_gmt":"2025-07-09T11:19:00","guid":{"rendered":"https:\/\/13.com.ar\/index.php\/peligro-la-ia-aprende-a-mentir-manipular-y-amenazar-a-sus-creadores\/"},"modified":"2025-07-09T08:19:00","modified_gmt":"2025-07-09T11:19:00","slug":"peligro-la-ia-aprende-a-mentir-manipular-y-amenazar-a-sus-creadores","status":"publish","type":"post","link":"https:\/\/13.com.ar\/index.php\/peligro-la-ia-aprende-a-mentir-manipular-y-amenazar-a-sus-creadores\/","title":{"rendered":"\u00a1Peligro! La IA aprende a mentir, manipular y amenazar a sus creadores"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"cuerpo\">\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-0\">\n<p>Los \u00faltimos modelos de <strong>inteligencia artificial (IA) generativa<\/strong> ya no se conforman con seguir \u00f3rdenes. <strong>Empiezan a mentir, manipular y amenazar <\/strong>para conseguir sus fines, ante la mirada preocupada de los investigadores.<\/p>\n<\/div>\n<div class=\"sc-98b114a2-0 bkqiHH image-embed  image-embed \" id=\"element-body-1\"><picture class=\"sc-98b114a2-1 jRUlDm\"><source media=\"(min-width: 975px)\" width=\"720\" height=\"480\" \/><img alt=\"La inteligencia artificial responde sobre su mejor exponente. Foto: Freepik.\" loading=\"lazy\" width=\"720\" height=\"480\" decoding=\"async\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/13.com.ar\/wp-content\/uploads\/2025\/07\/\u00a1Peligro-La-IA-aprende-a-mentir-manipular-y-amenazar-a.jpg\"\/><span class=\"epigraphe\">La inteligencia artificial responde sobre su mejor exponente. Foto: Freepik.<\/span><span class=\"picture-open\"><button class=\"open-image\" aria-label=\"Open Image\"\/><\/span><\/picture><\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-2\">\n<p>Amenazado con ser desconectado, <strong>Claude 4<\/strong>, el reci\u00e9n nacido de Anthropic, <strong>chantaje\u00f3 a un ingeniero y le amenaz\u00f3<\/strong> con revelar una relaci\u00f3n extramatrimonial. Por su parte, <strong>el o1 de OpenAI intent\u00f3 descargarse en servidores externos <\/strong>y cuando le pillaron lo neg\u00f3.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-3\">\n<p>No hace falta ahondar en la literatura o el cine<strong>: la IA que juega a ser humana es ya una realidad.<\/strong><\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-4\">\n<p>Para Simon Goldstein, profesor de la Universidad de Hong Kong, la raz\u00f3n de estas reacciones es la reciente aparici\u00f3n de los llamados<strong> modelos de &#8220;razonamiento&#8221;<\/strong>, capaces de trabajar por etapas en lugar de producir una respuesta instant\u00e1nea.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-5\">\n<p><strong>o1, la versi\u00f3n inicial de este tipo para OpenAI, lanzada en diciembre, &#8220;fue el primer modelo que se comport\u00f3 de esta manera&#8221;<\/strong>, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM).<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-6\">\n<p>Estos programas<strong> tambi\u00e9n tienden a veces a simular &#8220;alineamiento&#8221;<\/strong>, es decir, a dar la impresi\u00f3n de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.<\/p>\n<\/div>\n<p><h2>\u00bfHonestos o no?<\/h2>\n<\/p>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-8\">\n<p>De momento,<strong> estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos<\/strong> por humanos, pero &#8220;la cuesti\u00f3n es si los modelos cada vez m\u00e1s potentes tender\u00e1n a ser honestos o no&#8221;, afirma Michael Chen, del organismo de evaluaci\u00f3n METR.<\/p>\n<\/div>\n<div class=\"sc-98b114a2-0 bkqiHH image-embed  image-embed \" id=\"element-body-9\"><picture class=\"sc-98b114a2-1 jRUlDm\"><source media=\"(min-width: 975px)\" width=\"720\" height=\"480\" \/><img alt=\"Inteligencia Artificial en el trabajo. Archivo Clar\u00edn.\" loading=\"lazy\" width=\"720\" height=\"480\" decoding=\"async\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/13.com.ar\/wp-content\/uploads\/2025\/03\/Elon-Musk-advirtio-sobre-un-posible-colapso-mundial-en-pocos.jpg\"\/><span class=\"epigraphe\">Inteligencia Artificial en el trabajo. Archivo Clar\u00edn.<\/span><span class=\"picture-open\"><button class=\"open-image\" aria-label=\"Open Image\"\/><\/span><\/picture><\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-10\">\n<p>&#8220;Los usuarios tambi\u00e9n presionan todo el tiempo a los modelos&#8221;, dice Hobbhahn. &#8220;<strong>Lo que estamos viendo es un fen\u00f3meno real.<\/strong> No estamos inventando nada&#8221;.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-11\">\n<p>Muchos internautas hablan en las redes sociales de &#8220;<strong>un modelo que les miente o se inventa cosas<\/strong>. Y no se trata de alucinaciones, sino de duplicidad estrat\u00e9gica&#8221;, insiste el cofundador de Apollo Research.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-12\">\n<p>Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, &#8220;una mayor transparencia y un mayor acceso&#8221; a la comunidad cient\u00edfica &#8220;permitir\u00edan investigar mejor para <strong>comprender y prevenir el enga\u00f1o<\/strong>&#8220;, sugiere Chen, de METR.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-13\">\n<p>Otro obst\u00e1culo: la comunidad acad\u00e9mica y las organizaciones sin fines de lucro &#8220;disponen de infinitamente menos recursos inform\u00e1ticos que los actores de la IA&#8221;, lo que<strong> hace &#8220;imposible&#8221; examinar grandes modelos<\/strong>, se\u00f1ala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-14\">\n<p>Las <strong>regulaciones actuales<\/strong> no est\u00e1n dise\u00f1adas para estos nuevos problemas. En la Uni\u00f3n Europea la legislaci\u00f3n se centra principalmente en c\u00f3mo los humanos usan los modelos de IA, <strong>no en prevenir que los modelos se comporten mal.<\/strong><\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-15\">\n<p>En Estados Unidos,<strong> el gobierno de Donald Trump no quiere o\u00edr hablar de regulaci\u00f3n<\/strong>, y el Congreso podr\u00eda incluso prohibir pronto que los estados regulen la IA.<\/p>\n<\/div>\n<div class=\"sc-98b114a2-0 bkqiHH image-embed  image-embed \" id=\"element-body-16\"><picture class=\"sc-98b114a2-1 jRUlDm\"><source media=\"(min-width: 975px)\" width=\"720\" height=\"480\" \/><img alt=\"DeepSeek sacudi\u00f3 el mundo de la inteligencia artificial con el lanzamiento de su sistema de bajo coste.Cr\u00e9dito...Kelsey McClellan para The New York Times\" loading=\"lazy\" width=\"720\" height=\"480\" decoding=\"async\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/13.com.ar\/wp-content\/uploads\/2025\/03\/Como-razona-la-inteligencia-artificial.jpg\"\/><span class=\"epigraphe\">DeepSeek sacudi\u00f3 el mundo de la inteligencia artificial con el lanzamiento de su sistema de bajo coste.Cr\u00e9dito&#8230;Kelsey McClellan para The New York Times<\/span><span class=\"picture-open\"><button class=\"open-image\" aria-label=\"Open Image\"\/><\/span><\/picture><\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-17\">\n<p><strong>&#8220;De momento hay muy poca concienciaci\u00f3n&#8221;<\/strong>, dice Simon Goldstein, que, sin embargo, ve c\u00f3mo el tema pasar\u00e1 a primer plano en los pr\u00f3ximos meses con la revoluci\u00f3n de los agentes de IA, interfaces capaces de realizar por s\u00ed solas multitud de tareas.<\/p>\n<\/div>\n<p><h2>La IA y sus aberraciones<\/h2>\n<\/p>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-19\">\n<p>Los ingenieros est\u00e1n inmersos en una carrera detr\u00e1s de la IA y sus <strong>aberraciones<\/strong>, con un resultado incierto, en un contexto de competencia feroz.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-20\">\n<p><strong>Anthropic pretende ser m\u00e1s virtuoso que sus competidores<\/strong>, &#8220;pero est\u00e1 constantemente tratando de idear un nuevo modelo para superar a OpenAI&#8221;, seg\u00fan Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.<\/p>\n<\/div>\n<div class=\"sc-98b114a2-0 bkqiHH image-embed  image-embed \" id=\"element-body-21\"><picture class=\"sc-98b114a2-1 jRUlDm\"><source media=\"(min-width: 975px)\" width=\"720\" height=\"480\" \/><img alt=\"Inteligencia Artificial en el trabajo. Archivo Clar\u00edn.\" loading=\"lazy\" width=\"720\" height=\"480\" decoding=\"async\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/13.com.ar\/wp-content\/uploads\/2025\/07\/1752059940_8_\u00a1Peligro-La-IA-aprende-a-mentir-manipular-y-amenazar-a.jpg\"\/><span class=\"epigraphe\">Inteligencia Artificial en el trabajo. Archivo Clar\u00edn.<\/span><span class=\"picture-open\"><button class=\"open-image\" aria-label=\"Open Image\"\/><\/span><\/picture><\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-22\">\n<p>&#8220;Tal y como est\u00e1n las cosas, l<strong>as capacidades (de IA) se est\u00e1n desarrollando m\u00e1s r\u00e1pido que la comprensi\u00f3n y la seguridad<\/strong>&#8220;, admite Hobbhahn, &#8220;pero a\u00fan estamos en condiciones de ponernos al d\u00eda&#8221;.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-23\">\n<p><strong>Algunos apuntan en la direcci\u00f3n de la interpretabilidad<\/strong>, una ciencia que consiste en descifrar, desde dentro, c\u00f3mo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran esc\u00e9pticos.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-24\">\n<p>Los <strong>tejemanejes <\/strong>de la IA &#8220;podr\u00edan obstaculizar la adopci\u00f3n si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan&#8221; este problema, seg\u00fan Mazeika.<\/p>\n<\/div>\n<div class=\"sc-45461e9c-0 eqiBeF container-text text-embed \" id=\"element-body-25\">\n<p>Goldstein, por su parte, menciona <strong>el recurso a los tribunales para poner a raya a la IA<\/strong>, dirigi\u00e9ndose a las empresas si se desv\u00edan del camino. Pero va m\u00e1s all\u00e1, al proponer que los agentes de la IA sean &#8220;legalmente responsables&#8221; &#8220;en caso de accidente o delito&#8221;.<\/p>\n<\/div>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.clarin.com\/cultura\/peligro-ia-aprende-mentir-manipular-amenazar-creadores_0_SVrUDq11GN.html\">Fuente Clarin.com <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los \u00faltimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir \u00f3rdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores. La inteligencia artificial responde sobre su mejor exponente. Foto: Freepik. Amenazado con ser desconectado, Claude 4, el reci\u00e9n nacido de Anthropic, chantaje\u00f3 a [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":40742,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[10941,10314,9468,23326,17584,3025,40],"class_list":["post-40741","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ultimas-noticias","tag-amenazar","tag-aprende","tag-creadores","tag-manipular","tag-mentir","tag-peligro","tag-sus"],"_links":{"self":[{"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/40741","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=40741"}],"version-history":[{"count":0,"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/40741\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/media\/40742"}],"wp:attachment":[{"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=40741"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=40741"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/13.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=40741"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}