{"id":127965,"date":"2024-12-30T17:31:36","date_gmt":"2024-12-30T15:31:36","guid":{"rendered":"https:\/\/quondos.com\/mag\/?p=127965"},"modified":"2024-12-30T17:31:39","modified_gmt":"2024-12-30T15:31:39","slug":"chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas","status":"publish","type":"post","link":"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/","title":{"rendered":"ChatGPT Search y la manipulaci\u00f3n mediante instrucciones ocultas"},"content":{"rendered":"\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"683\" src=\"https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/11\/sam-altman-openai.webp\" alt=\"\" class=\"wp-image-125851\" title=\"\" srcset=\"https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/11\/sam-altman-openai.webp 1024w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/11\/sam-altman-openai-300x200.webp 300w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/11\/sam-altman-openai-768x512.webp 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>Las <strong>investigaciones<\/strong> recientes se\u00f1alan que ChatGPT Search, el sistema de b\u00fasqueda con IA integrado en la versi\u00f3n de ChatGPT que utiliza tecnolog\u00eda de Bing, puede ser enga\u00f1ado si en las p\u00e1ginas se incluyen instrucciones ocultas o texto disfrazado. Seg\u00fan la nota de prensa, esto permitir\u00eda alterar la forma en que ChatGPT responde, generando rese\u00f1as positivas o informaci\u00f3n sesgada sin el conocimiento expl\u00edcito del usuario.<\/p> <div id=\"ez-toc-container\" class=\"ez-toc-v2_0_76 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">\u00cdndice de contenidos<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#La_tecnica_detras_de_la_manipulacion_con_texto_oculto\" >La t\u00e9cnica detr\u00e1s de la manipulaci\u00f3n con texto oculto<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#Por_que_los_motores_de_busqueda_con_IA_son_vulnerables\" >Por qu\u00e9 los motores de b\u00fasqueda con IA son vulnerables<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#Otros_metodos_para_manipular_la_IA\" >Otros m\u00e9todos para manipular la IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#Efecto_en_la_credibilidad_de_ChatGPT_Search\" >Efecto en la credibilidad de ChatGPT Search<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#%C2%BFQue_camino_seguir\" >\u00bfQu\u00e9 camino seguir?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#Conclusiones_finales_sobre_la_manipulacion_de_ChatGPT_Search\" >Conclusiones finales sobre la manipulaci\u00f3n de ChatGPT Search<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"La_tecnica_detras_de_la_manipulacion_con_texto_oculto\"><\/span>La t\u00e9cnica detr\u00e1s de la manipulaci\u00f3n con texto oculto<span class=\"ez-toc-section-end\"><\/span><\/h2> <p>Seg\u00fan informes, el truco consiste en colocar <strong>texto invisible<\/strong> en la web, por ejemplo, usando una fuente del mismo color que el fondo. Cuando ChatGPT Search rastrea esa p\u00e1gina, lee ese contenido \u201ccamuflado\u201d y lo utiliza como gu\u00eda para elaborar sus respuestas. De esta manera, los desarrolladores pueden \u201cordenar\u201d a la IA que d\u00e9 una rese\u00f1a favorable o un comentario sesgado, aunque haya otros textos negativos a la vista.<\/p> <p>Los investigadores de The Guardian llevaron a cabo pruebas con sitios falsos para verificar la hip\u00f3tesis. Primero, usaron un portal sin texto oculto y ChatGPT Search gener\u00f3 <strong>respuestas normales<\/strong>. Luego, incorporaron instrucciones a escondidas que le indicaban a la IA dar una rese\u00f1a positiva, y los resultados fueron enteramente benevolentes. Por \u00faltimo, incluso sin instrucciones directas, \u00fanicamente con rese\u00f1as exageradamente positivas en texto oculto, se obtuvo el mismo efecto de parcialidad en las respuestas de ChatGPT Search.<\/p> <h2><span class=\"ez-toc-section\" id=\"Por_que_los_motores_de_busqueda_con_IA_son_vulnerables\"><\/span>Por qu\u00e9 los motores de b\u00fasqueda con IA son vulnerables<span class=\"ez-toc-section-end\"><\/span><\/h2> <p>Esta posibilidad de influir en ChatGPT Search surge en parte por el uso de <strong>RAG (Retrieval Augmented Generation)<\/strong>, una t\u00e9cnica que obtiene informaci\u00f3n de un motor de b\u00fasqueda para generar respuestas basadas en datos supuestamente confiables y actualizados. Seg\u00fan la nota, ChatGPT Search se nutre del \u00edndice de Bing y tambi\u00e9n cuenta con un rastreador propio.<\/p> <p>Sin embargo, si un sitio con texto oculto ya est\u00e1 en el \u00edndice o el contenido se sirve de manera especial para el bot, la IA puede verse enga\u00f1ada. Dicho de otra forma, sitios marcados como confiables podr\u00edan introducir <strong>instrucciones ocultas<\/strong> sin ser detectados a tiempo. Esto recuerda a los inicios de los motores de b\u00fasqueda tradicionales, donde era f\u00e1cil manipular los algoritmos mediante t\u00e9cnicas black hat de SEO.<\/p> <h2><span class=\"ez-toc-section\" id=\"Otros_metodos_para_manipular_la_IA\"><\/span>Otros m\u00e9todos para manipular la IA<span class=\"ez-toc-section-end\"><\/span><\/h2> <p>La nota de prensa menciona que el caso de ChatGPT Search no es la \u00fanica forma de modificar el resultado de herramientas con inteligencia artificial. El a\u00f1o pasado, investigadores publicaron un estudio sobre c\u00f3mo se puede influir en <strong>AI Search Engines<\/strong> a trav\u00e9s de nueve estrategias, incluyendo la optimizaci\u00f3n de palabras clave, la adici\u00f3n de estad\u00edsticas concretas y la cita de fuentes reputadas.<\/p> <p>Seg\u00fan informes, a\u00f1adir <strong>keywords<\/strong> directamente relacionadas con la consulta del usuario es una de las t\u00e9cnicas m\u00e1s efectivas. Tambi\u00e9n funciona proporcionar argumentos de autoridad o simplificar el lenguaje para que el contenido parezca m\u00e1s accesible y convincente para la IA. Estos m\u00e9todos podr\u00edan emplearse para posicionar p\u00e1ginas espec\u00edficas en la parte m\u00e1s visible de las respuestas de IA.<\/p> <h2><span class=\"ez-toc-section\" id=\"Efecto_en_la_credibilidad_de_ChatGPT_Search\"><\/span>Efecto en la credibilidad de ChatGPT Search<span class=\"ez-toc-section-end\"><\/span><\/h2> <p>El mayor problema que surge aqu\u00ed es la <strong>p\u00e9rdida de confianza<\/strong> en la informaci\u00f3n proporcionada por sistemas de IA. Si cualquiera puede \u201ccolarse\u201d en el proceso de extracci\u00f3n de datos y manipular las respuestas, la fiabilidad de ChatGPT Search se ve en tela de juicio. A ra\u00edz de estos reportes, se indica que OpenAI fue notificada de la vulnerabilidad y podr\u00eda tomar medidas para evitar estas alteraciones.<\/p> <p>Sin embargo, seg\u00fan la nota, la rapidez con la que la IA evoluciona hace dif\u00edcil cerrar todos los huecos. Adem\u00e1s, parece que algunos expertos en el mundo del SEO se\u00f1alan posibles trucos para que Google AI Overviews favorezca a ciertas marcas. Eso sugiere que no solo ChatGPT Search est\u00e1 expuesto a la manipulaci\u00f3n, sino tambi\u00e9n otras plataformas de <strong>b\u00fasqueda con IA<\/strong>.<\/p> <h2><span class=\"ez-toc-section\" id=\"%C2%BFQue_camino_seguir\"><\/span>\u00bfQu\u00e9 camino seguir?<span class=\"ez-toc-section-end\"><\/span><\/h2> <p>La recomendaci\u00f3n principal de los investigadores es que las compa\u00f1\u00edas desarrolladoras de IA refuercen sus <strong>filtros<\/strong> para detectar texto camuflado y directrices intrusivas. Asimismo, se sugiere a los administradores web revisar sus sitios para asegurarse de que no haya contenido oculto o mal configurado que pueda considerarse enga\u00f1oso y perjudique su reputaci\u00f3n a largo plazo.<\/p> <p>Por otro lado, expertos en seguridad y posicionamiento recomiendan mantenerse al d\u00eda con las directrices de cada sistema de <strong>AI Search<\/strong>. En ese sentido, se espera que OpenAI, Microsoft y otras compa\u00f1\u00edas hagan p\u00fablicas sus normativas para excluir o penalizar pr\u00e1cticas de ocultamiento de texto. Para m\u00e1s informaci\u00f3n sobre buenas pr\u00e1cticas, puedes visitar nuestra <a href=\"\/guia-seo-ia\" target=\"_blank\" rel=\"noopener\"><strong>gu\u00eda SEO para IA<\/strong><\/a>.<\/p> <h2><span class=\"ez-toc-section\" id=\"Conclusiones_finales_sobre_la_manipulacion_de_ChatGPT_Search\"><\/span>Conclusiones finales sobre la manipulaci\u00f3n de ChatGPT Search<span class=\"ez-toc-section-end\"><\/span><\/h2> <p>En resumidas cuentas, la <strong>manipulaci\u00f3n<\/strong> de ChatGPT Search con texto invisible demuestra que la inteligencia artificial aplicada a los buscadores todav\u00eda est\u00e1 en una fase donde exploits y trucos son m\u00e1s comunes de lo que creemos. Seg\u00fan la nota de prensa, los investigadores avisaron a OpenAI de esta vulnerabilidad, por lo que es probable que veamos una mejora en la detecci\u00f3n de indicaciones ocultas.<\/p> <p>Aun as\u00ed, queda claro que nos encontramos ante un escenario parecido a los primeros d\u00edas de los motores de b\u00fasqueda tradicionales, donde la ausencia de contramedidas hac\u00eda m\u00e1s f\u00e1cil manipular los resultados. Con la diferencia de que ahora, la <strong>IA<\/strong> es todav\u00eda m\u00e1s compleja y sus usos se multiplican. Queda en manos de los desarrolladores y la comunidad SEO asegurarse de que la informaci\u00f3n generada sea veraz, confiable y lo m\u00e1s libre posible de manipulaciones ocultas.<\/p>\n\n\n\n<p>Fuente: https:\/\/www.searchenginejournal.com\/chatgpt-search-manipulated-with-hidden-instructions\/536390\/<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Las investigaciones recientes se\u00f1alan que ChatGPT Search, el sistema de b\u00fasqueda con IA integrado en la versi\u00f3n de ChatGPT que &#8230; <\/p>\n<p class=\"read-more-container\"><a title=\"ChatGPT Search y la manipulaci\u00f3n mediante instrucciones ocultas\" class=\"read-more button\" href=\"https:\/\/quondos.com\/mag\/chatgpt-search-y-la-manipulacion-mediante-instrucciones-ocultas\/#more-127965\" aria-label=\"Leer m\u00e1s sobre ChatGPT Search y la manipulaci\u00f3n mediante instrucciones ocultas\">Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":850,"featured_media":125851,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1474],"tags":[],"class_list":["post-127965","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50","no-featured-image-padding"],"_links":{"self":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/127965","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/users\/850"}],"replies":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/comments?post=127965"}],"version-history":[{"count":1,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/127965\/revisions"}],"predecessor-version":[{"id":127968,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/127965\/revisions\/127968"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/media\/125851"}],"wp:attachment":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/media?parent=127965"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/categories?post=127965"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/tags?post=127965"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}