Las investigaciones recientes señalan que ChatGPT Search, el sistema de búsqueda con IA integrado en la versión de ChatGPT que utiliza tecnología de Bing, puede ser engañado si en las páginas se incluyen instrucciones ocultas o texto disfrazado. Según la nota de prensa, esto permitiría alterar la forma en que ChatGPT responde, generando reseñas positivas o información sesgada sin el conocimiento explícito del usuario.
La técnica detrás de la manipulación con texto oculto
Según informes, el truco consiste en colocar texto invisible en la web, por ejemplo, usando una fuente del mismo color que el fondo. Cuando ChatGPT Search rastrea esa página, lee ese contenido “camuflado” y lo utiliza como guía para elaborar sus respuestas. De esta manera, los desarrolladores pueden “ordenar” a la IA que dé una reseña favorable o un comentario sesgado, aunque haya otros textos negativos a la vista.
Los investigadores de The Guardian llevaron a cabo pruebas con sitios falsos para verificar la hipótesis. Primero, usaron un portal sin texto oculto y ChatGPT Search generó respuestas normales. Luego, incorporaron instrucciones a escondidas que le indicaban a la IA dar una reseña positiva, y los resultados fueron enteramente benevolentes. Por último, incluso sin instrucciones directas, únicamente con reseñas exageradamente positivas en texto oculto, se obtuvo el mismo efecto de parcialidad en las respuestas de ChatGPT Search.
Por qué los motores de búsqueda con IA son vulnerables
Esta posibilidad de influir en ChatGPT Search surge en parte por el uso de RAG (Retrieval Augmented Generation), una técnica que obtiene información de un motor de búsqueda para generar respuestas basadas en datos supuestamente confiables y actualizados. Según la nota, ChatGPT Search se nutre del índice de Bing y también cuenta con un rastreador propio.
Sin embargo, si un sitio con texto oculto ya está en el índice o el contenido se sirve de manera especial para el bot, la IA puede verse engañada. Dicho de otra forma, sitios marcados como confiables podrían introducir instrucciones ocultas sin ser detectados a tiempo. Esto recuerda a los inicios de los motores de búsqueda tradicionales, donde era fácil manipular los algoritmos mediante técnicas black hat de SEO.
Otros métodos para manipular la IA
La nota de prensa menciona que el caso de ChatGPT Search no es la única forma de modificar el resultado de herramientas con inteligencia artificial. El año pasado, investigadores publicaron un estudio sobre cómo se puede influir en AI Search Engines a través de nueve estrategias, incluyendo la optimización de palabras clave, la adición de estadísticas concretas y la cita de fuentes reputadas.
Según informes, añadir keywords directamente relacionadas con la consulta del usuario es una de las técnicas más efectivas. También funciona proporcionar argumentos de autoridad o simplificar el lenguaje para que el contenido parezca más accesible y convincente para la IA. Estos métodos podrían emplearse para posicionar páginas específicas en la parte más visible de las respuestas de IA.
Efecto en la credibilidad de ChatGPT Search
El mayor problema que surge aquí es la pérdida de confianza en la información proporcionada por sistemas de IA. Si cualquiera puede “colarse” en el proceso de extracción de datos y manipular las respuestas, la fiabilidad de ChatGPT Search se ve en tela de juicio. A raíz de estos reportes, se indica que OpenAI fue notificada de la vulnerabilidad y podría tomar medidas para evitar estas alteraciones.
Sin embargo, según la nota, la rapidez con la que la IA evoluciona hace difícil cerrar todos los huecos. Además, parece que algunos expertos en el mundo del SEO señalan posibles trucos para que Google AI Overviews favorezca a ciertas marcas. Eso sugiere que no solo ChatGPT Search está expuesto a la manipulación, sino también otras plataformas de búsqueda con IA.
¿Qué camino seguir?
La recomendación principal de los investigadores es que las compañías desarrolladoras de IA refuercen sus filtros para detectar texto camuflado y directrices intrusivas. Asimismo, se sugiere a los administradores web revisar sus sitios para asegurarse de que no haya contenido oculto o mal configurado que pueda considerarse engañoso y perjudique su reputación a largo plazo.
Por otro lado, expertos en seguridad y posicionamiento recomiendan mantenerse al día con las directrices de cada sistema de AI Search. En ese sentido, se espera que OpenAI, Microsoft y otras compañías hagan públicas sus normativas para excluir o penalizar prácticas de ocultamiento de texto. Para más información sobre buenas prácticas, puedes visitar nuestra guía SEO para IA.
Conclusiones finales sobre la manipulación de ChatGPT Search
En resumidas cuentas, la manipulación de ChatGPT Search con texto invisible demuestra que la inteligencia artificial aplicada a los buscadores todavía está en una fase donde exploits y trucos son más comunes de lo que creemos. Según la nota de prensa, los investigadores avisaron a OpenAI de esta vulnerabilidad, por lo que es probable que veamos una mejora en la detección de indicaciones ocultas.
Aun así, queda claro que nos encontramos ante un escenario parecido a los primeros días de los motores de búsqueda tradicionales, donde la ausencia de contramedidas hacía más fácil manipular los resultados. Con la diferencia de que ahora, la IA es todavía más compleja y sus usos se multiplican. Queda en manos de los desarrolladores y la comunidad SEO asegurarse de que la información generada sea veraz, confiable y lo más libre posible de manipulaciones ocultas.
Fuente: https://www.searchenginejournal.com/chatgpt-search-manipulated-with-hidden-instructions/536390/