Cloudflare bloquea a Googlebot al activar la opción de bloqueo de bots de IA: qué está pasando y cómo evitarlo

Cloudflare bloquea a Googlebot al activar la opción de bloqueo de bots de IA: qué está pasando y cómo evitarlo 2

Hay un problema que está dando que hablar en la comunidad SEO: activar el bloqueo de bots de IA en Cloudflare podría estar impidiendo que Googlebot y Bingbot indexen tu web. Según recoge Search Engine Journal, un usuario de Reddit reportó el caso esta semana, y la situación encaja con un cambio oficial que Cloudflare tiene previsto implementar a partir del 15 de septiembre de 2026. Aunque de momento no está claro si se trata de un fallo puntual o de un error de configuración, el aviso llega en el mejor momento para que los webmasters revisen sus ajustes.

El caso que encendió las alarmas en Reddit

El origen de la polémica está en un hilo publicado en la comunidad r/TechSEO. Un usuario explicó que, al activar la opción «AI Training = Block» en el panel de Cloudflare, tanto Googlebot como Bingbot comenzaban a recibir respuestas HTTP 403 al intentar acceder al sitemap de su web. En cuanto desactivaba esa opción, el problema desaparecía de inmediato.

Según el relato del propio usuario, la razón estaría en cómo Cloudflare clasifica ahora ciertos rastreadores. En el panel de control, la plataforma mostraría a Googlebot y Bingbot como bots bloqueados automáticamente dentro de la sección de rastreadores de IA. El dilema que planteó el afectado es bastante directo:

  • Permitir el entrenamiento de IA para que los buscadores accedan al sitemap.
  • Bloquear el entrenamiento de IA y asumir el riesgo de que Google y Bing reciban errores 403.

Ante la consulta, John Mueller, de Google, respondió en el mismo hilo pidiendo más detalles por mensaje directo para investigar el caso. Otro usuario sugirió que quizás Cloudflare estaba bloqueando bots fraudulentos que suplantaban el user agent de Googlebot, pero el autor del hilo descartó esa posibilidad: según él, el problema aparecía incluso con el modo Bot Fight Mode activado, y el propio dashboard de Cloudflare confirmaba el bloqueo.

Qué dice Cloudflare en su documentación oficial

Lo curioso del asunto es que este comportamiento no es exactamente una sorpresa. Cloudflare ya anunció oficialmente que, a partir del 15 de septiembre de 2026, comenzará a bloquear los llamados «bots de uso mixto», es decir, aquellos que combinan el rastreo para búsqueda con la recopilación de datos para el entrenamiento de modelos de IA. Googlebot entra en esa categoría.

Según la documentación oficial de Cloudflare, los nuevos valores predeterminados para dominios nuevos a partir de esa fecha serán los siguientes: los bots clasificados como «Training» o «Agent» serán bloqueados en páginas que muestren anuncios, mientras que los de búsqueda seguirán teniendo acceso. Los rastreadores de propósito mixto que combinen búsqueda y entrenamiento también quedarán bloqueados por todas las configuraciones que bloqueen bots de IA, incluida la opción heredada «Block AI bots».

La propia compañía aclara que todos los clientes pueden desactivar estos nuevos valores predeterminados antes del 15 de septiembre. Es decir, hay margen de maniobra, pero hay que actuar antes de que llegue esa fecha para no llevarse una sorpresa con la indexación.

Por qué esto es un problema real para el SEO

El núcleo del problema está en que Cloudflare trata a Googlebot como un bot de «doble uso»: por un lado rastrea la web para alimentar el índice de búsqueda de Google, y por otro, Google también utiliza esos datos para entrenar sus modelos de inteligencia artificial. Desde la perspectiva de Cloudflare, eso lo convierte en un candidato a bloquear cuando se activa la opción anti-IA.

Para un webmaster que simplemente quiere proteger su contenido del scraping masivo para entrenar LLMs, la consecuencia inesperada puede ser que su web desaparezca del índice de Google. No es un escenario hipotético: el caso de Reddit demuestra que ya está ocurriendo, aunque sea de forma anecdótica y antes de la fecha oficial del cambio.

Lo que se sabe y lo que todavía no está claro

Según la información disponible, no está confirmado si el bloqueo reportado en Reddit es un comportamiento intencionado, un fallo del sistema o un error en la configuración del usuario. Search Engine Journal señala que este tipo de bloqueo se supone que no debería estar activo hasta septiembre, lo que hace más extraño que ya esté afectando a algunos sitios.

Lo que sí parece claro, de acuerdo con las fuentes consultadas, es que la forma en que Cloudflare ha diseñado este sistema crea un conflicto directo entre proteger el contenido frente a la IA y mantener la visibilidad en los buscadores. Y eso no tiene una solución fácil con los ajustes actuales.

Qué puedes hacer ahora para proteger tu indexación

Si usas Cloudflare y tienes activa alguna opción de bloqueo de bots de IA, lo más recomendable es revisar el panel de control y comprobar si Googlebot aparece listado como bloqueado en la sección de AI Crawlers. Si es así, tendrás que valorar si desactivar esa opción o esperar a que Cloudflare ofrezca una configuración más granular.

Según la documentación oficial, antes del 15 de septiembre los usuarios pueden optar por no aplicar los nuevos valores predeterminados. Es una ventana temporal que conviene aprovechar. De momento, no existe una solución definitiva que permita bloquear solo el uso de datos para entrenamiento de IA sin afectar al rastreo legítimo de los motores de búsqueda.

El caso pone en evidencia la complejidad creciente de gestionar el acceso de bots a una web en un entorno donde los mismos rastreadores sirven para múltiples propósitos. Lo que antes era una decisión binaria (permitir o bloquear) ahora requiere entender la política de cada proveedor de CDN y cómo clasifica cada tipo de bot. Una capa más de gestión técnica que los profesionales del SEO tendrán que incorporar a su día a día.

Fuente: https://www.searchenginejournal.com/report-that-cloudflare-ai-bot-blocking-prevents-googlebot-from-indexing-sites/584673/


También podría ser de tu interés:

Deja un comentario