Cloudflare anunció el 1 de julio de 2026 una nueva política para el tráfico automatizado que puede alterar la relación entre buscadores, agentes de IA y medios digitales. La empresa, con sede en San Francisco, dijo en su blog y en un comunicado oficial que desde el 15 de septiembre bloqueará por defecto en páginas con publicidad a los crawlers de “uso mixto”, aquellos que combinan búsqueda, entrenamiento y acciones agenticas. La razón es económica: Cloudflare sostiene que la web ya no vive el viejo pacto de “te rastreo y te envío clics”, porque la IA toma contenido, responde dentro de sus propias interfaces y devuelve menos tráfico. Su respuesta será separar usos y convertir Pay Per Crawl en “Pay Per Use”.
Video real con Matthew Prince, CEO de Cloudflare, sobre la crisis del modelo de negocio de la web en la era de la IA; verificado con verify_youtube_video.py.
El cambio apunta al bot que quiere hacerlo todo
La pieza más relevante del anuncio está en la nueva taxonomía publicada por Cloudflare. En lugar de tratar a todos los bots como un solo bloque, la compañía distingue entre crawlers de búsqueda, agente y entrenamiento. Desde septiembre, los dominios nuevos en Cloudflare y los sitios gratuitos existentes mantendrán abierta la puerta al tráfico de búsqueda en páginas con anuncios, pero cerrarán por defecto la de los bots que entrenan modelos o actúan en nombre de un usuario. El mensaje es simple: ser visible ya no debería implicar regalar propiedad intelectual a sistemas que responden sin reenviar audiencia.
La empresa endurece además su posición frente a los crawlers híbridos. Según explicó en su comunicado oficial, esos bots perjudican a la vez a los editores y a las compañías que sí separan sus herramientas por intención. Cloudflare añadió que el mayor buscador del mercado conserva acceso a cerca de “2x más información” que muchas firmas de IA porque mezcla funciones que otros actores transparentes están empezando a dividir.
Google ya ofrece controles, pero el debate está en el incentivo
El contrapunto importa. En su guía AI features and your website, Google insiste en que AI Overviews y AI Mode siguen formando parte de Search y que las páginas elegibles para el buscador pueden aparecer allí sin requisitos técnicos adicionales. La empresa también recuerda en su documentación sobre Googlebot y sus crawlers que existen controles para gestionar cómo se rastrea el contenido.
TechCrunch resumió el choque con una idea central: Cloudflare quiere que la IA pague por contenido editorial cuando ese contenido genera valor, no solo cuando lo visita. El problema ya no es únicamente el scraping para entrenamiento; es también el agente que consulta, resume y ejecuta tareas mientras el usuario nunca llega al sitio original.
Tres claves para entender el movimiento
- El bloqueo nuevo no cae sobre toda la automatización: la búsqueda sigue permitida por defecto en páginas con anuncios.
- El foco está en los crawlers mixtos, porque mezclan descubrimiento, entrenamiento y uso agentico bajo una sola identidad.
- Pay Per Use lleva el cobro desde el fetch hacia el valor que un resultado de IA extrae del contenido.
Traducción: “Desde el 15 de septiembre de 2026 Cloudflare bloqueará por defecto los crawlers mixtos de IA en páginas con anuncios y convertirá Pay Per Crawl en Pay Per Use”.
From Sep 15, 2026 Cloudflare blocks mixed-use AI crawlers by default on pages with ads and turns Pay Per Crawl into Pay Per Use. Publishers may finally get paid when AI uses their content.https://t.co/bLHPfiLJN3#AI #Cloudflare #publishers
— Pasquale Pillitteri (@pillitterip) 4 de julio de 2026
Por qué esta pelea importa más allá de los medios
Lo que está en juego no es solo la protección de una redacción. La misma infraestructura sostiene catálogos de ecommerce, comparadores, documentación técnica y bases de conocimiento corporativas. Si un agente puede navegar por esas páginas, extraer información accionable y cerrar una tarea sin dejar huella de audiencia, el negocio que financiaba ese contenido cambia de raíz. Cloudflare intenta colocarse como árbitro de ese nuevo mercado: menos “acceso por costumbre” y más acceso según propósito declarado.
Falta ver cuántas empresas de IA aceptan partir sus crawlers y cuántos editores se atreven a tocar defaults que durante años favorecieron el volumen por encima del control. Pero la señal ya está dada. El debate sobre la IA y la web dejó de ser una discusión abstracta sobre copyright y pasó a una capa operativa: quién entra, para qué entra y cuánto paga por entrar.
Fuentes
- Cloudflare Blog – Your site, your rules: new AI traffic options for all customers
- Cloudflare Press Release – Your Content, Your Rules
- TechCrunch – Cloudflare’s new policy pushes AI companies to pay for publishers’ content
- Google Search Central – AI features and your website
- Google Developers – Google’s common crawlers
- The MAD Podcast en YouTube – entrevista con Matthew Prince
- Pasquale Pillitteri en X