Internet a un second public

Matthew Conroy

Lecture : 15 min.

Cet article est également disponible en English, Deutsch, Español, Italiano, 日本語, 한국어, 繁體中文, 简体中文 et Português.

Pendant la majeure partie de son histoire, Internet n’a eu qu’un seul public qui payait les factures : les humains. Nous lisions les articles, regardions les publicités et souscrivions des abonnements. Les bots ont toujours été présents, mais il s’agissait principalement d’opérations automatisées de grande ampleur qui ne regardaient pas les publicités, ne payaient rien et ne lisaient pas au sens propre du terme.

La situation évolue rapidement. Fin 2024, Cloudflare traitait en moyenne 63 millions de requêtes HTTP par seconde. Aujourd’hui, ce chiffre a presque doublé pour atteindre 115 millions, avec des pics dépassant 150 millions. Au cours de l’année écoulée, les requêtes quotidiennes provenant d’agents IA acheminées sur notre réseau ont augmenté de plus de 1 700 %. Cette année, pour la première fois, plus de la moitié du trafic Internet n’était pas d’origine humaine.

Le web humain ne s’est pas contracté pour leur faire de la place. Un second public est arrivé à ses côtés : il s’agit d’agents, c’est-à-dire de logiciels agissant pour le compte d’utilisateurs humains. Ils se situent quelque part entre les humains et les bots traditionnels. Ils ne réagissent pas aux publicités, sont généralement pilotés par un utilisateur humain avec une tâche précise à accomplir. Pour les entreprises qui apprennent à les servir et à en tirer de la valeur, les agents sont un vecteur de croissance. Pour celles qui ne le font pas, en revanche, ils entraînent une perte de valeur.

Les besoins de nos clients n’ont pas changé : être découverts, raconter de belles histoires, créer d’excellentes expériences et vendre. Ce qui a changé, c’est que plus de la moitié de vos visiteurs sont désormais des logiciels. Notre rôle est de vous aider à servir ces deux publics.

Plus de trafic, moins de revenus

Pendant trente ans, le web a fonctionné selon un modèle unique : vous autorisiez les moteurs de recherche à explorer votre site, ils vous envoyaient des visiteurs, et vous convertissiez ces visiteurs en activité économique. Être trouvé et être rémunéré étaient une seule et même ²chose.

L’IA a brisé cet équilibre délicat. Désormais, les moteurs de réponse lisent la page et en fournissent un résumé au lecteur. Cette pratique consomme la bande passante des sites web, sans toutefois conduire un humain vers un site web où résident les publicités ou les sources de paiements. Les machines ont continué à affluer, tandis que le public qui finançait le web a cessé de se rendre sur ces sites. Certaines des catégories les plus fréquemment consultées par les robots d’exploration, comme le commerce de détail, les logiciels, les services informatiques et les services financiers, ont vu leur trafic humain chuter jusqu’à 40 % en moins d’un an.

Résultat : les revenus par requête diminuent, tandis que les coûts augmentent. Chaque requête automatisée continue de consommer de la bande passante, de la puissance de calcul et de la capacité du serveur d’origine, alors qu’une part croissante de ces requêtes ne génère aucun référencement, aucune impression publicitaire, ni aucun abonnement. Notre premier réflexe a été de bloquer tout le trafic automatisé. L’année dernière, nous avons recommandé de bloquer les robots d’exploration dédiés à l’entraînement d’IA sur les nouveaux domaines, afin que les propriétaires de sites puissent au moins refuser que leurs contenus soient utilisés pour le développement de modèles. Au printemps 2025, 22 % des requêtes de robots d’exploration que nous avons observées étaient destinées à l’entraînement d’IA (selon l’objectif déclaré des robots d’exploration). En juin 2026, ce chiffre atteignait 52 %. Le problème est qu’un « non » catégorique ne constitue pas une approche suffisamment nuancée face à l’économie Internet qui est en train de se construire.

Ce qui se présente à vous, c’est l’opportunité de vous adapter aux agents. Si vous réussissez cette transformation, vous vous trouverez à l’avant-garde d’un nouveau modèle économique. Si vous la ratez, en revanche, vous connaîtrez le même sort que les générations de sites web qui n’ont pas su s’adapter aux évolutions des algorithmes des moteurs de recherche.

Une partie de ce trafic est un client

Un agent qui réserve une table, compare des devis d’assurance ou achète un ensemble de données pour un chercheur est un client. C’est simplement un client non humain.

Les robots d’exploration ne représentent plus la part de trafic automatisé qui connaît la croissance la plus rapide : il s’agit désormais des agents, c’est-à-dire de logiciels qui récupèrent des pages pour le compte d’un utilisateur humain, souvent parce que cet individu a posé une question à un agent conversationnel. Ce trafic d’agents suit les habitudes humaines, avec un rythme hebdomadaire et une baisse pendant les vacances d’été. Si vous refusez un agent, vous refusez peut-être l’utilisateur humain qui l’a envoyé.

Les agents se comportent également différemment des robots d’exploration dédiés à l’entraînement d’IA. Un robot d’exploration d’entraînement collecte vos pages pour construire un modèle. Un agent, quant à lui, revient chaque fois qu’un utilisateur humain pose une question sur ce contenu ; ainsi, ce trafic augmente en fonction du nombre de questions que posent des utilisateurs humains, et non en fonction du volume de contenus que vous publiez.

Vous ne pouvez pas faire des affaires avec un public que vous ne pouvez pas voir, que vous ne pouvez pas identifier, auquel vous ne pouvez pas imposer de conditions d’utilisation et que vous ne pouvez pas facturer. Jusqu’à récemment, pour la majeure partie du trafic web d’origine non humaine, aucune de ces quatre actions n’était possible.

Identifiez qui consulte vraiment votre site

Le terme « bot IA » n’a plus aucune utilité pratique. Ce qui importe, c’est ce que fait un bot. AI Crawl Control, Business Insights et BotBase de Cloudflare permettent aux propriétaires de sites de savoir qui explore leurs contenus, quels contenus ils collectent, quelles conséquences en résultent et quelles URL suscitent le plus d’intérêt.

Le nom d’un bot n’a de valeur que si vous pouvez lui faire confiance. Avec Web Bot Auth, des opérateurs, parmi lesquels OpenAI, Google et AWS, signent cryptographiquement les requêtes de leurs agents ; ainsi, un site peut distinguer un agent légitime d’un imposteur, sans devoir spéculer à partir d’adresses IP ou de chaînes user-agent. Nous traitons chaque semaine plus de 500 milliards de requêtes provenant de bots vérifiés.

Établissez vos conditions d’utilisation

En juillet, nous avons remplacé l’unique sélecteur « Bloquer les bots IA » par des contrôles distincts pour la recherche, les agents et l’entraînement, disponibles dans toutes nos offres, y compris l’offre gratuite. Les données ont confirmé la nécessité de cette distinction : moins de 1 % des sites hébergés sur Cloudflare bloquent les bots d’exploration des moteurs de recherche, tandis que 17 % des sites bloquent les bots dédiés à l’entraînement d’IA. Les propriétaires de sites n’ont jamais cherché à se cacher. Cependant, avec l’essor du trafic agentique et les nouvelles utilisations des informations par les agents, ils n’avaient soudainement aucune visibilité ni aucun contrôle sur l’utilisation de leurs contenus. Le fait d’être référencé ne leur garantit plus d’être rémunérés, et ils souhaitent être découverts sans toutefois être exploités.

Cette situation est particulièrement difficile dans le cas des robots d’exploration à usage mixte. Lorsqu’un même robot exécute à la fois des tâches de référencement et d’entraînement, refuser une action signifie refuser l’autre. Le 15 septembre, nous avons lancé l’option Disallow AI Training (Interdire l’entraînement d’IA). Celle-ci vous permet de préserver votre référencement par les moteurs de recherche, tout en exploitant des mécanismes propres aux robots d’exploration pour ordonner à leur opérateur de ne pas utiliser vos données pour l’entraînement. Apple, Google et Microsoft se sont engagés à respecter ce choix. Par ailleurs, Cloudflare Radar suit publiquement le comportement des robots d’exploration.

Les nouveaux domaines peuvent désormais consulter des configurations recommandées, adaptées au modèle économique de chaque site, plutôt qu’au type de logiciel qui le visite. Pour les sites financés par la publicité, vous pouvez facilement interdire l’entraînement et bloquer les agents sur les pages contenant des annonces publicitaires, car une publicité ne génère des revenus que lorsqu’un utilisateur humain la voit. Vous pouvez modifier ces paramètres à tout moment.

Assurez-vous d’être rémunéré

En août 2026, nous avons décrit l’Internet agentique que nous bâtissons comme lisible, découvrable, appelable et payable. Ce dernier terme, payable, est celui qui détermine si le web ouvert est en mesure de s’autofinancer. Le web a besoin d’un moyen de dire « oui, si vous payez » au lieu de se limiter à un « oui » ou « non » binaire.

Le marché des licences illustre à la fois l’ampleur de la demande et l’existence des lacunes. Plus de 50 accords entre les éditeurs et les acteurs de l’IA ont été signés depuis 2023. Presque tous sont des accords sur mesure et bilatéraux, conclus entre de grands éditeurs et de grandes entreprises de développement d’IA. Ils démontrent que le contenu a de la valeur, mais ils ne concernent pas la majeure partie du web, ni la plupart des acheteurs.

Chaque ressource ne doit pas être vendue de la même façon. Les contenus et les ensembles de données de grande valeur nécessitent un réseau de confiance, où les acheteurs sont identifiés et rendent compte de l’utilisation du travail des créateurs. Les services tels que les API et les outils MCP ne fonctionnent pas ainsi : chaque requête constitue en elle-même l’utilisation.

C’est pourquoi nous développons des solutions pour ces deux modèles.

Pay Per Use s’adresse aux sites qui ne sont pas couverts par la cession directe de licences. La plupart des éditeurs ne concluront jamais d’accord sur mesure avec chaque entreprise de développement d’IA, et aucune entreprise de développement d’IA n’est en mesure de négocier avec des millions de sites. Pay Per Use jette un pont entre ces acteurs. Le service ne facture pas l’exploration, mais rémunère les éditeurs lorsque leurs contenus sont réellement utilisés. Chaque acheteur est un robot d’exploration vérifié (c’est ce qui permet à ce service d’incarner un réseau de confiance), et chacun définit ce qui constitue une utilisation et la rémunération qu’il offrira.

Les éditeurs consultent l’offre, choisissent d’y adhérer ou non et sont libres de révoquer leur consentement si l’accord ne leur convient plus. L’acheteur déclare chaque utilisation, Cloudflare vérifie ces rapports, puis facture l’acheteur et rémunère l’éditeur. La transmission d’informations est aussi importante que le paiement : les éditeurs voient quels contenus ont été utilisés, à quel moment ils ont été consultés et quelle somme ils ont généré, ainsi que (lorsque l’acheteur l’indique) des informations sur les questions pour lesquelles leur travail a été présenté aux utilisateurs. Les contrats de licence révèlent rarement ces informations. Ce fonctionnement crée une boucle de rétroaction : les éditeurs découvrent ce que les utilisateurs demandent vraiment et peuvent ainsi décider quels sujets ils souhaitent couvrir, mettre à jour et rendre facilement accessibles aux agents.

Il n’y aura pas de définition unique de l’utilisation. Un moteur de recherche qui mentionne une source, un agent de recherche qui cite un passage et un agent d’achat qui finalise un achat créent des différentes formes de valeur, et chacun exige un modèle commercial spécifique. Les acheteurs peuvent participer en utilisant différents modèles commerciaux reposant sur les mêmes fondations, sans que cela ne nécessite une nouvelle intégration pour les éditeurs. Prenons l’exemple d’une revue spécialisée pour les ingénieurs marins, qui compte quelques milliers d’abonnés et n’a que peu de perspectives de conclure un contrat de licence d’utilisation par l’IA : avec Pay Per Use, elle est rémunérée par chaque entreprise de développement d’IA participante qui s’appuie sur ses travaux.

Monetization Gateway capte une valeur qui n’avait jusqu’à présent aucune possibilité de changer de mains. Les comptes, les clés d’API et les abonnements fonctionnent très bien pour les clients que vous connaissez déjà, mais pas pour un agent qui demande une consultation unique auprès d’un service qu’il n’a jamais utilisé auparavant. Notre version bêta fermée permet aux clients Cloudflare éligibles situés aux États-Unis de fixer un prix pour tous les contenus qui transitent par notre plateforme, en s’appuyant sur Rules, le langage de règles qu’ils connaissent déjà. Lorsqu’une règle correspond, nous renvoyons un code HTTP 402 Payment Required en utilisant le protocole ouvert x402, et l’agent rémunère directement le vendeur.

Cela permet de faire bien plus que simplement compenser une perte de revenus. Les agents sont des clients à part entière : ils paient pour les données, les API et les outils qu’ils utilisent, que la requête constitue l’achat dans sa totalité ou une simple étape d’une tâche plus importante.

Monetization Gateway applique une tarification par demande, par requête ou par jeton, à un prix fixe ou plafonné. Un site de statistiques sportives financé par la publicité peut ainsi facturer une fraction de centime chaque fois qu’un agent demande « Quel joueur est le meilleur passeur du championnat ? ». Lorsque nous avons annoncé Monetization Gateway, des milliers de vendeurs ont rejoint la liste d’attente, et leur demande la plus fréquente était « facturez les agents, pas les utilisateurs humains ». Nous sommes également notre propre premier client : le service AI Gateway de Cloudflare utilise Monetization Gateway pour permettre aux agents de payer pour l’inférence, ce qui nous permet d’identifier certains problèmes avant que nos clients ne nous en fassent part.

Pour les acheteurs, ces deux produits sont préférables à une page de blocage : ils offrent un accès fiable et un moyen d’atteindre des millions de sites, au lieu de nécessiter un contrat de licence ou une clé d’API à chaque fois. Chaque requête payante génère un reçu indiquant quel contenu a été acheté et attestant du paiement.

Pay Per Use et Monetization Gateway sont tous deux des paris développés avec nos clients sur des composantes primitives communes : identité, mesure de la consommation, tarification, règlement et analyses de données. Ils fonctionnent ensemble, permettant ainsi à un éditeur d’interdire l’entraînement d’IA, d’autoriser la recherche, de générer des revenus grâce aux réponses générées par l’IA et de facturer les agents par article depuis un tableau de bord unique. Les problématiques de la tarification et de la découvrabilité ne sont pas encore résolues ; c’est pourquoi ces deux produits ont été lancés en version bêta, façonnés par de vrais clients et de vraies transactions.

Réduire le coût de chaque requête

La rémunération est la réponse à la baisse des revenus. L’augmentation des coûts est un problème distinct, en grande partie dû au gaspillage. La plupart des robots d’exploration continuent de télécharger, encore et encore, des pages conçues pour des utilisateurs humains pour n’en extraire que quelques paragraphes de texte. Trop souvent, les bots explorent des sites qui n’ont pas été modifiés depuis leur dernière visite. Cette exploration consomme inutilement la bande passante du site et de la puissance de calcul, et ce, avant même qu’une réponse soit rédigée. Nous travaillons avec nos clients et les éditeurs de robots d’exploration au développement d’outils qui contribueront à remédier à cette situation. Aujourd’hui, vous pouvez consulter la consommation de bande passante par opérateur depuis notre tableau de bord.

En juillet, nous avons annoncé un projet de recherche conjoint avec OpenAI, une initiative pilote inédite visant à explorer de quelle manière les informations issues du réseau mondial de Cloudflare peuvent aider les moteurs de recherche IA à découvrir et à indexer de manière plus efficace et performante le contenu pertinent sur le web ouvert. Nous avons l’intention de partager nos résultats initiaux au cours des prochaines semaines.

Pour nos clients, nous déployons des outils et des expériences activables en un clic afin d’optimiser leurs sites pour ce nouveau type de trafic. Markdown for Agents permet aux agents de lire une page sans les informations de mise en forme supplémentaire destinées au regard humain, tandis que WebMCP permet à un site d’exposer directement des actions au lieu de contraindre les agents à deviner sur quel bouton ils doivent cliquer.

Pourquoi développer sur Cloudflare

Plus de 20 % du web repose sur le réseau de Cloudflare, tout comme près de 80 % des plus grandes entreprises de développement d’IA. Nous avons une vision des deux côtés de ce marché. Nous construisons l’infrastructure pour la visibilité, l’identité, les contrôles et le règlement, et nous laissons le marché déterminer la valeur réelle des choses.

L’ancien modèle est désormais révolu, et le nouveau est encore en cours d’écriture. Ensemble, nous pouvons façonner la suite des événements.

Dans la première version, quelques entreprises contrôlent de quelle façon les agents découvrent des informations, prouvent leur identité et effectuent leurs paiements, imposant à toutes les autres entreprises à passer par leur intermédiaire. Dans la seconde, ces composants sont des standards ouverts que chacun peut implémenter, et permettent aux sites de toute taille de définir leurs conditions d’utilisation et d’être rémunérés. C’est cette seconde version que nous privilégions.

C’est la raison pour laquelle ces infrastructures reposent sur des standards ouverts, tels que x402 et Web Bot Auth, afin que quiconque puisse s’appuyer sur elles pour créer des solutions. Les propriétaires de domaines choisissent leurs fournisseurs d’identité, leurs prestataires de traitement des paiements et leurs partenaires agents. Cloudflare constitue une option, et non la totalité de la pile d’infrastructure.

Pendant des décennies, le web a été financé par les individus qui le consultaient. Désormais, les logiciels qui le parcourent pour leur compte peuvent aussi s’acquitter de leur part.