Pleins feux sur les start-ups : développer des agents IA et accélérer l'innovation avec la promotion n° 5

Un accès rapide à une infrastructure flexible et à des outils IA innovants permet aux start-ups de déployer rapidement et efficacement des applications prêtes pour la production. Cloudflare joue un rôle déterminant dans d'innombrables applications, en permettant aux fondateurs d'entreprises et aux équipes d'ingénieurs de développer, d'étendre et d'accélérer leurs innovations avec facilité, en s'exonérant du fardeau que représentent les frais techniques. Et, le cas échéant, les initiatives telles que notre programme pour start-ups et Workers Launchpad proposent les outils et les ressources permettant de soutenir encore davantage ces projets ambitieux.

Cloudflare a récemment annoncé les agents IA, permettant aux développeurs de tirer parti de Cloudflare pour déployer des agents capables d'exécuter des tâches autonomes. Nous avons déjà observé de formidables exemples de start-ups qui utilisent Cloudflare comme plateforme de choix pour investir dans le développement de leur infrastructure d'agents. Poursuivez votre lecture pour découvrir comment quelques start-ups émergentes conçoivent leurs plateformes d'agents IA sur Cloudflare.

Fondée en 2023, Lamatic.ai permet aux start-ups développant des solutions SaaS d'intégrer avec fluidité des agents IA intelligents à leurs produits. Lamatic.ai simplifie le déploiement des agents IA en proposant un cycle de vie entièrement géré, priorisant l'évolutivité et la sécurité. Les fournisseurs de solutions SaaS s'appuient sur Lamatic pour transférer leurs flux de travail IA vers de nouvelles plateformes via un générateur visuel sans codage, avec l'objectif de réduire la dette technique et d'accélérer le déploiement de leurs produits. Conçue pour offrir une disponibilité élevée, de l'évolutivité et une faible latence, l'architecture de Lamatic permet aux développeurs de créer des applications pilotées par IA qui restent performantes, même en présence d'une charge intense. Après avoir rapidement acquis un grand nombre d'utilisateurs sur Product Hunt, Lamatic a identifié un véritable intérêt pour la résolution des problèmes complexes à l'aide d'agents IA, et l'équipe a compris qu'elle devait développer une solution priorisant l'évolutivité et les performances.

Cloudflare joue un rôle déterminant en soutenant la croissance de Lamatic. Conçue avec Cloudflare Workers, Lamatic garantit le traitement des requêtes à proximité des utilisateurs finaux, minimisant ainsi la latence, tout en soulageant les serveurs centralisés de la charge de calcul. En quelques mois seulement, Lamatic.ai a évolué efficacement pour atteindre plus de trois millions de requêtes serverless par mois, soutenant l'activité de plus de 1 000 clients – et la plateforme est gérée par une équipe agile constituée de trois personnes. 

Les clients conçoivent leurs flux d'agent dans un générateur visuel sans codage, qui génère une configuration YAML interopérable. Les informations d'identification sensibles, telles que les clés API et les jetons d'accès aux modèles, sont chiffrées et stockées de manière sécurisée dans Workers KV. Cette démarche assure qu'elles ne sont déchiffrées qu'au moment de l'exécution, afin de renforcer la sécurité. Toutes les configurations YAML sont ensuite compilées dans un bundle JavaScript compatible avec Workers. Lorsqu'un projet est déployé, Lamatic orchestre les composants essentiels, tels que les tâches de synchronisation liées aux opérations ETL sur données planifiées et les webhooks entrants, afin de gérer les flux de travail déclenchés par des événements via Cloudflare Queues. Une fois déployé, le projet est pleinement opérationnel sous forme d'instance Cloudflare Workers, avec un point de terminaison d'API exposé, permettant aux clients d'intégrer des fonctions d'automatisation pilotées par IA directement dans leurs applications, avec des difficultés minimales.

Pour faire évoluer sa plateforme, Lamatic.ai a bâti son architecture en isolant la logique serverless et IA individuellement, pour chaque client. Plutôt que de regrouper les requêtes dans un cluster centralisé, Lamatic.ai répartit les charges de travail sur l'ensemble du réseau mondial de Cloudflare, assurant ainsi que chaque client et chaque point de terminaison sont servis par l'instance Workers correspondante, exécutant la logique dédiée. Ce modèle de déploiement par client, reposant sur Workers for Platforms, permet à Lamatic.ai de déployer des fonctions serverless spécifiques aux clients à grande échelle, tout en réduisant les frais techniques liés à l'intégration de clients supplémentaires. Chaque client bénéficie d'une instance Workers dédiée, dont les limites de requêtes et de débit sont définies en fonction du niveau de l'abonnement. 

Au-delà du traitement des requêtes, Lamatic utilise Cloudflare Workers KV comme magasin de configurations distribué, afin d'assurer un niveau élevé de disponibilité et de sécurité. Toutes les valeurs sont chiffrées au repos avec AES-256-GCM et sont déchiffrées uniquement pendant l'exécution, garantissant ainsi la sécurité des opérations, ainsi qu'une faible latence. Les jetons et les identifiants utilisateur sont chiffrés et stockés dans la base de données et dans KV. 

Afin d'améliorer encore les performances, Cloudflare Queues joue un rôle essentiel dans l'orchestration de l'achèvement des tâches. Lamatic utilise Queues pour alléger le travail lié aux requêtes de Workers et gérer les tâches telles que les webhooks et la coordination des processus distribués, deux aspects essentiels pour préserver la cohérence et la fiabilité du système dans son ensemble. Tandis que Workers traite les requêtes de synchronisation au point d'exécution, le traitement des tâches plus longues est assuré via Queues. Par exemple, pendant une synchronisation ETL planifiée, les nouveaux enregistrements de données générés sont stockés sous forme de file d'attente de messages sur Cloudflare Pub/Sub. Un consommateur Workers collecte ces messages et transmet un appel d'API au pod via la file d'attente de Workers. L'instance Workers du consommateur consomme davantage de messages au fur et à mesure que le traitement de chaque file d'attente se termine.

Un autre exemple de mise en œuvre optimale de cette configuration est la gestion des flux de travail IA. De nombreux flux de travail IA impliquent la transmission de requêtes simultanées à plusieurs sources de données, tandis que Queues rationalise le traitement des données et transmet efficacement les informations aux flux de travail RAG (Retrieval-Augmented Generation) des clients. Cette approche permet de compenser les pics de charge de travail, de réduire les goulets d'étranglement et de garantir que les agents IA peuvent agréger et traiter les données de manière fiable, sans délai.

Par ailleurs, Lamatic.ai propose aux clients d'utiliser différents fournisseurs d'inférence de support sur sa plateforme, parmi lesquels Workers AI. Les clients peuvent choisir d'exécuter l'un des nombreux modèles open source hébergés sur Workers AI en fonction de leur scénario d'utilisation (chatbot, génération d'images, voix, etc.). Ensemble, ces couches permettent de résoudre les défis liés à l'évolutivité des agents IA en traitant d'importants volumes de données, en maintenant des réponses à faible latence et en garantissant une sécurité robuste. En développant son réseau d'infrastructure sur Cloudflare, Lamatic.ai a créé une plateforme résiliente et performante, capable de satisfaire aux exigences rigoureuses des applications IA modernes. Elle constitue ainsi un choix idéal pour les start-ups intégrant des fonctionnalités pilotées par IA à leurs produits.

Skyward AI transforme les opérations de conformité en tirant parti des capacités de traitement serverless de Cloudflare pour développer des agents de conformité pilotés par IA permettant de rationaliser les tâches essentielles, telles que la collecte de preuves, l'analyse des risques en temps réel et la mise à jour des politiques. Les équipes responsables de la conformité dans les secteurs des technologies financières, de la chaîne d'approvisionnement et d'autres secteurs fortement réglementés font appel à ces agents IA pour extraire et organiser les preuves, fournir des recommandations en temps réel et orchestrer automatiquement les mises à jour des politiques et des procédures. En gérant l'analyse documentaire, la surveillance des risques et l'application des politiques, ces agents IA réduisent le risque d'erreur humaine, tout en permettant aux professionnels de la conformité de se concentrer sur des tâches à valeur élevée.

Skyward a développé une plateforme d'agents IA reposant sur une approche principalement serverless, évitant ainsi les contraintes liées à l'informatique cloud centralisée. Pour atteindre cet objectif, l'entreprise tire parti de la plateforme pour développeurs de Cloudflare afin de créer et de gérer une infrastructure hautement réactive et évolutive. Des instances Workers traitent les requêtes entrantes, telles que les données de messagerie, les contrôles de conformité ou les mesures d'authentification, puis les acheminent efficacement dans différentes zones géographiques. Dans un premier temps, Skyward a bâti son infrastructure d'agents IA avec Durable Objects, Workflows et le code RPC JavaScript-native pour la coordination de l'IA. Cependant, l'entreprise a récemment adopté la nouvelle infrastructure d'agents IA de Cloudflare. Dans la mesure où agents fournit un cadre pour la création et l'orchestration d'agents IA, la migration a permis à Skyward de s'abstraire de la nécessité de gérer manuellement Durable Objects, réduisant ainsi considérablement le temps consacré à la gestion de ces outils. Bien que ce lancement soit assez récent, la transition a permis de simplifier la manière dont les agents communiquent. Cependant, elle a également permis de conserver les avantages liés à la conception originale des agents, notamment la confidentialité des données, l'isolement et la gestion de la concurrence. Cette approche permet également à l'entreprise de fournir des commentaires et des réponses en temps réel aux utilisateurs finaux.

Skyward optimise l'automatisation de la conformité en temps réel en atteignant des temps de réponse inférieurs à 100 ms pour les requêtes d'agents IA. Les charges de travail sont structurées de manière à minimiser les allers-retours réseau inutiles, tandis qu'une approche reposant sur un moteur de synchronisation précharge et transmet proactivement les données aux clients, proposant ainsi une expérience utilisateur particulièrement réactive. Pour le traitement en proxy de l'inférence IA, Skyward utilise AI Gateway pour fournir une observabilité de l'utilisation, des performances et des coûts avec une multitude de fournisseurs, améliorant ainsi son efficacité opérationnelle pilotée par IA. L'utilisation de la plateforme pour développeurs serverless de Cloudflare a permis à Skyward de simplifier son architecture, tout en proposant une disponibilité mondiale. L'entreprise évite ainsi la nécessité de déployer des clusters Kubernetes ou des mécanismes de verrouillage complexes. L'équipe s'exonère également de la charge liée à la gestion des déploiements régionaux, puisque la prise en charge multi-régionale de Cloudflare garantit des performances constantes dans le monde entier, sans engendrer de complexité opérationnelle supplémentaire.

La gestion des états est une composante essentielle de l'exécution des flux de travail agentiques. Chaque session de gestion de la conformité s'exécute dans une instance Durable Objects dédiée, qui conserve les données pertinentes à proximité de la couche d'exécution. Cette configuration minimise les allers-retours vers la base de données et garantit que les tâches telles que les contrôles Anti-Money Laundering (AML), la validation Know Your Business (KYB) et le traitement documentaire restent efficaces. Une fois la session de conformité terminée, le système résume et stocke les informations pertinentes dans Postgres et R2, optimisant ainsi l'utilisation de la mémoire sans nécessiter d'infrastructure cloud persistante.

Pour équilibrer les opérations à faible latence avec le stockage à long terme, Skyward emploie une stratégie de gestion des données multicouche. En s'appuyant sur Hyperdrive, l'équipe de Skyward a pu réduire de près de 50 % la latence des requêtes, permettant ainsi aux équipes responsables de la conformité de recevoir un retour d'informations immédiat. Au cœur de l'entreprise, l'objectif de Skyward est de proposer une plateforme « rationalisée pour les équipes responsables de la conformité ». L'équipe affirme qu'une boucle de collecte d'informations rapide permet de s'assurer que les clients finaux disposent des données et des réponses nécessaires pour agir. Qu'il s'agisse d'un agent unique ou de centaines d'agents exécutant des tâches en parallèle, Hyperdrive garantit que les requêtes de base de données pour les ressources telles que les documentations d'entreprise volumineuses (c'est-à-dire les réglementations, les politiques, les procédures ou les documents internes), les graphiques complexes de connaissances réglementaires et les informations contextuelles à la demande pour les flux de travail conversationnels sont toutes aussi performantes que possible.

Durable Objects facilite l'état de la session en temps réel, assurant ainsi le bon fonctionnement des agents IA, sans nécessiter de mécanismes de verrouillage complexes. Pour les documents plus volumineux relatifs à la conformité, tels que les documents PDF juridiques et les données archivées, Cloudflare R2 propose un stockage à long terme, assurant que seules les informations fréquemment consultées restent disponibles. Cette approche permet d'améliorer les performances, tout en préservant l'efficacité et la rentabilité de la gestion du stockage.

La sécurité et l'évolutivité restent des priorités pour les applications IA dédiées à la conformité. Skyward applique des contrôles d'accès stricts, garantissant que seuls les utilisateurs autorisés peuvent accéder aux environnements de développement et de production. Chaque session d'IA conserve un journal vérifiable des principaux événements, des actions de l'utilisateur et des approbations, encourageant ainsi la capacité d'exporter ces informations à des fins de conformité et de respect des exigences légales. Dans la mesure où chaque agent est déployé dans sa propre instance et dispose de sa propre base de données, Skyward garantit un enregistrement détaillé de chaque utilisateur, chaque interaction avec l'agent et chaque exigence relative aux audits. En outre, la capacité de déployer et développer dans le monde entier qu'offre le réseau de Cloudflare a permis à Skyward de préserver la cohérence et les performances de ses opérations dans de nombreuses régions, sans alourdir l'infrastructure.

À l'avenir, Skyward prévoit d'améliorer encore la réactivité des agents IA en exécutant certains modèles directement sur Cloudflare Workers AI, réduisant ainsi la dépendance vis-à-vis de fournisseurs d'inférence externes. L'équipe prévoit d'approfondir l'intégration de Workers for Platforms dans le but de mieux isoler les données clients et les flux de travail, et ainsi, d'offrir aux utilisateurs finaux un meilleur contrôle sur l'automatisation de leur conformité. Tandis que Cloudflare continue de développer ses capacités en matière d'IA, Skyward cherche à repousser les limites des solutions IA distribuées de gestion de la conformité, en améliorant l'automatisation, l'évolutivité et la sécurité de la conformité réglementaire.

Nous nous sommes inspirés de la manière dont des start-ups telles que Lamatic AI et Skyward AI développent leurs plateformes d'agents IA sur Cloudflare. Ce type d'innovation est la raison pour laquelle nous sommes fiers de voir tant de start-ups se fier à Cloudflare pour bénéficier d'une infrastructure évolutive, fiable et efficace. 

Nous sommes également ravis d'annoncer que les solutions de Lamatic AI et Skyward AI ont été invitées à rejoindre la promotion Workers Launchpad nº 5 de Cloudflare. À propos de Workers Launchpad, quelques mois se sont écoulés depuis notre dernière mise à jour, alors, jetons un coup d'œil à l'actualité de la solution.

L'équipe Workers Launchpad a été époustouflée par les projets présentés par les clients sur la plateforme pour développeurs. Les membres de la promotion nº 4 ont proposé une présentation à l'occasion de notre événement biannuel Demo Day. Nous avons demandé à nos clients de nous présenter ce qu'ils créent dans une multitude de secteurs, notamment (bien entendu) l'IA/l'apprentissage automatique, les outils de développement, la conception 3D, l'infrastructure cloud, les technologies publicitaires, les médias et bien d'autres. Il est incroyablement encourageant de découvrir les solutions que conçoivent ces entreprises incroyables sur le réseau Cloudflare, et nous sommes impatients de poursuivre notre partenariat avec elles tout au long de leur parcours de start-up.

Après l'événement Demo Day de la promotion Workers Launchpad nº 4, nous avons constaté un afflux sans précédent de candidatures provenant de start-ups du monde entier, impatientes de rejoindre la promotion nº 5. Cette nouvelle vague de fondateurs repousse les limites du possible en développant des solutions dans des domaines tels que les agents IA, les outils de développement, les serveurs MCP, les médias et bien d'autres encore. À chaque nouvelle promotion, nous sommes continuellement inspirés par le talent des équipes fondatrices, les idées audacieuses auxquelles donnent vie et les problèmes réels qu'elles entreprennent de résoudre grâce à la technologie.

Aidez-nous à offrir beaucoup d'appréciation et un accueil chaleureux les participants de la promotion n° 5 :

Nous sommes impatients de vous en apprendre davantage sur ce que réalisera la promotion n° 5. Assurez-vous de suivre @CloudflareDev sur X et rejoignez notre serveur Discord pour développeurs pour découvrir toutes les informations concernant les promotions.

Si vous développez votre application sur notre plateforme pour développeurs, nous serions ravis de découvrir de quelle manière Cloudflare soutient votre parcours. N'hésitez pas à nous en apprendre davantage sur la solution que vous développez, et notre équipe ne manquera pas d'examiner votre candidature. Et si vous êtes une start-up et vous souhaitez rejoindre Workers Launchpad, n'hésitez pas à vous inscrire pour rejoindre la promotion n° 6 : les candidatures sont maintenant ouvertes !