Cloudflare OS: eine offene Plattform für Agenten, Anwendungen und Arbeit

Jede Organisation hat eine Mission, einen Daseinszweck.     Sie gibt diese Mission ebenso wie ihre Begriffe, Prozesse, Systeme, Standards und Arbeitsweisen an ihre Mitarbeitenden weiter. Diese bringen den vermittelten Kontext mit ihrer eigenen Erfahrung zusammen und richten ihre Arbeit auf die Mission aus.

Arbeit hat viele Erscheinungsformen — sie kann aus Code, Dokumenten und Folien, zwischenmenschlichen Beziehungen oder greifbaren Resultaten in der physischen Welt bestehen.

Einige davon sind einfach: Code läuft entweder oder er läuft nicht. Agenten haben in den letzten Jahren diesen Feedback-Loop genutzt, um Code zu produzieren, der für Entwickler „funktioniert“. Doch wie lässt sich das auf alle anderen übertragen?

Den gleichen Produktivitätsvorteil auf den Rest der Organisation zu übertragen, stellt ein schwierigeres Problem dar. Agenten müssen den Kontext des Unternehmens verstehen und auf die Systeme zugreifen können, die Menschen für ihre Arbeit nutzen. Sie müssen diesen Kontext und diesen Zugang in Arbeit umsetzen, die die Organisation ihrer Mission näherbringt.

Deshalb haben wir Cloudflare OS entwickelt. Es bietet jeder Person einen persönlichen Agenten und einen Arbeitsbereich: auf das jeweilige Unternehmen zugeschnitten – auf seine Arbeitsweise, sein Wissen und die Systeme, auf die es sich stützt.

Im Mai dieses Jahres haben wir allen Mitarbeitenden bei Cloudflare Zugriff auf die erste Version von Cloudflare OS gegeben. Tausende von Menschen in allen Abteilungen, viele davon außerhalb des Engineerings, nutzen es täglich, um Dokumente und Folien zu erstellen, wiederholbare Aufgaben zu automatisieren und kleine Apps zu entwickeln, um Daten zu visualisieren und ihnen bei ihrer Arbeit zu helfen.

Cloudflare OS gab allen zudem Zugriff auf eine gemeinsame Bibliothek aus Kontext und Skills, die von Teams bei Cloudflare erstellt wurde. Sie hält unsere Begriffswelt, Prozesse und bewährten bzw. derzeit besten bekannten Vorgehensweisen für wiederkehrende Arbeiten in Form von Anweisungen fest, die Agenten ausführen können. Sobald jemand einen besseren Ansatz entdeckt, können alle anderen davon profitieren.

Heute veröffentlichen wir eine neue Open-Source-Version von Cloudflare OS. Jede Organisation kann es bereitstellen, mit internen Systemen verbinden und anpassen.

Was wir von der ersten Version gelernt haben

Die Version von Cloudflare OS, die wir heute als Open Source veröffentlichen, basiert auf den Erkenntnissen aus dem internen Einsatz der ersten Version – eine Entwicklung, die unser CIO Sam Rhea in seinem Blogbeitrag beschreibt.

Im Mittelpunkt der ersten Version standen einzelne Nutzer, die in privaten Workspaces mit Agenten zusammenarbeiteten. Die Apps waren statisch statt als laufende Software mit internen Systemen verbunden, und selbst weitgehend deterministische Jobs erforderten meist eine erneute Ausführung eines Agenten-Skills und damit zusätzlichen Token-Verbrauch.

Mit der Zusammenarbeit trat ein grundlegenderes Problem zutage. Der Zugriff auf einen MCP-Server verriet uns, welche Werkzeuge ein Agent verwenden durfte, jedoch nicht, welche zugrunde liegenden Ressourcen er bereits eingesehen hatte. Als Nutzer begannen, Workspaces, Apps und Ergebnisse miteinander zu teilen, mussten wir gewährleisten, dass dabei keine Informationen sichtbar wurden, auf die jemand keinen Zugriff haben sollte.

Deshalb haben wir Cloudflare OS von Grund auf auf einer neuen Architektur aufgebaut. Sicherheit sollte fest in die Plattform integriert sein, anstatt von jeder Person, die eine App entwickelt oder einen Agenten nutzt, korrekt umgesetzt werden zu müssen.

Entstanden ist eine Plattform, die auf das Unternehmen zugeschnitten ist, das sie einsetzt. Sie können die Oberflächen individuell gestalten, Ihre Werkzeuge integrieren und Skills sowie Kontext ergänzen, die die Arbeitsweise Ihrer Organisation widerspiegeln.

Wir präsentieren: Cloudflare OS

Wie viele andere KI-Tools startet auch Cloudflare OS mit einer Unterhaltung im Browser. Was es unterscheidet: Jede Unterhaltung ist im kuratierten Kontext und in den Skills Ihrer Organisation verankert. Definieren Sie ein Ziel für Ihren Workspace, und er nutzt dieses Wissen sowie die vorhandenen Tools und Daten Ihrer Organisation, um darauf hinzuarbeiten.

Cloudflare OS kombiniert drei Teile:

• Ein Agenten-Workspace, der im Kontext und den Skills, die Ihr Unternehmen kuratiert, verankert ist, mit einer isolierten Laufzeitumgebung, in der Agenten Code schreiben und ausführen können.
• Ein neues Sicherheits- und Governance-Framework für den sicheren Zugang zu internen Daten und Diensten.
• Eine Plattform für persönliche, anpassbare Apps, die Nutzer erstellen, teilen und weiter verändern können.

Was als Gespräch beginnt, kann zu einem Dokument, einer App oder einem Workflow werden, der weiterhin die Arbeit erledigt.

Ein Agenten-Workspace für alle in Ihrem Unternehmen

Agenten-Workspaces wurden so konzipiert, dass sie von allen in Ihrer Organisation genutzt werden können. Sie interagieren direkt im Browser mit ihnen, sodass Sie weder Entwickler sein noch wissen müssen, wie man ein Terminal verwendet. 

Ein Workspace kombiniert Agenten-Sessions, dauerhaft gespeicherten Zustand, Outputs und Dateien, den Zugriff auf Ressourcen sowie eine isolierte Runtime, in der der Agent Code erstellen und ausführen kann.

Sie enthalten bereits den kuratierten Kontext und die Skills, die Ihr Team oder Unternehmen aufgebaut hat. Das erspart doppelte Arbeit: Findet jemand den optimalen Weg für eine Aufgabe, können alle anderen ihn ebenfalls nutzen. Prozesse, Terminologie und bewährte Vorgehensweisen müssen einem Modell nicht jedes Mal aufs Neue vermittelt werden.

Einige Dinge, die Sie tun können:

Recherchieren und Fragen stellen

Lassen Sie einen Workspace ein Thema auf Basis des Unternehmenskontexts und der bereitgestellten Ressourcen recherchieren. Der Agent kann dabei Code erstellen, um Informationen zu durchsuchen, zu filtern, zu verknüpfen und auszuwerten, statt den vollständigen Datensatz in das Kontextfenster des Modells zu übernehmen.

Dokumente, Präsentationen und Tabellen erstellen

Ein Workspace kann die Ergebnisse seiner Recherche in ein Dokument, eine Präsentation oder eine Tabelle überführen, die Sie anschließend weiter bearbeiten können. Diese Ausgaben sind nicht auf statische Dateien beschränkt. Sie können mit Live-Daten verknüpft bleiben, sich bei Änderungen der zugrunde liegenden Quellen aktualisieren und trotzdem in bekannte Formate oder zu Diensten wie Google Drive exportiert werden.

Kollaborative, vernetzte Apps für Ihr Team erstellen

Wenn ein Dokument oder eine Tabelle nicht ausreicht, kann der Agent eine App mit eigener Oberfläche, Logik und Zustand erstellen. Die App kann verbundene Unternehmensressourcen nutzen und die Zusammenarbeit mehrerer Personen unterstützen.

Deterministische Workflows ausführen 

Nicht für jede Aufgabe ist eine komplette Agenten-Session notwendig. Viele folgen einer bekannten Schrittfolge und benötigen nur an wenigen Stellen eine Einschätzung. Ein Arbeitsbereich kann daraus größtenteils deterministische Workflows erstellen: Code übernimmt die vorhersehbare Schritte, während ein Modell nur dort zum Einsatz kommt, wo es sinnvoll ist. Diese Workflows können bei Bedarf, nach Zeitplan oder durch ein Ereignis in einem angebundenen System ausgelöst werden.

Cloudflare OS bietet Agenten und Apps einen kontrollierten Zugriff auf maßgebliche Datensysteme über Gatekeeper (mehr dazu im untenstehenden Abschnitt zur Sicherheit). Darüber hinaus unterstützt es die bereits in Ihrer Organisation eingesetzten Model Context Protocol (MCP)-Server über MCP Server Portals.

Ein neues Sicherheits- und Governance-Framework für den sicheren Zugang zu internen Daten und Diensten

Sobald Mitarbeitende anfangen, KI bei der Arbeit auszuprobieren, fragen sie häufig als Erstes nach API-Schlüsseln für interne Systeme. Das ergibt Sinn: Ohne Zugriff auf die Systeme, mit denen Menschen ihre Arbeit erledigen, kann KI im Unternehmenskontext nur wenig bewirken.

Aber das Weitergeben von API-Schlüsseln an Personen und Agenten ist gefährlich und nicht skalierbar. Schlüssel bieten oft weitreichende, langfristige Zugriffsrechte, die schwer einzuschränken, sicher zu teilen und zu überprüfen sind.

MCP bietet Agenten eine bessere Möglichkeit, diese Systeme zu nutzen. Ein MCP-Server kann die Zugangsdaten verwahren und eine klar definierte Auswahl an Tools bereitstellen, anstatt den Schlüssel direkt an den Agenten weiterzugeben. Doch zu steuern, welche Tools ein Agent aufrufen darf, ist nur der erste Schritt. MCP allein zeigt uns nicht, welche zugrunde liegenden Ressourcen ein Agent bereits eingesehen hat. Ein Agent kann Informationen aus mehreren Systemen kombinieren, sie an einen weniger geschützten Ort senden oder sie über Apps und Ausgaben Personen zugänglich machen, die die ursprünglichen Ressourcen möglicherweise nicht sehen dürfen. Autorisierung muss daher auch berücksichtigen, wohin Daten anschließend gelangen können.

Agenten beginnen ohne Zugriff

Cloudflare Access steuert, wer auf Cloudflare OS zugreifen kann. Innerhalb der Plattform startet jeder Agent und jede App ohne jegliche Zugriffsrechte. Ein Agent kann den Zugriff auf eine bestimmte Ressource anfordern, den Sie gewähren oder verweigern können. Generierter Code erhält diese Ressource als typisierte Bindung:

const issues = await env.PROJECT.listIssues({
  teamId: "ENG",
  state: "open",
});

env.PROJECT ist eine Capability, die die Berechtigung repräsentiert, eine bestimmte Ressource unter einer bestimmten Richtlinie zu verwenden. Die eigentlichen Zugangsdaten bleiben vollständig vom Agenten und jeglichem generierten Code isoliert.

Der serverseitige Code läuft in einem Dynamic Worker mit global deaktiviertem ausgehendem Netzwerkzugriff. Der clientseitige Code wird in einem abgeschotteten Browser-Frame ausgeführt. Beide können das Internet ausschließlich über Capabilities erreichen, die Sie explizit freigeben.

Gatekeeper verwalten Ressourcen und Aktionen

Ein Gatekeeper ist ein dienstspezifischer Worker, der zwischen dem Cloudflare-OS und einem externen Dienst sitzt. Er versteht die API des Dienstes, dessen Ressourcen und die darauf ausführbaren Operationen.

Vollzugriff auf Ihr gesamtes GitHub-Konto wäre für einen Agenten in der Regel zu umfassend. Ein Gatekeeper kann stattdessen nur ein bestimmtes Repository freigeben, das Lesen von Issues erlauben, Quellcode jedoch sperren, einzelne Felder ausblenden, Zugriffsraten begrenzen und vor dem Zusammenführen eines Pull Requests eine Genehmigung einfordern.

Der Agent und seine Apps sehen lediglich eine schlanke TypeScript-API. Der Gatekeeper übernimmt die OAuth-Abwicklung, verwahrt die Zugangsdaten, setzt Richtlinien durch, protokolliert, welche Daten gelesen wurden, und vermittelt alle Vorgänge mit nach außen sichtbaren Auswirkungen.

Richtlinien richten sich danach, was der Agent gesehen hat

Es reicht nicht aus, nur den ursprünglichen Lesezugriff zu kontrollieren. Nehmen wir etwa den Fall, dass ein Agent eine sensible Tabelle in einem Data Warehouse liest und daraus ein Live-Dashboard erstellt. Das Teilen dieses Dashboards darf nicht dazu führen, dass Personen Zugriff auf die zugrunde liegende Tabelle erhalten, obwohl sie direkt nicht darauf zugreifen dürften.

Jede Ressource, die ein Agent beobachtet, wird von Cloudflare OS erfasst. Diese Informationen bleiben an den Agenten und seine Arbeit gebunden. Versucht eine andere Person, den Arbeitsbereich zu öffnen, mit dem Agenten zu interagieren oder dessen Ergebnisse einzusehen, verifizieren Gatekeeper den Zugriff dieser Person auf die zuvor beobachteten Ressourcen.

Dasselbe Beobachtungsprotokoll fließt auch in Richtlinien ein, die festlegen, wann Agenten externe Anfragen stellen dürfen. Hat ein Agent sensible Daten gelesen, kann dies verhindern, dass er Daten an bestimmte Ziele schreibt, neue Mitwirkende einlädt, Arbeit an einen anderen Agenten übergibt oder eine ausgehende Anfrage sendet.

Menschen, die Agenten verwenden oder Apps entwickeln, müssen diese Fehler nicht selbst verhindern. Die Plattform übernimmt das nun.

Eine Plattform zum Erstellen und Teilen persönlicher, modifizierbarer Apps

Die meisten Produktivitätssuiten bieten Ihnen einen festen Satz von Anwendungen: Dokumente, Tabellenkalkulationen und Präsentationen. In Cloudflare OS kann jede „Datei“ ihre eigene Anwendung sein, die von einem Agenten für eine Person, ein Projekt oder ein Team erstellt wurde.

Dabei handelt es sich nicht um Prototypen, die Sie exportieren und an anderer Stelle bereitstellen müssen. Jede dieser Anwendungen ist eine vollständige Full-Stack-Anwendung mit Client-Code, Server-Code, API und dauerhaftem Zustand. Apps sind standardmäßig privat, können aber wie Dokumente geteilt werden.

Jede App ist ein Worker

Wenn Sie Ihren Workspace bitten, eine App zu erstellen, schreibt der Agent zwei Teile:

• Client-Code, der die Benutzeroberfläche der App im Browser rendert
• Server-Code, der den Zustand speichert und das Verhalten der App implementiert

Der Server wird bei Bedarf als Dynamic Worker geladen und als Durable Object Facet instanziiert – beides Funktionen, die wir für dieses Projekt entwickelt haben. Das Facet stellt der App eine eigene SQLite-Datenbank zur Verfügung, getrennt von der Cloudflare-OS-Laufzeit, die sie verwaltet. Dynamic Workers verwenden schlanke V8-Isolates, sodass jede App eine eigene isolierte Laufzeit erhalten kann, ohne dass dafür dauerhaft ein eigener Server oder Container bereitstehen muss.

Der Browser-Client kommuniziert mit dem Server über Cap’n Web, das Open-Source-RPC-System von Cloudflare, auf Basis von Object Capabilities. Eine Servermethode kann vom Client wie eine normale JavaScript-Funktion aufgerufen werden:

const issues = await app.listIssues({
 status: "done",
});

Das Besondere ist, dass der Agent auch dieselbe Methode aufrufen kann.

Wenn Sie ein Tool erstellen können, das eine bestimmte Aufgabe übernimmt, können Agenten dieses Tool verwenden, um die Aufgabe in Ihrer Abwesenheit zu erledigen.

Teilen Sie die App oder erzählen Sie, wie sie entwickelt wurde

Wenn Sie eine App in Cloudflare OS erstellen, haben Sie zwei Möglichkeiten, sie zu teilen:

• Durch das Teilen Ihrer App selbst können andere Personen in Echtzeit mit demselben Zustand zusammenarbeiten.
• Wenn Sie den Blueprint Ihrer App teilen, können andere Personen ihre eigene Kopie der App erstellen.

Eine App, die aus einem Blueprint instanziiert wird, enthält den Code der ursprünglichen App. Aber sie enthält nicht ihre SQLite-Daten, Gesprächsverlauf, Anmeldedaten oder verbundene Ressourcen. Jede neue App beginnt mit einem unabhängigen Zustand und Ressourcen.

Das bedeutet, dass Ihr Team, wenn Sie Apps teilen, diese selbst mit KI anpassen kann, anstatt ein Feature Request einreichen und Ihnen zuweisen zu müssen.

Verwenden Sie jedes beliebige Modell und kontrollieren Sie die Kosten.

Cloudflare OS kann mit jedem Modell verwendet werden. Jeder Inferenzaufruf läuft durch Cloudflare AI Gateway, wodurch Ihre Organisation an einem Ort entscheiden kann, welche Modelle verfügbar sind sowie welches Modell jede Aufgabe übernehmen soll.

Nicht jede Aufgabe erfordert das teuerste Modell. Für die morgendliche Zusammenfassung Ihrer ungelesenen E-Mails möchten Sie vermutlich nicht jedes Mal das teuerste Frontier-Modell einsetzen. AI Gateway gibt Ihnen die nötige Kontrolle, damit kostspielige Modelle nur für die anspruchsvollsten Aufgaben verwendet werden.

Jede Anfrage wird der Person, dem Team oder dem Arbeitsbereich zugeordnet, von dem sie stammt. Administratoren können sehen, wofür Inferenzkosten anfallen, Budgets und Rate Limits festlegen und bestimmen, was geschieht, wenn ein Limit erreicht wird.

Open Source, damit Sie es zu Ihrem eigenen machen können

Cloudflare OS ist ab sofort verfügbar und ist Open Source. Sehen Sie sich das cloudflare-os GitHub-Repository an. Sie können es in Ihrem eigenen Cloudflare-Konto bereitstellen und Ihre eigenen Access-Richtlinien, AI Gateway-Konfigurationen, Daten und Integrationen verwenden.

Unsere interne Bereitstellung spiegelt die Systeme, Terminologie, Richtlinien und Arbeitsweisen von Cloudflare wider. Ihre Bereitstellung sollte entsprechend Ihre eigene Organisation widerspiegeln.

Cloudflare OS ist so konzipiert, dass Sie die Oberfläche anpassen, interne Gatekeepers hinzufügen und organisationsspezifische Funktionen entwickeln können, ohne das Kernprodukt zu ändern.

Wir veröffentlichen zwei Repositorys: den Cloudflare OS-Kern und eine beispielhafte Bereitstellung, basierend auf unserer internen Nutzung bei Cloudflare. Das Bereitstellungs-Repository nutzt den Kern, ohne ihn zu patchen, und bietet Raum für Konfiguration, individuelle Benutzeroberflächen, interne Integrationen, Analysen und Bereitstellungspipelines.

Zusammen mit unseren Partnern bereitgestellt

Der Quellcode ist nur der Ausgangspunkt. Der Kontext, die Skills, die Workflows, die internen Systeme und die Richtlinien sind es, die Cloudflare OS für Ihre Organisation noch nützlicher machen.

Die strategischen Partner von Cloudflare, Presidio und Happy Cog, unterstützen Sie dabei, Cloudflare OS auf die Abläufe Ihrer Organisation zuzuschneiden und in Ihrer gesamten Belegschaft einzuführen.

Partner können Ihnen dabei helfen, gemeinsame Skills und institutionellen Kontext zu kuratieren, benutzerdefinierte Schnittstellen zu erstellen, interne Systeme über Gatekeeper und MCP Server Portale zu verbinden sowie Sicherheits-, Modell- und Kostenkontrollen zu konfigurieren.

Sie erhalten Cloudflare OS mit Ihrem eigenen Branding, das mit Ihren Systemen verbunden ist, auf Cloudflare läuft und auf die Arbeitsweise Ihrer Mitarbeitenden zugeschnitten ist.

Erste Schritte

Cloudflare OS ist ab heute auf GitHub verfügbar. Sie können den Quellcode erkunden, die Demo ausprobieren oder ihn in wenigen Minuten in Ihr eigenes Cloudflare-Konto bereitstellen, indem Sie unser Starter-Repository verwenden.

Wir fangen gerade erst an. Wir arbeiten daran, Cloudflare OS als vollständig verwaltetes Produkt in das Cloudflare-Dashboard zu integrieren, Container für Entwicklungsabläufe hinzuzufügen und Arbeitsbereiche in Slack und andere Chat-Tools zu bringen.

Wenn Sie daran interessiert sind, mit unserem Team zu sprechen, freuen wir uns auf ein Gespräch mit Ihnen. Kontaktieren Sie uns über dieses Formular!