Heute freuen wir uns, Cloudflare Waiting Room ankündigen zu können! Es wird zunächst für ausgewählte Kunden über ein neues Programm namens Project Fair Shot verfügbar sein. Dieses Programm soll helfen, das Problem der überwältigenden Nachfrage nach COVID-19-Impfungen zu lösen, die dazu führt, dass die Webseiten zur Terminanmeldung nicht funktionieren. Die allgemeine Verfügbarkeit in unseren Business- und Enterprise-Plänen wird in naher Zukunft folgen.

Moment mal...Warum die große Aufregung um einen...Waiting Room?

Die meisten von uns sind mit dem Konzept eines Wartezimmers vertraut. Äußerst selten sind wir von der Vorstellung begeistert, uns in einem solchen zu befinden. Unsere erste Erfahrung mit einem Wartezimmer machen wir in der Regel in einer Arztpraxis — ja, man hat einen Termin, aber manchmal verspätet sich der Arzt (oder einer der Patienten). Da der Arzt immer nur eine Person auf einmal behandeln kann... entstand das Wartezimmer, als Mechanismus, um die Patienten in einer Warteschlange zu reihen.

Obwohl Server mehr gleichzeitige Anfragen verarbeiten können als ein Arzt, können auch sie überlastet sein. Wenn Sie in einer Welt vor COVID jemals versucht haben, Tickets für ein beliebtes Konzert oder eine Veranstaltung zu kaufen, sind Sie wahrscheinlich online auf einen Waiting Room gestoßen. Er begrenzt die an eine Anwendung eingehenden Anfragen und stellt diese Anfragen in eine virtuelle Warteschlange. Sobald sich die Anzahl der Benutzer in der Anwendung reduziert hat, werden neue Benutzer innerhalb der definierten Schwellenwerte, die die Anwendung verarbeiten kann, eingelassen. Dies schützt die Server, die die Anwendung unterstützen, davor, mit zu vielen Anfragen überlastet zu werden, und sorgt gleichzeitig für Gerechtigkeit aus Benutzersicht — Benutzer, die versuchen, auf eine Ressource zuzugreifen, wenn das System überlastet ist, werden nicht ungerechterweise abgewiesen und gezwungen, sich erneut zu verbinden, in der Hoffnung, in der Warteschlange eine Chance zu bekommen.

Warum jetzt?

Angesichts der Tatsache, dass nicht viele von uns in absehbarer Zeit auf Live-Konzerte gehen werden: Warum macht Cloudflare das jetzt?

Nun, vielleicht gehen wir nicht auf Konzerte, aber COVID-19 hat Effekte zweiter Ordnung, die einen riesigen Bedarf an Waiting Rooms geschaffen haben. Erstens haben Kunden und Bürger angesichts der physischen Distanzierung und der Schließung vieler Geschäftsstellen und Behörden auf Online-Kanäle umgestellt, was die Infrastruktur von Unternehmen und Behörden wesentlich stärker belastet.

Zweitens haben die Pandemie und ihre Folgeerscheinungen dazu geführt, dass viele Menschen auf der ganzen Welt auf Ressourcen angewiesen sind, die sie vor zwölf Monaten noch nicht benötigt haben. Konkret handelt es sich dabei oft um gesundheits- oder behördenbezogene Ressourcen - zum Beispiel Websites der Arbeitslosenversicherung. Die Online-Infrastruktur wurde für eine Spitzenlast eingerichtet, die die Auswirkungen von COVID-19 nicht vorhersah. Ein ähnliches Muster zeichnet sich bei Websites ab, die Impfstoffe und Impfungen betreffen.

In der Vergangenheit war die Zahl der Organisationen, die Waiting Rooms benötigten, recht gering. Die Natur der meisten Online-Unternehmen beinhaltet in der Regel eine gleichmäßigere Benutzerlast und nicht einen riesigen gleichzeitigen Ansturm von Menschen. Diese Organisationen waren in der Lage, individuelle Waiting Rooms zu erstellen und diese tief in ihre Anwendung zu integrieren (z.B. Ticket-Käufe). Cloudflare Waiting Room bedarf keiner Code-Änderungen an der Anwendung. Ein Waiting Room kann in wenigen Minuten für jede Website eingerichtet werden, ohne eine einzige Zeile Code zu schreiben.

Ganz gleich, ob Sie ein technischer Architekt oder ein Business Operations Analyst sind: Die Einrichtung eines Waiting Rooms ist einfach. Wir machen es schnell und einfach, sicherzustellen, dass Ihre Anwendungen zuverlässig und vor unerwarteten Traffic-Spitzen geschützt sind. Weitere Funktionen, die wir für wichtig hielten, sind die automatische Freigabe und der dynamische Outflow. Mit anderen Worten: Ein Waiting Room sollte sich automatisch einschalten, wenn Schwellenwerte überschritten werden, und wenn Benutzer ihre Aufgaben in der Anwendung beenden, Benutzer unterschiedlicher Größe herauslassen und neue, die bereits in der Warteschlange sind, aufnehmen. Es sollte einfach funktionieren. Schließlich haben wir gesehen, welch großen Einfluss COVID-19 auf Anwender und Unternehmen gleichermaßen hat, insbesondere, aber nicht nur, auf den Gesundheits- und Verwaltungssektor. Wir wollten eine weitere Möglichkeit schaffen, um sicherzustellen, dass diese Anwendungen verfügbar und funktionstüchtig bleiben, damit alle Benutzer die benötigte Behandlung erhalten können und in ihrem Browser keine Fehler auftreten.

Wie funktioniert Cloudflare Waiting Room?

Wir haben Waiting Room auf unser Edge-Netzwerk und unser Workers-Produkt aufgesetzt. Durch die Nutzung von Workers und unseren neuen Durable Objects-Angeboten konnten wir die Notwendigkeit für jegliches kundenseitiges Programmieren beseitigen und ein nahtloses, sofort einsatzbereites Produkt anbieten, das „einfach funktioniert“. Darüber hinaus profitieren wir von der Skalierbarkeit und Leistung unseres Workers-Produkts, um sicherzustellen, dass wir extrem niedrige Latenzzeiten einhalten, die geschätzten Zeiten für die Endbenutzer so genau wie möglich halten und keinen Benutzer länger als nötig in der Warteschlange halten. Es ist jedoch keine einfache Aufgabe, ein zentralisiertes System in einem dezentralen Netzwerk zu entwickeln. Wenn Anfragen aus der ganzen Welt in eine Anwendung einfließen, müssen wir in der Lage sein, einen umfassenden und genauen Überblick darüber zu erhalten, wie hoch die ein- und ausgehende Last für eine bestimmte Anwendung ist.

Anfrage, die Cloudflare ohne Waiting Room durchläuft
Anfrage, die Cloudflare ohne Waiting Room durchläuft

Diese Anfragen, so schnell sie auch sind, brauchen immer noch Zeit, um durch die Welt zu reisen. Und so wurde ein einzigartiger Edge-Anwendungsfall präsentiert. Was ist, wenn eine Website angemessenen Traffic aus Nordamerika und Europa erhält, dann aber eine plötzliche große Traffic-Spitze aus Südamerika auftritt? Wie wissen wir, wann wir weiterhin Benutzer in die Anwendung lassen und wann wir den Waiting Room einschalten, um die Ursprungsserver vor Überlastung zu schützen?

Dank cleverer Technik und unseres Workers-Produkts konnten wir ein System entwickeln, das sich nahezu sofort mit der globalen Nachfrage an eine Anwendung synchronisiert und uns den nötigen Einblick gibt, wann wir Benutzer in den Waiting Room einreihen sollten und wann nicht. Indem wir unser globales Anycast-Netzwerk und über 200+ Rechenzentren nutzen, beseitigen wir jeden Single Point of Failure, um die Infrastruktur unserer Kunden zu schützen, und bieten Endbenutzern gleichzeitig ein großartiges Erlebnis, die unter hoher Last eine kurze Zeit warten müssen, um die Anwendung zu betreten.

Anfrage durchläuft Cloudflare mit einem Waiting Room
Anfrage durchläuft Cloudflare mit einem Waiting Room

Wie man einen Waiting Room einrichtet

Das Einrichten eines Waiting Rooms ist denkbar einfach und geht sehr schnell! Auf der einfachsten Seite der Skala muss ein Benutzer nur fünf Felder ausfüllen: 1) den Namen des Waiting Rooms, 2) einen Hostnamen (der bereits mit der Zone, für die er konfiguriert wird, vorausgefüllt ist), 3) die Anzahl der aktiven Benutzer, die sich zu einem bestimmten Zeitpunkt in der Anwendung befinden können, 4) die Anzahl der neuen Benutzer, die pro Minute in die Anwendung eintreten dürfen, und 5) die Sitzungsdauer für einen bestimmten Benutzer. Es ist keine Programmierarbeit oder Änderung der Anwendung erforderlich.

Für Kunden, die kein zusätzliches Branding hinzufügen möchten, bieten wir die Möglichkeit, unser standardmäßiges Waiting Room-Template zu verwenden. Dies vereinfacht die Einrichtung eines Waiting Rooms.

Das ist alles! Drücken Sie auf „Speichern“ und der Waiting Room ist einsatzbereit!

Für Kunden mit mehr Zeitressourcen und technischen Fähigkeiten wird derselbe Prozess befolgt, außer dass wir unseren Anwendern volle Anpassungsmöglichkeiten geben, so dass sie den Waiting Room mit ihrem eigenen Branding versehen können, um sicherzustellen, dass er zum Look and Feel ihres Gesamtprodukts passt.

Und schließlich ist die Verwaltung verschiedener Waiting Rooms unglaublich einfach. Mit unserer Tabelle „Waiting Room verwalten“ erhalten Sie auf einen Blick eine vollständige Übersicht darüber, welche Waiting Rooms aktiv in der Warteschlange stehen, nicht in der Warteschlange stehen und/oder deaktiviert sind.

Wir freuen uns sehr, unseren Kunden die Leistungkraft unseres Waiting Room verfügbar zu machen, um sicherzustellen, dass sie sich weiterhin auf ihr Kerngeschäft und ihre Kunden konzentrieren können. Halten Sie Ausschau nach einem weiteren Blog-Beitrag, der in Kürze erscheint und wichtige Updates für unser Waiting Room-Produkt für Enterprise-Kunden enthält!