このブログは2021年11月20日に公開されました。ネットワークの最適化を継続するため、定期的な更新を公開しています。これらの更新は、こちらから入手できます。
2か月と少し前に、世界中のラストワンマイルネットワークの広範なベンチマーク結果を共有しました。さまざまなテスト （TCP接続時間、最初の1バイトを受信するまでの時間（TTFB）、最後の1バイトを受信するまでの時間（TTLB））、また、さまざまな測定（p95、平均）の結果は、Cloudflareが世界中の49％のネットワークで最速のプロバイダーであることを示しました。それ以来、当社はあらゆる場所で最速のプロバイダーになるまで、パフォーマンスの継続的な改善に取り組み、イノベーションウィークごとに当社が最速とするネットワークの数を10％増やすという目標を設定し、バースデーウィーク（2021年9月）の間にその目標を達成しました。
本日、Full Stack Week（2021年11月）の目標を達成したことを報告できることを誇りに思います。Cloudflareは、世界の上位1,000のネットワークに対するパフォーマンスを測定しました（アドバタイズされたIPv4アドレスの数による）。これらのうち、Cloudflareは新たに79のネットワークで最速のプロバイダになりました。これは1,000あるネットワークのうち14%増にあたります。もちろん、まだ完了していませんが、最新の結果を共有し、どのようにそれを達成したかを説明したいと思います。
しかし、ネットワークパフォーマンスについて詳しく説明する前に、Workersプラットフォームに関する新しいパフォーマンス指標を共有したいと思います（Full Stack Weekと仮定）。Cloudflare WorkersとFastlyのCompute@Edgeの数を減らした結果、Workerの速度が196％増となりました。
より高速なネットワークはより高速なスタックを意味します
数ヶ月前、私たちはCloudflare Workersのパフォーマンスについて、他の類似品と比較しながら説明しました。当社のパフォーマンスの比較でLambdaとLambda@Edgeと比較し、Cloudflare Workersがそれぞれ210%と298%上回っていました。
当時、比較可能なすべての製品に対して、私たちがどのような評価を受けているかを確認したかったのですが、すべての製品が一般的に提供されているわけではありませんでした。そのため、Workersが別のソリューションであるFastlyのCompute@Edgeと比較した結果について報告することができませんでした。
世界中のCatchpointのデータを使用して50のノードで実施したテストから最初の1バイトを受信するまでの時間（TTFB）を基に算出し、Cloudflare WorkersがFastlyのCompute@Edgeよりも196％高速でした。本日、このような報告ができることを嬉しく思います。
過去に行ったように、現在の時刻と測定された最初の1バイトを受信するまでの待ち時間（DNS、接続、およびTLSハンドシェイク後に、クライアントがHTTPリクエストを行ってからクライアントがリクエストの応答の最初のバイトを受信するまでの時間の長さ）を単純に返す関数を実行しました。テストは2021年11月8日に、Cloudflare WorkersとFastlyのCompute@Edgeの両方の無料利用枠アカウントを使用して実行されました。
双方のプロバイダーで実行したコードはまったく同じ（すべてのリクエストヘッダーを返す小さな関数）でした：
addEventListener('fetch', event => event.respondWith(handleRequest(event)));
async function handleRequest(event) {
let requestHeaders = Object.fromEntries(event.request.headers)
return new Response(JSON.stringify(requestHeaders), {status: 200})
};
オレンジ色: Cloudflare Workers
黒色: Compute@Edge
ご自身で結果を探りたい方は、こちらにデータへのリンクがあります。
私たちが絶えず加速し、分離をてこ入れし、コールドスタートのゼロ化を推進しているグローバルなネットワーク上に構築することで、お客様に圧倒的な高速通信を提供することができるようになりました。
それでは、Cloudflareのより広範なネットワークパフォーマンスがどのように改善され続けているかについての最新情報に移りましょう！
重要なことの測定
ネットワークパフォーマンスを定量化するには、他のプロバイダーを使用した世界中の様々なネットワークで自分たちを比較した十分なデータを取得する必要があります。当社はReal User Measurements (RUM) を使用して、複数の異なるプロバイダから100 kbのファイルを取得し、世界中のユーザーからさまざまなプロバイダーのパフォーマンスがレポートされています。データをレポートするユーザーが多いほど、信号の信用度は高くなります。目標は、さまざまなプロバイダーのどこが速いのか、さらに重要なことは、Cloudflareのどこを改善できるのかを正確に把握することです。その方法の詳細については、こちらのオリジナルのSpeed Weekブログ記事をご覧ください。
ネットワークパフォーマンスを定量化する過程で、当社はどの場所でも最速ではないことが明らかになりました。バースデーウィークの後、主要プロバイダーよりも100ミリ秒以上遅れている601の国/ネットワークのペアが見つけました（国/ネットワークのペアは特定の国内のネットワークのパフォーマンスとして定義されます）。
私たちは常に、なぜ遅いのかを理解し、その後改善するというプロセスを繰り返しています。当社が直面した課題は、各ネットワークに固有のものであり、インターネットで蔓延しているさまざまな異なる問題を浮き彫りにしました。いくつかのネットワークを深く掘り下げて、どのように診断してパフォーマンスを向上させたかを示します。
でもその前に、過去2週間の取り組みの結果を以下に示します。
Cloudflareは、新たに79のネットワークのTCP接続時間で1位になりました。このグラフは、バースデーウィークと比較したFull Stack WeekのTCP接続時間で1位にランク付けされたネットワークの数を示しています。
*パフォーマンスは、アドバタイズされたIPv4アドレスの数による世界の上位1000ネットワークにわたるTCP接続時間によって定義されます
私たちの取り組みの結果、79以上のネットワークで更なる高速化が実現でき、当社が最速だったネットワークで14％の成長を示しています。バースデーウィークとFull Stack Weekを比較したランキング分布を示すグラフは次のとおりです。
これまで、どのように改善してきたかについて説明してきましたが、ここでは世界中で最高のパフォーマンスを追い求めたストーリーを共有しましょう。それぞれに異なる課題を抱えています。
ペルーにおけるトラフィックの適切な配置
ネットワークパフォーマンスを改善するために最初に訪れたのはペルーでした。リマにいる多くのユーザーが、サービスを受けために実際にはチリ共和国に送られていることがわかりました。Cloudflareはペルーに複数の拠点があるので、このようなことは起こらないはずです。チリにトラフィックを送信したことで、チリの特定のネットワークで4位にランクされました。当社のエンジニアは、１位を獲得するための最善の方法は、すべてのリマのトラフィックが国内に留まるようにすることであることを知っていたので、トラフィックの多くが国外にルーティングされている理由を調べることにしました。
非常に多くのトラフィックが国外にルーティングされていた理由は、ネットワークプロバイダーによるCloudflareのトラフィックの不均一な分布であり、1つの特定の場所に送信されたユーザーが多すぎたためでした。当社のネットワークには一連のチェック機能とフェイルセーフ機能があり、このようなことが発生した場合でも、ユーザーが引き続き優れたエクスペリエンスを得られるようにしています。リマでのトラフィックの不均一な分布のために、ここでチェックが行われていました。しかし、トラフィックは国外に送信されていました。
短期的に状況を修正するために、リマの各拠点で自動化を構築しつつ少し手動で負荷分散を行い、将来の手動操作の必要性を排除することにしました。トラフィックが最も多い場所の1つを取得し、その場所からプレフィックスのアドバタイズを停止しました。当社の仮説は、トラフィックがチリではなく他のリマの場所に流れるだけで、すべてが相殺され、国内のトラフィックを維持しながら、すべての人のTCP接続時間を改善するというものでした。当社は無料のトラフィックのごく一部に変更を加え始め、仮説が正しいことを証明しました。その時点で、変更をより広い範囲に展開し、P90クライアントのTCP RTTが240ミリ秒から60ミリ秒に低下しました。
その結果、Cloudflareは現在ペルーのネットワークパフォーマンスにおいて1位を獲得しました。
スリランカでの遅延の削減
次の例は、地球の反対側にあるスリランカです。そこで、ユーザーからのリクエストをニューアークにルーティングしているネットワークプロバイダーを見つけました。
1 * * *
2 100.85.0.1 3.061ms 2.522ms 2.728ms
3 198.51.100.146 AS29766 3.651ms 1.855ms 2.715ms
4 198.51.100.145 AS29766 3.438ms 3.225ms 2.805ms
5 222.165.177.150 AS9329 2.233ms 2.272ms 2.843ms
6 222.165.177.145 AS9329 2.703ms 2.862ms 2.291ms
7 103.87.125.253 AS45489 3.658ms 3.708ms 3.613ms
8 103.87.124.245 AS45489 120.027ms 120.665ms 120.471ms
9 103.87.124.146 AS45489 115.597ms 115.863ms 115.178ms
10 50.208.235.157 be-107-2008-pe01.60hudson.ny.ibone.comcast.net AS7922 249.884ms 249.475ms 250.063ms -> going from Sri Lanka to New York
11 96.110.41.145 be-4101-cs01.newyork.ny.ibone.comcast.net AS7922 267.839ms 267.979ms 268.719ms
12 96.110.34.34 be-3112-pe12.111eighthave.ny.ibone.comcast.net AS7922 262.647ms 261.272ms 262.272ms
13 66.208.233.106 AS7922 262.378ms 258.948ms 258.057ms
14 172.70.108.4 AS13335 268.974ms 280.475ms 268.158ms
15 172.67.182.209 AS13335 267.329ms 266.466ms 266.593ms
これは当然のことながら重大な遅延の問題を引き起こし、その結果、Cloudflareはこのネットワークでスリランカで4位にランクされていました。コロンボは比較的小さな場所ですが、ユーザーエクスペリエンスを向上させ、ニューアークに送信される潜在的なトラフィック量を減らすために、できるだけ多くのトラフィックを移動させ、その場所を介してアドバタイズするようにしました。
これを行い、P90クライアントのTCP RTTが150ミリ秒から50ミリ秒に低下してういることに気付きました。
しかし、コロンボを介してすべての範囲でアドバタイズし、全体としてパフォーマンスが向上したにもかかわらず、このプロバイダーは、未だに一部のCloudflareプレフィックスのトラフィックをニューアークに送信していました。私たちはプロバイダーに連絡し、ユーザーに影響を与えるこの変更について知らせました。
これらすべてを行った後、Cloudflareはスリランカで4位から1位になりました。
バースデーウィークでの更新
これらすべてのネットワークの変更とさらなる変更により、Cloudflareは以前よりも多くのネットワークでネットワークパフォーマンスの１位になることができました。バースデーウィーク中に、競合他社よりも多くのネットワークで高速化されたことを発表しました。世界の上位1,000のネットワーク（アドバタイズされたIPv4アドレスの数）の中で、バースデーウィーク中（2021年9月）にCloudflareがどれだけのことを成し遂げたかを次に示します。
Full Stack Week（2021年11月）の時点で、新たな79のネットワークでより高速になるようにポジションをさらに改善しました。
しかし、ラストワンマイルでパフォーマンスを向上させただけでなく、最後の1バイトを受信するまでの時間（TTLB）でもパフォーマンスを向上させました。バースデーウィーク（2021年9月）に至るまでの状況は次のとおりです。
そして、現在（2021年11月）のネットワーク状況は次のとおりです。
また、Cloudflareはすべての国において最速のプロバイダーになることにも力を注いでいます。国別のネットワークパフォーマンスは動く目標であり、その日その時にアクセスしているユーザーによって大きく左右されます。また、国全体のネットワークパフォーマンスを長期間にわたって調査すると、大量のデータが抜け落ちる可能性があります。というわけで、これはバースデーウィーク（2021年9月）の期間中の国と最速のネットワークプロバイダーを示すデータを使用して作成された世界地図です。
2か月後のFull Stack Week（2021年11月）の期間中の様子は次のとおりです。
ロングテール遅延
これらのパフォーマンスの更新の実行テーマは、常に解決すべきロングテールの問題でした。ネットワーク上でこれらの問題を解消することは、私たちの成長とともに最高のパフォーマンスを確実に提供するために重要です。
当社のチームは多大な労力を費やし、いくつかの素晴らしい結果を生み出しましたが、より速くなるよう常に努めています。このようなパフォーマンスの問題の発見を自動化し、将来的にネットワークパフォーマンスのトップの座を維持するためにさまざまなクラスの問題を検出して修正するオートメーションを構築することを目指しています。
このようなパフォーマンスの追跡は、1つの数値を高速化するだけではなく、スタック全体のパフォーマンスを向上させ、すべてを超高速にするのに役立ちます。
2021年にはさらに1週間のイノベーションウィークがあるため、パフォーマンスをグローバルに最適化するさらなる進展について報告するために戻ってきます。