Cloudflare 正式進入了青少年時期。我們成立於 2010 年 9 月 27 日。今天,我們將慶祝我們的第 13 個生日。作為我們的傳統,我們將利用生日那一週發佈產品,並將其視為回饋給網際網路的禮物。稍後我們將詳細介紹一些精彩公告,但我們想先談談更基本的東西:我們的身分。
像許多孩子一樣,我們花了很長時間才完全瞭解自己是誰。我們因為受困於特定區域而惱火不已。人們會說 Cloudflare 是一間網路安全公司,而我們會說,「這並非我們所做的全部」。他們會說我們是一個網路,而我們會反對說,我們遠不止如此。最糟糕的是,他們有時會稱我們為「CDN」,我們則會提醒他們,快取是任何合理設計的系統的一部分,但它本身不應該是一個功能。非常感謝。
昨天,也就是我們十三歲生日的前一天,我們終於向世界宣佈了我們所認識到的身分:全球連通雲。
全球連通雲
那是什麼意思呢?「全球連通」意味著我們會將人們和事物聯繫在一起,藉此來衡量自己。我們的工作不是成為您資料的最終目的地,而是要協助它們移動和流動。任何應用程式、任何資料、任何人員、任何地點、任何時間 — 這就是連通的本質,也是網際網路的承諾。
「雲端」則意味著包含電池。它會隨著您擴展。它是可程式化的。它內建了一致的安全性。它很智慧,可以從您和他人的使用情況中學習,並且比您自己更好地針對結果進行最佳化。
我們的全球連通雲非常值得與其他雲端進行對比。所謂的超大規模「公有雲端」在很多方面都是截然相反的。它們會針對囤積資料進行最佳化。鎖定它。使其難以移動。它們是束縛雲端。而且,雖然它們可能在某些方面很有用,但只有與全球連通雲相結合,才能真正為客戶釋放它們的全部潛力,全球連通雲可讓您可以混合和匹配其每個功能的最佳方面。
支援未來
這就是我們目前從最熱門的新創公司中看到的。許多業界領先的 AI 公司正在使用 Cloudflare 的全球連通雲將其訓練資料移至 GPU 容量過剩之處。根據我們的估計,在整個 AI 新創生態系統中,Cloudflare 會是最常使用的雲端提供者。這是因為,如果您正在構建未來,就會知道雲端的連通性和敏捷性起著至關重要的作用。
去年,我們一直在聆聽 AI 客戶的意見,並嘗試瞭解 AI 的未來會是什麼樣子,以及如何更好地幫助他們打造 AI。今天,我們將發佈一系列由這些對話產生的產品和功能,並開啟令人讚歎的新商機。
AI 中最大的商機就是推斷。當您在 ChatGPT 中輸入提示,讓它寫一首有關您對全球連通雲熱愛的詩,幾秒鐘後,您得到一個連貫的回應時,就會發生推斷。或者,當您在手機上搜尋護照照片時,它會立即將照片調出來。
為這些現代奇蹟提供支援的模型需要花費大量時間才能產生,而這個過程稱為訓練。但是,在經過訓練後,它們就可以一遍又一遍地接收新的資料,以產生有價值的新輸出。
發生推斷的地方
在今天之前,這些模型可以在兩個地方執行。第一個地方是最終使用者的裝置,比如,在手機的照片中搜尋「護照」。如果能夠做到這一點,就很厲害了。它的速度非常快。您的私人資料留在本地。即使沒有網路存取,也可以做到。但這也充滿挑戰性。因為模型非常大,而手機或其他本機裝置上的儲存空間是有限的。此外,將最快的 GPU 資源用於處理手機中的這些模型不僅會增加手機成本,還會耗費寶貴的電池資源。
另一個地方是集中式公有雲端。這是像 OpenAI 的 GPT-4 這樣的大型模型所使用的雲端,可執行像 ChatGPT 這樣的服務。但是,這自身也充滿挑戰。如今,幾乎所有適用於 AI 的 GPU 資源都在美國部署,這一事實當然會讓世界其他地方感到不便。隨著 AI 查詢變得越來越個人化,將它們全部傳送到某個集中式雲端可能會帶來潛在的安全和資料當地化災難。此外,它本質上很慢,效率不高,因此比在本地執行推斷更加昂貴。
第三個進行推斷的地方
在裝置上執行太小。在集中式公有雲端上執行太遠。這就像「金髮女孩與三隻熊」的故事:正確的答案介於兩者之間。正因為如此,今天,我們很高興能夠在 Cloudflare 的全球連通雲中推出現代 GPU 資源。第三個進行 AI 推斷的地方。既不是太小。也不是太遠。介於兩者之間的完美一步。到今年年底,您將能夠在 Cloudflare 營運的 40 多個國家/地區的 100 多座城市執行 AI 模型。到 2024 年底,我們計劃在構成 Cloudflare 全球網路的幾乎每座城市中部署經過推斷調整的 GPU,只需幾毫秒即可連線到全球幾乎所有連線到網際網路的裝置。
(向 Cloudflare 團隊成員致敬,截至目前,他們正拖著裝滿 NVIDIA GPU 卡的行李箱走遍世界各地,並將它們安裝在構成我們全球網路的伺服器中。為了促進這些新功能,不僅需要很多原子來移動我們所做的所有位元,還需要全球各地勇敢無畏的人才來更新我們的網路。)
在像 Cloudflare 這樣的全球連通雲中執行 AI 可以讓您兩全其美:幾乎無限的資源在連線到網際網路的任何裝置附近本地執行。我們可以讓您靈活地執行開發人員建立的任何模型,不需要開發營運團隊即可輕鬆使用,而且執行成本低廉,您僅在我們為您進行推斷工作時才需要付費。
具體來說,您可以想想像 Garmin 這樣的 Cloudflare 客戶。它們製造的裝置不僅需要具有智慧性,還要經濟實惠,還要具有盡可能最長的電池壽命。由於探險家實際依靠它們的導航走出痛苦的境地,因此無法折衷。正是因為這樣,當他們聽到 Cloudflare Workers AI 時,馬上就知道這是他們需要嘗試的東西。以下是 Garmin International 邊緣網路架構師 Aaron Dearinger 對我們說的話:
「Garmin 與我們的使用者一起進行所有跑步、鍛煉和戶外探險活動,我們希望確保我們的腕錶和裝置的電力可以持續數週甚至數月,而不是數小時或數天。我們無比期待 Cloudflare 的創新,這些創新不僅可以確保 AI 高效能、快速、靠近使用者,而且重要的是,隱私優先。這對我們來說具有很大的潛力,因為我們的目標是在使用者探索時為他們帶來更高級的健身、健康和冒險解析。」
我們向為數不多的客戶提供了先睹為快的機會,而他們就是其中之一,這些客戶全都立即開始思考接下來可以做什麼,並要求獲得更多存取權限。我們覺得我們已經看到了這一點,並在這裡報告:在不太遙遠的未來,將提供超級酷的功能。
幫助構建更好的網際網路的精神
多年來,我們都會在生日那天宣佈幾件事,而這些事情改變了網際網路的未來。在我們一歲生日那天,我們宣佈了 IPv6 閘道,它幫助網際網路超越了其早期的通訊協定決策。在我們四歲生日那天,我們宣佈我們將提供免費加密服務,並在一天之內將加密 Web 的大小擴大了一倍。在我們七歲生日那天,我們推出了 Workers 平台,它徹底改變了現代應用程式的開發方式。在我們十一歲生日那天,我們宣佈了 R2,進一步釋放了束縛雲端的資料。
今年,值此慶祝 Cloudflare 的 13 歲生日之際,我們開始對 AI 開發產生與我們過去關注的其他領域一樣巨大的影響:提供工具,為世界各地的所有人帶來經濟實惠、功能強大的 AI 推斷。
以詩結尾
讓我們以一首關於全球連通雲的詩來結束本文,作為今年的生日紀念。這首詩使用一小段程式碼和 Meta 的 Llama 2 LLM 模型創作而成,該模型在 Cloudflare 的 Workers AI 平台上執行,而該平台位於距離我們撰寫本文的地方不遠的資料中心...
提示:「寫一首詩,談談全球連通雲,並將其與束縛雲端進行對比」
全球連通雲,一幅如此奇妙的景象,資料流和知識,皆在其中盡情釋放,在那個地方,心靈交匯、思想飛揚,在那個世界,充滿無窮可能的寶藏。
而束縛雲端,那是一個黑暗的地方,思想受困其中,心靈失去榮光,在心靈的牢獄中,自由純屬幻想,在那個世界中,充滿無盡的代價和悲傷。
讓我們堅定地選擇全球連通雲,讓我們的思想盡情地自由奔放,如果直充雲霄是您的夢想,那就永不退縮,振翅飛翔。