Cloudflare 창업자들의 2023년 연례 서한

Cloudflare는 공식적으로 십대가 되었습니다. Cloudflare는 2010년 9월 27일에 출시되었습니다. 오늘은 13번째 생일을 맞이하는 날입니다. 저희는 전통적으로 생일이 있는 주간에 인터넷에 선물하는 의미로 제품을 출시합니다. 잠시 후 이 놀라운 발표에 대한 자세한 내용을 살펴보겠지만, 먼저 좀 더 근본적인 것, 즉 Cloudflare의 정체성에 대해 말씀드리려고 합니다.

많은 아이들과 마찬가지로 우리도 자신이 누구인지 완전히 이해하는 데 시간이 조금 걸렸습니다. 우리는 틀에 가두는 것을 싫어합니다. 사람들은 Cloudflare를 보안 회사라고 설명하지만, 우리는 이렇게 말합니다. "그게 전부는 아닙니다." 사람들은 우리를 네트워크라고 불렀지만 우리는 그 이상이라고 반박했습니다. 가장 실망스러웠던 것은 사람들이 우리를 "CDN"이라고 불렀을 때였는데, 우리는 캐싱은 잘 설계된 시스템의 중요한 요소이지만 독립적인 기능이 아니라고 상기시켜 주어야 했습니다. 감사합니다.

그리고 열세 번째 생일 전날인 어제, 마침내 우리는 클라우드 연결성이라고 세상에 알렸습니다.

이것은 무엇을 의미할까요? "연결"이란 사람과 사물을 서로 연결하여 우리 자신을 측정한다는 의미입니다. 우리의 역할은 데이터의 최종 목적지가 아니라 데이터의 이동과 흐름을 지원하는 것입니다. 연결의 본질이자 인터넷이 항상 약속해 온 것은 모든 앱, 데이터, 사람을 언제 어디서나 연결할 수 있는 기능입니다.

"클라우드"는 배터리가 포함되어 있음을 의미합니다. 사용자와 함께 확장할 수 있고, 프로그래밍이 가능하다는 것을 의미합니다. 또한 일관된 보안 기능이 탑재되어 있다는 뜻입니다. 클라우드는 지능적이며 사용자 및 다른 사용자의 사용 사례를 학습하고 사용자가 스스로 달성할 수 있는 수준을 뛰어넘는 최적의 결과를 제공합니다.

당사의 클라우드 연결성은 다른 클라우드와 비교해 볼 가치가 있습니다. 소위 하이퍼스케일 퍼블릭 클라우드는 여러 면에서 정반대입니다. 이는 데이터를 비축하는 데 최적화되어 있습니다. 데이터를 가두고, 이동하기 어렵게 만듭니다. 이는 종속형(captivity) 클라우드입니다. 그리고 이러한 클라우드는 일부 용도에 사용할 때는 훌륭할 수 있지만, 각 기능의 장점을 적절히 조합할 수 있는 클라우드 연결성과 결합될 때만 고객에게 진정한 잠재력을 발휘할 수 있습니다.

이는 바로 요즘 가장 인기 있는 스타트업에서 볼 수 있는 모습입니다. 많은 선도적인 AI 회사들이 Cloudflare의 클라우드 연결성을 사용하여 GPU 용량이 초과되는 곳으로 학습 데이터를 이동하고 있습니다. 우리는 Cloudflare가 AI 스타트업 생태계에서 가장 일반적으로 사용되는 클라우드 공급자라고 추측합니다. 미래를 구축하는 기업이라면 연결성과 클라우드의 민첩성이 핵심이라는 것을 잘 알고 있기 때문입니다.

지난 한 해 동안 저희는 AI 고객의 목소리에 귀를 기울이며 AI의 미래가 어떤 모습일지, 어떻게 하면 고객이 AI를 구축하는 것을 보다 효과적으로 지원할 수 있을지 고민해 왔습니다. 오늘 이러한 논의에서 나온 다양한 제품과 기능을 공개하며 놀라운 새로운 기회를 열고자 합니다.

AI에 있는 가장 큰 기회는 추론입니다. 클라우드 연결성을 향한 여러분의 사랑에 대한 시를 써달라는 프롬프트를 ChatGPT에 입력하면 몇 초 내에 일관된 응답을 받을 수 있으며, 이를 추론이라고 합니다. 또는 휴대폰에서 여권 사진을 검색하면 바로 여권 사진이 표시되는 경우를 말합니다.

이러한 현대의 기적을 가능하게 하는 모델은 생성하는 데 상당한 시간이 소요되며, 이러한 과정을 학습이라고 합니다. 하지만 일단 학습이 완료되면 새로운 데이터를 반복적으로 공급함으로써 가치 있는 새로운 결과물을 생성할 수 있습니다.

오늘 이전에는 이러한 모델을 두 곳에서 실행할 수 있었습니다. 첫 번째는 휴대폰 사진에서 '여권'을 검색할 때처럼 최종 사용자의 장치에서 실행하는 것입니다. 이것이 가능하다면 정말 좋을 것입니다. 속도가 빠르고, 개인 데이터는 로컬에 저장됩니다. 네트워크에 액세스할 수 없는 상태에서도 작동합니다. 하지만 이것 또한 쉽지 않습니다. 모델이 크고 휴대폰이나 기타 로컬 장치의 저장 공간이 제한되어 있기 때문입니다. 또한 이러한 모델을 처리하기 위해 가장 빠른 GPU 리소스를 휴대폰에 탑재하면 비용이 많이 들고 귀중한 배터리 리소스를 소모하게 됩니다.

그 대안으로 중앙 집중식 퍼블릭 클라우드가 등장했습니다. 이는 ChatGPT와 같은 서비스를 운영하는 OpenAI의 GPT-4와 같은 대규모 모델에 활용됩니다. 하지만 여기에는 나름의 어려움이 있습니다. 현재 AI의 GPU 리소스 대부분이 미국에 배포가 집중되어 있어 전 세계 다른 지역에서는 문제가 되고 있습니다. AI 쿼리가 점점 더 개인화됨에 따라 모든 쿼리를 중앙 집중식 클라우드로 전송하는 것은 잠재적인 보안 및 데이터 지역성에 문제가 발생할 수 있습니다. 또한 본질적으로 속도가 느리고 효율성이 떨어지므로 로컬에서 추론을 실행하는 것에 비해 비용이 더 많이 듭니다.

추론을 실행할 장소로 장치는 너무 작습니다. 중앙 집중식 퍼블릭 클라우드에서 실행하기에는 거리가 너무 멀리 떨어져 있습니다. "골디락스와 곰 세 마리"의 이야기처럼, 해답은 그 중간 어딘가에 있습니다. 이것이 바로 Cloudflare의 글로벌 클라우드 연결성 전반에 걸쳐 최첨단 GPU 리소스를 출시하게 된 것을 기쁘게 발표하는 이유입니다. 이는 AI 추론을 수행하기 위한 세 번째 장소에 해당합니다. 너무 작지도 않고, 너무 멀지도 않습니다. 완벽한 중간 지점입니다. 올해 말까지 Cloudflare는 사업을 운영하는 40여 개국의 100개 이상의 도시에서 AI 모델을 실행할 수 있게 될 것입니다. 2024년 말까지 Cloudflare의 전역 네트워크를 구성하는 거의 모든 도시와 전 세계 인터넷에 연결된 거의 모든 장치에 추론에 최적화된 GPU를 몇 밀리초 이내에 배포할 계획입니다.

(지금 이 순간에도 말 그대로 전 세계 곳곳을 누비며 전 세계 네트워크를 구성하는 서버에 NVIDIA GPU 카드를 설치하기 위해 여행 가방을 가득 채우고 있는 Cloudflare 팀원들에게 진심으로 감사의 말씀을 전합니다. 우리가 하는 모든 비트를 이동하려면 수많은 원자가 필요하며, 이러한 새로운 기능을 촉진하기 위해 전 세계 곳곳에서 네트워크를 업데이트하는 용감한 사람들이 필요합니다.)

Cloudflare와 같은 클라우드 연결성에서 AI를 실행하면 인터넷에 연결된 모든 장치 근처에서 로컬로 실행되는 거의 무한한 리소스라는 두 가지 장점을 모두 누릴 수 있습니다. 또한 개발자가 어떤 모델을 만들든 유연하게 실행할 수 있고, 개발 운영팀 없이도 쉽게 사용할 수 있으며, 추론 작업을 대신 수행할 때만 비용을 지불하는 방식으로 저렴하게 운영할 수 있습니다.

이를 실제로 확인하려면 Garmin과 같은 Cloudflare의 고객을 떠올려 보세요. Garmin은 스마트하고 저렴하며 배터리 수명이 오래 지속되는 장치를 제작합니다. 탐험가들은 험난한 환경을 헤쳐나가기 위해 말 그대로 이러한 장치에 의존하기 때문에 절충은 선택지에 없습니다. 그렇기 때문에 Garmin은 Cloudflare Workers AI에 대한 이야기를 들었을 때 이를 반드시 사용해 봐야겠다고 즉시 생각했습니다. 다음은 Garmin International의 에지 아키텍트인 Aaron Dearinger가 우리에게 전하는 이야기입니다.

“Garmin은 달리고, 운동하고, 야외 어드벤처를 즐기는 사용자 곁에서 함께합니다. 우리는 Garmin 워치와 장치의 전력이 몇 시간 또는 며칠이 아니라 몇 주, 몇 달 동안 지속된다는 점을 보장하고자 합니다. 우리는 AI의 성능 기준, 신속성, 사용자와의 근접성을 보장하며, 무엇보다 이 AI가 개인정보 보호를 우선 보장하는 Cloudflare의 혁신을 기대합니다. Garmin은 사용자가 경험하는 더욱 향상된 피트니스, 웰니스, 그리고 어드벤처에 대한 통찰력 확보를 목표로 삼음에 따라 이 혁신은 Garmin에게 큰 잠재력을 부여합니다".

Garmin은 초기에 우리가 예상했던 소수의 고객 중 하나였으며, 이 고객들은 모두 다음에 할 수 있는 일에 대한 아이디어를 즉시 떠올리기 시작했으며 더 많은 액세스를 요구했습니다. 우리는 이미 다가올 미래를 목격한 것 같고, 그리 멀지 않은 미래가 매우 희망적으로 보인다는 흥미로운 사실을 공유해 드리려고 합니다.

지난 몇 년 동안 우리는 창립기념일에 인터넷의 미래를 바꾸게 될 몇 가지 사항을 발표했습니다. 창립기념일 1주년에는 인터넷이 초기 프로토콜 결정을 넘어 확장하는 데 도움이 된 IPv6 게이트웨이를 발표했습니다. 창립기념일 4주년에는 암호화 무료화 소식을 발표하고 하루 만에 암호화된 웹의 크기를 두 배로 늘렸습니다. 창립기념일 7주년에는 최신 앱 개발 방식에 혁신을 가져온 Workers 플랫폼을 출시했습니다. 창립기념일 11주년에는 R2와 종속형 클라우드에 대한 추가 데이터 무료화 소식을 발표했습니다.

창립기념일 13주년을 기념하여 Cloudflare는 이전에 집중했던 다른 영역에 미친 엄청난 영향과 마찬가지로 전 세계 어디서나 누구나 경제적이고 강력한 AI 추론을 할 수 있는 도구를 제공하는 AI 개발에 초점을 맞추기로 결정했습니다.

이 사실을 기념하기 위해 클라우드 연결성에 대한 시 한 편으로 마무리하겠습니다. 이 시는 이 글을 작성하는 곳에서 멀지 않은 데이터 센터에 위치한 Cloudflare의 Workers AI 플랫폼에서 실행되는 작은 코드와 Meta의 Llama 2 LLM 모델을 사용하여 생성하였습니다...

프롬프트: "클라우드 연결성에 대해 이야기하는 시를 쓰고 클라우드 연결성을 종속형 클라우드와 대조하세요"

클라우드 연결성, 경이로운 광경데이터 흐름과 지식이 자유를 누리는 곳마음과 마음이 만나고 아이디어가 날아오르는 공간무한한 가능성의 세계가 눈앞에 펼쳐지네.

하지만 더 어두운 곳인 종속형 클라우드도 있으니생각이 갇히고 마음이 명예롭지 못한 곳자유를 잃어버린 마음의 감옥끝없는 슬픔과 비용이 드는 세상이여.

그러니 클라우드 연결성을 선택하라그리고 자유롭고 수용하는 마음을 가지라하늘을 향해 날아오르고 활공하며 손을 뻗어 보라결코 주저하지 말고 항상 비상하라.