본 콘텐츠는 사용자의 편의를 고려해 자동 기계 번역 서비스를 사용하였습니다. 영어 원문과 다른 오류, 누락 또는 해석상의 미묘한 차이가 포함될 수 있습니다. 필요하시다면 영어 원문을 참조하시기를 바랍니다.
Cloudflare의 AI Security for Apps 는 AI 기반 애플리케이션에 대한 위협을 감지하고 완화합니다. 오늘, 정식 출시를 발표합니다.
맞춤형 주제 감지 등 새로운 기능을 제공하며, Free, Pro, Business 요금제 고객을 포함한 모든 Cloudflare 고객에게 AI 엔드포인트 검색을 무료로 제공하여 인터넷에서 AI가 배포된 위치를 모두에게 제공합니다 -대면 앱.
Cloudflare는 클라우드 고객에게 AI 보안 서비스를 제공하기 위해 Cloudflare를 선택한 IBM과의 협력 확대도 발표합니다. 또한 우리는 Wiz와 협력하여 공통 고객에게 AI 보안 상태에 대한 통합된 관점을 제공합니다.
기존 웹 애플리케이션에서는 은행 잔고 확인, 이체 등의 업무가 정의되어 있습니다. 결정론적 규칙을 작성하여 이러한 상호 작용을 보호할 수 있습니다.
AI 기반 애플리케이션과 에이전트는 다릅니다. 자연어를 받아들이고 예측할 수 없는 응답을 생성합니다. 입력과 출력이 확률적이므로 허용하거나 거부할 고정된 작업 집합이 없습니다. 공격자는 대규모 언어 모델을 조작하여 무단으로 조치를 취하거나 중요한 데이터를 유출할 수 있습니다. 프롬프트 삽입, 민감한 정보 공개, 무제한 리소스 소비는 LLM 애플리케이션용 OWASP Top 10에 기록된 위험 중 일부에 불과합니다.
이러한 위험은 AI 앱이 에이전트가 되면서 심화됩니다. AI가 도구 호출(환불 처리, 계정 수정, 할인 제공 또는 고객 데이터 액세스)에 액세스하면 악의적인 프롬프트 하나가 즉각적인 보안 사고가 됩니다.
고객이 현재 어떤 상황인지 Cloudflare에 알려줍니다. "뉴폴드 디지털의 대부분 팀은 자체적인 생성형 AI 보호 조치를 마련하고 있지만, 모두가 너무 빠르게 혁신하고 있기 때문에 결국에는 필연적으로 일부 격차가 발생할 것입니다."라고 블루호스트, 호스트게이터, 도메인닷컴을 운영하는 뉴폴드 디지털의 수석 시스템 설계자인 릭 라딩거는 말합니다.
Cloudflare는 이를 해결하기 위해 앱용 AI 보안을 구축했습니다. 타사 모델을 사용하든 자체 모델을 호스팅하든 Cloudflare의 역방향 프록시의 일부로 AI 기반 응용 프로그램 앞에 위치합니다. 이 테스트에서는 (1) 웹 자산 전반에서 AI 기반 애플리케이션을 찾고, (2) 해당 엔드포인트에 대한 악의적이거나 정책을 벗어난 동작을 감지하며, (3) 친숙한 WAF 규칙 빌더를 통해 위협을 완화하는 데 도움이 됩니다.
LLM 기반 애플리케이션을 보호하려면 먼저 어디에서 사용되고 있는지 알아야 합니다. 우리는 보안 팀에서 특히 LLM 시장이 진화하고 개발자가 모델과 공급자를 교체함에 따라 애플리케이션 전반에 걸친 AI 배포를 완벽하게 파악하지 못한다는 이야기를 자주 듣습니다.
AI Security for Apps는 웹 자산의 호스팅 위치 또는 모델에 관계없이 LLM 기반 엔드포인트를 자동으로 식별합니다. 오늘부터 이 기능이 Free, Pro, Business 요금제를 포함한 모든 Cloudflare 고객에게 무료로 제공됩니다.
cf-llm으로 레이블이 지정된 2개의 예시 엔드포인트를 보여주는 Cloudflare의 웹 자산 대시보드 페이지
이러한 엔드포인트를 자동으로 검색하려면 /chat/completions와 같은 일반적인 경로 패턴을 매칭하는 것 이상의 것이 필요합니다. 제품 검색, 자산 가치 평가 도구, 추천 엔진 등을 예로 들면, 많은 AI 기반 애플리케이션에는 채팅 인터페이스가 없습니다. Cloudflare는 엔드포인트가 아니라 엔드포인트를 작동시키는 방식을 고려하는 감지 시스템을 구축했습니다. AI 기반 엔드포인트를 자신 있게 식별하려면 충분한 유효 트래픽 이 필요합니다.
검색된 AI 기반 엔드포인트는 보안 → 웹 자산 아래에 표시되며, cf-llm으로 레이블이 지정됩니다. Free 요금제 고객의 경우, 검색 페이지로 처음 이동하면 엔드포인트 검색이 시작됩니다. 유료 요금제 고객은 반복적으로 백그라운드에서 자동으로 검색합니다. AI 기반 엔드포인트가 발견된 경우, 즉시 검토할 수 있습니다.
AI Security for Apps 감지는 AI 기반 엔드포인트로 향하는 트래픽에 대해 상시 가동 접근 방식 을 따릅니다. 각 프롬프트는 프롬프트 삽입, 개인 식별 정보 노출, 민감하거나 유해한 주제에 대해 여러 감지 모듈을 통해 실행됩니다. 프롬프트의 악의적 여부에 관계없이 결과는 메타데이터로 첨부되므로 사용자 지정 WAF 규칙에서 사용하여 정책을 시행할 수 있습니다. 저희는 약 20%의 웹에서 트래픽을 확인하는 저희의 전역 네트워크를 활용하여 수백만 개의 사이트에서 새로운 공격 패턴이 귀하의 사이트에 도달하기 전에 식별하는 방법을 지속적으로 모색하고 있습니다.
이 제품에는 프롬프트 삽입, 개인 식별 정보 추출, 유해한 주제 등 일반적인 위협에 대한 감지 기능이 기본 제공됩니다. 하지만 모든 기업마다 금지된 콘텐츠에 대한 자체적인 정의가 있습니다. 금융 서비스 회사에서는 특정 증권에 대한 논의를 감지해야 할 수 있습니다. 의료 회사에서는 환자 데이터와 관련된 대화에 플래그를 지정해야 할 수 있습니다. 소매업체는 고객이 경쟁사 제품에 대해 언제 문의하는지 알고 싶어할 수 있습니다.
새로운 사용자 정의 주제 기능으로 이러한 카테고리를 정의할 수 있습니다. 사용자가 주제를 지정하면 Cloudflare가 프롬프트를 검사하고, 사용자가 결정하는 방식을 무엇이든 기록, 차단, 처리하는 데 사용할 수 있는 관련성 점수를 출력합니다. 저희 목표는 사용자의 사용 사례에 맞게 유연하게 확장할 수 있는 도구를 구축하는 것입니다.
앱을 위한 AI 보안의 프롬프트 관련성 점수
애플리케이션용 AI 보안은 안전하지 않은 프롬프트가 인프라에 도달하기 전에 가드레일을 시행합니다. 탐지를 정확하게 실행하고 실시간 보호를 제공하려면, 먼저 요청 악의적인 페이로드 내에서 프롬프트를 식별해야 합니다. 프롬프트는 요청 본문의 어느 곳에나 있을 수 있으며 LLM 공급자는 API를 다르게 구성합니다. OpenAI 및 대부분의 공급자는 $.messages[*].content 를 사용합니다. 채팅입니다. Anthropic의 배치 API는 $.requests[*].params.messages[*].content 내부에 프롬프트를 중첩합니다. 사용자 지정 자산 평가 도구는 $.property_description을 사용할 수 있습니다.
Cloudflare는 즉시 OpenAI, Anthropic, Google Gemini, Mistral, Cohere, xAI, DeepSeek 등에서 사용하는 표준 형식을 지원합니다. 알려진 패턴을 일치시킬 수 없는 경우 Cloudflare에서는 기본 보안 상태를 적용하고 전체 요청 본문에 대해 감지를 실행합니다. 페이로드에 민감하지만 AI 모델에 직접 전달되지 않는 필드가 포함된 경우, 이는 오탐을 유발할 수 있습니다. 예를 들어 실제 프롬프트와 함께 $.customer_name 필드가 불필요하게 PII 감지를 트리거할 수 있습니다.
곧 자체 JSONPath 표현식을 정의하여 프롬프트를 찾을 위치를 정확히 알려줄 수 있습니다. 이렇게 하면 긍정 오류가 줄어들고 더 정확한 감지가 가능해집니다. 또한 시간이 지남에 따라 애플리케이션 구조에 자동으로 적응하는 프롬프트 학습 기능을 구축하고 있습니다.
위협이 식별되어 점수가 매겨지면, 나머지 애플리케이션 보안에 이미 사용하고 있는 WAF 규칙 엔진을 이용해 차단, 기록, 사용자 지정 대응 등을 수행할 수 있습니다. Cloudflare 공유 플랫폼의 장점은 AI 관련 신호를 WAF에서 사용할 수 있는 수백 개의 필드 로 표현되는 요청에 대해 우리가 알고 있는 모든 것과 결합할 수 있다는 것입니다. 프롬프트 삽입 시도는 의심스럽습니다. IP가 프롬프트 삽입을 시도하여 로그인 페이지를 조사하고, 이전 공격과 관련된 브라우저 지문을 사용하고, 봇넷을 순환하면서 이야기가 이루어집니다. AI 계층만 볼 수 있는 포인트 솔루션은 이러한 연결할 수 없습니다.
이 통합 보안 계층은 Newfold Digital에서 AI 엔드포인트를 발견하고, 레이블을 지정하고, 보호하기 위해 꼭 필요한 요소입니다. Radinger는 다음과 같이 이야기합니다. "모든 프로젝트에서 장애 방지 기능으로 활용하기를 기대합니다."
AI 보안용 AI 애플리케이션은 IBM Cloud와의 통합을 포함하여 성장하는 Cloudflare의 생태계에서도 사용할 수 있습니다. 최종 사용자는 IBM 클라우드 인터넷 서비스(CIS)를 통해 이미 고급 애플리케이션 보안 솔루션을 조달하고 IBM 클라우드 계정을 통해 직접 관리하고 있습니다.
또한, Cloudflare는 Wiz와 협력하여 애플리케이션 AI 보안을 Wiz AI Security와 연결하여, 상호 고객에게 클라우드의 모델 및 에이전트 검색부터 에지의 애플리케이션 계층 가드레일까지 AI 보안 상태에 대한 통합된 관점을 제공할 계획입니다.
앱용 AI 보안이 이제 Cloudflare의 Enterprise 고객에게 제공됩니다. 시작하려면 계정 팀에 문의하거나 셀프 가이드 투어를 통해 제품 작동 방식을 확인하세요.
Free, Pro 또는 Business 요금제 사용자는 지금 바로 AI 엔드포인트 검색을 사용할 수 있습니다. 대시보드에 로그인하고 보안 → 웹 자산 으로 이동하여 식별한 엔드포인트를 확인합니다. 계속 주목해 주세요. Cloudflare에서는 곧 모든 요금제의 고객이 애플리케이션용 AI 보안의 모든 기능을 이용할 수 있도록 할 계획입니다.
구성 세부 정보는 문서를 참조하세요.