AI Gateway 正式发布：用于管理和扩展生成式 AI 工作负载的统一界面
2024-05-22
AI Gateway 是一个 AI 操作平台，可为您的 AI 应用程序提供速度、可靠性和可观察性。只需一行代码，您就可以解锁强大的功能，包括速率限制、自定义缓存、实时日志和跨多个提供商的聚合分析...
继续阅读 »
缓解 Cloudflare AI 产品中的令牌长度侧信道攻击
2024-03-14
Workers AI 和 AI Gateway 团队最近与本古里安大学的安全研究人员密切合作，通过我们的公共漏洞悬赏计划提交了一份研究报告。通过这个流程，我们发现并完全修补了一个可能会影响所有大型语言模型 (LLM) 提供商的漏洞。以下是完整的内容...
发布 AI Gateway：使 AI 应用程序更容易观察、更加可靠、可扩展性更好
2023-09-27
AI Gateway 使开发人员在他们的 AI 应用中拥有更好的控制力和可见性，能够专注构建，不用担心可观察性、可靠性和可扩展性。AI Gateway 可以处理几乎所有 AI 应用程序需要的内容，节省工程时间，使您专注构建内容...
