AI Gateway 正式发布：用于管理和扩展生成式 AI 工作负载的统一界面
2024-05-22
AI Gateway 是一个 AI 操作平台，可为您的 AI 应用程序提供速度、可靠性和可观察性。只需一行代码，您就可以解锁强大的功能，包括速率限制、自定义缓存、实时日志和跨多个提供商的聚合分析...
升级版 Workers AI：现已正式发布且具备更多新增功能
2024-04-02
今天，我们欣然发布包括 Workers AI、Cloudflare 的推理平台进入 GA 阶段以及支持使用 LoRA 对模型进行微调，并支持从 HuggingFace 进行一键部署等一系列消息。 Cloudflare Workers 现已支持 Python 编程语言及更多功能...
在 Workers AI 上使用 LoRAs 运行微调模型
2024-04-02
Workers AI 现在支持使用 LoRA 对模型进行微调。但是，LoRA 的定义及其工作原理是什么呢？在这篇文章中，我们将探讨模型微调、LoRA 甚至是一些数学原理，分享 LoRA 底层工作原理的详细信息...
缓解 Cloudflare AI 产品中的令牌长度侧信道攻击
2024-03-14
Workers AI 和 AI Gateway 团队最近与本古里安大学的安全研究人员密切合作，通过我们的公共漏洞悬赏计划提交了一份研究报告。通过这个流程，我们发现并完全修补了一个可能会影响所有大型语言模型 (LLM) 提供商的漏洞。以下是完整的内容...
使用 Workers AI 中的 17 个新模型解锁新用例，包括新的 LLM、图像生成模型等
2024-02-28
2024 年 2 月 6 日，我们宣布将 8 个新模型添加到我们的目录中，用于文本生成、分类和代码生成用例。今天，我们又带来了十七个 (17!) 模型，专注于使用 Workers AI 实现新类型的任务和用例...
发布 AI Gateway：使 AI 应用程序更容易观察、更加可靠、可扩展性更好
2023-09-27
AI Gateway 使开发人员在他们的 AI 应用中拥有更好的控制力和可见性，能够专注构建，不用担心可观察性、可靠性和可扩展性。AI Gateway 可以处理几乎所有 AI 应用程序需要的内容，节省工程时间，使您专注构建内容...
