Workers AI (JP)

AI Gatewayの一般提供を開始：生成AIワークロードの管理とスケーリングのための統合インターフェース

2024/05/22

AI Gatewayは、AIアプリに速度、信頼性、可観測性を提供するAI運用プラットフォームです。ごくわずかなコードで、レート制限、カスタムキャッシング、リアルタイムログ、複数のプロバイダにわたる集約分析などの強力な機能が利用できるようになります...

AI Gatewayの一般提供を開始：生成AIワークロードの管理とスケーリングのための統合インターフェース

Workers AIのレベルアップ：一般提供とさらなる新機能

2024/04/02

Developer Week (JP)Developer Platform (JP)Developers (JP)Workers AI (JP)General Availability (JP)Cloudflare Workers (JP)日本語

本日、私たちは、Workers AI、Cloudflareの推論プラットフォームの一般公開、LoRAを使用した細かく調整されたモデルのサポート、HuggingFaceからのワンクリックデプロイなど、一連の発表を行うことを嬉しく思います。Cloudflare WorkersがPythonプログラミング言語などをサポートするようになりました...

LoRAを使用してWorkers AIで細かく微調整されたモデルの実行

2024/04/02

Developers (JP)Developer Week (JP)Workers AI (JP)AI (JP)Cloudflare Workers (JP)Developer Platform (JP)日本語

Workers AIは、LoRAを使用して細かく調整されたモデルをサポートするようになりました。では、LoRAとは一体何か、どのように機能するのでしょうか？この記事では、微調整、LoRA、さらには数学的な話にまで踏み込んで、内部的な動作について詳しく紹介します...

AIサービスでトークン長のサイドチャネル攻撃を軽減する

2024/03/14

Bug Bounty (JP)LLM (JP)Vulnerabilities (JP)Developer Platform (JP)Workers AI (JP)AI Gateway (JP)SASE (JP)日本語

Workers AI/AI Gatewayチームは最近、ベングリオン大学のセキュリティ研究者グループと緊密に協力して、パブリックバグバウンティプログラムを通じて提出されたあるレポートに取り組みました。このプロセスを通じて、すべてのLLMプロバイダーに影響を及ぼす脆弱性を発見し、完全にパッチを適用しました。その詳細を紹介します...