AI Gatewayの一般提供を開始：生成AIワークロードの管理とスケーリングのための統合インターフェース
2024-05-22
AI Gatewayは、AIアプリに速度、信頼性、可観測性を提供するAI運用プラットフォームです。ごくわずかなコードで、レート制限、カスタムキャッシング、リアルタイムログ、複数のプロバイダにわたる集約分析などの強力な機能が利用できるようになります...
Workers AIのレベルアップ：一般提供とさらなる新機能
2024-04-02
本日、私たちは、Workers AI、Cloudflareの推論プラットフォームの一般公開、LoRAを使用した細かく調整されたモデルのサポート、HuggingFaceからのワンクリックデプロイなど、一連の発表を行うことを嬉しく思います。Cloudflare WorkersがPythonプログラミング言語などをサポートするようになりました...
LoRAを使用してWorkers AIで細かく微調整されたモデルの実行
2024-04-02
Workers AIは、LoRAを使用して細かく調整されたモデルをサポートするようになりました。では、LoRAとは一体何か、どのように機能するのでしょうか？この記事では、微調整、LoRA、さらには数学的な話にまで踏み込んで、内部的な動作について詳しく紹介します...
AIサービスでトークン長のサイドチャネル攻撃を軽減する
2024-03-14
Workers AI/AI Gatewayチームは最近、ベングリオン大学のセキュリティ研究者グループと緊密に協力して、パブリックバグバウンティプログラムを通じて提出されたあるレポートに取り組みました。このプロセスを通じて、すべてのLLMプロバイダーに影響を及ぼす脆弱性を発見し、完全にパッチを適用しました。 その詳細を紹介します...
新しいLLM、画像生成モデルなど、Workers AIの17の新モデルで新たなユースケースを開拓
2024-02-28
2024年2月6日に、テキスト生成、分類、コード生成のユースケースのカタログに追加した8つの新しいモデルを発表しました。今日、私たちは17以上（17！）のモデルを用いて、Workers AIでの新しいタイプのタスクとユースケースの実現に焦点を当てています...
Workers AIカタログに、新しいLLM、テキスト分類、コード生成モデルを追加
2024-02-06
Workers AIは現在新しく8つのモデルを追加しモデルパフォーマンスも改善したことで、より優れた、より大きな存在となりました...
AI Gatewayの発表：AIアプリケーションの可観測性、信頼性、スケーラビリティを高める
2023-09-27
AI Gatewayを使用することで開発者はAIアプリの制御性と可視性を高めることができるため、観測性、信頼性、拡張性を心配することなく開発に集中することができます。AI Gatewayは、ほぼすべてのAIアプリケーションが必要とする処理を実行できるため、エンジニアリングの時間を節約し、開発に集中できるようになります...
