Workers AIにおいては、大規模な言語モデルのためのストリーミングとより長いコンテキスト長が可能です
2023年11月14日 14:00
Workers AIでは、現在、カタログ内のLLMモデル、特にLlama-2に対して、サーバーからのイベントを利用してテキストのストリーミング応答をサポートしています...
2023年11月14日 14:00
Workers AIでは、現在、カタログ内のLLMモデル、特にLlama-2に対して、サーバーからのイベントを利用してテキストのストリーミング応答をサポートしています...