CDNをはじめとしたさまざまなエッジサービスを提供するFastlyが2024年6月13日(米国時間)、特別イベントを開催し、「Fastly AI Accelerator」と呼ぶ生成AI関連の新サービスを発表した。 クラウドにホストされたLLMの応答をキャッシングする。これにより、生成AIを活用するアプリケーションのパフォーマンスを向上し、コストを削減するという。 同社はChatGPTのテキストAP …
CDNをはじめとしたさまざまなエッジサービスを提供するFastlyが2024年6月13日(米国時間)、特別イベントを開催し、「Fastly AI Accelerator」と呼ぶ生成AI関連の新サービスを発表した。 クラウドにホストされたLLMの応答をキャッシングする。これにより、生成AIを活用するアプリケーションのパフォーマンスを向上し、コストを削減するという。 同社はChatGPTのテキストAP …