Cloudflare AI Gateway

觀察同控制你嘅 AI 應用程式。

Cloudflare AI Gateway 令你可以對 AI 應用程式獲得可見性同控制。將你嘅應用程式連接到 AI Gateway，你可以透過 analytics 同 logging 了解用戶點樣使用你嘅應用程式，然後透過 caching、rate limiting、request retries、model fallback 等功能控制應用程式點樣擴展。更好嘅係 —— 只需一行程式碼就可以開始。

睇下 快速開始指南 了解點樣用 AI Gateway 設定你嘅應用程式。

功能

探索 AI Gateway 提供嘅所有 AI 模型，包括 OpenAI、Anthropic、Google 等等。

查看請求數、tokens 同運行應用程式成本等指標。

深入了解請求和錯誤。

直接由 Cloudflare 嘅 cache 提供請求，而唔係由原始模型供應商，更快之餘仲慳錢。

透過限制應用程式收到嘅請求數量嚟控制應用程式點樣擴展。

定義請求重試同 model fallback，喺出錯時提升韌性。

Workers AI、Anthropic、Google Gemini、OpenAI、Replicate 等都兼容 AI Gateway。