Cloudflare AI Gateway

觀察同控制你嘅 AI 應用程式。

Cloudflare AI Gateway 令你可以全面觀察同控制你嘅 AI 應用程式。將你嘅應用程式接去 AI Gateway，就可以透過 analytics 同 logging 了解用戶點樣用你嘅應用程式，再用 caching、rate limiting、request retries、model fallback 等功能控制應用程式點樣擴展。仲有 —— 只需一行程式碼就開始得。

睇下 快速開始指南，了解點樣用 AI Gateway 設定你嘅應用程式。

功能

探索 AI Gateway 支援嘅所有 AI 模型，包括 OpenAI、Anthropic、Google 等等。

查看請求數、tokens 同運行應用程式成本等指標。

深入了解請求和錯誤。

直接由 Cloudflare 嘅 cache 提供請求，而唔係由原始模型供應商，快啲之餘仲慳錢。

透過限制應用程式收到嘅請求數量嚟控制應用程式點樣擴展。

定義請求重試同 model fallback，喺出錯嗰陣提升韌性。

Workers AI、Anthropic、Google Gemini、OpenAI、Replicate 等都兼容 AI Gateway。