AI API 一旦被多人使用，最先失控的通常不是模型，而是看不見的延遲、重複請求、成本與錯誤。Cloudflare AI Gateway 的核心功能目前在所有方案提供，包含 dashboard analytics、cache、rate limiting；官方定價頁（2026-05-19）另列 Workers Free 所有 gateway 合計 100,000 筆 persistent logs。
先把請求變成可追蹤事件
不要把完整 prompt 當成唯一 log。對 GEO 應用，建立不含個資的 metadata：
const metadata = {
query_id: crypto.randomUUID(),
locale: "zh-TW",
surface: "geo-citation-check",
page_version: env.PAGE_VERSION,
};
把 metadata 傳給 Gateway，再記錄 model、status、latency_ms、cache_hit 與 cited_url。這樣能回答「哪一種查詢最常失敗」，而不必保存使用者原文。
三個免費核心功能
Analytics：先找出錯誤形狀
依模型、路由與 HTTP 狀態分組看延遲和錯誤。429 應和 5xx 分開：前者是額度或速率護欄，後者才是供應商或程式故障。
Cache：只快取可重複的讀取
FAQ 或固定 GEO 測試題可以 cache；個人化 prompt、帳務資料與寫入操作不要 cache。設定 TTL 時保存 page_version，內容更新就讓 cache key 改變，避免 AI 引用舊資料。
Rate limiting：把預算變成技術規則
對匿名來源、單一 API key 與內部批次分開限流。收到 429 時回傳 Retry-After，前端採指數退避；不要在 Worker 裡無限重試把流量放大。
最小驗證清單
curl -sS -D - https://gateway.example.com/v1/chat \
-H 'content-type: application/json' \
-H 'x-geo-query-id: smoke-001' \
-d '{"messages":[{"role":"user","content":"測試可引用回答"}]}'
保存每次測試的 request id，確認 dashboard 能找到同一筆事件；連續重送相同 FAQ，驗證 cache hit；快速發送超過限制的請求，驗證 429 與 Retry-After。測試資料不要包含真實客戶 prompt。
成本與治理邊界
AI Gateway 免費不等於供應商推論免費。Workers AI 仍受 Neurons 額度限制，外部模型則依各供應商計費。DLP scanning 在 AI Gateway 各方案免費，但 Guardrails 會使用 Workers AI 推論並計入用量。正式環境應設 spend limit、log 保留期限與刪除規則。
來源
- Cloudflare AI Gateway 定價，官方文件，2026-05-19 更新。
- AI Gateway 限制，官方文件，2026-05-27 更新。
- AI Gateway Analytics，Cloudflare 官方文件。
本文的 GEO metadata、cache key 與 QA 欄位是工程實作建議，不代表 Gateway 會直接提升 AI 搜尋排名。
相關推薦與延伸閱讀
- Cloudflare 推出代理就緒度分數：用四大維度檢查你的網站對 AI Agent 是否準備好：Cloudflare isitagentready.com 用四大維度替網站的 AI agent 就緒度打分。本文解析評分邏輯與官方歷史樣本，說明採用率為何不等
- Cloudflare Vectorize 免費額度：做出會回傳來源的 RAG：用 Cloudflare Vectorize 與 Workers AI 建立小型 RAG 原型，理解免費額度、向量維度計算、來源回傳與 GEO 引用保真。本文說
- Cloudflare Workers AI 教學：API Key 取得與免費額度呼叫實戰：想零成本串接開源大模型？本文手把手教你取得 Cloudflare Workers AI 的 Account ID 與 API Token，完整解析每日免費額度計
- Supabase vs Cloudflare 儲存方案比較：資料庫整合與物件儲存怎麼選？：比較 Supabase Storage 與 Cloudflare R2 的資料模型、權限、API、流量成本與適用情境，提供中小企業與 AI 應用的選型決策表。本