Cloudflare 技術：Workers AI、AI Gateway 與 Vectorize 的評估與驗收

為什麼把 AI 服務放在 Cloudflare

Cloudflare 把推論、閘道、向量檢索與儲存放在同一個邊緣平台，應用不必自建 GPU 主機或額外的觀測系統，就能先做出可測試的服務。對中小企業而言，這降低的是試行門檻，不是正式服務的容量保證。

平台提供免費額度，但額度單位、可用模型與地區會調整。評估時以官方文件的現行條款與自己帳號的帳單實測為準，不引用未註明日期的比較表。

四個元件各自解決什麼

這四項可以分開採用。常見的起步方式是先用 AI Gateway 觀測既有的外部模型呼叫，取得真實用量後，再決定哪些任務換到 Workers AI。

免費額度怎麼估才可靠

免費額度適合試行、內部工具與低流量服務。要判斷是否足以支撐正式服務，先用實際流量估算每日請求數與尖峰分布，再確認超額後是拒絕請求還是自動轉為計費。

額度單位不等於請求數。Workers AI 以 Neuron 計量，同一個請求會因模型與輸入長度而消耗不同額度；用「每天幾次呼叫」推估容易低估。

把模型費、Workers 請求費、儲存費與 egress 分開列出，再加上維運人力。只比較月費不比較計費單位，換平台後常出現與預期不符的帳單。

如何開始：四個步驟

步驟 1：先接上 AI Gateway

把現有的模型呼叫改為經過閘道，不改動應用邏輯。運行一到兩週，取得請求量、延遲分布、錯誤率與實際成本，作為後續決策的基準。

步驟 2：選一個可驗收的任務試行

挑選輸入穩定、輸出可檢查的任務，例如內部文件問答或分類。定義正確率的判斷方式與抽查比例，並保留查無資料時的處理路徑。

步驟 3：讓檢索回傳可查核來源

使用 Vectorize 時，每筆回答都應附上來源文件與段落位置。沒有來源的檢索結果不對外開放；來源錯誤要能追回索引版本與更新時間。

步驟 4：加上護欄再擴大

設定速率限制、逾時、重試上限與成本警示，並確認超額或供應商失敗時的降級行為。擴大範圍前，用同一口徑比較試行前後的品質、延遲與總成本。

哪些結果才算驗收完成

• 每個任務都有正確率判斷方式與抽查紀錄。
• 請求量、延遲、錯誤與成本可在閘道查詢，且保存期限符合稽核需求。
• 檢索結果附可查核來源，索引更新流程與負責人已確認。
• 超額、逾時與供應商失敗都有明確的降級或拒絕行為。
• 成本估算包含模型、請求、儲存、egress 與人工維運。

本頁不提供未查核的價格或保證的節省比例。額度與計費條款請以採購當下的官方文件為準，並把限制寫入交付文件。

延伸閱讀

下方列表提供已發布的 Cloudflare 技術文章。整體規劃可閱讀 AI 導入實戰，流程串接可閱讀 流程自動化，網站對 AI Agent 的可讀取性可閱讀 SEO / GEO 搜尋能見度。

需要確認架構選型與驗收範圍，可閱讀 FDE AI 導入服務或預約諮詢。