模型
根據能力、品質與價格選擇準確的 Model ID。
模型目錄用於比較目前可用模型的能力、介面、價格和限制。API 請求必須使用目錄中顯示的準確 Model ID。
選擇模型
| 任務 | 優先檢查的能力 |
|---|---|
| 文字聊天與生成 | 文字輸入、聊天補全、上下文和輸出限制 |
| 圖文理解 | 多模態輸入、圖片格式和大小限制 |
| 圖片生成 | 圖片生成介面、尺寸、輸出方式和計費單位 |
| 低延遲互動 | 串流輸出支援和回應延遲 |
具備圖片輸入能力不表示模型能夠生成圖片。模型名稱相近也不表示介面、參數或輸出格式完全相同。
呼叫前檢查
- 從模型卡片複製 Model ID。
- 確認模型支援需要使用的介面。
- 檢查輸入類型、輸出類型和參數範圍。
- 檢查上下文、最大輸出和媒體限制。
- 確認輸入、輸出、快取或圖片等計價單位。
- 確認目前的帳號和 API Key 可以存取該模型。
比較價格
先確認計價單位一致,再比較價格。美元/百萬 Tokens 是單位價格,不是單次請求費用;圖片等模型可能採用其他計價方式。公開參考價也不等於目前請求的最終結算金額。
切換模型
切換模型時,保留相同的測試輸入,先傳送最小請求,再依序驗證:
- 回應結構和業務結果。
- 參數是否受到支援。
- 輸出品質和結束原因。
- 用量、延遲和費用。
- 應用程式的錯誤處理邏輯。
確認結果後再擴大呼叫量,不要直接在正式環境流量中替換 Model ID。