跳轉到

用量

這頁能幫你做什麼

「用量」用圖表與表格呈現平台的 Token 用量預估成本,幫管理員掌握平台到底用了多少、花在哪裡。你可以選擇時間區間、依工作流程/Agent/使用者下鑽明細,並把詳細報表匯出。

常見情境:

  • 每月初檢視上個月的 Token 消耗與預估成本,做內部分攤。
  • 找出消耗最多 Token 的工作流程或 Agent,評估是否需要優化。
  • 查看單一使用者的用量,了解使用情形。

開始前

  • 你需要管理員(屬於管理員群組)權限才能看到並操作「用量」。本頁所有操作都假設你是管理員。
  • 一般使用者的左側選單不會出現「用量」這個入口;若你看不到它,表示你的帳號不是管理員,請洽貴單位的平台管理員。
  • 即使直接以網址開啟用量頁,沒有管理員權限時頁面會顯示「權限不足」,看不到任何數字或圖表。這是權限保護機制,不是當機。
  • 預估成本依各模型供應商公佈的價格表計算,可能與實際帳單金額不同,僅供參考。

平台用量概覽

在左側選單點選「用量」,預設進入「平台用量概覽」。

平台用量概覽

頁面右上角有兩個共用控制項,所有用量頁面都通用:

控制項 說明
時間區間 點選可挑選統計的起訖日期,所有數字與圖表都會跟著這個區間變動。詳見 時間區間
匯出( 匯出目前區間的詳細報表。詳見 匯出詳細報表

概覽上方的重點數字 (KPI) :

數字 說明
輸入 Token 數 區間內送進模型的 Token 總數。
輸出 Token 數 區間內模型產生的 Token 總數。
預估成本(USD) 依模型價格表估算的成本,旁邊的資訊()圖示說明僅供參考。
使用人數 區間內有使用紀錄的人數,提供「檢視使用者分析」連結。
Agent 工作階段總數 區間內的 Agent 對話工作階段數,並顯示使用中 Agent 數,提供「檢視 Agent 分析」連結。
工作流程執行總數 區間內的工作流程執行次數,並顯示使用中工作流程數,提供「檢視工作流程分析」連結。

概覽下方的圖表:

圖表 說明
每日 Token 用量 每日 Token 的長條圖,可用右上角的「Token/成本」切換顯示 Token 數或預估成本;堆疊項目包含輸入、快取讀取輸入、快取寫入輸入、輸出。
各模型 Token 用量占比 各模型用量的環圈圖,同樣可切換「Token/成本」,並可切換成表格檢視。

點 KPI 上的「檢視…分析」連結,即可進入下列三個下鑽頁面。

時間區間

點右上角的「時間區間」會展開挑選器:左側是預設區間,右側可手動指定「開始日期」與「結束日期」。選好後點「套用」,整頁的數字與圖表都會依新區間重新計算(點「取消」則不套用)。

時間區間挑選器,左側為預設區間、右側為開始/結束日期與月曆

每次最多查詢 90 天

時間區間每次最多可查詢 90 天的資料。若需要更長期間的彙總,請分段查詢或改用匯出報表。

預設區間:

選項 說明
今天 僅當天。
昨天 僅前一天。
最近 7 天 含今天在內往前 7 天。
最近 30 天 含今天在內往前 30 天。
本週至今 本週開始到今天。
本月至今 本月一號到今天。
自訂區間 自行指定起訖日期。

匯出詳細報表

點右上角的匯出()會跳出「匯出詳細報表」對話框:

  1. 在「時間區間」確認或重新挑選要匯出的起訖日期(預設帶入目前頁面的區間)。

    匯出詳細報表對話框

  2. 點「匯出」開始下載;起訖日期都選定後按鈕才會啟用。

  3. 系統會產生一份檔名為 report_<開始日期>_<結束日期> 的明細報表供下載。

Note

若選取區間的資料量過大,匯出可能失敗並出現提示,此時請縮小時間區間後再試。

各模型 Token 類型明細

各頁的「各模型 Token 用量占比」環圈圖旁有「檢視各模型 Token 類型明細」()按鈕,點開會以表格列出每個模型的用量明細:

欄位 說明
模型 模型名稱與供應商。
輸入 輸入 Token 數與對應預估成本。
輸出 輸出 Token 數與對應預估成本。
快取寫入輸入 寫入快取的輸入 Token 數與成本。
快取讀取輸入 從快取讀取的輸入 Token 數與成本。
Token 總數 該模型的 Token 總數與總成本。
占比 該模型占總 Token 數的百分比。

表格依 Token 總數由多到少排序,最下方有合計列。

各項資源活動(非 LLM 資源)

除了以 Token 計量的大型語言模型用量,用量頁還會以「各項資源活動」區塊統計非大型語言模型資源(例如搜尋引擎)的使用情形。這類資源不以 Token 計費,而是以查詢次數衡量:

各項資源活動區塊,列出搜尋引擎的執行個體數與查詢次數

欄位 說明
資源 資源名稱與類型。
查詢次數 此資源在區間內被查詢的次數(例如「{count} 次查詢」、合計顯示「共 {count} 次查詢」)。
執行個體 該類型下的執行個體數量(顯示「{count} 個執行個體」)。

Token 與查詢次數分開看

大型語言模型用量看「Token 數/預估成本」,搜尋引擎等非 LLM 資源看「查詢次數」,兩者是不同的計量方式,分開呈現。

工作流程用量分析

呈現工作流程 (Workflow) 維度的用量,網址為 /usage/workflows

工作流程用量分析

重點數字:工作流程執行總數、Token 總數、預估成本(USD)。

圖表:每日執行次數、每日 Token 用量、各模型 Token 用量占比、各工作流程 Token 用量(長條圖,可切換 Token/成本,並有「展開低數值」開關)。

下方「各工作流程用量詳細資料」表格欄位:

欄位 說明
工作流程 工作流程名稱,可點擊進入該工作流程的用量明細。
Token 總數 該工作流程的 Token 總數。
執行次數 該工作流程的執行次數。
使用人數 使用過該工作流程的人數。
預估成本(USD) 該工作流程的預估成本。
平均每次執行預估成本(USD) 預估成本 ÷ 執行次數。

Agent 用量分析

呈現 Agent 維度的用量,網址為 /usage/agents,結構與工作流程分析相同。

重點數字:Agent 工作階段總數、Token 總數、預估成本(USD)。

圖表:每日工作階段數、每日 Token 用量、各模型 Token 用量占比、各 Agent Token 用量。

下方「各 Agent 用量詳細資料」表格欄位:

欄位 說明
Agent Agent 名稱,可點擊進入該 Agent 的用量明細。
Token 總數 該 Agent 的 Token 總數。
工作階段數 該 Agent 的對話工作階段數。
使用人數 使用過該 Agent 的人數。
預估成本(USD) 該 Agent 的預估成本。
平均每個工作階段預估成本(USD) 預估成本 ÷ 工作階段數。

使用者用量分析

呈現每位使用者的用量,網址為 /usage/users

使用者用量分析

重點數字:使用人數、Token 總數、預估成本(USD)。

圖表:每日使用人數、各使用者 Token 用量(可切換 Token/成本)。

下方「各使用者用量詳細資料」表格欄位:

欄位 說明
使用者 使用者名稱,可點擊進入該使用者的用量明細。
Token 總數 該使用者的 Token 總數。
預估成本(USD) 該使用者的預估成本。
Agent 工作階段 Token 數 用在 Agent 對話的 Token 數。
工作流程執行 Token 數 用在工作流程執行的 Token 數。
其他 Token 數 其他來源(如遊樂場)的 Token 數。

從清單直接查單一使用者用量

使用者 清單或詳細頁點「檢視用量分析」,也會帶你到該使用者的用量明細。

單一項目用量明細

在上述三個分析頁的表格中,點任一工作流程/Agent/使用者名稱,即可進入該項目的用量明細頁,做更細的下鑽。三種明細頁都沿用頂部的時間區間與匯出控制項。

已刪除的資源會被標示

若某個 Agent、工作流程或使用者在統計區間後已被刪除,圖表與表格中仍會保留它的用量,但會標示「此項目已被刪除」,且無法再點進它的詳細頁。此外,系統內建的 Agent 無法檢視詳情(會提示「此為系統內建 Agent,無法檢視詳情。」)。

工作流程明細

網址為 /usage/workflows/<id>,分為三個分頁:

分頁 內容
總覽 此工作流程在區間內的整體用量:執行次數、Token 總數、預估成本(USD),以及每日執行次數、每日 Token 用量、各模型 Token 用量占比等圖表。
直接執行 使用者「直接」執行此工作流程的用量,並以「完整流程」計入它呼叫到的其他資源。重點數字為直接執行次數、完整流程 Token 總數、完整流程預估成本(USD)。下方「各項資源詳細資料」表格列出此流程用到的各項資源,欄位包含呼叫次數、Token 總數、預估成本(USD),每列可展開看各模型明細。
被其他 Agent 或工作流程呼叫 此工作流程「被」其他 Agent 或工作流程呼叫時的用量。重點數字為被呼叫次數、被呼叫 Token 總數、被呼叫預估成本(USD)。下方「呼叫來源詳細資料」表格列出呼叫它的來源,欄位與展開方式同上。

Agent 明細

網址為 /usage/agents/<id>,結構與工作流程明細相同,分為「總覽」「直接執行」「被其他 Agent 或工作流程呼叫」三個分頁;差別在於以工作階段數取代執行次數作為對話量指標。

使用者明細

網址為 /usage/users/<id>,為單頁式(無分頁)。上方重點數字為 Token 總數、預估成本(USD)、工作階段數(並顯示使用的 Agent 數)、執行次數(並顯示使用的工作流程數);接著是每日 Token 用量與各模型 Token 用量占比圖表。下方有三張明細表,每列都可展開看各模型明細:

表格 主要欄位
各 Agent 用量詳細資料 Agent、Token 總數、工作階段數、預估成本(USD)、平均每個工作階段預估成本(USD)。
各工作流程用量詳細資料 工作流程、Token 總數、執行次數、預估成本(USD)、平均每次執行預估成本(USD)。
其他用量詳細資料 來源、Token 總數、預估成本(USD)。涵蓋 Agent 對話與工作流程執行以外的用量(例如程式碼生成、提示詞改寫等平台功能)。

下一步