教學 02:建立 QA Agent¶
本教學將引導您建立一個以知識庫為基礎的問答 Agent。 與 Workflow 依照固定的執行圖運作不同,Agent 會自行判斷何時使用哪個工具, 因此能夠自然地處理追問、補充情境,以及多輪對話。
事前準備
開始本教學前,請先完成前置準備:建立知識庫。 您需要在該教學中建立的 labor_qa 知識庫與 default-embedding-retriever。
您將建立的內容¶
一個具備以下能力的 Agent:
- 透過聊天介面接收問題
- 自主使用 Retrieval 工具查詢知識庫
- 根據取得的文件回答問題
- 支援多輪對話與追問
步驟 1:建立空白 Agent¶
- 從側邊欄進入「Agent」。
- 點擊「+」按鈕,選擇「從空白開始」。
步驟 2:設定 Agent¶
填寫建立表單:
- 名稱:輸入名稱(例如
tutorial_labor_qa_agent) - 大型語言模型:選擇
default-llm - 描述:選填 — 當此 Agent 被其他 Agent 作為工具呼叫時使用
- Agent 提示詞:輸入定義 Agent 角色與行為的系統提示詞
「Agent 提示詞」是 Agent 的核心指令集,應涵蓋角色定義、任務說明、工具使用時機、行為準則與輸出格式。 以下為勞基法問答服務台 Agent 的範例提示詞,請依您的使用情境自行調整:
<role>
你是市政府勞工局的專業窗口服務人員,負責協助民眾解答勞基法及相關勞工權益問題。
你的職責是提供準確、清楚且有依據的回答,讓民眾獲得可信賴的資訊。
</role>
<task>
根據民眾提出的問題,優先使用 Retrieval_tool 查詢相關資料,再依據查詢結果提供完整且正確的回答。
每一則回答都必須有明確的資料來源支撐。
</task>
<tools>
你可以使用以下工具:
- **Retrieval_tool**:包含市政府勞工局提供的勞基法相關 QA 問答文件。
當民眾詢問任何勞基法相關問題時,請優先使用此工具進行查詢,再根據查詢結果回答。
</tools>
<guidelines>
回答時請遵循以下原則:
1. 每次回答前,先使用 Retrieval_tool 查詢與問題相關的資料。
2. 回答內容必須完全基於查詢到的參考資料,不得加入個人推測或資料以外的資訊。
3. 若查詢結果不足以完整回答民眾的問題,請直接回覆:「資料不足,無法回答。」
4. 回答語氣應親切、清楚,符合政府窗口服務人員的專業形象。
</guidelines>
<constraints>
- 回答內容僅限來自參考資料,不得自行補充或推斷資料以外的內容。
- 當參考資料不足時,不得猜測或提供不確定的資訊,須明確告知民眾「資料不足,無法回答。」
- 不回答與勞工局業務無關的問題。
</constraints>
<output_format>
以清楚易懂的繁體中文回答民眾問題。若有多個重點,可適當分段說明,方便民眾閱讀理解。
</output_format>

步驟 3:新增檢索工具¶
向下捲動至「自訂工具」區塊,點擊「+」新增工具,選擇「檢索」。
填寫工具設定:
- 名稱:
Retrieval_tool(此名稱會出現在 Agent 提示詞中,請保持一致) - 追蹤工具結果:開啟
- 知識庫:
labor_qa - 檢索器:
default-embedding-retriever - 資料欄位:留空
- 排序器:
default-ranker(選填 — 可提升結果排序品質)
檢索器與知識庫必須一致
這裡選擇的檢索器(default-embedding-retriever)與知識庫(labor_qa), 必須與前置教學中建立載入器時指定的組合相同。若不一致,檢索將會失敗。

步驟 4:填寫工具描述¶
在「描述」欄位中說明此工具包含的內容,以及 Agent 應在什麼時候使用它。
描述越清楚,工具選用越準確
Agent 依據此描述決定要呼叫哪個工具。描述應明確說明工具涵蓋的資料範圍,以及適合使用的問題類型。
範例:
包含市政府勞工局提供的勞基法相關 QA 問答文件。當民眾詢問任何勞基法相關問題時, 請優先使用此工具進行查詢,再根據查詢結果回答。
點擊「儲存」按鈕以儲存工具設定。

步驟 5:設定進階參數¶
向下捲動至「進階設定」區塊,調整以下限制:
- 最大對話輪數:
30— 單次對話工作階段的最大輪次 - 最大工具使用次數:
100— 單次工作階段中工具呼叫的上限
這些限制可防止對話失控。對於允許追問的問答 Agent,設定較高的數值可讓使用者進行更豐富的多輪對話。
點擊右上角「儲存」按鈕以儲存 Agent。

步驟 6:開啟聊天介面¶
儲存後,系統會跳轉至 Agent 詳細頁面。「狀態」顯示「就緒」,代表 Agent 已設定完成並可使用。
點擊右上角的「前往聊天」按鈕。

步驟 7:輸入問題¶
在聊天介面的輸入框中輸入問題,點擊發送按鈕(或按 Enter)。
Agent 會使用 Retrieval 工具查詢知識庫,再根據取得的文件組成回答。

步驟 8:查看回答並繼續對話¶
Agent 的回答會出現在聊天畫面中。展開「顯示思考過程」可查看 Agent 使用了哪些工具、取得了哪些文件。
如有追問或想補充情境,繼續輸入即可 — Agent 會保留完整的對話記錄。

Agent 與 RAG Workflow 的差異¶
| RAG Workflow(教學 01) | QA Agent(本教學) | |
|---|---|---|
| 執行模式 | 固定圖:開始 → 檢索器 → LLM → 結束 | 循環:Agent 自行決定何時呼叫工具 |
| 對話方式 | 單輪(一次輸入,一次輸出) | 多輪(保留完整對話記錄) |
| 工具使用 | 檢索器固定執行 | Agent 自行決定是否及何時檢索 |
| 適合情境 | 可預期、可重複的固定流程 | 開放式問答與追問對話 |