大型語言模型¶

大型語言模型任務讓你在工作流程裡呼叫一個大型語言模型 (LLM)，根據你給的對話內容產生文字回應。它是問答、摘要、內容生成、改寫、對話式 AI 等場景的核心步驟。

這也是整個平台最常被用到的任務之一，而它的成效幾乎全看「提示詞 (Prompt) 怎麼寫」。本頁除了逐欄說明設定，也用一整節「怎麼寫提示詞」教你把系統提示詞、使用者訊息與樣板 (Template) 組起來，並附上可直接套用的範例。

這頁能幫你做什麼¶

• 用知識庫檢索到的內容回答使用者問題（RAG）。
• 從來源資料產生摘要、信件、報告或文件。
• 打造能理解上下文的對話介面。
• 以不同語氣、格式或語言改寫文字（例如同一份氣象資訊，對民眾與對署內用不同口吻）。

本頁只說明 LLM 任務特有的欄位。名稱、附註、下一個狀態、輸入與輸出、錯誤處理，以及進階任務設定與執行設定中的共用開關，都集中在 Action 通用設定。

開始前¶

操作步驟¶

1. 在工作流程編輯器中新增一個 大型語言模型 任務（新增 Action 的通用步驟見 Action 使用指南）。

   

2. 在「名稱」填入這個步驟的識別名稱。

3. 在「大型語言模型」欄位選擇要使用的 LLM 資源。選好後，可點欄位旁的調整（）圖示開啟設定對話框，覆寫這次呼叫的系統提示詞與模型參數（系統提示詞、溫度、最大 Token 數等，欄位內容來自該 LLM 資源）。

   

4. 在「對話」表格逐列加入訊息。點某列的編輯（）鈕會先開啟「編輯對話」對話框，在這裡設定該列的「角色」（使用者／系統助理）並管理底下的「內容」子表。

   

5. 在「編輯對話」對話框的「內容」子表，點某列的編輯（）鈕會再開出「編輯內容」對話框；在這裡選「提示詞來源」並把動態值（如病人主訴）帶進提示詞。

   

6. 視需要展開「進階任務設定」設定 Guardrail、備用模型、允許重試等。

   

7. 設定「下一個狀態」，必要時填「附註」。

8. 用表單上方的測試按鈕（）試跑，確認輸出符合預期。

LLM 任務特有欄位¶

設定分頁¶

對話表格的每列欄位¶

對話列的「編輯對話」¶

點「對話」表格某列的編輯（）鈕，會先開啟「編輯對話」對話框。這一層負責設定整列訊息的角色與內容組成：

內容區塊的「編輯內容」¶

在「編輯對話」對話框的「內容」子表，點某列的編輯（）鈕，會再開出「編輯內容」對話框。除了「名稱」與「類型」（文字／圖片／儲存庫檔案，提示詞請用文字；「儲存庫檔案」可讓這列內容指向你儲存庫資源裡的檔案，而不是直接打字）外，最關鍵的是「提示詞來源」，它決定這列內容怎麼產生：

進階任務設定（摺疊區塊）¶

展開設定分頁底部的「進階任務設定」，LLM 任務會提供下列特有欄位。共用的「上傳輸出至外部記憶體」「錯誤時中止」等請見 Action 通用設定。

執行設定（摺疊區塊）¶

LLM 任務的「執行設定」區塊欄位（上傳輸出至外部記憶體、即時輸出串流、錯誤時中止、預設輸出）皆為共用欄位，說明見 Action 通用設定。

怎麼寫提示詞（重點教學）¶

提示詞 (Prompt) 就是你給模型的「指令＋資料」。同一個模型，提示詞寫得好不好，輸出品質天差地遠。這一節教你把它拆成幾個位置來寫，並附上可直接照抄改寫的範例。

先搞懂三個位置：系統提示詞、使用者、系統助理¶

一次 LLM 呼叫會把三種東西送進模型，各有分工，別放錯地方：

一句話記：系統提示詞寫「你是誰、要怎麼做」，使用者訊息寫「這次要你做的這一筆」。

寫好系統提示詞 (System Prompt)¶

一個好用的結構是依序交代這幾件事，每件一兩句即可：

1. 角色：你是誰、專長領域。
2. 任務：要完成什麼。
3. 規則／限制：必須遵守或絕對不能做的事。
4. 語氣／對象：對誰說、用什麼口吻。
5. 輸出格式：要分點、限字數、用哪種語言等。

以「AI 分診助理」為例：

你是一位「AI 分診助理」，專長是一般內科與家醫科分診。

任務：根據病人主訴，建議最合適的就診科別，並說明理由。

規則：
- 只在你有把握時給出單一科別建議；不確定時請建議「家醫科」並提醒就醫。
- 不提供診斷或處方，只做科別分流。
- 若主訴包含胸痛、呼吸困難、意識不清等危急徵象，請優先提醒立即就醫或撥打 119。

語氣：親切、簡潔，面向一般民眾，避免艱深醫學術語。

輸出格式：
1. 建議科別
2. 一句話理由

同一套寫法可換到別的情境：例如氣象署助理可在「語氣／對象」切換「對民眾」或「對署內同仁」，就能讓同一份資料產出不同口吻的回覆。

寫好使用者訊息 (User Prompt)¶

使用者訊息放「這一次的輸入」。最常見的寫法是：一句說明 ＋ 帶入動態資料。例如把病人主訴帶進來：

以下是病人的主訴，請依系統提示詞的規則建議就診科別。

主訴：{{ question }}
其他資訊：{{ additional_context }}

要把上面的 {{ question }}、{{ additional_context }} 換成真正的值，就要靠下一節的「提示詞來源」。

做 RAG（先檢索、再回答）時，把檢索到的內容也一起放進使用者訊息，並明確要求模型「只根據提供的內容作答」：

請只根據下列「參考內容」回答問題，找不到答案就說不知道，不要自行臆測。

問題：{{ question }}

參考內容：
{{ context }}

把動態值帶進提示詞：三種「提示詞來源」¶

提示詞裡要填「會變動的值」（病人主訴、檢索內容、前一步輸出…），就在「編輯內容」對話框選對「提示詞來源」：

• 自訂提示詞 ＋ 勾 JSONPath：整段內容就是一個動態值時最省事。例如使用者訊息只想直接帶入病人主訴，就在「提示詞」欄勾「JSONPath」，填 $.question。寫法見 JSONPath 語法。

• 自訂提示詞樣板：一段話裡要填多個動態值時用這個。在「樣板」用 {{ 名稱 }} 挖空格，再到「樣板變數」表格用同名變數把值接進來：

  「樣板」：

  請只根據參考內容回答問題。
  問題：{{ question }}
  參考內容：{{ context }}
  

  「樣板變數」（名稱 → 值，值用 JSONPath 從狀態取）：

  名稱	值
  question	$.question
  context	$.RetrievalActionResult.documents

  完整圖解見 Template 語法。

• 既有提示詞樣板：同一份樣板要在多個步驟或多個流程重複使用時，先把它存成樣板 (Template) 資源，再在這裡選用，並一樣用「樣板變數」接值。改一處、全部沿用。

用「改寫」讓 AI 幫你優化提示詞¶

不知道怎麼下筆時，可以先寫一句粗略的指示，再用 AI 幫你補成完整提示詞。在「系統提示詞」欄位或「自訂提示詞」的「提示詞」欄，點工具列的「改寫」（）鈕，系統會依你選的模型把提示詞改寫得更清楚、更結構化。改寫結果可再自行微調。

用多輪對話給範例（few-shot）¶

想讓模型照你要的格式或風格回答，最有效的方法之一是「給它看範例」。在「對話」表格交錯排幾組「使用者 → 系統助理」，把理想答案直接示範給它：

模型看到前面的示範，就會用同樣的格式回答最後這筆真正的輸入。示範列不需要動態值；只有最後代表本次輸入的那一列才帶入 {{ question }}。

常見錯誤¶

• ❌ 把規則、角色寫進「使用者」訊息——容易被當成這次的輸入。✅ 固定規則寫在系統提示詞。
• ❌ 在系統提示詞裡放 {{ 變數 }} 期待它替換——系統提示詞不做變數替換。✅ 動態值放使用者訊息。
• ❌ 想帶入動態值卻忘了勾 JSONPath 或漏填「樣板變數」——模型收到的是 $.question 這串字而非真正的值。✅ 照上一節接好值。
• ❌ 一段提示詞塞太多任務（又要分類又要摘要又要翻譯）——輸出容易失焦。✅ 拆成多個步驟，或改用 結構化大型語言模型 一次輸出多個固定欄位。

實際範例¶

範例一：RAG 文件問答¶

系統提示詞（在調整（）對話框）：

你是一個協助回答文件相關問題的助理。
請只根據使用者提供的參考內容作答，找不到答案就說「資料中查無相關內容」，不要自行臆測。

對話（角色：使用者；提示詞來源：自訂提示詞樣板）：

「樣板」：

問題：{{ question }}

參考內容：
{{ context }}

請根據參考內容提供簡潔、附重點的答案。

「樣板變數」：

工作流程輸入：

{
  "query": "RAG 有什麼好處？",
  "context": "RAG 結合檢索與生成，提供準確、有根據的回應，並附上來源出處。"
}

測試執行輸出：

{
  "errors": null,
  "action_type": "llm_action",
  "output": "RAG（檢索增強生成）的主要優勢包含：回應建立在檢索到的文件上、可追溯來源、能取得最新資訊，並能減少模型虛構內容。"
}

產生的文字會放在 output 欄位，可供後續步驟使用。

範例二：同一份資料、切換受眾語氣¶

只要改系統提示詞的「語氣／對象」，同一筆氣象資料就能產出不同口吻：

系統提示詞（對民眾）：

你是氣象署的對外小幫手，面向一般民眾。
請用親切、口語、生活化的方式說明天氣，並給穿著或出行建議，避免專業術語。

系統提示詞（對署內同仁）：

你是氣象署的內部助理，面向署內同仁。
請用精確、專業的用語摘要天氣資訊，保留必要的數值與專有名詞。

對話（角色：使用者；提示詞來源：自訂提示詞，勾 JSONPath）： $.weather_summary

切換系統提示詞即可在「親切版」與「專業版」之間切換，使用者訊息維持不變。

技術識別¶

• action_type：llm_action

下一步¶

• 還沒看過提示詞語法？先讀 Template 語法 與 JSONPath 語法。
• 用 檢索 (Retrieval) 或 檢索器 (Retriever) 搭配 LLM 組出 RAG 工作流程。
• 需要模型輸出固定 JSON 結構，改用 結構化大型語言模型 (Structured LLM)。
• 共用設定請見 Action 通用設定。