先用一句話理解
分辨 LLM、Token、Context Window、Embedding、RAG、Tool Calling、MCP、AI Agent、Workflow、Fine-tuning、Inference。
不要只記縮寫。要能回答：這個技術是什麼類型、負責什麼、與哪些工具相依、出問題時要查哪一層。
AI 與 Agent：基礎名詞與具體例子
| 名詞 | 白話解釋 | 使用情境 |
|---|---|---|
| LLM | 由大量資料訓練而來、可處理與生成語言等內容的模型。 | 理解客服問題並生成答案。 |
| Prompt | 提供模型的指令及上下文。 | 要求模型依規則產生 JSON。 |
| Token / Context Window | Token 是模型處理資料的基本單位；Context Window 是單次可處理的上下文容量。 | 長文件可能超過模型上下文限制。 |
| Embedding | 將內容轉為數值向量表示。 | 將知識段落轉成向量。 |
| RAG | 先檢索相關資料再提供模型回答。 | 先查公司客服規則再回覆。 |
| Tool Calling | 模型提出結構化工具呼叫，再由應用執行。 | 模型請求查詢訂單 API。 |
| MCP | 標準化 AI 應用與工具、資源間連接的協定。 | Agent 透過 MCP 取得工具清單。 |
| AI Agent | 使用模型及控制流程選擇與執行多步動作的系統。 | 自主整理申請、檢查資料並提出核准建議。 |
| Workflow | 由規則、事件與條件串接的工作步驟。 | 有新訂單就觸發通知。 |
| Fine-tuning | 利用訓練資料調整模型參數。 | 微調專有格式輸出能力。 |
| Inference | 模型利用既有參數產生預測或輸出。 | 每次聊天生成回覆的過程。 |
| Guardrails | 限制不允許操作與風險行為的控制。 | 禁止模型直接改寫其他使用者的資料。 |
常見混淆：它們究竟差在哪？
LLM vs AI Agent
模型是推理元件，Agent 是含有控制流程與工具的應用系統。
RAG vs Fine-tuning
RAG 補充查得的上下文；微調改變模型參數。
MCP vs API
MCP 提供 AI 工具連接的標準介面，底層仍可透過 API 等機制。
Workflow vs Agent
Workflow 預設步驟固定；Agent 可在允許範圍內依情境選擇後續動作。
實作時的三個檢查點
- 先列出 Agent 可以讀取的資料與可以執行的工具。
- 將核准、扣款、刪除及授權決策落到可審計的後端規則。
- 為工具呼叫建立人為核准、日誌、失敗重試及成本上限。
常見問題 FAQ
RAG 會訓練模型嗎？
一般 RAG 不會改變模型權重，而是將檢索的內容提供到上下文。
讓 AI Agent 自主管理是否代表不需要權限控管？
相反，Agent 能執行的動作越多，越需要後端權限隔離、憑證保護及操作審計。