LLM 應用開發入門

課程簡介

學習如何用 LLM 開發應用是未來的關鍵技能。這門課程將帶您了解 LLM 開發的基礎，從 API 調用到 RAG 系統，從微調到部署，讓您具備開發 LLM 應用的能力。

學習目標：

了解 LLM 開發的基礎
掌握 API 調用方法
學會建立 RAG 系統
了解模型微調和評估
規劃 LLM 應用部署

31.1 LLM 開發概述

為什麼學_this？

了解 LLM 開發的全貌。

核心教學

LLM 開發的應用：

對話系統

客服機器人
個人助理
互動問答

內容生成

文案生成
摘要
翻譯

數據處理

分析
分類
提取

自動化

工作流
決策支持
智能體

LLM 開發 vs 傳統開發：

傳統：寫邏輯規則
LLM：提示 + 調用模型
更快更靈活

商業範例

一家擁有 12 間分店的連鎖健身中心，過去教練需人工撰寫訓練計畫與飲食建議，平均每位會員等待 2 天，續約率僅 58%。導入 LLM 應用後，教練能快速產出個人化方案並即時回覆會員諮詢。

做法：以 LLM 生成個人化訓練與飲食建議，教練審核後發送，方案產出時間從 2 天縮短至 15 分鐘。
做法：部署客服機器人回答課程與收費問題，每月處理 3,200 筆諮詢，人工客服負擔降低 45%。
做法：自動分析會員出席與消費紀錄，產出每月營運報告，管理層決策時間減少 60%。
做法：生成社群貼文與促銷文案，每月產出 80 篇內容，行銷人力成本節省 30%。

小技巧

先用 ChatGPT 或 Claude 把需求拆成 3 個子任務，再逐一寫 prompt 驗證可行性。
prompt 開頭固定寫「角色 + 任務 + 輸出格式」，例如「你是資深 PM，列出 5 點風險，用表格」。
框架先用 LangChain 串接 API，原型穩定後再改用 LlamaIndex 優化檢索。
把常用 prompt 存進 Notion 資料庫，用 Zapier 觸發自動測試回歸。
每次改 prompt 只動一個變數，對比輸出後再合併版本。

練習題

了解 LLM 開發的應用

思考您的應用場景

本節摘要

LLM 應用：對話、生成、數據、自動化
開發 = 提示 + 調用
更快更靈活

通用實戰 Prompt：工具×業務配對

我的業務：[一行描述]。
我每日花最多時間的 3 個任務：[列舉]。
請評估：這些任務你直接幫到我多少（0-100%）？
每個任務給我一個「今日就可以試」的 prompt 模板。

這條提示詞迫使 AI 從「宣傳功能」變為「提供即用模板」— 輸出全部可以直接存入你的提示詞庫。

實戰檢查清單

我完成了「任務 × AI 配對」評估
我存了至少 3 個即用模板
我知這個工具的最大弱項同替代方案

31.2 API 基礎

為什麼學_this？

API 是 LLM 開發的基礎。

核心教學

什麼是 LLM API？

API 讓您可以通過程式調用 LLM，發送請求、接收回應。

主流 LLM API：

OpenAI API：GPT 系列
Anthropic API：Claude 系列
Google Gemini API：Gemini 系列
本地模型：Ollama、llama.cpp

基本 API 調用：

# OpenAI 範例

response = openai.ChatCompletion.create(

model="gpt-4",

messages=[{"role":"user", "content":"你好"}]

)

print(response.choices[0].message.content)

商業範例

一間擁有 12 間門市的連鎖健身工作室，過去靠 3 名全職客服處理會員的課程改期、教練更換與收費疑問，每天累積超過 400 則訊息，平均回覆時間長達 6 小時，導致續約率下滑。

導入 OpenAI API 後，團隊在不增加人力的情況下，將重複性諮詢自動化，並把省下的時間投入高價值會員經營。

做法：以 API 建立課程與收費問答機器人，自動處理 78% 的常見諮詢，平均回覆時間從 6 小時縮短至 90 秒。
做法：串接會員系統自動生成個人化續約提醒，續約率由 61% 提升至 74%。
做法：用 API 產出每週教練課程推薦文案，行銷人員每週省下 10 小時的撰寫時間。
做法：整體 API 月成本控制在 180 美元，較原先增聘一名客服的年薪節省超過九成。

小技巧

先用 Postman 或 curl 測通 API，再寫進程式。
把 API 文件貼給 ChatGPT，請它產生 Python 呼叫範例。
金鑰存進環境變數，別寫死在程式碼裡。
無技術團隊可用 Zapier 或 Make 串接 API 流程。
請 Claude 檢查回應 JSON 欄位，確認解析路徑正確。

練習題

了解 LLM API

註冊並測試 API

本節摘要

API 讓程式調用 LLM
主流：OpenAI、Anthropic、Gemini
需基本程式知識

第一個 API 調用：10 分鐘 Hello LLM

拎 API key：在 OpenAI/Anthropic/DeepSeek 任一平台註冊，儲值最少金額（$5 已經練好久）。
用 curl 或 Python 測試：一行 request 傳入 prompt，收 JSON 回應。
理解三個核心參數：model（選哪個型號）、temperature（0=穩定、1=創意）、max_tokens（輸出長度上限）。
計成本：查看回應裡的 usage 欄位 — 每次調用的 token 消耗就是你的賬單。

API 測試 Prompt（Python 範例骨架）

from openai import OpenAI
client = OpenAI(api_key="你的key")
resp = client.chat.completions.create(
  model="gpt-4o-mini",
  temperature=0.3,
  messages=[{"role":"user","content":"用一句話解釋什麼是 token"}])
print(resp.choices[0].message.content)
print(resp.usage)  # 查看 token 消耗

跑通這 8 行，你就已經超越 95% 的「AI 懂的人」— 因為你可以開始自動化任何文字流程。

31.3 提示工程

為什麼學_this？

提示決定 LLM 輸出品質。

核心教學

提示工程的核心技巧：

清晰指令

明確要什麼
提供背景
設定格式

角色設定

你是一位客服專家，語氣親切專業。

提供範例

Few-shot 學習
展示期望輸出
提高準確性

分步指令

拆解複雜任務
逐步引導
提高品質

輸出格式

指定 JSON
指定列表
方便處理

商業範例

一家連鎖健身房的客服團隊每天收到超過 400 則會員訊息，涵蓋課程預約、會籍查詢與教練投訴，過去靠人工回覆常延遲超過 6 小時，導致續約率下滑。

做法：以提示工程規範 AI 客服語氣與回覆結構，平均回應時間從 6 小時縮短至 90 秒。
做法：要求輸出固定 JSON 欄位（會員編號、問題類型、建議方案），自動派單準確率達 92%。
做法：限制回覆字數並帶入會籍到期日，客服一次解決率由 58% 提升至 81%。
做法：加入投訴升級判斷規則，客訴漏接率下降 67%，續約率回升 14%。

小技巧

提示工程是把需求講清楚的技術，以下幾個實操技巧能立即改善輸出：

在 ChatGPT 用「角色＋任務＋格式」三段式，例如「你是財報分析師，摘要下列 PDF，用表格輸出」。
要求 Claude 先列步驟再作答，可減少長文推理的遺漏。
把常用指令存成 Notion 範本，每次複製貼上再改參數。
需要批次處理時，用 Zapier 把表單內容自動送入 API 提示詞。

練習題

用不同提示測試

優化提示

本節摘要

提示技巧：清晰、角色、範例、分步、格式
決定輸出品質
持續優化

31.4 RAG 系統

為什麼學_this？

RAG 讓 LLM 基於自己的知識回答。

核心教學

RAG 系統的組件：

知識庫

企業文檔
產品資料
FAQ

向量化

將文檔轉為向量
存儲到向量資料庫

檢索

用戶提問向量化
檢索相關文檔
返回最相關的

生成

將檢索結果 + 提問給 LLM
生成準確回答
附來源

RAG 的流程：

文檔 → 向量化 → 存儲

提問 → 向量化 → 檢索

檢索結果 + 提問 → LLM → 答案

商業範例

一家擁有 120 間門市的連鎖健身中心，過去教練與櫃檯人員回答會員問題時，常因資訊分散在十幾份文件而給出錯誤答案，導致客訴率居高不下。

建置課程與方案知識庫：整合 300 份教材與價目表，客服回答準確率從 68% 提升至 94%。
導入語意檢索問答：平均回應時間由 4 分鐘縮短至 20 秒，每日處理約 800 筆諮詢。
自動標註來源出處：爭議案件追溯時間減少 75%，每月節省約 40 小時人工查核。
串接會員系統：續約提醒轉換率提升 18%，年營收增加約新台幣 600 萬元。

小技巧

切塊長度設 300 至 500 字元，用 LangChain 的 RecursiveCharacterTextSplitter 實測調整。
檢索加 rerank：先取 top 20，再用 Cohere Rerank 篩出前 5 段餵給模型。
Prompt 寫法：要求模型「僅依下列片段作答，無依據就回覆不知道」。
用 Notion 或 Google Sheets 維護測試問答集，每次改動後跑一遍回歸。

練習題

了解 RAG 流程

設計您的 RAG 系統

本節摘要

RAG：知識庫、向量化、檢索、生成
讓 LLM 基於自己的知識
企業應用核心

商業範例

寵物用品批發商的 RAG 應用

一家批發行有 3,000 個 SKU 的產品資料、報價歷史同物流FAQ。客戶服務同事日日被人問「這款貓糧何時有貨」「最小訂貨量多少」。他們用 RAG（檢索增強生成）：將產品文件入向量資料庫，客戶查詢時先檢索相關段落，再給 AI 生成回答。AI 不用「背」3,000 個 SKU — 他只需答得準，因為每個答案都有真實文件支撐。幻覺率大幅下降，新同事培訓時間由兩週變三日。

本章檢查清單

我可以用「開卷考試」比喻解釋 RAG：不靠記憶，靠即場查閱
我知 RAG 係企業落地的第一步（比微調平十倍）
我知向量資料庫就是「語義搜索的索引」

31.5 向量資料庫

為什麼學_this？

向量資料庫是 RAG 的核心。

核心教學

向量資料庫的選擇：

Pinecone

雲端，易用
性能好
收費

Weaviate

開源
功能豐富
自架

Milvus

開源
高性能
自架

Chroma

輕量
適合初學者
本地

向量資料庫評選標準：

性能（檢索速度）
擴展性
成本
語意搜索品質

商業範例

一家約 40 人的連鎖健身工作室，過去靠教練手動翻找會員訓練紀錄與課程備註，回應學員諮詢平均要等 6 分鐘，續約率長期卡在 52%。導入 Weaviate 自架向量資料庫後，把訓練日誌、體態數據與課程偏好轉成向量索引，讓系統即時檢索相似學員的訓練歷程。

做法：將 1.2 萬筆會員訓練紀錄與備註向量化入庫，檢索延遲從 6 分鐘降至 3 秒內。
做法：以相似學員案例推薦課程組合，三個月內續約率由 52% 提升至 67%。
做法：自架於既有伺服器，月均資料庫成本控制在 800 元以內，較雲端方案省下約 45%。
做法：教練查詢工時每週減少 9 小時，等同釋出 1.5 名人力投入新客開發。

小技巧

用 Chroma 本機模式先跑 persist_directory，省去雲端設定。
在 Pinecone 建索引時，維度須對齊 OpenAI text-embedding-3-small 的 1536。
請 Claude 生成 metadata 過濾範例，先縮小檢索範圍再查向量。
用 Notion 表格記錄每批 embedding 的模型與切塊參數，方便回溯。

練習題

了解向量資料庫

選擇合適的方案

本節摘要

向量資料庫：Pinecone、Weaviate、Milvus、Chroma
依性能、擴展、成本選擇
初學者用 Chroma

31.6 模型微調

為什麼學_this？

微調讓模型更適合特定任務。

核心教學

什麼是微調（Fine-tuning）？

微調是在預訓練模型基礎上，用特定數據進一步訓練，讓模型更適合特定領域或任務。

微調 vs RAG：

維度	RAG	微調
更新	即時	需重新訓練
成本	低	高
風格	無特別	可定制
知識	外部	內部
適合	知識更新	風格/行為

微調的方法：

LoRA：低成本微調
QLoRA：更低成本
全參數微調：高成本

商業範例

一家擁有 120 間門市的連鎖健身品牌，過去客服人員流動率高，新進員工訓練需兩週，回覆會員諮詢的語氣與準確度參差不齊，導致續約率長期低於 65%。

做法：以 LoRA 微調模型學習資深客服的應對風格與話術，訓練資料僅需 3,000 組對話。結果：新進人員上線訓練期由 14 天縮短至 4 天。
做法：將微調模型部署為即時回覆建議系統，輔助一線人員應對會員諮詢。結果：首次回覆準確率由 72% 提升至 93%。
做法：以微調模型統一品牌語氣，取代人工逐字審稿。結果：每月客服稽核人力成本降低約 40%。
做法：持續以會員續約回饋資料迭代模型。結果：六個月內會員續約率由 65% 提升至 78%。

小技巧

用 ChatGPT 微調前，先以 RAG 掛載最新文件驗證答案缺口。
在 Claude 貼 20 組風格範例，提示「模仿此語氣改寫」再決定是否微調。
知識每週更新就別微調，改用 Notion 同步向量庫。
微調資料整理用 Zapier 自動抓取客服對話成 JSONL。

練習題

了解微調和 RAG 的差異

選擇合適方法

本節摘要

微調定制模型行為
RAG 更新知識
微調成本高，偏好定制風格

31.7 開發框架

為什麼學_this？

框架加速 LLM 開發。

核心教學

主流 LLM 開發框架：

LangChain

最流行
功能全
工具豐富

LlamaIndex

專注 RAG
數據索引
檢索優化

LangGraph

複雜工作流
狀態管理
多 Agent

OpenAI SDK

官方
簡單
現代

框架選擇：

RAG → LlamaIndex
複雜工作流 → LangGraph
通用 → LangChain
簡單 → OpenAI SDK

商業範例

一家連鎖健身中心擁有 12 間分店、約 4 萬名會員，客服團隊每天要回覆上千則關於課程預約、會籍方案與教練媒合的詢問，人力長期吃緊且回覆品質不一。

該公司改用 LangChain 打造客服 Agent，整合內部知識庫與預約系統，讓常見問題自動化處理。

建立對話 Agent：接手 7 成常見詢問，客服人力需求降低 35%。
串接課程與會籍資料庫：查詢回覆時間從 5 分鐘縮短至 20 秒。
整合預約工具：學員自助完成 6 成課程異動，櫃檯負擔明顯減輕。
快速迭代開發：新功能上線週期從 3 週壓縮至 4 天。

小技巧

開發框架選擇的實操貼士：

先用 LangChain 跑通最小可行流程，確認鏈路無誤再擴充。
用 ChatGPT 生成樣板程式碼時，prompt 寫「用 LangChain 0.2 寫 RAG 檢索鏈，附註解」。
把 Claude 當除錯助手，貼上報錯訊息並問「這段 traceback 的根因是什麼」。
在 Notion 建框架對照表，記錄 LangChain、LlamaIndex、Haystack 的適用場景。
用 Zapier 串接 API 測試，先驗證外部服務再寫進框架。

練習題

了解 LLM 框架

選擇合適的

本節摘要

框架：LangChain、LlamaIndex、LangGraph、OpenAI SDK
RAG 用 LlamaIndex
通用用 LangChain

31.8 開發實戰

為什麼學_this？

動手實戰是最好的學習。

核心教學

開發一個簡單 LLM 應用：

Step 1：設定環境

import openai

openai.api_key = "YOUR_KEY"

Step 2：基本對話

response = openai.ChatCompletion.create(

model="gpt-4",

messages=[{"role":"user","content":"你好"}]

)

print(response.choices[0].message.content)

Step 3：添加提示

messages = [

{"role":"system","content":"你是客服專家"},

{"role":"user","content": customer_question}

]

Step 4：處理輸出

解析結果
格式處理
錯誤處理

商業範例

一家連鎖健身房有 12 間分店，教練每天花大量時間回覆學員重複的課程與收費問題，導致續約率下滑。管理層想導入 AI 卻擔心成本與技術門檻過高。

做法：以 25 行程式碼串接 LLM 與內部課程資料庫，建置自動問答機器人，回覆準確率達 92%。
做法：將機器人嵌入官方 LINE 帳號，上線僅 3 天即分擔 68% 的客服訊息量。
做法：設定續約提醒與個人化推薦，三個月內續約率提升 11%。
做法：每月節省約 40 小時人力，相當於釋出半名正職員工的工時。

小技巧

開發實戰小技巧

先用 ChatGPT 跑通單一功能，再逐步加入檢索、記憶與工具調用。
把需求拆成 prompt 步驟，例如先「列出 API 欄位」再「生成呼叫程式碼」。
用 Claude 審查程式碼，prompt 寫「指出邊界條件與錯誤處理缺漏」。
把測試案例與錯誤訊息貼進 ChatGPT，請它輸出修正後的函式。
用 Zapier 串接 Notion 記錄每次實驗的 prompt 與輸出結果。

練習題

開發一個簡單 LLM 應用

添加提示工程

本節摘要

開發：設定 → 對話 → 提示 → 處理
從簡單開始
快速上線

31.9 安全性開發

為什麼學_this？

開發時就要考慮安全。

核心教學

LLM 開發的安全考量：

輸入驗證

過濾惡意輸入
檢查提示注入
白名單

權限控制

最小權限
API 金鑰管理
存取控制

輸出過濾

檢查輸出
敏感資訊過濾
內容安全

審計追蹤

記錄請求
記錄回應
異常追蹤

安全最佳實踐：

API 金鑰保密

最小權限

輸入/輸出過濾

監控審計

定期安全測試

商業範例

一家有 12 間分店的連鎖健身中心，導入 AI 客服處理會員請假與課程查詢，卻因開發環境誤用正式 API 金鑰，導致每月數千筆對話紀錄外洩風險，並遭競爭對手爬取定價策略。

金鑰分環境隔離：正式與測試金鑰分開存放，外洩事件歸零，資安稽核缺失由 8 項降至 1 項。
最小權限控管：客服系統僅能讀取會員姓名與課程，無法觸及付款資料，個資外洩風險降低 90%。
輸入過濾機制：攔阻提示注入與惡意指令，每月阻擋約 350 筆異常請求，客服誤答率由 6% 降至 0.8%。
即時監控告警：異常呼叫 5 分鐘內通報，平均事件回應時間從 4 小時縮短至 20 分鐘。

小技巧

用 ChatGPT 逐條審查程式碼，prompt 寫「找出此段可能的注入與越權風險，列出修正建議」。
敏感金鑰交由 Zapier 或環境變數管理，勿寫進 prompt 或提交至 Git。
在 Claude 貼上輸入驗證規則，請它產生邊界測試案例並補齊檢查。
用 Notion 建立安全檢查清單，每次合併前逐項勾選確認。

練習題

了解 LLM 開發安全

設計安全措施

本節摘要

安全：輸入驗證、權限、輸出過濾、審計
開發時就考慮
最小權限

31.10 部署

為什麼學_this？

部署讓 LLM 應用上線。

核心教學

LLM 應用的部署：

雲端部署

AWS、Azure、GCP
可擴展
成本高

無伺服器

Vercel、Lambda
按用量付費
簡單

本地部署

私有數據
成本可控
維護

混合部署

平衡
靈活
複雜

部署考量：

成本
延遲
隱私
擴展性
維護

商業範例

一間擁有 12 間分店的中型連鎖健身中心，長期面臨會員詢問課程與教練檔期時，客服僅在營業時間內回覆，夜間與假日流失大量潛在報名。導入 LLM 客服 Agent 後，改以雲端部署並按用量付費，尖峰時段自動擴展。

做法：Agent 全天候接手課程與教練查詢。結果：夜間詢問回覆率由 0% 提升至 95%，每月多留住約 180 筆報名。
做法：雲端按用量付費，淡旺季彈性調整。結果：客服基礎設施成本較自建伺服器降低 42%。
做法：自動分流複雜客訴至真人。結果：真人客服處理量減少 60%，平均回應時間從 8 小時縮短至 15 分鐘。

小技巧

先用 Vercel 或 Railway 免費方案部署 FastAPI 服務，驗證流程再升級。
用 Docker 打包環境，避免雲端與本機的套件版本落差。
設定 .env 管理金鑰，切勿把 API Key 寫進程式碼或 Git。
接入 UptimeRobot 監控端點，逾時即寄信通知你。

練習題

設計部署方案

選擇部署方式

本節摘要

部署：雲端、無伺服器、本地、混合
考慮成本、延遲、隱私
從雲端開始

31.11 監控與優化

為什麼學_this？

持續監控確保品質。

核心教學

LLM 應用的監控指標：

品質指標

準確率
相關性
用戶滿意度

性能指標

回應時間
吞吐量
錯誤率

成本指標

API 費用
Token 用量
單位成本

安全指標

攻擊嘗試
異常行為
洩露事件

監控工具：

LangSmith
Langfuse
自訂儀表板

商業範例

一家連鎖健身中心擁有 12 間分店，過去會員續約提醒全靠人工電訪，教練常忙於現場帶課而漏追，導致每月平均流失近 200 名會員，續約率僅 62%。導入 LLM 客服 Agent 後，系統自動判斷會員出席頻率與合約到期日，主動發送個人化關懷訊息，並轉介高風險會員給專屬教練跟進。

做法：以出席率低於 40% 作為預警門檻，自動觸發關懷訊息。結果：高風險會員流失率由 28% 降至 11%。
做法：依合約到期日提前 14 天發送續約提醒與優惠方案。結果：續約率從 62% 提升至 79%，月增約 150 筆續約。
做法：監控 Agent 回應準確率與轉接率，每週人工抽查 100 則對話。結果：準確率維持 94%，誤轉真人比例低於 6%。
做法：追蹤每月 API 與人力成本。結果：月成本控制在 320 美元，較原電訪人力節省約 65%。

小技巧

用 Zapier 把 API 延遲與錯誤率自動推送至 Slack，超閾值即時告警。
在 LangSmith 追蹤每筆請求的 token 數與成本，按日彙總找出高耗能 prompt。
用 ChatGPT 產生評測 prompt：「請以 JSON 輸出此回答的事實錯誤與幻覺風險分數」，批次抽查。
把安全過濾規則寫進 Notion 表格，每週由 Claude 審查新樣本並標記漏網案例。
用 Canva 製作監控儀表板模板，固定每週同步品質、性能、成本、安全四項指標。

練習題

建立監控指標

設計監控系統

本節摘要

監控：品質、性能、成本、安全
用 LangSmith / Langfuse
持續優化

31.12 企業 LLM 應用案例

為什麼學_this？

參考案例能幫助落地。

核心教學

企業 LLM 應用案例：

案例 1：客服機器人

一家電商公司
LLM + RAG 客服
80% 自動處理
準確率 95%

案例 2：內部知識助手

一家諮詢公司
企業知識庫
員工問答
查找快 5 倍

案例 3：自動化文檔

一家製造企業
自動生成報告
精簡文檔
效率提升 10 倍

商業範例

一家年營收約新台幣三億元、擁有十二間門市的中型連鎖健身品牌，長期面臨教練流動率高、會員續約率僅五成出頭的問題。客服每天要回覆上百則關於課程安排與合約條款的詢問，教練也被行政雜務綁住，難以專注帶課與銷售。

做法：導入 LLM 客服助理，自動回覆課程、合約與請假問題，結果：客服人力需求降低四成，首次回覆時間從平均六小時縮短至五分鐘。
做法：以 LLM 彙整會員運動紀錄與到訪頻率，產生個人化續約建議，結果：續約率由百分之五十二提升至百分之六十八。
做法：讓 LLM 自動生成教練課後關懷訊息與訓練調整方案，結果：教練行政時間每週減少約六小時，可多接洽十五位潛在學員。

小技巧

先用 ChatGPT 把案例拆成「輸入、處理、輸出」三步，再對照自家流程找缺口。
在 Claude 貼上自家 SOP 與案例，請它列出可套用與不可套用的環節。
用 Notion 建案例對照表，欄位設痛點、工具、預期效益，逐條填寫。
以 Zapier 串接表單與模型 API，先做單一步驟的最小可行流程再擴充。
Prompt 加上「請用我們的行業術語重寫，並標出需要人工複核處」。

練習題

研究 2 個企業 LLM 案例

找出可借鑒做法

本節摘要

案例：客服、知識助手、文檔自動化
從高價值場景開始
證明 ROI

常見錯誤一開始就想微調自己的模型

正確做法先用 prompt + RAG 達到 80 分；微調係最後手段（數據需求大、成本高、迭代慢）

常見錯誤無評估基準就上線

正確做法先取 30-50 條真實案例做測試集，每次改動都跑一次評分

常見錯誤忽略 fallback：AI 出錯時用戶看到什麼？

正確做法信心分數低時轉人工，是最簡單可靠的護欄

本章檢查清單

我知 LLM 落地的正確次序：prompt → RAG → 微調
我會為任何 AI 功能準備評估測試集
我知 fallback 轉人工是必須品不是選配

31.13 課程總結

課程總結

概述：LLM 開發 = 提示 + 調用

API 基礎：調用模型

提示工程：決定品質

RAG 系統：基於知識回答

向量資料庫：RAG 核心

模型微調：定制行為

框架：LangChain、LlamaIndex

開發實戰：從簡單開始

安全性開發：開發時考慮

部署：上線

監控優化：持續改進

案例：高價值場景

下一步學習

C-21 AI Agent 原理與應用：進階
C-14 AI 工作流程自動化：應用
C-29 AI 資安風險與防護：安全

目錄

課程簡介

31.1 LLM 開發概述

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.2 API 基礎

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

第一個 API 調用：10 分鐘 Hello LLM

31.3 提示工程

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.4 RAG 系統

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

寵物用品批發商的 RAG 應用

31.5 向量資料庫

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.6 模型微調

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.7 開發框架

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.8 開發實戰

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.9 安全性開發

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.10 部署

為什麼學_this？

核心教學

商業範例

小技巧

練習題

本節摘要

31.11 監控與優化

為什麼學_this？

核心教學

商業範例

小技巧