生成式人工智慧概論
Introduction to Generative Artificial Intelligence
| 節 | 週二 |
|---|---|
5 13:20–14:10 | 生成式人工智慧概論 EO105 3 節連堂 |
6 14:20–15:10 | |
7 15:30–16:20 |
* 根據陽明交大上課時間表所列
本課程以大型語言模型（LLM）與生成式 AI 應用系統為核心，系統性介紹 Transformer、Prompt 設計與 structured outputs、工具/函式呼叫、context engineering（RAG、hybrid search、reranking、long context 與 context caching）、PEFT/LoRA、多模態理解與生成、agent workflows、evaluation、部署、安全/隱私/法遵，以及智慧醫療與跨域案例。課程強調「系統工程」與「可驗證評估」，期末以專題方式完成一個可展示、可評估、可說明風險的生成式 AI 系統。 本課程主要目標： 1. 理解生成式 AI 的核心概念與發展脈絡（Transformer/LLM、多模態、agents）。 2. 具備建構 LLM 應用系統的能力（prompt、structured outputs、tool use、context engineering、微調、部署）。 3. 掌握模型可靠性與品質評估（事實性、引用、幻覺、成本、延遲）及安全/隱私/法遵議題。 4. 以專題形式完成需求定義、資料治理、系統實作、測試、報告與展示之全流程。 This course covers generative AI from both model and system perspectives, including LLMs, multimodal models, tool use, context engineering, agents, evaluation, deployment, and governance.
1) 已修過計算機概論，具備 Python 程式設計與基本資料處理能力。 2) 熟悉線性代數、機率統計與 API 使用觀念尤佳。
• 講授＋案例解析＋上機實作（Google Colab/本機環境/API 或本地模型）。 • 作業需附 prompt log、模型/版本、測試資料與失敗案例分析。 • 論文導讀與課堂討論；研究所修課者需至少一次帶領文獻導讀或技術分享。 • 期末以小組專題完成一個可展示、可評估、可揭露風險的生成式 AI 系統。 • 允許使用生成式 AI 輔助完成作業，但必須揭露使用內容（模型/版本、prompt、產出與人工修訂），並遵守學術倫理。 • 請自備可上網之筆電；若需 GPU，將提供可用之雲端或校內算力資源（依課程公告）。
小考/閱讀測驗：10% 作業（含程式作業、短報告與評估紀錄）：30% 期中評量（測驗或專題提案簡報）：20% 期末專題（demo、評估報告、書面報告與發表）：40%
| 週次 | 主題 |
|---|---|
| 第 1 週 | 課程導論：生成式 AI 版圖、工具鏈與負責任使用 |
| 第 2 週 | Transformer 與 LLM 基礎：tokenization、embedding、attention、context window |
| 第 3 週 | Prompt Engineering I：指令設計、Few-shot、structured outputs |
| 第 4 週 | Tool Use 與應用系統設計：function calling、tool orchestration、MCP 概念 |
| 第 5 週 | Context Engineering I：embeddings、chunking、vector DB |
| 第 6 週 | Context Engineering II：hybrid search、reranking、citation |
| 第 7 週 | Long context 與 context caching：何時不用 RAG |
| 第 8 週 | 期中評量／專題提案簡報 |
| 第 9 週 | 微調與模型客製化：資料集建構、PEFT/LoRA |
| 第 10 週 | 多模態理解與生成：VLM、文件理解、圖文/語音概論 |
| 第 11 週 | Agents：規劃、記憶、工具編排與 guardrails |
| 第 12 週 | Evaluation：prompt、RAG 與 agent 的系統化評估 |
| 第 13 週 | 部署與 MLOps：效能、成本、監控、版本治理 |
| 第 14 週 | 安全、隱私與法遵：prompt injection、個資、著作權、醫療風險 |
| 第 15 週 | 專題衝刺：整合、測試與彩排 |
| 第 16 週 | 期末專題發表 |
指定論文：Attention Is All You Need、InstructGPT、Retrieval-Augmented Generation、ReAct、LoRA、Direct Preference Optimization，以及多模態、agent、evaluation 與安全治理代表作（課程中提供連結）。
- 時間
- 請來信與我或助教約時間 Please make an appointment with me or TAs via email.