可信任人工智慧
Trustworthy AI
| 節 | 週四 |
|---|---|
5 13:20–14:10 | 可信任人工智慧 EE208 3 節連堂 |
6 14:20–15:10 | |
7 15:30–16:20 |
* 根據陽明交大上課時間表所列
可信任人工智慧涵蓋範圍非常廣泛,本課程著重在人工智慧的模型安全與資料隱私等議題,其他包含公平性、可解釋性、透明性、分布偏移等主題僅在需要時提及。 本課程先修科目包含深度學習。課程設計上並非是教授深度學習,因此雖然在提及相關專有名詞時將有快速回顧,但是基本上希望同學們在上課前就能夠對一些如contrastive learning、transformer、meta-learning等 專有名詞能有基本認識。
微積分、深度學習、python程式設計 (Tensorflow/PyTorch)
無
沒有期中考、期末考。 2~4次作業:共佔60% 期末專題:佔40%
- 模型強韌性
- 模型安全
- 資料隱私
- 模型對齊
- 智財權管理
- 密碼相關技巧
| 週次 | 主題 |
|---|---|
| 第 1 週 | 可信任人工智慧概論 Overview of trustworthy AI |
| 第 2 週 | 密碼相關技巧 (如同態加密、差分隱私、零知識證明、安全多方計算等) Cryptographic techniques (e.g., homomorphic encryption, differential privacy, zero-knowledge proof, secure multiparty computation etc.) |
| 第 3 週 | 密碼相關技巧 (如同態加密、差分隱私、零知識證明、安全多方計算等) Cryptographic techniques (e.g., homomorphic encryption, differential privacy, zero-knowledge proof, secure multiparty computation etc.) |
| 第 4 週 | 密碼相關技巧 (如同態加密、差分隱私、零知識證明、安全多方計算等) Cryptographic techniques (e.g., homomorphic encryption, differential privacy, zero-knowledge proof, secure multiparty computation etc.) |
| 第 5 週 | 模型強韌性 (如對抗攻擊與防禦) Model robustness (e.g., adversarial attacks and defenses) |
| 第 6 週 | 模型強韌性 (如對抗攻擊與防禦) Model robustness (e.g., adversarial attacks and defenses) |
| 第 7 週 | 模型安全 (如後門攻擊、下毒攻擊、模型竊取等) Model security (e.g., backdoor attacks data poisoning, model stealing etc.) |
| 第 8 週 | 模型安全 (如後門攻擊、下毒攻擊、梯度洩漏等) Model security (e.g., backdoor attacks, data poisoning, model stealing etc.) |
| 第 9 週 | 期末報告題目提案 Final project proposal (by students) |
| 第 10 週 | 資料隱私 (如成員推理、屬性推理、聯邦學習等) Data privacy (membership inference, attribute inference, deep leakage of gradient etc.) |
| 第 11 週 | 資料隱私 (如成員推理、屬性推理、聯邦學習等) Data privacy (membership inference, attribute inference, deep leakage of gradient etc.) |
| 第 12 週 | 模型對齊 (如提示注入、越獄、閃避過濾等) Model alignment (e.g., prompt injection, jailbreak, safety filter evasion etc.) |
| 第 13 週 | 模型對齊 (如提示注入、越獄、閃避過濾等) Model alignment (e.g., prompt injection, jailbreak, safety filter evasion etc.) |
| 第 14 週 | 智財權管理 (如提示竊取、模型擁有權、資料智財權規避等) Intellectual property management (e.g., prompt stealing, model ownership, concept removal) |
| 第 15 週 | 智財權管理 (如提示竊取、模型擁有權、資料智財權規避等) Intellectual property management (e.g., prompt stealing, model ownership, concept removal) |
| 第 16 週 | 期末專題報告 Final project presentation (by students) |
本課程並無指定教科書,但是有多本相關參考書。 1. Kush R. Varshney. Trustworthy Machine Learning. Independently published, 2022. 2. David J. Miller, Zhen Xiang, George Kesidis. Adversarial Learning and Secure AI. Cambridge University Press, 2023. 3. Chris Ategeka. Safeguarding Humanity: A Comprehensive Guide to AI Safety. Positude Publishing, 2023. 4. Patrick Hall, James Curtis, Parul Pandey. Machine Learning for High-Risk Applications: Approaches to Responsible AI. O'Reilly Media, 2023.
- 地點
- 田家炳513
- 時間
- 每週二上午10:00~12:00
- 聯絡方式
- chiamuyu@nycu.edu.tw