RISC-V人工智慧運算架構與系統(二)
RISCV AI Computing Architecture and System II
| 節 | 週一 |
|---|---|
7 15:30–16:20 | RISC-V人工智慧運算架構與系統(二) ED301 2 節連堂 |
8 16:30–17:20 |
* 根據陽明交大上課時間表所列
High-Performance Computing (HPC) 產業因為半導體產業的相關先進技術進步,所設計的晶片越來越複雜,對於一個想跨入這個產 業的學習者,會面臨很多的困難,台灣由於半導體產業蓬勃發展,在晶片設計的後段設計生產製造方面,多年來培育了非常多不同領域的人才,但是 在前段晶片設計與軟硬體系統整合發展上,一直比較受限,台灣產業的屬性與學校教育的環境在HPC這個領域並未開展開來,而HPC 晶片的開發 因為複雜度相對於Edge Computing 晶片的複雜度高,需要很多新的設計概念與方法,以及具備更多垂直整合系統設計的要求,為了因應在人 才培育上,HPC 的發展需要新的課程與方法,ACAL 準備了一系列的課程,希望能協助想進入HPC 前段設計的學習者,了解這個領域的基本技能 需求,並建立一個共學的環境,讓對這個領域有熱情的同好,能有一個共同學習與做研究的平台。
RISC-V人工智慧運算架構與系統d(ㄧ)
● 想修課同學的注意事項 本學期課程網站 (https://www.playlab.tw/courses/2026_spring/NYCU_AIAS_II_spring_2026.html) 給想選修Playlab 課程的同學的一封信 Spring 2026 (https://course.playlab.tw/md/kxffe5FiSAuAw6tyv-QVFw?view) 1. 第一堂課請務必來實體課堂上課,你才能開設所有修課需要的帳號, 想加簽的同學只有在第一堂課時來實體教室加 簽,你才能選修這堂課 由於本課程同步在清華大學跟陽明交通大學開設,第一堂課老師會分兩梯次在交通大學跟清華大學實體教室,做AIAS I/II 兩門課程說明,清大會同步線上說明。 1:20pm - 2:50pm Course Overview 清大 炯朗館208 3:30pm - 5:00pm Course Overview 清大 炯朗館208 2. 期末你要有筆記型電腦來參加上機考 ● 課程說明(Course Description) ● 指定用書(Text Books) N/A ● 參考書籍(References) N/A ● 教學方式(Teaching Method) ● 教學進度(Syllabus) ● 成績考核(Evaluation) 以上三項請參考給想選修Playlab 課程 的同學的一 封信 Spring 2026 ● 採用下列何項 AI 使用規則 (Indicate which of the following options you use to manage student use of the AI) 本課程允許學生使用AI 工具協助各項學習活動,但在每一份繳交的作業上,我們都請同學簽署一份原創性說明,說明AI 的使用場景與實際產出哪部分是原創 原創性聲明 我聲明本次繳交為我本人的作品。除非另有標註,所有程式碼均由我本人撰寫。所使用的任何外部資源、參考文獻或 AI 工具列於下方。 使用的外部資源: (列出你查閱的任何參考文獻、教學、文件或教科書) (例如「PyTorch C++ API 文件:https://pytorch.org/cppdocs/」) 使用的 AI 工具(如有): (列出使用的任何 AI 助手,並具體描述如何使用) (例如「使用 ChatGPT 除錯 CMake 配置錯誤」) 合作情形: (列出你與之討論作業的同學,並描述討論的內容) (例如「與某某討論了 Conv2d 的輸出形狀公式」) 簽名: (你的姓名) 日期: (日期)
| 週次 | 主題 |
|---|---|
| 第 1 週 | SoC 匯流排協定與 AXI-Lite 設計 |
| 第 2 週 | DMA 引擎與 SoC 整合 |
| 第 3 週 | 推論堆疊概覽 |
| 第 4 週 | 線性層與 MatMul |
| 第 5 週 | Attention 機制 |
| 第 6 週 | Softmax、正規化、啟動函數與 Embedding |
| 第 7 週 | 平行計算基礎(Amdahl 定律) |
| 第 8 週 | 量化與混合精度基礎 |
| 第 9 週 | AIAS II Common Section Review |
| 第 10 週 | arch-軟體 Tiling 與迴圈最佳化 hw-用於 AI 計算的 SIMD 指令集擴充 sw-DNN 計算圖最佳化 |
| 第 11 週 | arch-執行模型與並行模型 hw-使用 SIMD 加速 AI 運算子 sw-GPU Kernel 程式設計與分塊策略 |
| 第 12 週 | arch-平行架構設計 hw-權重駐留式 Systolic Array sw-運算子融合與 FlashAttention |
| 第 13 週 | arch-同步機制與記憶體一致性 hw-記憶體映射 AI 加速器系統 sw-成本建模與記憶體管理 |
| 第 14 週 | arch-AI 工作負載的平行策略 hw-MAC 設計與 Systolic Array sw-計算圖排程與多 PE 分配 |
| 第 15 週 | arch-運算子融合與 FlashAttention hw-數值硬體與量化實作 sw-GPU 模擬與 LLM 部署 |
| 第 16 週 | Final Exam/Bonus |