RISC-V人工智慧運算架構與系統(二)
RISCV AI Computing Architecture and System II
| 節 | 週一 |
|---|---|
7 15:30–16:20 | RISC-V人工智慧運算架構與系統(二) EC329 2 節連堂 |
8 16:30–17:20 |
* 根據陽明交大上課時間表所列
課程概述與目標: 這門課是作為人工智慧加速晶片設計介紹的入門課程, 我們設定給必須 具有基本 C or C++ programming 能力的同學來選修,同時希望同學 在上課之前要有一些基本的數位設計邏輯概念,尤其以修過基礎計算 機組織理論為佳。這門課跟其他系統相關課程的不同之處如下: 1. 著重於介紹人工智慧加速晶片設計的基本開發流程與實 作 2. 著重於軟硬體協同設計的概念 3. 著重於理解通用型(general-purpose) 跟客製化(domain- specific) 設計上的差別 4. 著重於介紹如何用軟體模擬硬體設計的方法 人工智慧加速晶片在過去幾年快速蓬勃地發展,有別於傳統晶片設 計,人工智慧晶片的開發並沒有一定的標準架構,不同人工智慧應用 領域所需要的人工智慧晶片也有所不同,並沒有一個通用型的人工智 慧晶片能滿足所有應用的要求。這門課目的在引領你知道學習人工智 慧晶片設計的基礎必備知識,了解晶片設計在人工智慧應用上所需考 量的議題,如果你修完這門課能了解到自己的興趣所在,本課程分為 (一)(二) 兩門各兩學分的課程,搭配四個 Lab 實作主題,每一個主 題有 3 個 Lab,能協助你強化自己的背景知識與專業技能,做好投入 職場或是高等教育的準備。這門課的實作部分會花費很多的時間,如 果同學能完成這門課的所有實作作業與專題,我預期同學在申請 Internship 或是相關研究所領域時,會因為這門課打下很好的基礎。
Logic design, computer organization, C++ programming, 人工智慧運算架構與系統 (ㄧ)
2.教學方法及教學相關配合事項(如助教、網站或圖書及資料庫等): 本課程以系統實作為主軸,融合軟體硬體系統垂直整合與協同設計。採線上同步與非同步混合教學 期末上機考,學生需自備筆電 1. 第一堂課請務必來實體課堂上課,你才能開設所有修課需要的帳號, 想加退 選的同學只有在第一堂課時來實體教室加簽,你才能選修這堂課 由於本課程同步在清華大學跟陽明交通大學開設,第一堂課老師會在清華大學做AIAS II 兩門課的課程說明。 3:30pm - 5:00pm Course Overview 2/17實體上課教室在清華大學炯朗館208教室 如果你想看到老師本人或加簽,請到實體場地 選課須知 請參考 [給想選修Playlab 課程的同學的一封信 Spring, 2025](https://course.playlab.tw/md/ud82bIzlQk-vRcJhzRX43A?view)
Labs/Homeworks 70% class participation 10% 上機考20%
| 週次 | 主題 |
|---|---|
| 第 1 週 | * Lab 11 - Bus Protocol and DMA Design |
| 第 2 週 | * SIMD instruction design * Parallel computing |
| 第 3 週 | * Memory-Mapped Accelerator Design * Systolic-Array-Based accelerator |
| 第 4 週 | * Lab 13 - SIMD Instruction Design and Acceleration |
| 第 5 週 | * CFU playground |
| 第 6 週 | * Lab 14 - Memory-Mapped Systolic Accelerator Design |
| 第 7 週 | * matrix multiplication optimization |
| 第 8 週 | * paper discussion |
| 第 9 週 | * Challenges in large-scale AI computing system modeling * NVSim System Performance Modeling Overview |
| 第 10 週 | * ACAL 2024 Curriculum Lab 3 LLM Workload analysis * Introduction to LLM |
| 第 11 週 | * Roofline model analysis * paper discussion |
| 第 12 週 | * ACAL Fall 2024 LAB 21 AI Graph Transformation and Optimization |
| 第 13 週 | * AI graph representation * Kernel Fusion and optimization |
| 第 14 週 | ACAL 2024 Curriculum Lab 22 AI Graph Scheduling and Memory Management |
| 第 15 週 | * AI computing optimization * paper discussion |
| 第 16 週 | * 上機考 |