數位、人工智慧與新興運算架構
Digital, AI and Emerging Computing Architecture
| 節 | 週五 |
|---|---|
B 19:30–20:20 | 數位、人工智慧與新興運算架構 ED116 |
* 根據陽明交大上課時間表所列
隨著半導體科技的飛速成長,IC運算平台呈現多元的風貌 : 從 Bit 為主導的數位運算,進入Neurons 所啟發的AI人工智慧運算,並有新興的運算架構蓄勢待發,像是Qubit 主導的量子 計算,Blockchain區塊鏈所帶來的分散式計算,與存算融合的非馮紐曼架構運算。本課程預計用八周的週五晚間課程,讓學生對 Digital、 AI 與新興運算架構 (包含量子運算、區塊鏈分散式計算),與半導體IC產業發展分析,做鳥瞰式的介紹。 在Bit為主導的數位運算,將探討IC半導體的進展,如何推動運算與通訊的興起,並帶動資訊科技飛速成長,探討IC運算架構如何影響智慧型手機、5G/6G通訊、衛星通訊、超級電腦運算發展、AR/VR虛擬實境與Metaverse等領域的進展。 在 Neurons 所啟發的人工智慧運算上,從AI模型的演進,與現今的AI運算架構,討論AI的關鍵進展,並啟動Generative AI 的全新發展。在AI運算架構上,有耗電高達兩、三千萬瓦的超級電腦,也有小到耗電僅數毫瓦的邊緣運算AI加速器,介紹不同的運算架構與設計考量,與能源效益的重要性。此外,隨著 Large-Scale Model 的出現, AI神經網路的參數規模,已經由千萬等級的Alexnet (60Mn) ,進展到OpenAI GPT-3 (175Bn)的千億等級,可能朝向百兆參數的 Brain-scale AI model前進。在短短數年內,訓練AI模型的算力成長,高於IC摩爾定律萬倍以上,龐大算力與巨量資料,帶來全新的難題。除了帶來更多的半導體需求,也激發了更多具有創意的設計。也因此,在計算架構發展數十年後,有人說現今是 "A New Golden Age for Computer Architecture”,更可以說是 "A New Golden Age for AI and IC” 此外,新興的運算架構也令人矚目。其中最為積極的是Qubit主導的量子計算,雖仍在探索階段,但近年發展迅速。透過量子糾纏,量子演算法具有遠超傳統架構的計算潛力。目前已有相當多的量子運算架構研發中,包含超導體量子、離子陷阱、冷原子、光量子等等。目前已有 433qubit量子電腦,且有數個計劃將在十年內推進到百萬量子位元,甚至有機會破解現有密碼系統。量子電腦也非僅有物理元件,也需要IC 進行輔助控制,並開始出現計算架構的 Hardware/Software Stack,朝向成熟應用發展,值得關注。也將提及量子通訊與量子衛星的發展。而除此之外,像是Blockchain區塊鏈所帶來的分散式計算,也都值得關注。 本課程也將介紹世界半導體產業的現況與展望。瞭解構成現今科技基礎的半導體IC運算科技,是如何演進,並形成全世界的生態體系,成為人類科技文明的重要基石。並探討運算科技與半導體產業如何互相影響而進展,以及對未來的演變的探討。 數位運算、人工智慧與新興運算架構(量子運算、區塊鏈分散式計算) ,各種運算模式並非互相取代,而是各擅勝場,相輔相成,勾勒未來運算風貌。而IC半導體,也將持續成為驅動各種運算平台的重要核心技術。目前正值多元運算架構的興起與融合的萌芽期,對技術內涵深入了解,將有助於掌握未來科技發展的潮流。 本課程的目標在於讓修課同學: -瞭解並研究Digital, AI 與新興運算架構 (量子運算、區塊鏈分散式計算)與世界最新進展 -瞭解並研究 IC 半導體如何應用在Digital, AI 與新興運算架構 -瞭解並研究運算架構如何應用並影響資訊科技以及IC半導體產業進展 -讓修課同學發掘整合應用的機會,激發學習興趣與研究方向
無絕對必需先修科目要求,但建議具基本Computer Architecture 與 AI背景知識者為佳。
原則上: 隔週周五上課,每次兩節課,19:30-21:20 第一次上課時間2024年3月1日(五)19:30 上課日為 3/1, 3/15, 3/29, 4/12, 4/26, 5/10, 5/7, 5/31, 6/7
作業 30% 期末專題報告 60% 出席與表現 10%
- 數位運算架構
- AI 運算架構
- 新興運算架構
- 產業分析
- 期末專題報告
| 週次 | 主題 |
|---|---|
| 第 1 週 | (自主學習) |
| 第 2 週 | █ 數位運算架構 (D1) - IC半導體技術演變 - CPU, GPU 運算架構演變 - 智慧型手機架構 - 超級電腦演進與分析 |
| 第 3 週 | (自主學習) |
| 第 4 週 | █ 數位運算架構 (D2) - 5G/6G通訊 - 衛星通訊, 新太空經濟 - AR/VR/Metaverse - (optional: Blockchain) |
| 第 5 週 | (自主學習) |
| 第 6 週 | █ AI 運算架構 (A1) - ANN/SNN - Three Computing Era - Scaling Law and Emergent ability - Foundation model - LLM (Large Language Model) - LMM ( Large Multimodal model) |
| 第 7 週 | (自主學習) |
| 第 8 週 | █ AI 運算架構 (A2) - AI Computing Architecture - CPU, GPU, TPU - Scale-up and Scale-out - Case study |
| 第 9 週 | (自主學習) |
| 第 10 週 | █ 新興運算架構 (Quantum Computing) (Q1) - Quantum Computing Basic - Quantum Gate - Quantum modality (Superconductor, Ion-Trap..) - Quantum computing architecture - Error suppression, Error-correction |
| 第 11 週 | (自主學習) |
| 第 12 週 | █ 新興運算架構 (Quantum Computing) (Q2) - NISQ, Fault tolerance Quantum Computer - Quantum communication, QKD, - Quantum satellite █ 產業分析 (E1) - 世界 IC 半導體產業分析與展望 - 台灣 IC 設計產業分析 |
| 第 13 週 | ● 期末專題報告 (P1) |
| 第 14 週 | (自主學習) |
| 第 15 週 | ● 期末專題報告 (P2) |
| 第 16 週 | ● 期末專題報告 (P3) |
以教師自編講義為主