自然語言處理
Natural Language Processing
學期
114-1
學分
3
學分
當期課號
539100
永久課號
IIAI30012
開課單位
智能系統研究所
授課教師
李龍豪
校區
光復
類別
選修
上課時間表
| 節 | 週四 |
|---|---|
5 13:20–14:10 | 自然語言處理 A212 3 節連堂 |
6 14:20–15:10 | |
7 15:30–16:20 |
* 根據陽明交大上課時間表所列
概述
自然語言處理是人工智慧和語言學的跨領域學科,探討如何運用電腦對語言文字的字詞、片語、詞組、句子、篇章、段落、全文等不同建構區塊的語言資訊處理、分析、生成、理解與應用。本課程會介紹語言處理的不同面向,包含詞性標記、句法剖析、詞義消歧、語意角色標記、統計推論、語言模型等基礎議題與核心技術,以及機器翻譯、問答系統、文章摘要、情緒分析、意見探勘等相關應用。另外,本課程會選定中文語言處理專題實作,適合有機器學習與深度學習背景知識,且具備Python程式設計能力的同學修習。
先修科目
修過或正修習 (1) 機器學習 及 (2) 深度學習課程,需具備Python程式設計能力, 本課程期末有中文語言處理專題實作。
教學方式
本課程前半以講授自然語言處理基礎議題與核心技術等應具備的知識為主,後半著重於自然語言處理衍生應用的論文閱讀研討,了解最新的研究發展,以及選定專題的語言處理模型實作,培養同學基礎研究與系統開發能力。修習完本課程的同學應具備以下的能力: (1) 了解自然語言處理相關的議題與技術 (2) 可自行研讀與自然語言處理相關的論文 (3) 可以用程式處理文本資料並開發應用系統
評分方式
自選論文書面報告 (20%) 指定論文口頭報告 (30%) 期末專題實作與報告 (50%)
週次計畫
| 週次 | 主題 |
|---|---|
| 第 1 週 | 自然語言處理概要 Natural Language Processing (NLP) Overview |
| 第 2 週 | 自然語言處理基礎任務 (I) NLP Fundamental Tasks (I) |
| 第 3 週 | 自然語言處理基礎任務 (II) NLP Fundamental Tasks (II) |
| 第 4 週 | 統計語言模型 Statistical Language Models |
| 第 5 週 | 嵌入向量表達 Embedding Representation |
| 第 6 週 | 神經語言模型 Neural Language Models |
| 第 7 週 | 預訓練語言模型 Pre-trained Language Models |
| 第 8 週 | 大語言模型 Large Language Models |
| 第 9 週 | 自選論文報告 (I) Selected Paper Presentation (I) |
| 第 10 週 | 自選論文報告 (II) Selected Paper Presentation (II) |
| 第 11 週 | 自選論文報告 (III) Selected Paper Presentation (III) |
| 第 12 週 | 專題進度報告 Project Progress Report |
| 第 13 週 | 專題論文報告 (I) Project Paper Presentation (I) |
| 第 14 週 | 專題論文報告 (II) Project Paper Presentation (II) |
| 第 15 週 | 專題論文報告 (III) Project Paper Presentation (III) |
| 第 16 週 | 專題成果發表 Term Project Presentation |
教科書
1. Dan Jurafsky and James H. Martin. Speech and Language Processing. 3rd edition (Jan. 12, 2025 draft). https://web.stanford.edu/~jurafsky/slp3/ 2. 指定論文
Office Hours
- 地點
- In-person or online
- 時間
- 事先約定時間
- 聯絡方式
- By Email: lhlee@nycu.edu.tw