MS004123-機器學習原理與應用

研究生課程開設申請表

開課院（系、所）：信息科學與工程學院

課程申請開設類型： 新開√     重開□     更名□（請在□内打勾，下同）

一、課程介紹（含教學目标、教學要求等）（300字以内）

本課程的目的在于讓學生掌握機器學習方面的基礎理論、常用算法和應用技術，建立機器學習相關的知識結構，提升利用機器學習解決實際問題的能力。本課程選取較常用的知識點予以講授，包括多個機器學習模型、模型評估方法和多個應用案例，讓學生在理解機器學習數學原理的同時，感性認識如何用機器學習算法來解決實際問題。提倡和指導學生練習機器學習算法的編程實現，培養将機器學習算法用于真實案例的經驗和技巧。本課程在傳授專業知識的同時，強調機器學習在科技、經濟、民生和軍事領域的重要意義，激發學生的家國情懷，樹立學生科技報國的理想，達到思政育人的目的。

二、教學大綱（含章節目錄）：（可附頁）

1、緒論

機器學習的常見概念、基本術語、應用背景和發展現狀等。

 2、模型評估與選擇

機器學習模型的評估和比較，即什麼樣的學習模型更好；訓練數據和測試數據的劃分、幾種常用的學習性能指标。

 3、線性模型

基于線性模型的回歸和對數幾率回歸、線性判别分析、多分類學習和類别不平衡問題。

 4、決策樹

決策樹的基本流程、基于信息增益和增益率确定各種屬性的優越性、對決策樹進行預剪枝和後剪枝以減少過拟合、連續屬性的離散化機器優越性評估、屬性值存在缺失時的優越性評估。

 5、神經網絡

神經元模型、感知機與多層網絡、基于誤差逆傳播算法的網絡訓練、全局極小問題與局部極小問題、幾種常見的神經網絡模型、深度學習概念。

 6、支持向量機

間隔與支持向量的概念、對偶問題與超平面求解、核函數與超平面求解、軟間隔與正則化、支持向量回歸。

 7、貝葉斯分類

基于風險最小化的貝葉斯決策論、極大似然估計、樸素貝葉斯分類器、EM算法。

 8、集成學習

集成學習概念、Boosting與學習器性能提升、學習器的結合策略。

 9、聚類

最常見的無監督學習-聚類、聚類性能度量、距離計算、k均值聚類與高斯混合聚類、密度聚類、層次聚類。

 10、降維與度量學習

 k近鄰學習、主成分分析與特征降維、核化線性降維。

 11、特征選擇與稀疏學習

子集搜索與評價、過濾式選擇與特征優化、嵌入式選擇與L1正則化、稀疏表示與字典學習、壓縮感知概述。

 12、計算學習理論

經驗誤差與泛化誤差、概率近似正确（PAC）、有限假設空間、假設空間的VC維。

 13、半監督學習

未标記樣本與半監督學習、生成式方法、半監督SVM、半監督聚類。

 14、概率圖模型

隐馬爾可夫模型、馬爾可夫随機場、條件随機場、學習與推斷。

三、教學周曆

注：1.以上一、二、三項内容将作為中文教學大綱，在研究生院中文網頁上公布，四、五内容将保存在研究生院。2.開課學期為：春季、秋季或春秋季。3.授課語言為：漢語、英語或雙語教學。4.适用學科範圍為：公共，一級，二級，三級。5.實踐環節為：實驗、調研、研究報告等。6.教學方式為：講課、讨論、實驗等。7.學位課程考試必須是筆試。8.課件地址指在網絡上已經有的課程課件地址。9.主講教師簡介主要為基本信息（出生年月、性别、學曆學位、專業職稱等）、研究方向、教學與科研成果，以100至500字為宜。

四、主講教師簡介：

蔣忠進，男，生于1973年9月，博士，副教授，科研方向以雷達探測為背景，基于機器學習、信号處理、圖像處理和計算電磁學等學科，從事目标檢測跟蹤與抗幹擾、基于回波信号的目标識别與抗幹擾、散射中心提取與高分辨ISAR成像、基于SAR圖像的目标檢測與識别、目标電磁散射特性與隐身等方面的研究。在國内外發表學術論文近40餘篇，主持和參與多個科研項目，多個學術期刊的審稿人。

五、任課教師信息（包括主講教師）：

六、課程開設審批意見

說明：1．研究生課程重開、更名申請也采用此表。表格下載：http:/seugs.seu.edu.cn/down/1.asp

2．此表一式三份，交研究生院、院（系）和自留各一份，同時提交電子文檔交研究生院。

Application Form for Opening Graduate Courses

School (Department/Institute)：School of Information Science and Engineering

Course Type: New Open √   Reopen □   Rename □（Please tick in □, the same below）

1. Course Introduction (including teaching goals and requirements) within 300 words:

The purpose of this course is to enable students to master the basic theory, common algorithms and application background of machine learning, and provide help for subsequent scientific research. This course selects basic and commonly used knowledge points as the lesson contents, including linear model, decision tree, neural network, support vector machine, Bayesian classification, integrated learning, clustering, dimension reduction and measurement learning, feature selection and sparse learning, computational learning theory, semi supervised learning and probability graph model. The teaching content also includes several application cases to enable students to perceptually understand how to use machine learning algorithms to solve practical problems, and promote and guide students to exercise programming of machine learning algorithms. While imparting professional knowledge, this course emphasizes the significance of machine learning in science and technology, economy, people's livelihood and military fields, stimulates students' feelings of home and country, and help students to establish the ideal of serving the country through science and technology.

2. Teaching Syllabus (including the content of chapters and sections. A sheet can be attached):

1. Introduction

Common concepts, basic terms, application background and development status of machine learning.

2. Model evaluation and selection

Evaluation and comparison of machine learning models; Division of training data and test data, and several commonly used learning performance indicators.

3. Linear model

Regression and log probability regression based on linear model, linear discriminant analysis, multi classification learning and category imbalance.

4. Decision tree

The basic process of decision tree, determining the superiority of various attributes based on information gain and gain rate, pre pruning and post pruning of decision tree to reduce over fitting, discretization of continuous attributes, machine superiority evaluation, and superiority evaluation when attribute values are missing.

5. Neural network

Neuron model, perceptron and multilayer network, network training based on error back propagation algorithm, global minimum problem and local minimum problem, several common neural network models and concepts of deep learning.

6. Support vector machine

Concept of interval and support vector, dual problem and hyperplane solution, kernel function and hyperplane solution, soft interval and regularization, support vector regression.

7. Bayesian classification

Bayesian decision theory based on risk minimization, maximum likelihood estimation, naive Bayesian classifier, EM algorithm.

8. Integrated learning

The concept of integrated learning, the performance improvement of boosting and learners, and the combination strategy of learners.

9. Clustering

The most common unsupervised learning-clustering, clustering performance measurement, distance calculation, K-means clustering and Gaussian mixture clustering, density clustering and hierarchical clustering.

10. Dimension reduction and metric learning

K-nearest neighbor learning, principal component analysis and feature dimensionality reduction, kernel linear dimensionality reduction.

11. Feature selection and sparse learning

Subset search and evaluation, filtered selection and feature optimization, embedded selection and L1 regularization, sparse representation and dictionary learning, compressed sensing overview.

12. Computational learning theory

Empirical error and generalization error, probability approximate correct (PAC), finite hypothesis space, VC dimension of hypothesis space.

13. Semi supervised learning

Unlabeled samples and semi supervised learning, generative method, semi supervised SVM, semi supervised clustering.

14. Probability graph model

Hidden Markov model, Markov random field, conditional random field, learning and inference.

3. Teaching Schedule:

 2. Course terms: Spring, Autumn , and Spring-Autumn term.   

 3. The teaching languages for courses: Chinese, English or Chinese-English.  

 4. Applicable range of discipline: public, first-class discipline, second-class discipline, and third-class discipline.  

 5. Practice includes: experiment, investigation, research report, etc.  

 6. Teaching methods: lecture, seminar, practice, etc.  

 7. Examination for degree courses must be in paper.  

 8. Teaching material websites are those which have already been announced.  

 9. Brief introduction of chief lecturer should include: personal information (date of birth, gender, degree achieved, professional title), research direction, teaching and research achievements. (within 100-500 words)  

4. Brief Introduction of Chief lecturer:

Jiang Zhongjin, male, born in September 1973, doctor, associate professor. With radar detection as the background, and based on machine learning, signal processing, image processing and computational electromagnetism, he is engaged in target detection and tracking and anti-jamming, target recognition and anti-jamming based on echo signal, scattering center extraction and high-resolution ISAR imaging, target detection and recognition based on SAR image, target electromagnetic scattering characteristics and stealth. He has published nearly 40 academic papers at home and abroad, presided over and participated in many scientific research projects, and is a reviewer of many academic journals.

5. Lecturer Information (include chief lecturer)

 “機器學習原理與應用”課程教學大綱

1. 課程基本信息

2. 課程目标

本課程的目的在于讓學生掌握機器學習方面的基礎理論、常用算法和應用技術，提升學生在工程知識、問題分析、設計和實現解決方案、研究和優化解決方案等方面的機器學習專業水平，建立機器學習相關的知識結構，提升利用機器學習解決實際問題的能力。

為了培養學生的科技報國精神，本課程引入多個機器學習在軍事方面的應用案例，讓學生了解該學科的廣泛應用，幫助學生樹立科技報國的理想、提升社會責任感與家國情懷，達到思政育人的目的。

1、指導學生掌握機器學習相關的應用背景、數學基礎、機器學習模型和模型評估等理論和算法，為應用機器學習解決實際問題奠定理論基礎。

2、培養學生分析問題的能力。針對需要解決的實際問題，能從機器學習的角度進行認識和分析，選定合理的機器學習模型和優化方法。

3、培養學生解決問題的能力。針對既定的機器學習問題，能制定解決問題的技術路線，編程實現機器學習算法，進行模型訓練和測試。能調試和優化算法，使機器學習方案得到不斷改進。

3. 課程支撐的畢業要求指标點

本課程支撐信息工程專業畢業要求中的如下指标點：

• 指标點1.2：掌握工程基礎知識，并能夠應用其基本概念、基本理論和基本方法解決實際問題。

• 指标點2.3：能夠應用工程基礎和專業基礎基本原理，研究分析信息工程領域複雜工程問題，獲得有效結論。

• 指标點3.2：掌握信息處理基礎知識，能夠設計/開發信息處理系統解決方案。

4. 課程目标與課程支撐的指标點的對應關系

5. 課程目标與教學内容和教學環節對應關系表

6. 課程内容與學時分配

課程教學學時：48。教學内容與學時分配如下：

 1、緒論（1學時/課内）：機器學習的常見概念、基本術語、應用背景和發展現狀等。增加思政元素，給出多個機器學習在軍事上得到應用的例子，提升學生科技報國的愛國情懷，增強保家衛國的民族責任感。

 2、模型評估與選擇（2學時/課内）：機器學習模型的評估和比較，即什麼樣的學習模型更好；訓練數據和測試數據的劃分、幾種常用的學習性能指标。

 3、線性模型（3學時/課内）：基于線性模型的回歸和對數幾率回歸、線性判别分析、多分類學習和類别不平衡問題。

 4、決策樹（3學時/課内）：決策樹的基本流程、基于信息增益和增益率确定各種屬性的優越性、對決策樹進行預剪枝和後剪枝以減少過拟合、連續屬性的離散化機器優越性評估、屬性值存在缺失時的優越性評估。

 5、神經網絡（5學時/課内）：神經元模型、感知機與多層網絡、基于誤差逆傳播算法的網絡訓練、全局極小問題與局部極小問題、幾種常見的神經網絡模型、深度學習概念。

 6、支持向量機（4學時/課内）：間隔與支持向量的概念、對偶問題與超平面求解、核函數與超平面求解、軟間隔與正則化、支持向量回歸。

 7、貝葉斯分類（3學時/課内）：基于風險最小化的貝葉斯決策論、極大似然估計、樸素貝葉斯分類器、EM算法。

 8、總結與複習（3學時/課内）：對前半學期的學習内容進行複習，梳理知識要點；組織應用案例編程相關的研讨交流。增加思政元素，講解機器學習在民用和軍事中得到的應用案例，激勵學生建立科技報國的理想。

 9、集成學習（2學時/課内）：集成學習概念、Boosting與學習器性能提升、學習器的結合策略。

 10、聚類（4學時/課内）：最常見的無監督學習-聚類、聚類性能度量、距離計算、k均值聚類與高斯混合聚類、密度聚類、層次聚類。

 11、降維與度量學習（3學時/課内）：k近鄰學習、主成分分析與特征降維、核化線性降維。

 12、特征選擇與稀疏學習（6學時/課内）：子集搜索與評價、過濾式選擇與特征優化、嵌入式選擇與L1正則化、稀疏表示與字典學習、壓縮感知概述。

 13、計算學習理論（2學時/課内）：經驗誤差與泛化誤差、概率近似正确（PAC）、有限假設空間、假設空間的VC維。

 14、半監督學習（1學時/課内）：未标記樣本與半監督學習、生成式方法、半監督SVM、半監督聚類。

 15、概率圖模型（3學時/課内）：隐馬爾可夫模型、馬爾可夫随機場、條件随機場、學習與推斷。

 16、總結與複習（3學時/課内）：對後半學期的學習内容進行複習，梳理知識要點；組織應用案例編程相關的研讨交流。增加思政元素，講解機器學習在民用和軍事中得到的應用案例，激勵學生建立科技報國的理想。

7. 教學方法

 1、在課堂教學中，分應用背景、理論要點、理論推導、公式總結、習題等部分來講授；挑出該堂課的難點，準備好詳細的備課與講授方法；

 2、為每堂課準備科普案例和應用案例，将所講理論知識與實際應用相結合，讓學生感性地理解理論知識；

 3、對講解知識點進行邏輯上的分解，并搭配VISIO和MATLAB生成的圖示，通過多媒體教學方式，化抽象為形象；

 4、調整教師的教學風格，增強親和力；整肅課堂紀律，不許看與課程無關的書本和IT設備；增強師生互動，每堂課都有多次提問，要求學生投入；

 5、鼓勵學生參與案例編程，将機器學習算法用于實踐，并得到相關體驗和能力提升。在課堂上留出一定時間，與學生相互讨論，交流不同的編程思路和技巧。

 6、在教學中融入思政元素，通過各種案例，介紹機器學習知識在軍事和經濟方面的大量應用，提升學生對本課程的重視程度，培養學生科技報國的愛國情懷，增強學生保家衛國的民族責任感。

8. 課程考核與成績評定

課程将考核學生對課程目标的達成程度，檢查學生對教學内容的掌握程度。課程成績包括2個部分，分别為平時成績和期末考試成績。

成績評定方式如下表所示：

課程目标與課程考核環節關系：

9. 課程教材與主要參考書

教材：

周志華，機器學習，清華大學出版社，2016年1月，第一版；

參考書：

李航，統計學習方法，清華大學出版社，2019年5月，第二版；