機器學(xué)習(xí)原理與應(yīng)用電子教案 1緒論

備課日期：年月日授課時間課時（理論+實驗）周次星期:節(jié)次:授課課題緒論教學(xué)目標1.理解機器學(xué)習(xí)基本原理與數(shù)學(xué)本質(zhì)；2.掌握機器學(xué)習(xí)關(guān)鍵術(shù)語與主要過程；3.了解機器學(xué)習(xí)的主要應(yīng)用與發(fā)展趨勢。教學(xué)重點1.機器學(xué)習(xí)數(shù)學(xué)本質(zhì)；2.機器學(xué)習(xí)的關(guān)鍵術(shù)語。教學(xué)準備PPT、點名冊等。教學(xué)方法案例法。教學(xué)過程設(shè)計備注課題引入【思考】“一朝被蛇咬，十年怕草繩”的內(nèi)存原因？=>機器可以象人類一樣學(xué)習(xí)知識（規(guī)律）嗎？【關(guān)鍵】強調(diào)機器學(xué)習(xí)在人工智能領(lǐng)域的重要性及本課程的重要性?！緯r間】分鐘【重點】學(xué)習(xí)知識（規(guī)律）預(yù)測（推斷）教學(xué)步驟及主要內(nèi)容【主板書】§1.緒論基本原理從觀測數(shù)據(jù)中尋找規(guī)律（模型），然后利用規(guī)律（模型）對未知數(shù)據(jù)進行預(yù)測?！局靼鍟炕驹砝?：兔子食量預(yù)測問題（回歸）。例2：狗與兔子分類問題（分類）?！糚PT〗回歸與分類。兩類問題的求解有什么不同與相同之處？（1）不同之處：回歸問題求取的浮點數(shù)；分類問題求取的是類別標記。（2）相同之處：求取直線（數(shù)學(xué)模型）?！舅颊恐麑W(xué)者赫伯特?西蒙教授（HerbertSimon，1975年圖靈獎獲得者、1978年諾貝爾經(jīng)濟學(xué)獎獲得者）將“學(xué)習(xí)”定義為“如果某個系統(tǒng)能通過執(zhí)行某個過程改進其性能，則這個過程就是學(xué)習(xí)”，因而，學(xué)習(xí)的核心目的就是改善性能。其實，對人類而言，此定義也是適用的；例如，我們現(xiàn)在正在學(xué)習(xí)“機器學(xué)習(xí)”的知識，其本質(zhì)目的就是為了提升自己在機器學(xué)習(xí)方面的認知水平。如果僅僅是低層次的重復(fù)性學(xué)習(xí)，而沒有達到認知升級的目的，那么即使表面看起來非常勤奮（比如天天去圖書館上自習(xí)），其實也僅僅是個“偽學(xué)習(xí)者”，因為這樣的“我們”并沒有改善性能。按照這個解釋，毛澤東主席那句著名的口號“好好學(xué)習(xí)，天天向上”就會煥發(fā)新的含義：如果沒有性能上的“向上”，即使非常辛苦地“好好”，即使長時間的“天天”，都無法視為“學(xué)習(xí)”。殊途同歸，無論是“人類學(xué)習(xí)”，還是“機器學(xué)習(xí)”，提高性能、改善自己，才是關(guān)鍵?！緯r間】分鐘?！咎釂枴?。數(shù)學(xué)本質(zhì)【提出問題】機器學(xué)習(xí)可以對兔子的食量進行預(yù)測、可以對牛兔所屬類別進行分類，其根本原理是什么呢？【主板書】數(shù)學(xué)本質(zhì)1.輸入數(shù)據(jù)與輸出目標之間的映射函數(shù)（如直線y=kx+b）。例1：數(shù)量食量。例2：狗兔（耳朵、尾巴）特征牛兔類別。y其中，y表示模型的輸出目標，θ表示需根據(jù)觀測數(shù)據(jù)確定的模型參數(shù)，Φx表示輸入數(shù)據(jù)x的特征表達（即將非數(shù)值型的屬性轉(zhuǎn)化為計算機可處理的數(shù)值型數(shù)據(jù)，如（尾巴,耳朵）特征值為（0.87,0.99【副板書】Φx【強化與拓展】對于簡單回歸與分類問題，函數(shù)f(?)可通過先驗知識事先確定（如直線L1:y=kx+b），然后再根據(jù)觀測數(shù)據(jù)確定相關(guān)的參數(shù)（如k、b）；然而，對于復(fù)雜問題，函數(shù)2.風(fēng)險函數(shù)無論采用哪種方式確定函數(shù)f(?)，通常均需要采用特定的標準衡量其好壞。在機器學(xué)習(xí)中，此標準一般稱為風(fēng)險函數(shù)，可理解為在求解函數(shù)f(?)時當(dāng)前所采取的函數(shù)形式或被優(yōu)化的參數(shù)相對于訓(xùn)練樣本所產(chǎn)生的風(fēng)險，即：R其中，L(yi,yi)為L【副板書】Ly,3.經(jīng)驗風(fēng)險最小化風(fēng)險函數(shù)Rθ是在已知訓(xùn)練樣本上計算得來的，因此被稱為經(jīng)驗風(fēng)險；當(dāng)經(jīng)驗風(fēng)險最小時可獲取較好的函數(shù)f(?)，此為“經(jīng)驗風(fēng)險最小化”原則θ4.結(jié)構(gòu)風(fēng)驗最小化為了解決過擬合問題，通常需要在經(jīng)驗風(fēng)險最小化的基礎(chǔ)上對參數(shù)進行正則化，此即為“結(jié)構(gòu)風(fēng)險最小化”原則，即：θ其中，θ2是L2范數(shù)正則化項，參數(shù)λ5.模型求解機器學(xué)習(xí)的本質(zhì)即為根據(jù)特定的標準利用訓(xùn)練樣本確定函數(shù)f(?)參數(shù)，此過程通常稱為訓(xùn)練過程。例1：游客快速下山。〖PPT〗梯度下降法基本原理?！緯r間】分鐘?！咎釂枴俊Ｈ⒒拘g(shù)語【主板書】基本術(shù)語1.特征：根據(jù)當(dāng)前問題所涉及的對象（如牛與兔子的分類）抽取原始數(shù)據(jù)中具有代表性的部分（如耳朵、尾巴等），并將多個可以表征原始數(shù)據(jù)的數(shù)值型特征組合為向量的形式（稱為特征向量）以用于模型的求解。2.樣本樣本與樣本集主要用于相關(guān)模型的求解。【強化與拓展】訓(xùn)練集、驗證集、測試集。以x表示輸入特征向量，y表示輸出數(shù)據(jù)（如分類標記），樣本通常表示為(x,y)，樣本集表示為T={(x〖PPT〗樣本圖示。3.監(jiān)督學(xué)習(xí)監(jiān)督學(xué)習(xí)可以理解為使用標記的訓(xùn)練數(shù)據(jù)來學(xué)習(xí)從輸入變量（X）到輸出變量（Y）的映射函數(shù)。4.無監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí)問題只有輸入變量（X），但沒有相應(yīng)的輸出變量。【強化與拓展】聚類、關(guān)聯(lián)、降維。5.半監(jiān)督學(xué)習(xí)半監(jiān)督學(xué)習(xí)是指僅部分樣本是知道標記的。6.強化學(xué)習(xí)強化學(xué)習(xí)允許機器以“試錯”的方式進行學(xué)習(xí)，通過與環(huán)境進行交互獲得的獎勵而指導(dǎo)行為，通常采用反復(fù)的試驗確定學(xué)習(xí)的最佳行為。7.泛化泛化是指機器學(xué)習(xí)模型在學(xué)習(xí)過程中遇見新樣本時候的表現(xiàn)。8.擬合〖PPT〗擬合類型。（1）過擬合：由于模型過度學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的細節(jié)（包括噪聲），以至于模型在新的數(shù)據(jù)上泛化能力很差。（2）欠擬合：模型復(fù)雜度太低，對于訓(xùn)練數(shù)據(jù)中的細節(jié)學(xué)習(xí)的不足，使得模型的泛化能力不夠。（3）好擬合：在模型學(xué)習(xí)開始階段，模型在訓(xùn)練和測試數(shù)據(jù)上的錯誤都下降；但是，隨著模型學(xué)習(xí)的持續(xù)，模型在訓(xùn)練數(shù)據(jù)將表現(xiàn)出過擬合，此時測試數(shù)據(jù)集上的錯誤率上升（即模型泛化能力在下降），此臨界點對應(yīng)的模型通常在訓(xùn)練和測試數(shù)據(jù)上均能表現(xiàn)出良好的性能。【類比】“過擬合”類似把握不準學(xué)習(xí)重點而死記硬背的學(xué)生；“欠擬合”類似不學(xué)習(xí)的學(xué)生；“好擬合”類似能準確把握學(xué)習(xí)重點且創(chuàng)新意識較強的學(xué)生。9.偏差、誤差和方差（1）偏差：模型輸出與真實值之間的誤差，反映模型本身的精準度。（2）方差：模型輸出與模型輸出期望之間的誤差，反映模型的穩(wěn)定性。（3）誤差：偏差與方差的綜合（即Error2=Bias2〖PPT〗偏差、誤差和方差圖示?！緯r間】分鐘?！咎釂枴俊Ｋ?、學(xué)習(xí)過程【主板書】學(xué)習(xí)過程機器學(xué)習(xí)的基本過程包含以下幾個步驟：（1）選擇數(shù)據(jù)：將數(shù)據(jù)分成訓(xùn)練數(shù)據(jù)、驗證數(shù)據(jù)和測試數(shù)據(jù)。（2）模型構(gòu)建：使用訓(xùn)練數(shù)據(jù)來構(gòu)建使用相關(guān)特征的模型。（3）驗證模型：使用驗證數(shù)據(jù)檢驗?zāi)Ｐ偷目尚行?。?）測試模型：使用測試數(shù)據(jù)檢查被驗證的模型的表現(xiàn)。（5）使用模型：使用完全訓(xùn)練好的模型在新數(shù)據(jù)上做預(yù)測。（6）調(diào)優(yōu)模型：使用更多數(shù)據(jù)、不同的特征或調(diào)整過的參數(shù)來提升算法的性能表現(xiàn)?！緯r間】分鐘?！咎釂枴俊Ｎ?、應(yīng)用與發(fā)展【主板書】應(yīng)用與發(fā)展〖PPT〗谷歌大腦、機器學(xué)習(xí)在同聲傳譯、交通管理等應(yīng)用?！緩娀c拓展】AI大模型的根本原理；DeepSeek大模型的性能與科技創(chuàng)新對民族復(fù)興的重要作用?！緯r間】分鐘?！咎釂枴俊Ｕn堂練習(xí)無其他無小結(jié)與作業(yè)課堂小結(jié)1.機器學(xué)習(xí)基本原理：從數(shù)據(jù)中學(xué)習(xí)規(guī)律。2.數(shù)學(xué)本質(zhì)：風(fēng)險函數(shù)、經(jīng)驗