神經網絡與深度學習
有監督學習是利用一組已知輸入x和輸出y的數據來學習模型的參數，使得模型預測的輸出標記和真實標記盡可能的一致。有監督學習根據輸出類型又可以分為回歸和分類兩類。回歸（Regression） 如果輸出y是連續值（實數或連續整數），f(x)的輸出也是連續值。這種類型的問題就是回歸問題。對于所有已知或未知的(x;y)，使得f(x; )和y盡可能地一致。損失函數通常定義為平方誤差。分類（Classi cation） 如果輸出y是離散的類別標記（符號），就是分類問題。損失函數有一般用0-1損失函數或負對數似然函數等。在分類問題中，通過學習得到的決策函數f(x; )也叫分類器。
無監督學習（Unsupervised Learning） 無監督學習是用來學習的數據不包含輸出目標，需要學習算法自動學習到一些有價值的信息。一個典型的無監督學習問題就是㚐類（Clustering）。
增強學習（Reinforcement Learning） 增強學習也叫強化學習，強調如何基于環境做出一系列的動作，以取得最大化的累積收益。每做出一個動作，并不一定立刻得到收益。增強學習和有監督學習的不同在于增強學習不需要顯式地以輸入/輸出對的方式給出訓練樣本，是一種在線的學習機制。
在梯度下降訓練的過程中，由于過擬合的原因，在訓練樣本上收斂的參數，并不一定在測試集上最優。因此，我們使用一個驗證集（Validation Dataset）（也叫開發集（Development Dataset））來測試每一次迭代的參數在驗證集上是否最優。如果在驗證集上的錯誤率不再下降，就停止迭代。這種策略叫Early-Stop。如果沒有驗證集，可以在訓練集上進行交叉驗證。
全部資料51hei下載地址：
《神經網絡與深度學習》邱錫鵬講義.pdf
(687.64 KB, 下載次數: 41)
2018-8-10 11:35 上傳
點擊文件名下載附件
《神經網絡與深度學習》邱錫鵬PPT.pdf
(1.17 MB, 下載次數: 35)
2018-8-10 11:35 上傳
點擊文件名下載附件
|
