機器學習的普遍任務就是從資料中學習和構建模型(該過程稱之為訓練),並且能夠在將來遇到的資料上進行預測。[1]用於構建最終模型的資料集通常有多個;在構建模型的不同階段,通常有三種資料集:訓練集、驗證集和測試集。
![]() | 此條目需要精通或熟悉相關主題的編者參與及協助編輯。 (2019年12月10日) |
首先,模型在訓練集(英語:training dataset)上進行調適。[2]對於監督式學習,訓練集是由用來調適參數(例如類神經網路中神經元之間連結的權重)的範例組成的集合。[3]在實踐中,訓練集通常是由輸入向量(純量)和輸出向量(純量)組成的資料對。其中輸出向量(純量)被稱為目標或標籤。在訓練過程中,當前模型會對訓練集中的每個範例進行預測,並將預測結果與目標進行比較。根據比較的結果,學習演算法會更新模型的參數。模型調適的過程可能同時包括特徵選擇和參數估計。
接下來,調適得到的模型會在第二個資料集——驗證集(英語:validation dataset)——上進行預測。[2]在對模型的超參數(例如神經網路中隱藏層的神經元數量[3])進行調整時,驗證集提供了對在訓練集上調適得到模型的無偏評估。[4]驗證集可用於正則化中的提前停止:在驗證集誤差上升時(這是在訓練集上過適的訊號),停止訓練。[5]不過,在實踐中,由於驗證集誤差在訓練過程中會有起伏,這種做法有時不奏效。由此,人們發明了一些規則,用做判定過適更好的訊號。[5]
最後,測試集(英語:test dataset)可被用來提供對最終模型的無偏評估。[4]若測試集在訓練過程中從未用到(例如,沒有被用在交叉驗證當中),則它也被稱之為預留集。
參考文獻
Wikiwand in your browser!
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.