遷移學習(英語:Transfer learning)是屬於機器學習的一種研究領域。它專注於儲存已有問題的解決模型,並將其利用在其他不同但相關問題上。[1] 比如說,用來辨識汽車的知識(或者是模型)也可以被用來提升辨識卡車的能力。電腦領域的遷移學習和心理學常常提到的學習遷移在概念上有一定關係,但是兩個領域在學術上的關係非常有限。
歷史
最早被參照的關於遷移學習的工作被認為屬於洛麗安·普拉特。他在1993年制定了基於可辨識性的轉移(DBT)演算法。[2]
1997年,機器學習期刊發表了一期專門討論遷移學習的期刊,[3] 而到了1998年,該領域已經發展到包括多工學習,[4] 以及對其理論基礎的更深入完善的分析。[5] 1998年,由普拉特和塞巴斯蒂安·特龍編輯的《Learning to Learn》[6]便是對該主題的回顧。
遷移學習也被應用於認知科學,比如《Connection Science》雜誌就於1996年出版了一版特殊期刊,描述了如何通過使用遷移學習重新利用已有神經網路。[7]
定義
遷移學習是由域和任務定義的。域由特徵空間和邊際機率分布構成,其中。給定域,任務由標籤空間和目標預測函式兩部分組成,函式預測對應的標籤。任務是從含有樣本對的訓練資料中學習得到的,其中。[8]
給定原域及其任務,目標域及其任務(滿足或),遷移學習旨在通過利用和的知識,幫助學習域的目標預測函式。[8]
應用
遷移學習的演算法基礎可以源自馬可夫邏輯網路[9]和貝葉斯網路。[10]遷移網路還被利用與發現癌症種類 [11]、建築物人員限額[12]、普適智慧型遊戲玩家[13]、語句分類[14][15]以及篩選垃圾郵件(簡訊)。[16]
來源
- Thrun, Sebastian; Pratt, Lorien. Learning to Learn. Springer Science & Business Media. 6 December 2012 [2022-12-23]. ISBN 978-1-4615-5529-2. (原始內容存檔於2022-07-02).
參見
參照
Wikiwand in your browser!
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.