Bagging算法

Bagging算法 （英語：Bootstrap aggregating，引導聚集算法），又稱裝袋算法，是機器學習領域的一種集成學習算法。最初由Leo Breiman於1994年提出。Bagging算法可與其他分類、回歸算法結合，提高其準確率、穩定性的同時，透過降低結果的變異數，避免過擬合的發生。

算法步骤

给定一个大小为${\displaystyle n}$的训练集${\displaystyle D}$，Bagging算法从中均匀、有放回地（即使用自助抽样法）选出${\displaystyle m}$个大小为${\displaystyle n'}$的子集${\displaystyle D_{i}}$，作为新的训练集。在这${\displaystyle m}$个训练集上使用分类、回归等算法，则可得到${\displaystyle m}$个模型，再透過取平均值、取多数票等方法，即可得到Bagging的结果。

参考文献

• Breiman, Leo. Bagging predictors (PDF). Technical Report No. 421. 1994 [2020-01-11]. （原始内容存档 (PDF)于2019-07-18）.
• Breiman, Leo. Bagging predictors. Machine Learning. 1996, 24 (2): 123–140. doi:10.1007/BF00058655. CiteSeerX: 10.1.1.32.9399.
• Alfaro, E., Gámez, M. and García, N. adabag: An R package for classification with AdaBoost.M1, AdaBoost-SAMME and Bagging. 2012 [2016-10-02]. （原始内容存档于2019-09-24）.