![cover image](https://wikiwandv2-19431.kxcdn.com/_next/image?url=https://upload.wikimedia.org/wikipedia/commons/thumb/3/3a/Linear_regression.svg/langzh-tw-640px-Linear_regression.svg.png&w=640&q=50)
最小平方法
維基百科,自由的 encyclopedia
最小平方法(英語:least squares method),又稱最小二乘法,是一種數學優化建模方法。它通過最小化誤差的平方和尋找數據的最佳函數匹配。
此條目需要補充更多來源。 (2022年1月19日) |
![](http://upload.wikimedia.org/wikipedia/commons/thumb/9/94/Linear_least_squares2.png/640px-Linear_least_squares2.png)
利用最小平方法可以簡便的求得未知的數據,並使得求得的數據與實際數據之間誤差的平方和為最小。
「最小平方法」是對線性方程組,即方程式個數比未知數更多的方程組,以迴歸分析求得近似解的標準方法。在這整個解決方案中,最小平方法演算為每一方程式的結果中,將殘差平方和的總和最小化。
最重要的應用是在曲線擬合上。最小平方所涵義的最佳擬合,即殘差(殘差為:觀測值與模型提供的擬合值之間的差距)平方總和的最小化。當問題在自變數(x變量)有重大不確定性時,那麼使用簡易迴歸和最小平方法會發生問題;在這種情況下,須另外考慮變量-誤差-擬合模型所需的方法,而不是最小平方法。
最小平方問題分為兩種:線性或普通的最小平方法,和非線性的最小平方法,取決於在所有未知數中的殘差是否為線性。線性的最小平方問題發生在統計迴歸分析中;它有一個封閉形式的解決方案。非線性的問題通常經由疊代細緻化來解決;在每次疊代中,系統由線性近似,因此在這兩種情況下核心演算是相同的。
最小平方法所得出的多項式,即以擬合曲線的函數來描述自變數與預計應變數的變異數關係。
當觀測值來自指數族且滿足輕度條件時,最小平方估計和最大概似估計是相同的。最小平方法也能從動差法得出。
以下討論大多是以線性函數形式來表示,但對於更廣泛的函數族,最小平方法也是有效和實用的。此外,疊代地將局部的二次近似應用於或然性(藉由費雪資訊),最小平方法可用於擬合廣義線性模型。
最小平方法通常歸功於高斯(Carl Friedrich Gauss,1795),但最小平方法是由阿德里安-馬里·勒壤得(Adrien-Marie Legendre)首先發表的。