Метод главных компонент

Метод главных компонент (англ. principal component analysis, PCA) — один из основных способов уменьшить размерность данных, потеряв наименьшее количество информации. Изобретён Карлом Пирсоном в 1901 году. Применяется во многих областях, в том числе в эконометрике, биоинформатике, обработке изображений, для сжатия данных, в общественных науках➤.

Вычисление главных компонент может быть сведено к вычислению сингулярного разложения матрицы данных➤ или к вычислению собственных векторов и собственных значений ковариационной матрицы исходных данных➤. Иногда метод главных компонент называют преобразованием Кархунена — Лоэва^[1] или преобразованием Хотеллинга (англ. Hotelling transform).

Формальная постановка задачи

Задача анализа главных компонент имеет, как минимум, четыре базовые версии:

• аппроксимировать данные линейными многообразиями меньшей размерности;
• найти подпространства меньшей размерности, в ортогональной проекции на которые разброс данных (то есть среднеквадратичное отклонение от среднего значения) максимален;
• найти подпространства меньшей размерности, в ортогональной проекции на которые среднеквадратичное расстояние между точками максимально;
• для данной многомерной случайной величины построить такое ортогональное преобразование координат, в результате которого корреляции между отдельными координатами обратятся в нуль.

Первые три версии оперируют конечными множествами данных. Они эквивалентны и не используют никакой гипотезы о статистическом порождении данных. Четвёртая версия оперирует случайными величинами. Конечные множества появляются здесь как выборки из данного распределения, а решение трёх первых задач — как приближение к разложению по теореме Кархунена — Лоэва («истинному преобразованию Кархунена — Лоэва»). При этом возникает дополнительный и не вполне тривиальный вопрос о точности этого приближения.

Аппроксимация данных линейными многообразиями

Иллюстрация к знаменитой работе Пирсона (1901): даны точки ${\displaystyle P_{i}}$ на плоскости, ${\displaystyle p_{i}}$ — расстояние от ${\displaystyle P_{i}}$ до прямой ${\displaystyle AB}$. Ищется прямая ${\displaystyle AB}$, минимизирующая сумму ${\displaystyle \sum _{i}p_{i}^{2}}$

Метод главных компонент начинался с задачи наилучшей аппроксимации конечного множества точек прямыми и плоскостями (Пирсон, 1901). Дано конечное множество векторов ${\displaystyle x_{1},x_{2},\dots ,x_{m}\in \mathbb {R} ^{n}}$, для каждого ${\displaystyle k=0,1,\dots ,n-1}$ среди всех ${\displaystyle k}$-мерных линейных многообразий в ${\displaystyle \mathbb {R} ^{n}}$ найти такое ${\displaystyle L_{k}\subset \mathbb {R} ^{n}}$, что сумма квадратов уклонений ${\displaystyle x_{i}}$ от ${\displaystyle L_{k}}$ минимальна:

${\displaystyle \sum _{i=1}^{m}\operatorname {dist} ^{2}(x_{i},L_{k})\to \min }$,

где ${\displaystyle \operatorname {dist} (x_{i},L_{k})}$ — евклидово расстояние от точки до линейного многообразия. Всякое ${\displaystyle k}$-мерное линейное многообразие в ${\displaystyle \mathbb {R} ^{n}}$ может быть задано как множество линейных комбинаций ${\displaystyle L_{k}=\{a_{0}+\beta _{1}a_{1}+\dots +\beta _{k}a_{k}|\beta _{i}\in \mathbb {R} \}}$, где параметры ${\displaystyle \beta _{i}}$ пробегают вещественную прямую ${\displaystyle \mathbb {R} }$, ${\displaystyle a_{0}\in \mathbb {R} ^{n}}$ а ${\displaystyle \left\{a_{1},\dots ,a_{k}\right\}\subset \mathbb {R} ^{n}}$ — ортонормированный набор векторов

${\displaystyle \operatorname {dist} ^{2}(x_{i},L_{k})=\Vert x_{i}-a_{0}-\sum _{j=1}^{k}a_{j}(a_{j},x_{i}-a_{0})\Vert ^{2}}$,

где ${\displaystyle \Vert \cdot \Vert }$ евклидова норма, ${\displaystyle \left(a_{j},x_{i}\right)}$ — евклидово скалярное произведение, или в координатной форме:

${\displaystyle \operatorname {dist} ^{2}(x_{i},L_{k})=\sum _{l=1}^{n}\left(x_{il}-a_{0l}-\sum _{j=1}^{k}a_{jl}\sum _{q=1}^{n}a_{jq}(x_{iq}-a_{0q})\right)^{2}}$.

Решение задачи аппроксимации для ${\displaystyle k=0,1,\dots ,n-1}$ даётся набором вложенных линейных многообразий ${\displaystyle L_{0}\subset L_{1}\subset \dots L_{n-1}}$, ${\displaystyle L_{k}=\{a_{0}+\beta _{1}a_{1}+\ldots +\beta _{k}a_{k}|\beta _{i}\in \mathbb {R} \}}$. Эти линейные многообразия определяются ортонормированным набором векторов ${\displaystyle \left\{a_{1},...,a_{n-1}\right\}}$ (векторами главных компонент) и вектором ${\displaystyle a_{0}}$. Вектор ${\displaystyle a_{0}}$ ищется как решение задачи минимизации для ${\displaystyle L_{0}}$:

${\displaystyle a_{0}={\underset {a_{0}\in \mathbb {R} ^{n}}{\operatorname {argmin} }}\left(\sum _{i=1}^{m}\operatorname {dist} ^{2}(x_{i},L_{0})\right)}$,

то есть

${\displaystyle a_{0}={\underset {a_{0}\in \mathbb {R} ^{n}}{\operatorname {argmin} }}\left(\sum _{i=1}^{m}\Vert x_{i}-a_{0}\Vert ^{2}\right)}$.

Это — выборочное среднее: ${\displaystyle a_{0}={\frac {1}{m}}\sum _{i=1}^{m}x_{i}={\overline {X}}}$.

Фреше в 1948 году обратил внимание, что вариационное определение среднего (как точки, минимизирующей сумму квадратов расстояний до точек данных) очень удобно для построения статистики в произвольном метрическом пространстве, и построил обобщение классической статистики для общих пространств (обобщённый метод наименьших квадратов).

Векторы главных компонент могут быть найдены как решения однотипных задач оптимизации:

1. Централизуются данные (вычитанием среднего): ${\displaystyle x_{i}:=x_{i}-{\overline {X}}}$. Теперь ${\displaystyle \sum _{i=1}^{m}x_{i}=0}$;
2. Отыскивается первая главная компонента как решение задачи:

   ${\displaystyle a_{1}={\underset {\Vert a_{1}\Vert =1}{\operatorname {argmin} }}\left(\sum _{i=1}^{m}\Vert x_{i}-a_{1}(a_{1},x_{i})\Vert ^{2}\right)}$.

   если решение не единственно, то осуществляется выбор одного из них.

3. Из данных вычитается проекция на первую главную компоненту:

   ${\displaystyle x_{i}:=x_{i}-a_{1}\left(a_{1},x_{i}\right)}$;

4. Отыскивается вторая главная компонента как решение задачи:

   ${\displaystyle a_{2}={\underset {\Vert a_{2}\Vert =1}{\operatorname {argmin} }}\left(\sum _{i=1}^{m}\Vert x_{i}-a_{2}(a_{2},x_{i})\Vert ^{2}\right)}$.

   Если решение не единственно, то выбирается одно из них.

Далее процесс продолжается, то есть на шаге ${\displaystyle 2k-1}$ вычитается проекция на ${\displaystyle (k-1)}$-ю главную компоненту (к этому моменту проекции на предшествующие ${\displaystyle (k-2)}$ главные компоненты уже вычтены):

${\displaystyle x_{i}:=x_{i}-a_{k-1}\left(a_{k-1},x_{i}\right)}$;

и на шаге ${\displaystyle 2k}$ определяется ${\displaystyle k}$-я главная компонента как решение задачи:

${\displaystyle a_{k}={\underset {\Vert a_{k}\Vert =1}{\operatorname {argmin} }}\left(\sum _{i=1}^{m}\Vert x_{i}-a_{k}(a_{k},x_{i})\Vert ^{2}\right)}$ (если решение не единственно, то выбирается одно из них).

На каждом подготовительном шаге ${\displaystyle (2k-1)}$ вычитается проекция на предшествующую главную компоненту. Найденные векторы ${\displaystyle \left\{a_{1},...,a_{n-1}\right\}}$ ортонормированы просто в результате решения описанной задачи оптимизации, однако чтобы не дать ошибкам вычисления нарушить взаимную ортогональность векторов главных компонент, можно включать ${\displaystyle a_{k}\bot \{a_{1},...,a_{k-1}\}}$ в условия задачи оптимизации.

Неединственность в определении ${\displaystyle a_{k}}$ помимо тривиального произвола в выборе знака (${\displaystyle a_{k}}$ и ${\displaystyle -a_{k}}$ решают ту же задачу) может быть более существенной и происходить, например, из условий симметрии данных. Последняя главная компонента ${\displaystyle a_{n}}$ — единичный вектор, ортогональный всем предыдущим ${\displaystyle a_{k}}$.

Поиск ортогональных проекций с наибольшим рассеянием

Первая главная компонента максимизирует выборочную дисперсию проекции данных

Пусть нам дан центрированный набор векторов данных ${\displaystyle x_{i}\in \mathbb {R} ^{n}\;(i=1,...,m)}$ (среднее арифметическое значение ${\displaystyle x_{i}}$ равно нулю). Задача — найти такое ортогональное преобразование в новую систему координат, для которого были бы верны следующие условия:

• Выборочная дисперсия данных вдоль первой координаты максимальна (эту координату называют первой главной компонентой);
• Выборочная дисперсия данных вдоль второй координаты максимальна при условии ортогональности первой координате (вторая главная компонента);
• …
• Выборочная дисперсия данных вдоль значений ${\displaystyle k}$-ой координаты максимальна при условии ортогональности первым ${\displaystyle k-1}$ координатам;
• …

Выборочная дисперсия данных вдоль направления, заданного нормированным вектором ${\displaystyle a_{k}}$, это

${\displaystyle S_{m}^{2}\left[(X,a_{k})\right]={\frac {1}{m}}\sum \limits _{i=1}^{m}(a_{k},x_{i})^{2}={\frac {1}{m}}\sum \limits _{i=1}^{m}\left(\sum \limits _{j=1}^{n}x_{ij}a_{kj}\right)^{2}}$

(поскольку данные центрированы, выборочная дисперсия здесь совпадает со средним квадратом уклонения от нуля).

Решение задачи о наилучшей аппроксимации даёт то же множество главных компонент ${\displaystyle \left\{a_{i}\right\}}$, что и поиск ортогональных проекций с наибольшим рассеянием, по очень простой причине: ${\displaystyle \Vert x_{i}-a_{k}(a_{k},x_{i})\Vert ^{2}=\Vert x_{i}\Vert ^{2}-(a_{k},x_{i})^{2},}$ и первое слагаемое не зависит от ${\displaystyle a_{k}}$.

Поиск ортогональных проекций с наибольшим среднеквадратичным расстоянием между точками

Ещё одна эквивалентная формулировка следует из очевидного тождества, верного для любых ${\displaystyle m}$ векторов ${\displaystyle x_{i}}$:

${\displaystyle {\frac {1}{m(m-1)}}\sum _{i,j=1}^{m}(x_{i}-x_{j})^{2}={\frac {2m^{2}}{m(m-1)}}\left[{\frac {1}{m}}\sum _{i=1}^{m}x_{i}^{2}-\left({\frac {1}{m}}\sum _{i}^{m}x_{i}\right)^{2}\right].}$

В левой части этого тождества стоит среднеквадратичное расстояние между точками, а в квадратных скобках справа — выборочная дисперсия. Таким образом, в методе главных компонент ищутся подпространства, в проекции на которые среднеквадратичное расстояние между точками максимально (или, что то же самое, его искажение в результате проекции минимально)^[2]. Такая переформулировка позволяет строить обобщения с взвешиванием различных парных расстояний (а не только точек).

Аннулирование корреляций между координатами

Для заданной ${\displaystyle n}$-мерной случайной величины ${\displaystyle X}$ найти такой ортонормированный базис, ${\displaystyle \left\{a_{1},...,a_{n}\right\}}$, в котором коэффициент ковариации между различными координатами равен нулю. После преобразования к этому базису

${\displaystyle \operatorname {cov} (X_{i},X_{j})=0}$ для ${\displaystyle i\neq j}$.

Здесь ${\displaystyle \operatorname {cov} (X_{i},X_{j})=\operatorname {E} [(X_{i}-\operatorname {E} [X_{i}])(X_{j}-\operatorname {E} [X_{j}])]}$ — коэффициент ковариации, где ${\displaystyle \operatorname {E} }$ — математическое ожидание.

Диагонализация ковариационной матрицы

Все задачи о главных компонентах приводят к задаче диагонализации ковариационной матрицы или выборочной ковариационной матрицы. Эмпирическая или выборочная ковариационная матрица, это

${\displaystyle C=[c_{ij}],\ c_{ij}={\frac {1}{m-1}}\sum _{l=1}^{m}(x_{li}-{\overline {X_{i}}})(x_{lj}-{\overline {X_{j}}}).}$

Ковариационная матрица многомерной случайной величины ${\displaystyle X}$, это

${\displaystyle \Sigma =[\sigma _{ij}],\ \sigma _{ij}=\operatorname {cov} (X_{i},X_{j})=\operatorname {E} [(X_{i}-\operatorname {E} [X_{i}])(X_{j}-\operatorname {E} [X_{j}])].}$

Векторы главных компонент для задач о наилучшей аппроксимации и о поиске ортогональных проекций с наибольшим рассеянием — это ортонормированный набор ${\displaystyle \left\{a_{1},...,a_{n}\right\}}$ собственных векторов эмпирической ковариационной матрицы ${\displaystyle C}$, расположенных в порядке убывания собственных значений ${\displaystyle \lambda$ :\lambda _{1}\geq \lambda _{2}\geq \ldots \geq \lambda _{n}\geq 0.} Эти векторы служат оценкой для собственных векторов ковариационной матрицы ${\displaystyle \operatorname {cov} (X_{i},X_{j})}$. В базисе из собственных векторов ковариационной матрицы она, естественно, диагональна, и в этом базисе коэффициент ковариации между различными координатами равен нулю.

Если спектр ковариационной матрицы вырожден, то выбирают произвольный ортонормированный базис собственных векторов. Он существует всегда, а собственные числа ковариационной матрицы всегда вещественны и неотрицательны.

Сингулярное разложение матрицы данных

Основная статья: Сингулярное разложение

Идея сингулярного разложения

Математическое содержание метода главных компонент — это спектральное разложение ковариационной матрицы ${\displaystyle C}$, то есть представление пространства данных в виде суммы взаимно ортогональных собственных подпространств ${\displaystyle C}$, а самой матрицы ${\displaystyle C}$ — в виде линейной комбинации ортогональных проекторов на эти подпространства с коэффициентами ${\displaystyle \lambda _{i}}$. Если ${\displaystyle \operatorname {X} =\left\{x_{1},...,x_{m}\right\}^{T}}$ — матрица, составленная из векторов-строк (размерности ${\displaystyle n}$) центрированных данных, то ${\displaystyle C={\frac {1}{m-1}}\operatorname {X} ^{T}\operatorname {X} }$ и задача о спектральном разложении ковариационной матрицы ${\displaystyle C}$ превращается в задачу о сингулярном разложении матрицы данных ${\displaystyle \operatorname {X} }$.

Число ${\displaystyle \sigma \geq 0}$ называется сингулярным числом матрицы ${\displaystyle \operatorname {X} }$ тогда и только тогда, когда существуют правый и левый сингулярные векторы: такие ${\displaystyle m}$-мерный вектор-строка ${\displaystyle b_{\sigma }}$ и ${\displaystyle n}$-мерный вектор-столбец ${\displaystyle a_{\sigma }}$ (оба единичной длины), что выполнено два равенства:

${\displaystyle \operatorname {X} a_{\sigma }=\sigma b_{\sigma }^{T};\,\,b_{\sigma }\operatorname {X} =\sigma a_{\sigma }^{T}.}$

Пусть ${\displaystyle p=\operatorname {rang} \operatorname {X} \leq \min\{n,m\}}$ — ранг матрицы данных. Сингулярное разложение матрицы данных ${\displaystyle \operatorname {X} }$ — это её представление в виде

${\displaystyle \operatorname {X} =\sum _{l=1}^{p}\sigma _{l}b_{l}^{T}a_{l}^{T};\;\operatorname {X} ^{T}=\sum _{l=1}^{p}\sigma _{l}a_{l}b_{l}\;\left(x_{ij}=\sum _{l=1}^{p}\sigma _{l}b_{li}a_{lj}\right),}$

где ${\displaystyle \sigma _{l}>0}$ — сингулярное число, ${\displaystyle a_{l}=(a_{lj}),\,j=1,...n}$ — соответствующий правый сингулярный вектор-столбец, а ${\displaystyle b_{l}=(b_{li}),\,i=1,...m}$ — соответствующий левый сингулярный вектор-строка (${\displaystyle l=1,...p}$). Правые сингулярные векторы-столбцы ${\displaystyle a_{l}}$, участвующие в этом разложении, являются векторами главных компонент и собственными векторами эмпирической ковариационной матрицы ${\displaystyle C={\frac {1}{m-1}}\operatorname {X} ^{T}\operatorname {X} }$, отвечающими положительным собственным числам ${\displaystyle \lambda _{l}={\frac {1}{m-1}}\sigma _{l}^{2}>0}$.

Хотя формально задачи сингулярного разложения матрицы данных и спектрального разложения ковариационной матрицы совпадают, алгоритмы вычисления сингулярного разложения напрямую, без вычисления ковариационной матрицы и её спектра, более эффективны и устойчивы^[3].

Теория сингулярного разложения была создана Джеймсом Джозефом Сильвестром в 1889 году и изложена во всех подробных руководствах по теории матриц^[4].

Простой итерационный алгоритм сингулярного разложения

Основная процедура — поиск наилучшего приближения произвольной ${\displaystyle m\times n}$ матрицы ${\displaystyle X=(x_{ij})}$ матрицей вида ${\displaystyle b\otimes a=(b_{i}a_{j})}$ (где ${\displaystyle b}$ — ${\displaystyle m}$-мерный вектор, а ${\displaystyle a}$ — ${\displaystyle n}$-мерный вектор) методом наименьших квадратов:

${\displaystyle F(b,a)={\frac {1}{2}}\sum _{i=1}^{m}\sum _{j=1}^{n}(x_{ij}-b_{i}a_{j})^{2}\to \min }$

Решение этой задачи даётся последовательными итерациями по явным формулам. При фиксированном векторе ${\displaystyle a=(a_{j})}$ значения ${\displaystyle b=(b_{i})}$, доставляющие минимум форме ${\displaystyle F(b,a)}$, однозначно и явно определяются из равенств ${\displaystyle \partial F/\partial b_{i}=0}$ :

${\displaystyle {\frac {\partial F}{\partial b_{i}}}=-\sum _{j=1}^{n}(x_{ij}-b_{i}a_{j})a_{j}=0;\;\;b_{i}={\frac {\sum _{j=1}^{n}x_{ij}a_{j}}{\sum _{j=1}^{n}a_{j}^{2}}}\,.}$

Аналогично, при фиксированном векторе ${\displaystyle b=(b_{i})}$ определяются значения ${\displaystyle a=(a_{j})}$:

${\displaystyle a_{j}={\frac {\sum _{i=1}^{m}b_{i}x_{ij}}{\sum _{i=1}^{m}b_{i}^{2}}}\,.}$

B качестве начального приближения вектора ${\displaystyle a}$ берётся случайный вектор единичной длины, вычисляем вектор ${\displaystyle b}$, далее для этого вектора ${\displaystyle b}$ вычисляем вектор ${\displaystyle a}$ и т. д. Каждый шаг уменьшает значение ${\displaystyle F(b,a)}$. В качестве критерия остановки используется малость относительного уменьшения значения минимизируемого функционала ${\displaystyle F(b,a)}$ за шаг итерации (${\displaystyle \Delta F/F}$) или малость самого значения ${\displaystyle F}$.

В результате для матрицы ${\displaystyle X=(x_{ij})}$ получается наилучшее приближение матрицей ${\displaystyle P_{1}}$ вида ${\displaystyle b^{1}\otimes a^{1}=(b_{i}^{1}a_{j}^{1})}$ (здесь верхним индексом обозначен номер приближения). Далее, из матрицы ${\displaystyle X}$ вычитается полученная матрицу ${\displaystyle P_{1}}$, и для полученной матрицы уклонений ${\displaystyle X_{1}=X-P_{1}}$ вновь ищется наилучшее приближение ${\displaystyle P_{2}}$ этого же вида и т. д., пока, например, норма ${\displaystyle X_{k}}$ не станет достаточно малой. В результате получили итерационную процедуру разложения матрицы ${\displaystyle X}$ в виде суммы матриц ранга 1, то есть ${\displaystyle X=P_{1}+P_{2}+\ldots +P_{q}\;(P_{l}=b^{l}\otimes a^{l})}$ . Полагаем ${\displaystyle \sigma _{l}=\|a^{l}\|\|b^{l}\|}$ и нормируем векторы ${\displaystyle a^{l}\,,\,b^{l}}$: ${\displaystyle a^{l}:=a^{l}/\|a^{l}\|;\,\,b^{l}:=b^{l}/\|b^{l}\|.}$ В результате получена аппроксимация сингулярных чисел ${\displaystyle \sigma _{l}}$ и сингулярных векторов (правых — ${\displaystyle a^{l}}$ и левых — ${\displaystyle b^{l}}$).

К достоинствам этого алгоритма относится его исключительная простота и возможность почти без изменений перенести его на данные с пробелами^[5], а также взвешенные данные.

Существуют различные модификации базового алгоритма, улучшающие точность и устойчивость. Например, векторы главных компонент ${\displaystyle a^{l}}$ при разных ${\displaystyle l}$ должны быть ортогональны «по построению», однако при большом числе итерации (большая размерность, много компонент) малые отклонения от ортогональности накапливаются, и может потребоваться специальная коррекция ${\displaystyle a^{l}}$ на каждом шаге, обеспечивающая его ортогональность ранее найденным главным компонентам.

Для квадратных симметричных положительно определённых матриц описанный алгоритм превращается в метод прямых итераций для поиска собственных векторов (см. статью Собственные векторы, значения и пространства).

Сингулярное разложение тензоров и тензорный метод главных компонент

Часто вектор данных имеет дополнительную структуру прямоугольной таблицы (например, плоское изображение) или даже многомерной таблицы — то есть тензора: ${\displaystyle x_{i_{1}i_{2}...i_{q}}}$, ${\displaystyle 1\leq i_{j}\leq n_{j}}$. В этом случае также эффективно применять сингулярное разложение. Определение, основные формулы и алгоритмы переносятся практически без изменений: вместо матрицы данных имеем ${\displaystyle q+1}$-индексную величину ${\displaystyle \operatorname {X} =(x_{i_{0}i_{1}i_{2}...i_{q}})}$, где первый индекс ${\displaystyle i_{0}}$-номер точки (тензора) данных.

Основная процедура — поиск наилучшего приближения тензора ${\displaystyle x_{i_{0}i_{1}i_{2}...i_{q}}}$ тензором вида ${\displaystyle a_{i_{0}}^{0}a_{i_{1}}^{1}a_{i_{2}}^{2}...a_{i_{q}}^{q}}$ (где ${\displaystyle a^{0}=(a_{i_{0}}^{0})}$ — ${\displaystyle m}$-мерный вектор (${\displaystyle m}$ — число точек данных), ${\displaystyle a^{l}=(a_{i_{l}}^{l})}$ — вектор размерности ${\displaystyle n_{l}}$ при ${\displaystyle l>0}$) методом наименьших квадратов:

${\displaystyle F={\frac {1}{2}}\sum _{i_{0}=1}^{m}\sum _{i_{1}=1}^{n_{1}}...\sum _{i_{q}=1}^{n_{q}}(x_{i_{0}i_{1}...i_{q}}-a_{i_{0}}^{0}a_{i_{1}}^{1}...a_{i_{q}}^{q})^{2}\to \min }$

Решение этой задачи даётся последовательными итерациями по явным формулам. Если заданы все векторы-сомножители кроме одного ${\displaystyle a_{i_{k}}^{k}}$, то этот оставшийся определяется явно из достаточных условий минимума.

${\displaystyle a_{i_{k}}^{k}={\frac {\sum _{i_{0}=1}^{m}\sum _{i_{1}=1}^{n_{1}}...\sum _{i_{k-1}=1}^{n_{k-1}}\sum _{i_{k+1}=1}^{n_{k+1}}...\sum _{i_{q}=1}^{n_{q}}x_{i_{0}i_{1}...i_{k-1}i_{k}i_{k+1}...i_{q}}a_{i_{0}}^{0}a_{i_{k-1}}^{k-1}a_{i_{k+1}}^{k+1}...a_{i_{q}}^{q}}{\prod _{j\neq k}\|a^{j}\|^{2}}}\,.}$

B качестве начального приближения векторов ${\displaystyle a^{l}=(a_{i_{l}}^{l})}$ (${\displaystyle l>0}$) берутся случайные векторы единичной длины, вычислим вектор ${\displaystyle a^{0}}$, далее для этого вектора ${\displaystyle a^{0}}$ и данных векторов ${\displaystyle a^{2},a^{3},...}$ вычисляется вектор ${\displaystyle a^{1}}$ и так далее (циклически перебирая индексы). Каждый шаг уменьшает значение ${\displaystyle F(b,a)}$. Алгоритм, очевидно, сходится. В качестве критерия остановки используется малость относительного уменьшения значения минимизируемого функционала ${\displaystyle F}$ за цикл или малость самого значения ${\displaystyle F}$. Далее, из тензора ${\displaystyle \operatorname {X} }$ вычитается полученное приближение ${\displaystyle a_{i_{0}}^{0}a_{i_{1}}^{1}a_{i_{2}}^{2}...a_{i_{q}}^{q}}$ и для остатка вновь ищется наилучшее приближение этого же вида и т. д., пока, например, норма очередного остатка не станет достаточно малой.

Это многокомпонентное сингулярное разложение (тензорный метод главных компонент) успешно применяется при обработке изображений, видеосигналов, и, шире, любых данных, имеющих табличную или тензорную структуру.

Матрица преобразования к главным компонентам

Матрица ${\displaystyle A}$ преобразования данных к главным компонентам состоит из векторов главных компонент, расположенных в порядке убывания собственных значений:

${\displaystyle A=\left\{a_{1},...,a_{n}\right\}^{T}}$ (${\displaystyle {\,}^{T}}$ означает транспонирование),

причём

${\displaystyle AA^{T}=1.}$

То есть матрица ${\displaystyle A}$ является ортогональной.

Большая часть вариации данных будет сосредоточена в первых координатах, что позволяет перейти к пространству меньшей размерности.

Остаточная дисперсия

Пусть данные центрированы, ${\displaystyle {\overline {X}}=0}$. При замене векторов данных ${\displaystyle x_{i}}$ на их проекцию на первые ${\displaystyle k}$ главных компонент ${\displaystyle x_{i}\mapsto \sum _{j=1}^{k}a_{j}(a_{j},x_{i})}$ вносится средний квадрат ошибки в расчёте на один вектор данных:

${\displaystyle {\frac {1}{m}}\sum _{i=1}^{m}\left\Vert x_{i}-\sum _{j=1}^{k}a_{j}(a_{j},x_{i})\right\Vert ^{2}=\sum _{l=k+1}^{n}\lambda _{l},}$

где ${\displaystyle \lambda _{1}\geq \lambda _{2}\geq \ldots \geq \lambda _{n}\geq 0}$ собственные значения эмпирической ковариационной матрицы ${\displaystyle C}$, расположенные в порядке убывания, с учётом кратности.

Эта величина называется остаточной дисперсией. Величина

${\displaystyle {\frac {1}{m}}\sum _{i=1}^{m}\left\Vert \sum _{j=1}^{k}a_{j}(a_{j},x_{i})\right\Vert ^{2}={\frac {1}{m}}\sum _{i=1}^{m}\sum _{j=1}^{k}(a_{j},x_{i})^{2}=\sum _{l=1}^{k}\lambda _{l}}$

называется объяснённой дисперсией. Их сумма равна выборочной дисперсии. Соответствующий квадрат относительной ошибки — это отношение остаточной дисперсии к выборочной дисперсии (то есть доля необъяснённой дисперсии):

${\displaystyle \delta _{k}^{2}={\frac {\lambda _{k+1}+\lambda _{k+2}+\ldots +\lambda _{n}}{\lambda _{1}+\lambda _{2}+\ldots +\lambda _{n}}}.}$

По относительной ошибке ${\displaystyle \delta _{k}}$ оценивается применимость метода главных компонент с проецированием на первые ${\displaystyle k}$ компонент.

Замечание: в большинстве вычислительных алгоритмов собственные числа ${\displaystyle \lambda _{i}}$ с соответствующими собственными векторами — главными компонентами ${\displaystyle a_{i}}$ вычисляются в порядке «от больших ${\displaystyle \lambda _{i}}$ — к меньшим». Для вычисления ${\displaystyle \delta _{k}}$ достаточно вычислить первые ${\displaystyle k}$ собственных чисел и след эмпирической ковариационной матрицы ${\displaystyle C}$, ${\displaystyle \operatorname {tr} C}$ (сумму диагональных элементов ${\displaystyle C}$, то есть дисперсий по осям). Тогда

${\displaystyle \delta _{k}^{2}={\frac {1}{\operatorname {tr} C}}\left(\operatorname {tr} C-\sum _{i=1}^{k}\lambda _{i}\right).}$

Отбор главных компонент по правилу Кайзера

Целевой подход к оценке числа главных компонент по необходимой доле объяснённой дисперсии формально применим всегда, однако неявно он предполагает, что нет разделения на «сигнал» и «шум», и любая заранее заданная точность имеет смысл. Поэтому часто более продуктивна иная эвристика, основывающаяся на гипотезе о наличии «сигнала» (сравнительно малая размерность, относительно большая амплитуда) и «шума» (большая размерность, относительно малая амплитуда). С этой точки зрения метод главных компонент работает как фильтр: сигнал содержится в основном в проекции на первые главные компоненты, а в остальных компонентах пропорция шума намного выше.

Вопрос: как оценить число необходимых главных компонент, если отношение «сигнал/шум» заранее неизвестно?

Простейший и старейший метод отбора главных компонент даёт правило Кайзера (англ. Kaiser's rule): значимы те главные компоненты, для которых

${\displaystyle \lambda _{i}>{\frac {1}{n}}\operatorname {tr} C,}$

то есть ${\displaystyle \lambda _{i}}$ превосходит среднее значение ${\displaystyle \lambda }$ (среднюю выборочную дисперсию координат вектора данных). Правило Кайзера хорошо работает в простых случаях, когда есть несколько главных компонент с ${\displaystyle \lambda _{i}}$, намного превосходящими среднее значение, а остальные собственные числа меньше него. В более сложных случаях оно может давать слишком много значимых главных компонент. Если данные нормированы на единичную выборочную дисперсию по осям, то правило Кайзера приобретает особо простой вид: значимы только те главные компоненты, для которых ${\displaystyle \lambda _{i}>1.}$

Оценка числа главных компонент по правилу сломанной трости

Пример: оценка числа главных компонент по правилу сломанной трости в размерности 5. На графике ${\displaystyle \lambda _{1}>l_{1},\lambda _{2}>l_{2},}$ но ${\displaystyle \lambda _{3}<l_{3}}$. Число необходимых главных компонент равно 2.

Одним из наиболее популярных эвристических подходов к оценке числа необходимых главных компонент является правило сломанной трости (англ. Broken stick model)^[6]. Набор нормированных на единичную сумму собственных чисел (${\displaystyle \lambda _{i}/\operatorname {tr} C}$, ${\displaystyle i=1,...n}$) сравнивается с распределением длин обломков трости единичной длины, сломанной в ${\displaystyle n-1}$-й случайно выбранной точке (точки разлома выбираются независимо и равнораспределены по длине трости). Пусть ${\displaystyle L_{i}}$ (${\displaystyle i=1,...n}$) — длины полученных кусков трости, занумерованные в порядке убывания длины: ${\displaystyle L_{1}\geq L_{2}\geq ...L_{n}}$. Нетрудно найти математическое ожидание ${\displaystyle L_{i}}$:

${\displaystyle l_{i}=\operatorname {E} (L_{i})={\frac {1}{n}}\sum _{j=i}^{n}{\frac {1}{j}}.}$

По правилу сломанной трости ${\displaystyle k}$-й собственный вектор (в порядке убывания собственных чисел ${\displaystyle \lambda _{i}}$) сохраняется в списке главных компонент, если

${\displaystyle {\frac {\lambda _{1}}{\operatorname {tr} C}}>l_{1}\;and\;{\frac {\lambda _{2}}{\operatorname {tr} C}}>l_{2}\;and\;...{\frac {\lambda _{k}}{\operatorname {tr} C}}>l_{k}.}$

На Рис. приведён пример для 5-мерного случая:

${\displaystyle l_{1}}$=(1+1/2+1/3+1/4+1/5)/5; ${\displaystyle l_{2}}$=(1/2+1/3+1/4+1/5)/5; ${\displaystyle l_{3}}$=(1/3+1/4+1/5)/5; ${\displaystyle l_{4}}$=(1/4+1/5)/5; ${\displaystyle l_{5}}$=(1/5)/5.

Для примера выбрано

${\displaystyle {\frac {\lambda _{1}}{\operatorname {tr} C}}}$=0.5; ${\displaystyle {\frac {\lambda _{2}}{\operatorname {tr} C}}}$=0.3; ${\displaystyle {\frac {\lambda _{3}}{\operatorname {tr} C}}}$=0.1; ${\displaystyle {\frac {\lambda _{4}}{\operatorname {tr} C}}}$=0.06; ${\displaystyle {\frac {\lambda _{5}}{\operatorname {tr} C}}}$=0.04.

По правилу сломанной трости в этом примере следует оставлять 2 главных компоненты:

${\displaystyle {\frac {\lambda _{1}}{\operatorname {tr} C}}>l_{1}\;;\;{\frac {\lambda _{2}}{\operatorname {tr} C}}>l_{2}\;;\;{\frac {\lambda _{3}}{\operatorname {tr} C}}<l_{3}\;.}$

По оценкам пользователей, правило сломанной трости имеет тенденцию занижать количество значимых главных компонент.

Оценка числа главных компонент по числу обусловленности

И правило Кайзера, и правило сломанной трости весьма чувствительны к наличию иррелевантных атрибутов. Это легко демонстрируется на примере удвоения атрибутов. В работе Миркеса с соавторами^[7] был предложен простой тест на устойчивость оценки размерности: если просто продублировать атрибуты в базе данных, то оценка размерности увеличиться не должна. Ни правило Кайзера, ни правило сломанной трости этот тест не проходят из-за того, что «шлейф» компоненты с малыми собственными числами сдвигает оценку и пропрорционально увеличивает размерность. Этим недостатком не обладает оценка по числу обусловленности.^[7][8] Число обусловленности корреляционной матрицы, это отношение ее максимального собственного числа, ${\displaystyle \lambda _{1}}$ к минимальному ${\displaystyle \lambda _{n}}$: ${\displaystyle \kappa =\lambda _{1}/\lambda _{n}}$. Большое значение ${\displaystyle \kappa }$ означает плохую обусловленность и мультиколлинеарность. Для определение числа оставляемых компонент выбирается некоторое значение порога мультиколлинеарности ${\displaystyle \kappa _{0}>1}$ и оставляются те компоненты, для которых ${\displaystyle \lambda _{i}>{\frac {\lambda _{1}}{\kappa _{0}}}}$. Таким образом, в оставшихся компонентах мультиколлинеарность отсутствует. Размерность данных оценивается как число собственных значений ковариационной матрицы, превышающее фиксированную долю (${\displaystyle 1/{\kappa _{0}}}$) от ее наибольшего собственного значения. Выбор порога ${\displaystyle \kappa _{0}}$ определяется спецификой задачи. Многочисленные численные эксперименты показывают, что выбор ${\displaystyle \kappa _{0}=10}$ соответствует диапазону от малой до «умеренной» мультиколлинеарности в сохраняемых компонентах и приемлем для многих задач обработки данных. ^[7][9]

Нормировка

Нормировка после приведения к главным компонентам

После проецирования на первые ${\displaystyle k}$ главных компонент с ${\displaystyle \lambda _{1}\geq \lambda _{2}\geq \ldots \geq \lambda _{k}>0}$ удобно произвести нормировку на единичную (выборочную) дисперсию по осям. Дисперсия вдоль ${\displaystyle i}$й главной компоненты равна ${\displaystyle \lambda _{i}>0\;(1\leq i\leq k}$), поэтому для нормировки надо разделить соответствующую координату на ${\displaystyle {\sqrt {\lambda _{i}}}}$. Это преобразование не является ортогональным и не сохраняет скалярного произведения. Ковариационная матрица проекции данных после нормировки становится единичной, проекции на любые два ортогональных направления становятся независимыми величинами, а любой ортонормированный базис становится базисом главных компонент (напомним, что покоординатная нормировка меняет отношение ортогональности векторов). Отображение из пространства исходных данных на первые ${\displaystyle k}$ главных компонент вместе с нормировкой задаётся матрицей

${\displaystyle K=\left\{{\frac {a_{1}}{\sqrt {\lambda _{1}}}},{\frac {a_{2}}{\sqrt {\lambda _{2}}}},...,{\frac {a_{k}}{\sqrt {\lambda _{k}}}}\right\}^{T}}$.

Именно это преобразование чаще всего называется преобразованием Кархунена — Лоэва. Здесь ${\displaystyle a_{i}}$ — векторы-столбцы, а верхний индекс ${\displaystyle T}$ означает транспонирование.

Нормировка до вычисления главных компонент

Предупреждение: не следует путать нормировку, проводимую после преобразования к главным компонентам, с нормировкой и «обезразмериванием» при предобработке данных, проводимой до вычисления главных компонент. Предварительная нормировка нужна для обоснованного выбора метрики, в которой будет вычисляться наилучшая аппроксимация данных, или будут искаться направления наибольшего разброса (что эквивалентно). Например, если данные представляют собой трёхмерные векторы из «метров, литров и килограммов», то при использовании стандартного евклидового расстояния разница в 1 метр по первой координате будет вносить тот же вклад, что разница в 1 литр по второй, или в 1 кг по третьей. Обычно системы единиц, в которых представлены исходные данные, недостаточно точно отображают наши представления о естественных масштабах по осям, и проводится «обезразмеривание»: каждая координата делится на некоторый масштаб, определяемый данными, целями их обработки и процессами измерения и сбора данных.

Есть три существенно различных стандартных подхода к такой нормировке: на единичную дисперсию по осям (масштабы по осям равны средним квадратичным уклонениям — после этого преобразования ковариационная матрица совпадает с матрицей коэффициентов корреляции), на равную точность измерения (масштаб по оси пропорционален точности измерения данной величины) и на равные требования в задаче (масштаб по оси определяется требуемой точностью прогноза данной величины или допустимым её искажением — уровнем толерантности). На выбор предобработки влияют содержательная постановка задачи, а также условия сбора данных (например, если коллекция данных принципиально не завершена и данные будут ещё поступать, то нерационально выбирать нормировку строго на единичную дисперсию, даже если это соответствует смыслу задачи, поскольку это предполагает перенормировку всех данных после получения новой порции; разумнее выбрать некоторый масштаб, грубо оценивающий стандартное отклонение, и далее его не менять).

Предварительная нормировка на единичную дисперсию по осям разрушается поворотом системы координат, если оси не являются главными компонентами, и нормировка при предобработке данных не заменяет нормировку после приведения к главным компонентам.

Механическая аналогия и метод главных компонент для взвешенных данных

Если сопоставить каждому вектору данных единичную массу, то эмпирическая ковариационная матрица ${\displaystyle C}$ совпадёт с тензором инерции этой системы точечных масс (делённым на полную массу ${\displaystyle m}$), а задача о главных компонентах — с задачей приведения тензора инерции к главным осям. Можно использовать дополнительную свободу в выборе значений масс для учёта важности точек данных или надёжности их значений (важным данным или данным из более надёжных источников приписываются бо́льшие массы). Если вектору данных ${\displaystyle x_{l}}$ придаётся масса ${\displaystyle w_{l}}$, то вместо эмпирической ковариационной матрицы ${\displaystyle C}$ получим

${\displaystyle C^{w}=[c_{ij}^{w}],\ c_{ij}^{w}={\frac {1}{\sum _{l}w_{l}}}\sum _{l=1}^{m}w_{l}(x_{li}-{\overline {X_{i}}})(x_{lj}-{\overline {X_{j}}}).}$

Все дальнейшие операции по приведению к главным компонентам производятся так же, как и в основной версии метода: ищется ортонормированный собственный базис ${\displaystyle C^{w}}$, упорядочивается по убыванию собственных значений, оценивается средневзвешенная ошибка аппроксимации данных первыми ${\displaystyle k}$ компонентами (по суммам собственных чисел ${\displaystyle C^{w}}$), проводится нормировка и так далее.

Более общий способ взвешивания даёт максимизация взвешенной суммы попарных расстояний^[10] между проекциями. Для каждых двух точек данных, ${\displaystyle x_{l},\ x_{q}}$ вводится вес ${\displaystyle d_{lq}}$; ${\displaystyle d_{lq}=d_{ql}}$ и ${\displaystyle d_{l}=\sum _{q=1}^{m}d_{lq}}$. Вместо эмпирической ковариационной матрицы ${\displaystyle C}$ используется

${\displaystyle C^{d}=[c_{ij}^{d}],\ c_{ij}^{d}=\sum _{l=1}^{m}d_{l}(x_{li}-{\overline {X_{i}}})(x_{lj}-{\overline {X_{j}}})-\sum _{l\neq q,\ l,q=1}^{m}d_{lq}(x_{li}-{\overline {X_{i}}})(x_{qj}-{\overline {X_{j}}}).}$

При ${\displaystyle d_{lq}>0}$ симметричная матрица ${\displaystyle C^{d}}$ положительно определена, поскольку положительна квадратичная форма:

${\displaystyle \sum _{ij}c_{ij}^{d}a_{i}a_{j}={\frac {1}{2}}\sum _{lq}d_{lq}\left(\sum _{i}a_{i}(x_{li}-x_{qi})\right)^{2}.}$

Далее ищем ортонормированный собственный базис ${\displaystyle C^{d}}$, упорядочиваем его по убыванию собственных значений, оцениваем средневзвешенную ошибку аппроксимации данных первыми ${\displaystyle k}$ компонентами и т. д. — в точности так же, как и в основном алгоритме.

Этот способ применяется при наличии классов: для ${\displaystyle x_{l},\ x_{q}}$ из разных классов вес ${\displaystyle d_{lq}}$ вес выбирается бо́льшим, чем для точек одного класса. В результате, в проекции на взвешенные главные компоненты различные классы «раздвигаются» на большее расстояние.

Другое применение — снижение влияния больших уклонений, так называемых аутлайеров (en.:outlier), которые могут искажать картину из-за использования среднеквадратичного расстояния: если выбрать ${\displaystyle d_{lq}=1/\|x_{l}-x_{q}\|}$, то влияние больших уклонений будет уменьшено. Таким образом, описанная модификация метода главных компонент является более робастной, чем классическая.

Специальная терминология

В статистике при использовании метода главных компонент используют несколько специальных терминов.

• Матрица данных — ${\displaystyle \mathbf {X} =\{x_{1},...x_{m}\}^{T}}$; каждая строка — вектор предобработанных данных (центрированных и правильно нормированных), число строк — ${\displaystyle m}$ (количество векторов данных), число столбцов — ${\displaystyle n}$ (размерность пространства данных);
• Матрица нагрузок (англ. loadings) — ${\displaystyle \mathbf {P} =\{a_{1},...a_{k}\}}$; каждый столбец — вектор главных компонент, число строк — ${\displaystyle n}$ (размерность пространства данных), число столбцов — ${\displaystyle k}$ (количество векторов главных компонент, выбранных для проецирования);
• Матрица счетов (англ. scores) — ${\displaystyle \mathbf {T} =[t_{ij}];\;t_{ij}=(x_{i},a_{j})}$; каждая строка — проекция вектора данных на ${\displaystyle k}$ главных компонент; число строк — ${\displaystyle m}$ (количество векторов данных), число столбцов — ${\displaystyle k}$ (количество векторов главных компонент, выбранных для проецирования);
• Матрица ${\displaystyle Z}$-счетов (англ. ${\displaystyle Z}$-scores) — ${\displaystyle \mathbf {Z} =[z_{ij}];\;z_{ij}={\frac {(x_{i},a_{j})}{\sqrt {\lambda _{j}}}}}$; каждая строка — проекция вектора данных на ${\displaystyle k}$ главных компонент, нормированная на единичную выборочную дисперсию; число строк — ${\displaystyle m}$ (количество векторов данных), число столбцов — ${\displaystyle k}$ (количество векторов главных компонент, выбранных для проецирования);
• Матрица ошибок (или остатков) (англ. errors или residuals) — ${\displaystyle \mathbf {E} =\mathbf {X} -\mathbf {T} \mathbf {P} ^{T}}$.
• Основная формула: ${\displaystyle \mathbf {X} =\mathbf {T} \mathbf {P} ^{T}+\mathbf {E} }$.

Границы применимости и ограничения эффективности метода

Построение ветвящихся главных компонент методом топологических грамматик. Крестики — точки данных, красное дерево с жёлтыми узлами — аппроксимирующий дендрит^[11].

Метод главных компонент применим всегда. Распространённое утверждение о том, что он применим только к нормально распределённым данным (или для распределений, близких к нормальным), неверно: в исходной формулировке Пирсона ставится задача об аппроксимации конечного множества данных и отсутствует даже гипотеза об их статистическом порождении, не говоря уж о распределении.

Однако метод не всегда эффективно снижает размерность при заданных ограничениях на точность ${\displaystyle \delta _{k}}$. Прямые и плоскости не всегда обеспечивают хорошую аппроксимацию. Например, данные могут с хорошей точностью следовать какой-нибудь кривой, а эта кривая может быть сложно расположена в пространстве данных. В этом случае метод главных компонент для приемлемой точности потребует нескольких компонент (вместо одной) или вообще не даст снижения размерности при приемлемой точности. Для работы с такими «кривыми» главными компонентами изобретён метод главных многообразий^[12] и различные версии нелинейного метода главных компонент^[13][14]. Больше неприятностей могут доставить данные сложной топологии. Для их аппроксимации также изобретены различные методы, например, самоорганизующиеся карты Кохонена, нейронный газ^[15] или топологические грамматики^[11]. Если данные статистически порождены с распределением, сильно отличающимся от нормального, то для аппроксимации распределения полезно перейти от главных компонент к независимым компонентам^[16], которые уже не ортогональны в исходном скалярном произведении. Наконец, для изотропного распределения (даже нормального) вместо эллипсоида рассеяния получаем шар, и уменьшить размерность методами аппроксимации невозможно.

Примеры использования

Визуализация данных

Визуализация данных — представление в наглядной форме данных эксперимента или результатов теоретического исследования.

Первым выбором в визуализации множества данных является ортогональное проецирование на плоскость первых двух главных компонент (или 3-мерное пространство первых трёх главных компонент). Плоскость проецирования является по сути плоским двумерным «экраном», расположенным таким образом, чтобы обеспечить «картинку» данных с наименьшими искажениями. Такая проекция будет оптимальна (среди всех ортогональных проекций на разные двумерные экраны) в трёх отношениях:

1. Минимальна сумма квадратов расстояний от точек данных до проекций на плоскость первых главных компонент, то есть экран расположен максимально близко по отношению к облаку точек.
2. Минимальна сумма искажений квадратов расстояний между всеми парами точек из облака данных после проецирования точек на плоскость. (Это означает, что максимальна сумма квадратов расстояний между проекциями.)
3. Минимальна сумма искажений квадратов расстояний между всеми точками данных и их «центром тяжести». (Это означает, что максимальна сумма квадратов расстояний между проекциями и их центром тяжести.)

Визуализация данных является одним из наиболее широко используемых приложений метода главных компонент и его нелинейных обобщений^[2].

Компрессия изображений и видео

Для уменьшения пространственной избыточности пикселей при кодировании изображений и видео используется линейное преобразование блоков пикселей. Последующие квантования полученных коэффициентов и кодирование без потерь позволяют получить значительные коэффициенты сжатия. Использование преобразования PCA в качестве линейного преобразования является для некоторых типов данных оптимальным с точки зрения размера полученных данных при одинаковом искажении^[17]. На данный момент этот метод активно не используется, в основном из-за большой вычислительной сложности. Также сжатия данных можно достичь, отбрасывая последние коэффициенты преобразования.

Подавление шума на изображениях

Основная суть метода^[18] — при удалении шума из блока пикселей представить окрестность этого блока в виде набора точек в многомерном пространстве, применить к нему PCA и оставить только первые компоненты преобразования. При этом предполагается, что в первых компонентах содержится основная полезная информация, оставшиеся же компоненты содержат ненужный шум. Применив обратное преобразование после редукции базиса главных компонент, мы получим изображение без шума.

Индексация видео

Основная идея — представить при помощи PCA каждый кадр видео несколькими значениями, которые в дальнейшем будут использоваться при построении базы данных и запросам к ней. Столь существенная редукция данных позволяет значительно увеличить скорость работы и устойчивость к ряду искажений в видео.

Биоинформатика

Рис. А. Проекция ДНК-блуждания на первые 2 главные компоненты для генома бактерии Streptomyces coelicolor

Рис. Б. Проекция ДНК-блуждания на первые 3 главные компоненты для генома бактерии Streptomyces coelicolor. Вращение применяется для визуализации трёхмерной конфигурации

Метод главных компонент интенсивно используется в биоинформатике для сокращения размерности описания, выделения значимой информации, визуализации данных и др. Один из распространённых вариантов использования — анализ соответствий^[19][20][21]. На иллюстрациях (Рис. А, Б) генетический текст^[22] представлен как множество точек в 64-мерном пространстве частот триплетов. Каждая точка соответствует фрагменту ДНК в скользящем окне длиной 300 нуклеотидов (ДНК-блуждание). Этот фрагмент разбивается на неперекрывающиеся триплеты, начиная с первой позиции. Относительные частоты этих триплетов во фрагменте и составляют 64-мерный вектор. На Рис. А представлена проекция на первые 2 главные компоненты для генома бактерии Streptomyces coelicolor. На Рис. Б представлена проекция на первые 3 главные компоненты. Оттенками красного и коричневого выделены фрагменты кодирующих последовательностей в прямой цепи ДНК, а оттенками зелёного выделены фрагменты кодирующих последовательностей в обратной цепи ДНК. Чёрным помечены фрагменты, принадлежащие некодирующей части. Анализ методом главных компонент большинства известных бактериальных геномов представлен на специализированном сайте^[23].

Хемометрика

Метод главных компонент — один из основных методов в хемометрике. Позволяет разделить матрицу исходных данных X на две части: «содержательную» и «шум».

Психодиагностика

Психодиагностика является одной из наиболее разработанных областей приложения метода главных компонент^[24]. Стратегия использования основывается на гипотезе об автоинформативности экспериментальных данных, которая подразумевает, что диагностическую модель можно создать путём аппроксимации геометрической структуры множества объектов в пространстве исходных признаков. Хорошую линейную диагностическую модель удаётся построить, когда значительная часть исходных признаков внутренне согласованна. Если эта внутренняя согласованность отражает искомый психологический конструкт, то параметры линейной диагностической модели (веса признаков) даёт метод главных компонент.

Эконометрика

Метод главных компонент — один из ключевых инструментов эконометрики, он применяется для наглядного представления данных, обеспечения лаконизма моделей, упрощения счёта и интерпретации, сжатия объёмов хранимой информации. Метод обеспечивает максимальную информативность и минимальное искажение геометрической структуры исходных данных.

Социология

В социологии метод необходим для решения первых двух основных задач^[25]:

1. анализ данных (описание результатов опросов или других исследований, представленных в виде массивов числовых данных);
2. описание социальных явлений (построение моделей явлений, в том числе и математических моделей).

Политология

В политологии метод главных компонент был основным инструментом проекта «Политический атлас современности»^[26] для линейного и нелинейного анализа рейтингов 192 стран мира по пяти специально разработанным интегральным индексам (уровня жизни, международного влияния, угроз, государственности и демократии). Для картографии результатов этого анализа разработана специальная геоинформационная система, объединяющая географическое пространство с пространством признаков. Также созданы карты данных политического атласа, использующие в качестве подложки двумерные главные многообразия в пятимерном пространстве стран. Отличие карты данных от географической карты заключается в том, что на географической карте рядом оказываются объекты, которые имеют сходные географические координаты, в то время как на карте данных рядом оказываются объекты (страны) с похожими признаками (индексами).

Сокращение размерности динамических моделей

Проклятие размерности затрудняет моделирование сложных систем. Сокращение размерности модели — необходимое условие успеха моделирования. Для достижения этой цели создана разветвлённая математическая технология. Метод главных компонент также используется в этих задачах (часто под названием истинное или собственное ортогональное разложение — англ. proper orthogonal decomposition (POD)). Например, при описании динамики турбулентности динамические переменные — поле скоростей — принадлежат бесконечномерному пространству (или, если представлять поле его значениями на достаточно мелкой сетке, — конечномерному пространству большой размерности). Можно набрать большую коллекцию мгновенных значений полей и применить к этому множеству многомерных «векторов данных» метод главных компонент. Эти главные компоненты называются также эмпирические собственные векторы. В некоторых случаях (структурная турбулентность) метод даёт впечатляющее сокращение размерности^[27]. Другие области применения этой техники сокращения динамических моделей чрезвычайно разнообразны — от теоретических основ химической технологии до океанологии и климатологии.

Сенсорная оценка пищевых продуктов

Своё применение метод главных компонент получил при проведении сенсорной (органолептической) оценки свойств пищевых продуктов^[28]. Метод главных компонент позволяет проводить классификации пищевых продуктов в тех случаях, когда для характеристики их свойств используется одновременно большое число дескрипторов, например при оценке свойств вина,^[29] мармелада,^[30] экструдированных пищевых продуктов,^[31] сыра,^[32] и других.

Альтернативы и обобщения

Метод главных компонент — наиболее распространённый подход к снижению размерности, однако существуют и другие способы, в частности, метод независимых компонент, многомерное шкалирование, а также многочисленные нелинейные обобщения: метод главных кривых и многообразий, метод упругих карт, поиск наилучшей проекции (англ. Projection Pursuit), нейросетевые методы «узкого горлышка», самоорганизующиеся карты Кохонена.

См. также

• SSA (метод)

Примечания

1. Фактически, метод является эмпирической реализацией теоремы Кархунена — Лоэва, согласно которой любой случайный процесс может быть представлен в виде бесконечного ряда ортогональных функций. В русскоязычной научной литературе распространено также написание «преобразование Карунена — Лоэва», соответствующее английскому прочтению финской фамилии
2. Зиновьев А. Ю., Визуализация многомерных данных Архивная копия от 6 марта 2019 на Wayback Machine, Красноярск, Изд. КГТУ, 2000.
3. Bau III, D., Trefethen, L. N., Numerical linear algebra Архивная копия от 7 апреля 2022 на Wayback Machine, Philadelphia: Society for Industrial and Applied Mathematics, 1997. (Lecture 31) ISBN 978-0-89871-361-9
4. Гантмахер Ф. Р., Теория матриц. — М.: Наука, 1966. — 576 стр.
5. Россиев А. А.,: Итерационное моделирование неполных данных с помощью многообразий малой размерности Архивная копия от 6 марта 2019 на Wayback Machine, Изд-во СО РАН, 2005.
6. Cangelosi R. , Goriely A., Component retention in principal component analysis with application to cDNA microarray data Архивная копия от 9 марта 2008 на Wayback Machine, Biology Direct 2007, 2:2. А также на сайте PCA Архивная копия от 16 марта 2019 на Wayback Machine.
7. Mirkes, Evgeny M.; Allohibi, Jeza; Gorban, Alexander. «Fractional Norms and Quasinorms Do Not Help to Overcome the Curse of Dimensionality» Entropy 22, 2020 no. 10: 1105. https://doi.org/10.3390/e22101105
8. Fukunaga, K.; Olsen, D.R. An algorithm for finding intrinsic dimensionality of data. IEEE Trans. Comput. 1971, C-20, 176—183 https://doi.org/10.1109/T-C.1971.223208
9. Dormann C.F., Elith J., Bacher S., Buchmann C., Carl G., Carré G., Marquéz J.R., Gruber B., Lafourcade B., Leitão P.J., Münkemüller T. Collinearity: a review of methods to deal with it and a simulation study evaluating their performance. Ecography 36(1), 27—46 (2013). https://doi.org/10.1111/j.1600-0587.2012.07348.x
10. Koren Y., Carmel L., Robust linear dimensionality reduction, IEEE Transactions on Visualisation and Computer Graphics, 10 (4) (2004), 459—470. А также на сайте PCA Архивная копия от 16 марта 2019 на Wayback Machine
11. Описание метода можно найти в статье: Gorban A. N. , Sumner N. R., and Zinovyev A. Y., Topological grammars for data approximation, Applied Mathematics Letters, Volume 20, Issue 4 (2007), 382—386; или Gorban A. N. , Sumner N. R., and Zinovyev A. Y., Beyond The Concept of Manifolds: Principal Trees, Metro Maps, and Elastic Cubic Complexes Архивная копия от 6 марта 2019 на Wayback Machine In: Gorban A. N. et al (Eds.), LNCSE 58, Springer, 2007 ISBN 978-3-540-73749-0; а также в arXiv
12. С этой работы началось изучение главных многообразий. Диссертация T. Хасти: Hastie T., Principal Curves and Surfaces accessed 10/03/2022 Архивная копия от 10 марта 2022 на Wayback Machine, Ph.D Dissertation, Stanford Linear Accelerator Center, Stanford University, Stanford, California, US, November 1984. А также на сайте PCA Архивная копия от 6 марта 2019 на Wayback Machine
13. Scholz M., Fraunholz M., Selbig J., Nonlinear Principal Component Analysis: Neural Network Models and Applications Архивная копия от 6 марта 2019 на Wayback Machine, In: Gorban A. N. et al (Eds.), LNCSE 58, Springer, 2007 ISBN 978-3-540-73749-0
14. Yin H. Learning Nonlinear Principal Manifolds by Self-Organising Maps Архивная копия от 6 марта 2019 на Wayback Machine, In: Gorban A. N. et al (Eds.), LNCSE 58, Springer, 2007 ISBN 978-3-540-73749-0
15. Martinetz, T.M., Berkovich, S.G., and Schulten K.J., Neural-gas network for vector quantization and its application to time-series prediction. Архивная копия от 16 июля 2019 на Wayback Machine IEEE Transactions on Neural Networks, 4 (1993) #4, 558—569. На сайте PCA Архивная копия от 16 марта 2019 на Wayback Machine
16. Hyvdrinen A, Karhunen J., and Oja E., Independent Component Analysis, A Volume in the Wiley Series on Adaptive and Learning Systems for Signal Processing, Communications, and Control. — John Wiley & Sons, Inc., 2001. — XVI+481 pp. ISBN 0-471-40540-X
17. Rao, K., Yip P. (eds.), The Transform and Data Compression Handbook, CRC Press, Baton Rouge, 2001.
18. Muresan D. D., Parks T. W., Adaptive Principal Components and Image Denoising Архивная копия от 16 июля 2019 на Wayback Machine, in: Image Processing, 2003, Proceedings 2003 IEEE International Conference on Image Processing (ICIP), 14-17 Sept. 2003, V. 1, pp. I-101-104. На сайте PCA Архивная копия от 16 марта 2019 на Wayback Machine
19. англ. Correspondence Analysis
20. Benzécri, J.-P., L’Analyse des Données. Volume II. L’Analyse des Correspondences, Dunod, Paris, France, 1973.
21. Tekaia F., Use of Correspondence Analysis in Genome Exploration Архивная копия от 12 августа 2007 на Wayback Machine.
22. См. статью Трансляция (биология)
23. Zinovyev A., Сluster structures in genomic word frequency distributions Архивная копия от 10 марта 2019 на Wayback Machine; а также в arXiv: PCA and K-Means decipher genome Архивная копия от 24 июля 2019 на Wayback Machine.
24. Дюк В. А., Компьютерная психодиагностика, С-Пб., 1994; отдельные разделы см. на сайте «Пси-фактор» Архивная копия от 28 апреля 2019 на Wayback Machine
25. Гуц А. К., Фролова Ю. В.,Математические методы в социологии Архивная копия от 21 января 2022 на Wayback Machine, Серия: Синергетика: от прошлого к будущему. — Издательство «УРСС», 2007. — 216 с.
26. Политический атлас современности: Опыт многомерного статистического анализа политических систем современных государств. Архивная копия от 21 января 2022 на Wayback Machine — М.: Изд-во «МГИМО-Университет», 2007. — 272 с.
27. Berkooz G, Holmes Ph., and. Lumley J. L, The proper orthogonal decomposition in the analysis of turbulent flows, Архивная копия от 16 июля 2019 на Wayback Machine Annu. Rev. Fluid Mech. 25 (1993), 539—575. Первая публикация для анализа турбулентности — Lumley, J. L., The structure of inhomogeneous turbulence. In Atmospheric Turbulence and Wave Propagation, ed. A. M. Yaglom, V. I. Tatarski, pp. 166—178. Moscow: Nauka, 1967. (Атмосферная турбулентность и распространение радиоволн. Труды Международного коллоквиума. Москва, 15—22 июня 1965 г. Под ред. А. М. Яглома и В. И. Татарского. М.: Наука, 1967, 374 стр. с илл. и карт. (АН СССР. Междувед. геофиз. ком. Ин-т физики атмосферы). Интересно, что авторы этих работ возводят историю своего подхода к работам Косамби (1943), Лоэва (1945), Кархунена (1946), Пугачёва (1953) и Обухова (1954), не обратив внимание на работы Пирсона и 40 лет предшествующей истории метода.
28. Harry T. Lawless, Hildegarde Heymann. Data Relationships and Multivariate Applications (англ.) // Food Science Text Series. — New York, NY: Springer New York, 2010. — P. 433–449. — ISBN 9781441964878, 9781441964885. — doi:10.1007/978-1-4419-6488-5_18. Архивировано 9 июня 2018 года.
29. Correlation between volatile composition and sensory properties in Spanish Albariño wines (англ.) // Microchemical Journal. — 2010-07-01. — Vol. 95, iss. 2. — P. 240–246. — ISSN 0026-265X. — doi:10.1016/j.microc.2009.12.007.
30. Nataliya V Zhilinskaya, Varuzhan A Sarkisyan, Valentina M Vorobieva, Irina S Vorobieva, Alla A Kochetkova, Elena A Smirnova, Irina V Glazkova. Development of a marmalade for patients with type 2 diabetes: Sensory characteristics and acceptability (англ.) // Food Science and Technology International : периодическое издание. — 2018. — 7 июня. — ISSN 10820132.
31. Texture profile and correlation between sensory and instrumental analyses on extruded snacks (англ.) // Journal of Food Engineering. — 2014-01-01. — Vol. 121. — P. 9–14. — ISSN 0260-8774. — doi:10.1016/j.jfoodeng.2013.08.007. Архивировано 17 июня 2022 года.
32. Characterisation of the sensory properties and market positioning of novel reduced-fat cheese (англ.) // Innovative Food Science & Emerging Technologies. — 2014-01-01. — Vol. 21. — P. 169–178. — ISSN 1466-8564. — doi:10.1016/j.ifset.2013.10.003.

Литература

Классические работы

• Pearson K., On lines and planes of closest fit to systems of points in space, Philosophical Magazine, (1901) 2, 559—572; а также на сайте PCA.
• Sylvester J.J., On the reduction of a bilinear quantic of the nth order to the form of a sum of n products by a double orthogonal substitution, Messenger of Mathematics, 19 (1889), 42—46; а также на сайте PCA.
• Frećhet M. Les élements aléatoires de nature quelconque dans un espace distancié. Ann. Inst. H. Poincaré, 10 (1948), 215—310.

Основные руководства

• Айвазян С. А., Бухштабер В. М., Енюков И. С., Мешалкин Л. Д. Прикладная статистика. Классификация и снижение размерности.— М.: Финансы и статистика, 1989.— 607 с.
• Jolliffe I.T. Principal Component Analysis, Series: Springer Series in Statistics, 2nd ed., Springer, NY, 2002, XXIX, 487 p. 28 illus. ISBN 978-0-387-95442-4

Современные обзоры

• Gorban A. N., Kegl B., Wunsch D., Zinovyev A. Y. (Eds.), Principal Manifolds for Data Visualisation and Dimension Reduction, Series: Lecture Notes in Computational Science and Engineering 58, Springer, Berlin — Heidelberg — New York, 2007, XXIV, 340 p. 82 illus. ISBN 978-3-540-73749-0 (а также онлайн).

Учебное программное обеспечение

• Java-апплет «Метод главных компонент и самоорганизующиеся карты» (E.M. Mirkes, Principal Component Analysis and Self-Organizing Maps: applet. University of Leicester, 2011). Свободно распространяемая программа с моделями метода главных компонент, самоорганизуюшихся карт (SOM) и растущих самоорганизующихся карт (Growing Self-Organized Maps, GSOM). Дано описание алгоритмов (англ.), приведены руководства и некоторые публикации. Используется для выполнения небольших студенческих исследовательских работ по сравнению различных алгоритмов аппроксимации данных.

Ссылки

• Курс «Анализ лингвистических данных: квантитативные методы и визуализация»
• A tutorial on Principal Components Analysis, Jonathon Shlens, 22, 2009; Version 3.01.
• Нелинейный метод главных компонент (сайт-библиотека)
• Онлайн руководство «Метод Главных Компонент (PCA)» c примерами, выполненными в рабочей книге Excel, Алексей Померанцев.