Comparaison animée de l'approximation d'un signal carré (en rouge) par sa série de Fourier (en bleu) et par son approximation sigma (en vert). On voit le phénomène de Gibbs apparaître au niveau des discontinuités alors que l'approximation sigma approche le carré de façon plus lisse.
Une approximation sigma appliquée à une série de période T peut s'écrire:
est le «facteur σ de Lanczos» qui est à l'origine de la suppression de la plus grande partie des oscillations supplémentaires dues au phénomène de Gibbs par atténuation des grandes valeurs des coefficients de Fourier associés. Il ne résout cependant pas tout à fait le problème, mais dans les cas extrêmes on peut mettre l'expression au carré, ou même au cube, ou plus simplement recourir aux sommes de Fejér.
L'idée de Lanczos consiste à atténuer les coefficients de Fourier d’ordre élevé, qui rendent la série localement divergente. Il étudie ainsi les cas où la dérivée de la série de Fourier peut fortement varier localement. En effet, pour une somme partielle d'une fonction développée en série de Fourier de la forme
on pose
Le reste de la série de Fourier s'exprime alors sous la forme
Lanczos remarque que dans le cas général, ρm(x) a la forme d'une onde porteuse lisse modulée de haute fréquence, donc la dérivée du reste
va prendre de grandes valeurs si le reste ne converge pas « assez vite ». Il pose ainsi un opérateur de différentiation adapté:
qui tend bien vers l'opérateur de dérivation pour m grand, mais donne
et les fonctions ρm(x), ρ–m(x) sont suffisamment lisses pour que les valeurs de leurs dérivées n'aient pas d'impact majeur sur l'erreur. En remarquant que
on voit qu'utiliser cet opérateur de différentiation revient à multiplier les coefficients de Fourier par un facteur σ.
(en) Cornelius Lanczos, Linear Differential Operators, Londres & New York, éd. van Nostrand, (réimpr.1997) (ISBN0-486-68035-5), «Local smoothing by integration»
(en) Forman S. Acton, Numerical Methods That (Usually) Work, Washington(D.C.), The Mathematical Association of America, (réimpr.1997), 549p. (ISBN978-0-88385-450-1, BNF37366302), «Fourier Series»