数値線形代数

数値解析における数値線形代数（すうちせんけいだいすう、英: Numerical linear algebra）とは、線形代数で現れる問題（行列積、行列指数関数、連立方程式や固有値・特異値問題）の計算・求解を行うアルゴリズムを創出するための学問である^[1][2][3]。最適化問題・有限差分法・有限要素法などに応用されている^[1]。

→「数値解析」および「線形代数」も参照

意義

どんなに次元の高い連立方程式でも、原理的にはクラメルの公式を使えば解くことはできる。しかし、クラメルの公式による数値解法ではものすごく時間がかかってしまうということが分かっている^[1]。このため、これまで様々な数値線形代数のアルゴリズムが開発されてきた^[1][2][3]。ガウスの消去法はその先駆けとも言える^[1][2][3]。

現代の主流

→「固有値問題の数値解法」も参照

現代においては

• 共役勾配法
• GMRES法
• ランチョス法
• QR法
• QZ法^{[A 1]}
• dqds法 (differential quotient difference with shift)^{[A 2][A 3][A 4][A 5][A 6][A 7]}
• oqds法 (orthogonal quotient difference with shift)^{[A 8][A 9][A 10]}
• 分割統治法^{[A 11][A 12]}
• MRRR法 (multiple relatively robust representations)^{[A 13]}
• MRTR法^{[A 14]}
• Sakurai-Sugiura 法^{[A 15]}
• CIRR 法 (Rayleigh-Ritz type method with contour integral)^{[A 16]}
• 離散勾配法に基づく解法^{[A 17][A 18]}
• フィルターを用いた固有値問題の解法^{[A 19][A 20][A 21][A 22]}

などをはじめとした高速・高精度解法（反復法）の研究が主流になっている^[2][4][5]。

クリロフ部分空間法

→「クリロフ部分空間」も参照

数値線形代数で現れる反復法の中には、クリロフ部分空間に理論的基盤を持つものが少なからず存在する。これらはクリロフ部分空間法（英: Krylov subspace methods）と総称され、数値線形代数において最も成功した手法とされている^[5]。主なクリロフ部分空間法として以下が知られている（共役勾配法については後述する）。

• en:Arnoldi iteration
• ランチョス法
• GMRES法
• MINRES法^{[A 23]}（英: minimal residual、この手法は method of minimum residual^{[1][A 24]} とは異なる）
• CR法^{[A 25]}（共役残差法、英: conjugate residual method）
• QMR系
  • QMR法^{[A 26][A 27]}（英: quasi minimal residual、MATLABで利用可能）
  • QMR-SYM法^{[A 28][A 29]}
  • TFQMR法^{[A 30]}（英: transpose free quasi minimal residual、MATLABで利用可能）

共役勾配法

→「共役勾配法」、「非線形共役勾配法」、「双共役勾配法」、および「en:LOBPCG」も参照

共役勾配法（英: conjugate gradient method）は Hestenes-Stiefel によって開発された連立方程式の数値解法であり、係数行列が正定値対称行列であるときに適用できる^{[A 31]}。この方法はガウス＝ザイデル法、ヤコビ法、SOR法よりも収束が速いとされることから、1980年代以降から様々な亜種が開発されたり、非対称行列への適用が試みられているが、前処理行列の取り方が問題によって異なるために決定版と言える解法がまだ存在してない^[1][2][5]。

以下、代表的な亜種を挙げる。

• CGS (conjugate gradient squared method)^{[A 32]}
• PCG （preconditioned conjugate gradient method、MATLABで利用可能）
• SCG (scaled conjugate gradient)^{[A 33]}
• ICCG （incomplete Cholesky conjugate gradient method、不完全コレスキー分解付共役勾配法）^[5]
• COCG (conjugate orthogonal conjugate gradient method)^{[A 34]}
• GPBiCG^{[A 35][A 36]}
• GPBiCG${\displaystyle (m,l)}$^{[A 37]}
• STAB系の手法
  • BiCGSTAB （biconjugate gradient stabilized method、双共役勾配安定化法、MATLABで利用可能）^{[A 38]}
  • BiCGSTAB2^{[A 39]}
  • QMRCGSTAB^{[A 40]}
  • GBi-CGSTAB^{[A 41]}
• Block化した手法
  • Block CG^{[A 42][A 43]}
  • Block BiCGSTAB^{[A 44]}
  • Block BiCGGR^{[A 45]}
  • Block BiCGGR2^{[A 46]}
  • Block GWBiCGSTAB^{[A 47]}

精度保証

数値線形代数における精度保証付き数値計算の研究も活発になっており^[6][7]、具体的には以下のような研究が行われている。

• 連立方程式の解に対する精度保証付き数値計算^{[6][7][B 1][B 2]}
  • 並列計算^{[B 3]}
  • 悪条件問題 （英: ill-conditioned problems、条件数が大きい問題）^{[B 4][B 5][B 6][B 7]}
  • 前処理行列^{[B 8][B 9][B 10]}
  • H行列 （比較行列がM行列^[1]となる行列）を用いる方法（ペロン・フロベニウスの定理^[1]も使う、この方法は疎行列のときも適用可能）^{[6][B 11]}
  • 疎行列に対する精度保証法（コレスキー分解に基づく）^{[6][B 12]}
• 固有値問題の解に対する精度保証付き数値計算^{[1][6][7][B 13][B 14][B 15]}
  • ゲルシュゴリンの定理を使う方法（定石として確立されている）^[1][6][7]
  • Krawczyk法（精度保証付き求根アルゴリズムの一つ）を使う方法^{[6][7][B 16][B 17][B 18]}
  • 大規模疎行列の場合^{[6][B 19]}
  • 対角化可能行列に対する Bauer-Fike型誤差評価、Hoffman-Wielandt型誤差評価^{[7][B 20][B 21][B 22]}
  • 一般化固有値問題（英: generalized eigenvalue problem）^{[B 23]}
  • 逆固有値問題（英: inverse eigenvalue problem）^{[B 24][B 25]}
• 特異値分解の精度保証^{[7][B 26][B 27]}
• 行列式の精度保証^{[B 28][B 29]}
• 行列の乗法^{[B 30][B 31]}
• 行列方程式の解に対する精度保証^{[B 32][B 33][B 34][B 35][B 36][B 37][B 38][B 39]}
• 行列値関数（en）の精度保証（行列値関数の高精度計算法に関する研究についてはHighamなどによる業績が多数ある^{[A 48][A 49][A 50][A 51]}）
  • 行列指数関数^{[B 40]}
  • 行列の対数^{[B 41]}
  • 行列の平方根^{[B 42]}

可積分系との関係

→「可積分系」および「可積分アルゴリズム」も参照

可積分系・力学系と数値線形代数の間に関係があるという事実が注目されている^{[8][9][C 1][C 2]}。具体的には戸田格子（ソリトン方程式の一つ）とQR法^[8][9]・qd法^{[C 3]}、可積分系と特異値分解^{[8][9][C 4][C 5]}との関係が明らかになった。これらを背景に、離散可積分系から数値線形代数に有用な反復法を開発する試みが行われている。例えば

• dLVアルゴリズム^{[C 6][C 7][C 8][C 9]}
• dhLVアルゴリズム^{[C 10][C 11][C 12][C 13]}
• mdLVアルゴリズム^{[A 3][A 4][C 9][C 14][C 15][C 16]}
• dhTodaアルゴリズム^{[C 17][C 18][C 19]}
• I-SVDアルゴリズム^{[C 20][C 21][C 22]}

等が研究されている^[8][9]。

関連項目

• 行列解析 (en)
• 条件数

ソフトウェア・ライブラリ

→「線型代数学ライブラリの比較」も参照

• BLAS
• OpenBLAS
• LAPACK
• MATLAB
• GNU Octave
• INTLAB
• NAG数値計算ライブラリ

手法

• 反復法
• クリロフ部分空間
• ハウスホルダー変換
• ギブンス回転
• べき乗法
• 逆べき乗法
• ヤコビ法 (固有値問題)
• シュトラッセンのアルゴリズム
• 前処理行列
• 行列の分解
  • LU分解
  • QR分解
  • コレスキー分解
  • 固有値分解 (en)
  • 特異値分解

研究者・専門家

日本

• 杉原正顯（共役勾配法の研究に従事^{[A 41]}）
• 大石進一（数値線形代数の精度保証に貢献^[6][7]）
• 速水謙

海外

• en:Aleksey Krylov（クリロフ部分空間を導入）

ドイツ

• カール・グスタフ・ヤコブ・ヤコビ（固有値問題の解法であるen:Jacobi eigenvalue algorithmで知られる^[1][2]）
• イサイ・シューア（逆行列を求めるのに使うシューア補行列で知られる^[1]）
• フェルディナント・ゲオルク・フロベニウス（ペロン＝フロベニウスの定理で知られる^[1]）
• en:Helmut Wielandt（固有値問題などについて業績がある^[1][7]）
• アンドレアス・フロマー

アメリカ合衆国

• リチャード・バルガ (en)
• ジーン・ゴラブ (en)
• クリーブ・モラー (en)

イギリス

• ジェームズ・H・ウィルキンソン
• ニコラス・ハイアム (en)
• ニック・トレフェセン (en)

出典

[脚注の使い方]

1. 山本哲朗『数値解析入門』（増訂版）サイエンス社〈サイエンスライブラリ 現代数学への入門 14〉、2003年6月。ISBN 4-7819-1038-6。
2. 森正武. 数値解析 第2版. 共立出版.
3. 数値線形代数の数理とHPC, 櫻井鉄也, 松尾宇泰, 片桐孝洋編（シリーズ応用数理 / 日本応用数理学会監修, 第6巻）共立出版, 2018.8
4. 戸川隼人. (1977). 共役勾配法. シリーズ新しい応用の数学.
5. 藤野清次, & 張紹良. (1996). 反復法の数理. 朝倉書店.
6. 『精度保証付き数値計算の基礎』大石進一 編著、コロナ社、2018年。
7. 大石進一：「精度保証付き数値計算」、コロナ社、（1999年）
8. 解析学百科II 可積分系の数理、朝倉書店、中村佳正 et al. (2018)
9. 可積分系の機能数理、共立出版、中村佳正。

反復法・高精度計算に関する論文

1. Moler, C. B., & Stewart, G. W. (1973). An algorithm for generalized matrix eigenvalue problems. en:SIAM Journal on Numerical Analysis, 10(2), 241-256.
2. Fernando, K. V., & Parlett, B. N. (1994). Accurate singular values and differential qd algorithms. en:Numerische Mathematik, 67(2), 191-229.
3. 相島健助, 松尾宇泰, 室田一雄, 杉原正顯「特異値計算のためのdqds法とmdLVs法の収束性について(理論)」『日本応用数理学会論文誌』第17巻第2号、日本応用数理学会、2007年、97-131頁、doi:10.11540/jsiamt.17.2_97、ISSN 09172246、NAID 110006317521。
4. 髙田雅美, 豊川博己, 石上裕之, 木村欣司, 山下巧, 岩﨑雅史, 中村佳正「特異値計算アルゴリズムdqds法およびm2dLVs法のための新しいシフト戦略」『情報処理学会論文誌コンピューティングシステム（ACS）』第6巻第3号、2013年、94-107頁、ISSN 1882-7829、NAID 110009606663。
5. 山本有作, 宮田考史「Ostrowski型下界とBrauer型下界をシフトとして用いたdqds法の収束性について」『日本応用数理学会論文誌』第18巻第1号、日本応用数理学会、2008年、107-134頁、ISSN 0917-2246、NAID 120001053907。
6. 前田一貴「dqds法の一般化固有値問題への拡張について (次世代計算科学の基盤技術とその展開)」『数理解析研究所講究録』第1848号、京都大学数理解析研究所、2013年、45-60頁、ISSN 1880-2818、NAID 110009611227。
7. 山本有作「固有値計算のためのdqds法のTotally NonnegativeなHessenberg行列への拡張について (科学技術計算アルゴリズムの数理的基盤と展開)」『数理解析研究所講究録』第1733号、京都大学数理解析研究所、2011年、142-148頁、ISSN 18802818、NAID 110008434597。
8. U. von Matt, The orthogonal QD algorithm, SIAM J. Sci. Comput., 18 (1997), 1163–1186.
9. Araki Sho, Kimura Kinji, Yamamoto Yusaku, Nakamura Yoshimasa (2015). “Implementation details of an extended oqds algorithm for singular values”. JSIAM Letters (The Japan Society for Industrial and Applied Mathematics) 7: 9-12. doi:10.14495/jsiaml.7.9. https://doi.org/10.14495/jsiaml.7.9.
10. Araki Sho, Tanaka Hiroki, Takata Masami, Kimura Kinji, Nakamura Yoshimasa (2018). “Fast computation method of column space by using the DQDS method and the OQDS method”. Proceedings of the International Conference on Parallel and Distributed Processing Techniques and Applications (PDPTA): 333-339. https://hdl.handle.net/10098/00028663.
11. 桑島豊, 重原孝臣「実対称三重対角固有値問題の分割統治法の拡張(<特集>行列・固有値問題における線形計算アルゴリズムとその応用)」『日本応用数理学会論文誌』第15巻第2号、日本応用数理学会、2005年、89-115頁、doi:10.11540/jsiamt.15.2_89、ISSN 09172246、NAID 110001888790。
12. 桑島豊, 重原孝臣「実対称三重対角固有値問題に対する多分割の分割統治法の改良(理論,行列・固有値問題の解法とその応用,<特集>平成18年研究部会連合発表会)」『日本応用数理学会論文誌』第16巻第4号、日本応用数理学会、2006年、453-480頁、doi:10.11540/jsiamt.16.4_453、ISSN 09172246、NAID 110006197072。
13. Dhillon, I. S., Parlett, B. N., & Vömel, C. (2006). The design and implementation of the MRRR algorithm. ACM Transactions on Mathematical Software (TOMS), 32(4), 533-560.
14. Abe, K., Zhang, S. L., & Mitsui, T. (1997). MRTR method: An iterative method based on the three-term recurrence formula of CG-type for nonsymmetric matrix. JSIAM, 7, 37-50.
15. Sakurai, T., & Sugiura, H. (2003). A projection method for generalized eigenvalue problems using numerical integration. en:Journal of computational and applied mathematics, 159(1), 119-128.
16. Sakurai, T., & Tadano, H. (2007). CIRR: a Rayleigh-Ritz type method with contour integral for generalized eigenvalue problems. Hokkaido mathematical journal, 36(4), 745-757.
17. 宮武勇登, 曽我部知広, 張紹良「微分方程式に対する離散勾配法に基づく線形方程式の数値解法の生成」『日本応用数理学会論文誌』第27巻第3号、日本応用数理学会、2017年、239-249頁、doi:10.11540/jsiamt.27.3_239、NAID 130006100066。
18. Miyatake, Y., Sogabe, T., & Zhang, S. L. (2018). On the equivalence between SOR-type methods for linear systems and the discrete gradient methods for gradient systems. en:Journal of Computational and Applied Mathematics, 342, 58-69.
19. Tsutomu Ikegami, Tetsuya Sakurai and Umpei Nagashima: A Filter Diagonalization for Generalized Eigenvalue Problems Based on the Sakurai-Sugiura Projection Method, J. Compu. Appl. Math., Vol.233, No.8, pp.1927–1936 (2010).
20. Anthony P. Austin and Lloyd N. Trefethen: Computing Eigenvalues of Real Symmetric Matrices with Rational Filters in Real Arithmetic, SIAM J. Sci. Comput, Vol.37, No.3, pp.A1365–A1387 (2015).
21. Hiroshi Murakami: Filter Diagonalization Method by Using a Polynomial of a Resolvent as the Filter for a Real Symmetric-Definite Generalized Eigenproblem, in proceedings of EPASA2015, Springer, LNCSE-117, pp.205–232 (2018).
22. Hiroshi Murakami: Filters Consist of a Few Resolvents to Solve Real Symmetric-Definite Generalized Eigenproblems, Japan J. Indust. Appl. Math., Vol.36, No.2, pp.579–618 (July 2019).
23. Christopher C. Paige and Michael A. Saunders, Solution of sparse indefinite systems of linear equations, en:SIAM Journal on Numerical Analysis 1975; 12(4):617–629.
24. Krasnoselskii, M. and Krein, S. (1952). An iteration process with minimal residuals. Mat. Sb. N.S., 31, 315–334.
25. Eduard Stiefel, Commentarii Mathematici Helvetici 1952; 29(1):157–179.
26. Freund, R. and Nachtigal, N. "QMR: A Quasi-Minimal Residual Method for Non-Hermitian Linear Systems." Numer. Math. 60, 315-339, 1991.
27. Freund, R. and Nachtigal, N. "An Implementation of the QMR Method Based on Coupled Two-Term Recurrences." SIAM J. Sci. Statist. Comput. 15, 313-337, 1994.
28. R. Freund: Conjugate Gradient-Type Methods for Linear Systems with Complex Symmetric Coefficient Matrices, SIAM Journal on Scientific and Statistical Computing, Vol. 13, No. 1, pp. 425–448 (1992).
29. X.-M. Gu, T.-Z. Huang, L. Li, H.-B. Li, T. Sogabe and M. Clemens: Quasi-Minimal Residual Variants of the COCG and COCR Methods for Complex Symmetric Linear Systems in Electromagnetic Simulations, IEEE Transactions on Microwave Theory and Techniques, Vol. 62, No. 12, pp. 2859–2867 (2014).
30. Roland W. Freund, A transpose-free quasi-minimal residual algorithm for non-Hermitian linear systems, en:SIAM Journal on Scientific Computing 1993; 14(2):470–482.
31. Hestenes, M. R., & Stiefel, E. (1952). Methods of conjugate gradients for solving linear systems. Washington, DC: NBS.
32. Black, Noel and Moore, Shirley. "Conjugate Gradient Squared Method." From MathWorld--A Wolfram Web Resource, created by Eric W. Weisstein. http://mathworld.wolfram.com/ConjugateGradientSquaredMethod.html
33. M. F. Moller. A scaled conjugate gradient algorithm for fast supervised learning. Neural Networks, 6:525--533, 1993.
34. H. A. van der Vorst and J. B. M. Melissen: A Petrov-Galerkin type method for solving ${\displaystyle Ax=b}$, where ${\displaystyle A}$ is symmetric complex, IEEE Trans. Mag., Vol. 26, No. 2, pp. 706–708 (1990).
35. S. L. Zhang "GPBiCG: Generalized Product-type Methods Based on Bi-CG for Solving Nonsymmetric Linear Systems", SIAM J. Sci. Stat. Comput. , vol.18, no.2, pp.537-551, March 1997.
36. 張紹良, 藤野清次，ランチョス・プロセスに基づく積型反復解法，日本応用数理学会論文誌，5(1995)， 343-360．
37. 藤野清次「反復解法GPBiCG(m,l)法の提案と性能評価 (偏微分方程式の数値解法とその周辺(2))」『数理解析研究所講究録』第1198号、京都大学数理解析研究所、2001年、212-221頁、ISSN 1880-2818、NAID 110000165251。
38. Van der Vorst, H. A. (1992). Bi-CGSTAB: A fast and smoothly converging variant of Bi-CG for the solution of nonsymmetric linear systems. SIAM Journal on scientific and Statistical Computing, 13(2), 631-644.
39. M. H.Gutknecht，Variants of BiCGSTAB for Matrices with Complex Spectrum，SIAM J. Sci. Statist. Comput.，14(1993)， 1020-1033．
40. Tony F. Chan, Efstratios Gallopoulos, Valeria Simoncini, Tedd Szeto and Charles H. Tong, A quasi-minimal residual variant of the Bi-CGSTAB algorithm for nonsymmetric systems, en:SIAM Journal on Scientific Computing 1994; 15(2):338–347.
41. Tanio, M., & Sugihara, M. (2010). GBi-CGSTAB (s, L): IDR (s) with higher-order stabilization polynomials. en:Journal of computational and applied mathematics, 235(3), 765-784.
42. D. P. O’Leary: The block conjugate gradient algorithm and related methods, Linear Algebra Appl., 29 (1980), 293–322.
43. A. A. Nikishin, A. Yu. Yeremin: Variable block CG algorithms for solving large sparse symmetric positive definite linear systems on parallel computers, I: general iterative methods, SIAM J. Matrix Anal. Appl., 16 (1995), 1135–1153.
44. A. El Guennouni, K. Jbilou, H. Sadok: A block version of BiCGSTAB for linear systems with multiple right-hand sides, Electron. Trans. Numer. Anal, 16 (2003), 129–142.
45. H. Tadano, T. Sakurai, Y. Kuramashi: Block BiCGGR: a new block Krylov subspace method for computing high accuracy solutions: JSIAM Lett., 1 (2009), 44–47.
46. Tadano, H. (2019). Development of the Block BiCGGR2 method for linear systems with multiple right-hand sides. Japan Journal of Industrial and Applied Mathematics, 1-15.
47. Tadano, H., & Kuramoto, R. (2019). Accuracy improvement of the Block BiCGSTAB method for linear systems with multiple right-hand sides by group-wise updating technique. Journal of Advanced Simulation in Science and Engineering, 6(1), 100-117.
48. Bini, D. A., Higham, N. J., & Meini, B. (2005). Algorithms for the matrix pth root. Numerical Algorithms, 39(4), 349-378.
49. Deadman, E., Higham, N. J., & Ralha, R. (2012, June). Blocked Schur algorithms for computing the matrix square root. In International Workshop on Applied Parallel Computing (pp. 171-182). Springer, Berlin, Heidelberg.
50. Hargreaves, G. I., & Higham, N. J. (2005). Efficient algorithms for the matrix cosine and sine. Numerical Algorithms, 40(4), 383-400.
51. Davies, P. I., & Higham, N. J. (2003). A Schur-Parlett algorithm for computing matrix functions. en:SIAM Journal on Matrix Analysis and Applications, 25(2), 464-485.

精度保証に関する論文

1. Yamamoto, T. (1984). Error bounds for approximate solutions of systems of equations. Japan Journal of Applied Mathematics, 1(1), 157.
2. Oishi, S., & Rump, S. M. (2002). Fast verification of solutions of matrix equations. en:Numerische Mathematik, 90(4), 755-773.
3. 森倉悠介, 椋木大地, 深谷猛, 山中脩也, & 大石進一. (2016). 大規模並列計算機における連立一次方程式の精度保証付き数値計算に対する性能評価. 研究報告ハイパフォーマンスコンピューティング (HPC), 2016(1), 1-7.
4. Kobayashi, Y., Ogita, T., & Ozaki, K. (2017). Acceleration of a preconditioning method for ill-conditioned dense linear systems by use of a BLAS-based method. Reliable Computing, 25, 15-23.
5. Kobayashi, Y., & Ogita, T. (2016). Accurate and efficient algorithm for solving ill-conditioned linear systems by preconditioning methods. Nonlinear Theory and Its Applications, IEICE, 7(3), 374-385.
6. A fast and efficient algorithm for solving ill-conditioned linear systems (JSIAM Letters Vol.7 (2015) pp.1-4) Yuka Kobayashi, Takeshi Ogita.
7. 悪条件連立一次方程式の精度保証付き数値計算法, 日本応用数理学会論文誌 Vol.15, No.3, 2005, pp.269-286, 太田貴久, 荻田武史, Siegfried M. Rump, 大石進一.
8. Yanagisawa, Y., Ogita, T., & Oishi, S. (2014). Convergence analysis of an algorithm for accurate inverse Cholesky factorization. Japan Journal of Industrial and Applied Mathematics, 31(3), 461-482.
9. Yanagisawa, Y., Ogita, T., & Oishi, S. I. (2014). A modified algorithm for accurate inverse Cholesky factorization. Nonlinear Theory and Its Applications, IEICE, 5(1), 35-46.
10. Yanagisawa, Y., & Ogita, T. (2013). Convergence analysis of accurate inverse Cholesky factorization. JSIAM Letters, 5, 25-28.
11. Minamihata, A., Sekine, K., Ogita, T., Rump, S. M., & Oishi, S. I. (2015). Improved error bounds for linear systems with H-matrices. Nonlinear Theory and Its Applications, IEICE, 6(3), 377-382.
12. Rump, S. M., & Ogita, T. (2007). Super-fast validated solution of linear systems. en:Journal of computational and applied mathematics, 199(2), 199-206.
13. Yamamoto, T. (1980). Error bounds for computed eigenvalues and eigenvectors. en:Numerische Mathematik, 34(2), 189-199.
14. Yamamoto, T. (1982). Error bounds for computed eigenvalues and eigenvectors. II. en:Numerische Mathematik, 40(2), 201-206.
15. Mayer, G. (1994). Result verification for eigenvectors and eigenvalues. Topics in Validated Computations, Elsevier, Amsterdam, 209-276.
16. Rump, S. M. (1994). Verification methods for dense and sparse systems of equations.
17. Rump, S. M. (2001). Computational error bounds for multiple or nearly multiple eigenvalues. Linear Algebra and its Applications, 324(1-3), 209-226.
18. Rump, S. M., & Zemke, J. P. M. (2003). On eigenvector bounds. en:BIT Numerical Mathematics, 43(4), 823-837.
19. Yamamoto, N. (2001). A simple method for error bounds of eigenvalues of symmetric matrices. Linear Algebra and its Applications, 324(1-3), 227-234.
20. Elsner, L., & Friedland, S. (1995). Singular values, doubly stochastic matrices, and applications. Linear Algebra and Its Applications, 220, 161-169.
21. Ipsen, I. C. (1998). Relative perturbation results for matrix eigenvalues and singular values. en:Acta numerica, 7, 151-201.
22. Deif, A. S. (1990). Realistic apriori and a posteriori error bounds for computed eigenvalues. IMA journal of numerical analysis, 10(3), 323-329.
23. 丸山晃佐, 荻田武史, 中谷祐介, & 大石進一. (2004). 実対称定値一般化固有値問題のすべての固有値の精度保証付き数値計算法. 電子情報通信学会論文誌 A, 87(8), 1111-1119.
24. Alefeld, G., Gienger, A., & Mayer, G. (1994). Numerical validation for an inverse matrix eigenvalue problem. Computing, 53(3-4), 311-322.
25. Miyajima, S. (2017). Verified Solutions of Inverse Symmetric Eigenvalue Problems. Reliable Computing, 24(1), 31-44.
26. Demmel, J., & Kahan, W. (1990). Accurate singular values of bidiagonal matrices. SIAM Journal on Scientific and Statistical Computing, 11(5), 873-912.
27. Oishi, S. (2001). Fast enclosure of matrix eigenvalues and singular values via rounding mode controlled computation. Linear algebra and its Applications, 324(1-3), 133-146.
28. 荻田武史, 尾崎克久, 大石進一「行列式の高速な精度保証付き数値計算法(数値シミュレーションを支える応用数理)」『数理解析研究所講究録』第1573号、京都大学数理解析研究所、2007年、45-52頁、ISSN 18802818、NAID 110006446072。
29. Ogita, T. (2008). Verified Numerical Computation of Matrix Determinant. SCAN’2008 El Paso, Texas September 29–October 3, 2008, 86.
30. 有向丸めの変更を使用しないタイトな行列積の包含方法, 応用数理 Vol.21, No.3, 2011, pp.186–196, 尾崎克久, 荻田武史, 大石進一.
31. 荻田武史, 大石進一, 後保範「Strassen のアルゴリズムによる行列乗算の高速精度保証 (微分方程式の数値解法と線形計算)」『数理解析研究所講究録』第1320号、京都大学数理解析研究所、2003年、151-161頁、ISSN 1880-2818、NAID 110000167325。
32. 宮島信也「行列方程式の解に対する数値的検証法の進展」『応用数理』第29巻第2号、日本応用数理学会、2019年、18-25頁、doi:10.11540/bjsiam.29.2_18、NAID 130007720875。
33. Shinya Miyajima, Verified computation for the Hermitian positive definite solution of the conjugate discrete-time algebraic Riccati equation, en:Journal of Computational and Applied Mathematics, Volume 350, Pages 80-86, April 2019.
34. inya Miyajima, Fast verified computation for the minimal nonnegative solution of the nonsymmetric algebraic Riccati equation, Computational and Applied Mathematics, Volume 37, Issue 4, Pages 4599-4610, September 2018.
35. Shinya Miyajima, Fast verified computation for the solution of the T-congruence Sylvester equation, Japan Journal of Industrial and Applied Mathematics, Volume 35, Issue 2, Pages 541-551, July 2018.
36. Shinya Miyajima, Fast verified computation for the solvent of the quadratic matrix equation, The Electronic Journal of Linear Algebra, Volume 34, Pages 137-151, March 2018
37. Shinya Miyajima, Fast verified computation for solutions of algebraic Riccati equations arising in transport theory, Numerical Linear Algebra with Applications, Volume 24, Issue 5, Pages 1-12, October 2017.
38. Shinya Miyajima, Fast verified computation for stabilizing solutions of discrete-time algebraic Riccati equations, en:Journal of Computational and Applied Mathematics, Volume 319, Pages 352-364, August 2017.
39. Shinya Miyajima, Fast verified computation for solutions of continuous-time algebraic Riccati equations, Japan Journal of Industrial and Applied Mathematics, Volume 32, Issue 2, Pages 529-544, July 2015.
40. Miyajima, S. (2019). Verified computation of the matrix exponential. Advances in Computational Mathematics, 45(1), 137-152.
41. Miyajima, S. (2019). Verified computation for the matrix principal logarithm. Linear Algebra and its Applications, 569, 38-61.
42. Miyajima, S. (2018). Fast verified computation for the matrix principal pth root. en:Journal of Computational and Applied Mathematics, 330, 276-288.

可積分アルゴリズムに関する論文

1. Nakamura, Y. (2001). Algorithms associated with arithmetic, geometric and harmonic means and integrable systems. en:Journal of computational and applied mathematics, 131(1-2), 161-174.
2. Chu, M. T. (2008). Linear algebra algorithms as dynamical systems. en:Acta Numerica, 17, 1-86.
3. Sogo, K. (1993). Toda molecule equation and quotient-difference method. Journal of the Physical Society of Japan, 62(4), 1081-1084.
4. 中村佳正「特異値分解法の可積分アルゴリズムINT-SVD (微分方程式の数値解法と線形計算)」『数理解析研究所講究録』第1320号、京都大学数理解析研究所、2003年、219-230頁、ISSN 1880-2818、NAID 110000167332。.
5. Iwasaki, M., & Nakamura, Y. (2006). Accurate computation of singular values in terms of shifted integrable schemes. Japan journal of industrial and applied mathematics, 23(3), 239.
6. 岩崎雅史, 中村佳正「特異値計算アルゴリズムdLVの基本性質について(応用可積分系,<特集>平成17年研究部会連合発表会)」『日本応用数理学会論文誌』第15巻第3号、日本応用数理学会、2005年、287-306頁、doi:10.11540/jsiamt.15.3_287、ISSN 09172246、NAID 110001900187。
7. 「Verification of dLVv Transformation for Singular Vector Computation with High Accuracy」 『In Proceedings of International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.881-887 (2006, 6) Masami Takata, Taro Konda, Kinji Kimura, Yoshimasa Nakamura.
8. 「An Evaluation of Singular Value Computation by the Discrete Lotka-Volterra System」 『In Proceedings of International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.410-416 (2005, 6) Masami Takata, Iwasaki Masashi, Kinji Kimura, Yoshimasa Nakamura.
9. Iwasaki, M., & Nakamura, Y. (2011). Positivity of dLV and mdLVs algorithms for computing singular values. Electronic Transactions on Numerical Analysis, 38, 184-201.
10. Fukuda, A., Ishiwata, E., Iwasaki, M., & Nakamura, Y. (2008). The discrete hungry Lotka–Volterra system and a new algorithm for computing matrix eigenvalues. Inverse Problems, 25(1), 015007.
11. Fukuda, A., Ishiwata, E., Yamamoto, Y., Iwasaki, M., & Nakamura, Y. (2013). Integrable discrete hungry systems and their related matrix eigenvalues. Annali di Matematica Pura ed Applicata, 192(3), 423-445.
12. Fukuda, A., Ishiwata, E., Iwasaki, M., & Nakamura, Y. (2009). On the qd-type discrete hungry Lotka-Volterra system and its application to the matrix eigenvalue algorithm. JSIAM Letters, 1, 36-39.
13. Yamamoto, Y., & Fukaya, T. (2010). Differential qd algorithm for totally nonnegative Hessenberg matrices: introduction of origin shifts and relationship with the discrete hungry Lotka-Volterra system. JSIAM Letters, 2, 69-72.
14. 中村佳正, 岩崎雅史, 木村欣司, 高田雅美「行列の特異値計算のmdLVsアルゴリズムにおける最近の進展 (非線形波動現象の数理と応用)」『数理解析研究所講究録』第1594号、京都大学数理解析研究所、2008年、136-148頁、ISSN 18802818、NAID 110006633519。
15. 「An Improved Shift Strategy for the Modified Discrete Lotka-Volterra with Shift Algorithm」 『In Proceedings of 2011 International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.720-726 (2011, 7) Masami Takata, Takumi Yamashita, Akira Ajisaka, Kinji Kimura, Yoshimasa Nakamura.
16. 「Speed-up in mdLVs by Limitation in Computational Number of Shift」 『In Proceedings of 2009 International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.704-710 (2009, 7) Masami Takata, Kinji Kimura, Yoshimasa Nakamura.
17. Takahashi, Y., Iwasaki, M., Fukuda, A., Ishiwata, E., & Nakamura, Y. (2018). Periodic convergence in the discrete hungry Toda equation. Journal of Physics A: Mathematical and Theoretical, 51(34), 344001.
18. Fukuda, A., Yamamoto, Y., Iwasaki, M., Ishiwata, E., & Nakamura, Y. (2013). On a shifted LR transformation derived from the discrete hungry Toda equation. Monatshefte für Mathematik, 170(1), 11-26.
19. Fukuda, A., Yamamoto, Y., Iwasaki, M., Ishiwata, E., & Nakamura, Y. (2012). Error analysis for matrix eigenvalue algorithm based on the discrete hungry Toda equation. Numerical Algorithms, 61(2), 243-260.
20. Toyokawa, H., Kimura, K., Takata, M., & Nakamura, Y. (2009). On parallelism of the I-SVD algorithm with a multi-core processor. JSIAM Letters, 1, 48-51.
21. 豊川博己, 山本有作, 木村欣司, 高田雅美, 中村佳正「密正方行列特異値分解における並列I-SVD法の特性を用いた後処理の高速化」『情報処理学会論文誌コンピューティングシステム（ACS）』第3巻第2号、情報処理学会、2010年、30-38頁、ISSN 1882-7829、NAID 110007990289。
22. 豊川博己, 木村欣司, 高田雅美, 中村佳正「近接特異値を持つ行列に対応したI-SVD法の並列化とその評価」『情報処理学会研究報告. MPS数理モデル化と問題解決研究報告』第74巻、情報処理学会、2009年、J1-J6、ISSN 09196072、NAID 110007993815。

参考文献

洋書

• Demmel, J. W. (1997): Applied Numerical Linear Algebra, SIAM.
• Ciarlet, P. G., Miara, B., & Thomas, J. M. (1989): Introduction to Numerical Linear Algebra and Optimization, Cambridge University Press.
• Trefethen, Lloyd; Bau III, David (1997): Numerical Linear Algebra (1st ed.), Philadelphia: SIAM. ISBN 978-0-89871-361-9.
• Golub, Gene H.; Van Loan, Charles F. (1996): Matrix Computations (3rd ed.), Baltimore: The Johns Hopkins University Press. ISBN 0-8018-5413-X.
• G. W. Stewart: Matrix Algorithms Vol I: Basic Decompositions, SIAM, ISBN 0-89871-414-1 (1998).
• G. W. Stewart: Matrix Algorithms Vol II: Eigensystems, SIAM, ISBN 0-89871-503-2 (2001).
• Varga, Richard S.: Matrix Iterative Analysis, Springer, 2000.
• Saad, Yousef (2003). Iterative Methods for Sparse Linear Systems (2nd ed. ed.). SIAM. ISBN 978-0-89871534-7. OCLC 51266114
• Raf Vandebril, Marc Van Barel, and Nicola Mastronardi: Matrix Computations and Semiseparable Matrices, Volume 1: Linear systems, Johns Hopkins Univ. Press, ISBN 978-0-8018-8714-7 (2008).
• Raf Vandebril, Marc Van Barel, and Nicola Mastronardi: Matrix Computations and Semiseparable Matrices, Volume 2: Eigenvalue and Singular Value Methods, Johns Hopkins Univ. Press, ISBN 978-0-8018-9052-9 (2008).
• Higham, N. J. (2008): Functions of Matrices: Theory and Computation, SIAM.
• Higham, N. J. (2002): Accuracy and Stability of Numerical Algorithms, SIAM.
• David S. Watkins (2008): The Matrix Eigenvalue Problem: GR and Krylov Subspace Methods, SIAM.
• Liesen, J., & Strakos, Z. (2012): Krylov Subspace Methods: Principles and Analysis, Oxford Univ. Press, Oxford.
• Claude Brezinski, Gérard Meurant and Michela Redivo-Zaglia (2022): A Journey through the History of Numerical Linear Algebra, SIAM, ISBN 978-1-61197-722-6.

和書

• 仁木滉, & 河野敏行. (1998). 楽しい反復法. 共立出版.
• 河村哲也. (2005). 線形代数と数値解析, 朝倉書店.
• 杉原正顯, 室田一雄, 線形計算の数理, 岩波書店, 2009年.
• 山本哲朗. (2010). 行列解析の基礎–Advanced 線形代数, SGC ライブラリ 79. サイエンス社.
• 線形方程式の反復解法、一般社団法人 日本計算工学会 編、藤野清次 著、阿部邦美 著、杉原正顯 著、丸善出版、2013年09月。

関連特許

• 「固有値分解装置、及び固有値分解法」 特許5017666（日本）、PCT/JP2007/051575
• 「特異値分解装置、及び特異値分解法」 特許5011545（日本）、PCT/JP2006/318713

外部リンク

• Numerical Linear Algebra in the UK: From Cayley to Exascale Computing (PDF)
• Bringing New Algorithms in Numerical Linear Algebra to Industry (PDF)
• Numerical Linear Algebra Routines for Emerging Computer Architectures (PDF)
• Advances in high accuracy matrix computations (PDF)
• Some Journals in Numerical Linear Algebra

手法に関する解説記事

反復法

• 最小残差法
• MINRES 法
• CR法 (共役残差法)
• CG法 (共役勾配法)
• Arnoldi法
• 行列の固有値問題
• 固有値解析 (PDF)

精度保証

• 連立一次方程式の数値解に対する精度保証付き数値計算法 (PDF)
• 事前誤差評価を用いた線形計算の精度保証–誤差解析から大規模計算まで– (PDF)

研究グループ・部会

• Numerical Linear Algebra Group (@nla_grp) - X（旧Twitter） (イギリスの数値線形代数研究グループ)
• siagla (@siagla) - X（旧Twitter） (SIAMの数値線形代数研究部会)
• The GAMM Activity Group on Applied and Numerical Linear Algebra
• 計算数理グループ (名古屋大学の数値線形代数研究グループ)
• 日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 (Algorithms for Matrix / Eigenvalue Problems and their Applications) (日本応用数理学会の研究部会)

全米科学財団

• Collaborative Research: Randomized Numerical Linear Algebra (RandNLA) for multi-linear and non-linear data
• Numerical Linear Algebra and Eigenvalue Computations

科学研究費助成事業

• 数値線形代数における高精度計算アルゴリズムの開発
• ロバストで高効率な数値線形代数アルゴリズムの開発
• 量子計算を併用した数値線形代数学の開拓
• エクサ時代の非同期タスクを応用した高性能高次元数値線形代数の研究
• リーマン多様体上の最適化アルゴリズムおよびその数値線形代数への応用