QR分解

m × n 実行列 Aを、 m 次直交行列 Q と m × n 上三角行列 R との積への分解により表すことまたはそう表した表現

QR分解(キューアールぶんかい、: QR decomposition, QR factorization)とは、m × n 実行列 Aを、 m直交行列 Qm × n 上三角行列 R との積への分解により表すことまたはそう表した表現をいう[1]。このような分解は常に存在する[2]

QR分解は線型最小二乗問題を解くために使用される。また、固有値問題の数値解法の1つである、QR法の基礎となっている。

定義編集

正方行列編集

すべての実正方行列 A直交行列Qと上三角行列(別名右三角行列)Rを用いて

 

と分解できる。もしA正則ならば、Rの対角成分が正になるような因数分解は一意に定まる。

もしAが複素正方行列ならば、Qユニタリ行列 (つまり )となるような分解A = QRが存在する。

もしAn個の線形独立な列を持つなら、Qの最初のn列はA列空間正規直交基底をなす。より一般的に、1 ≤ k ≤ nの任意のkについて、Qの最初のk列はAの最初のk列の線型包をなす[3]。Aの任意の列kQの最初のk列にのみ依存するということは、Rが三角行列であることから明らかである[3]

矩形行列編集

より一般的に、m ≥ nである複素m×n行列Aを、m×mユニタリ行列Qm×n上三角行列Rに分解することができる。m×n上三角行列の下から(mn)行はすべてゼロであるため、Rや、RQ両方の分割を簡単に行うことができる。

 

ここで、R1n×n上三角行列、0は(m − nn零行列、Q1m×n行列、Q2m×(m − n)行列で、Q1Q2は両方直交する列を持つ。

Q1R1Golub & Van Loan (1996, §5.2)はAの薄い(thin)QR分解と呼び、 Trefethen & Bauは軽減(reduced)QR分解と呼んでいる[3]。もしAが最大階数nであり、R1の対角成分を正にするならば、R1Q1は一意に定まる。しかし一般的にQ2はそうではない。R1A* A (Aが実行列の場合ATAに等しい)のコレスキー分解の上三角部分に等しい。

QL・RQ・LQ分解編集

同様に、Lを下(lower)三角行列として、QL、RQ、LQ分解を定義することができる。

QR分解の計算編集

QR分解を計算する手法として、グラム・シュミット分解ハウスホルダー変換ギブンス回転などがある。それぞれ利点と欠点がある。

グラム・シュミットの正規直交化法の使用編集

グラム・シュミットの正規直交化法を最大階数行列の列 に適用することを考える。内積  (複素ベクトルの場合  )とする。

射影の定義より、

 

したがって、

 

ここで を新しく計算された正規直交基底上に表すことができ、 であるから、

 

これは行列の形に書くことができ、

 

ただし、

 
 

編集

 

の分解を考える。

正規直交行列 に対して、

 

が常に成り立つから、グラム・シュミット法により以下の手順で を計算できる。

 

したがって、

 

RQ分解との関係編集

QR分解は行列Aを上三角行列R(別名右三角)と直交行列Qに変換する。QR分解との違いはこれらの行列の順番だけである。

QR分解はグラム・シュミットの正規直交化法をA最初の列から最後の列の順に適用する。

RQ分解はグラム・シュミットの正規直交化法をA最後の行から最初の行の順に適用する。

利点と欠点編集

グラム・シュミットの正規直交化法は本来、数値的に不安定である。射影の応用として直交化との幾何学的な類似性があるが、直交化自体は数値的な差異が生じやすい。しかしながら、実装が簡単という大きな利点があり、外部線形代数ライブラリが利用できない場合のプロトタイピングに便利なアルゴリズムである。

ハウスホルダー変換の使用編集

 
QR分解のためのハウスホルダー変換: 目標はベクトル を同じ長さかつ の共線であるベクトルに変換する線形変換を見つけることである。直交射影(グラム・シュミット法)を使うこともできるが、ベクトル  が直交に近い場合、数値的に不安定である。代わりに、ハウスホルダー変換により点線を通して鏡映する(点線は  のなす角の二等分線)。この変換による最大角は45度である。

ハウスホルダー変換 (またはハウスホルダー鏡映)はベクトルを取り、平面または超平面に関する鏡映をする変換である。この演算はm×n行列  (m ≥ n)のQR変換の計算に使うことができる。

Qは一つの座標を除いたすべての座標が未知でもベクトルを鏡映するために使用できる。

スカラαに対して を満たすような の任意の実m次元列ベクトル を考える。もしこのアルゴリズムが浮動小数点演算を用いて実装されている場合、桁落ちを防ぐため、行列Aの最終的な上三角部分においてすべての要素が0である後のピボット座標 に対し、α k番目の座標の逆符号とする。複素行列の場合、

 

(Stoer & Bulirsch 2002, p. 225)とし、以下のQの導出において転置を共役転置に読み替えること。

ここで、 をベクトル(1 0 … 0)T、||·||をユークリッド距離 m×m単位行列とし、

 

あるいは、 が複素行列ならば、

 

とおく。

 m×mハウスホルダー行列であり、

 

これによりm×n行列Aを上三角の形に漸次変換できる。まず、xの最初の列を選んで得られるハウスホルダー行列Q1Aを乗算する。この結果、行列Q1Aは左の列が(最初の行を除き)ゼロになる。

 

この操作をA′ (Q1Aから最初の列と最初の行を除いたもの)に繰り返すと、ハウスホルダー行列Q2が得られる。Q2Q1より小さいということに注意すること。A′の代わりにQ1Aで計算したいため、A′を左上に拡張し、ひとつの1を埋める必要がある。つまり、一般的には

 

とする。  回このプロセスを繰り返すと、 のとき、

 

は上三角行列である。であるからして、

 

とすると、   のQR分解である。

このメソッドは先述のグラム・シュミット法よりも数値的安定性がある。

下表にサイズnの正方行列を仮定したときの、ハウスホルダー変換によるQR分解のk番目のステップにおける計算量を示す。

演算 k番目のステップにおける計算量
乗算  
加算  
除算  
平方根  

これらの数をn − 1ステップ(サイズnの正方行列であるため)まで合計して、このアルゴリズムの(浮動小数点演算の観点からの)複雑さは

 

と表せる。

編集

 

の分解を考える。

まず、行列Aの最初の列、ベクトル を、 に変換する鏡映を見つける必要がある。

今、

 
 

とする。

ここで、

 であり、 

であるから、

  and  であり、
 

である。

今、

 

を見てみると、すでにほぼ三角行列である。あとは(3, 2)要素をゼロにするだけでよい。

(1, 1)における小行列を取り、同じプロセスを

 

に再び適用する。

先述のメソッドと同様にして、このプロセスの次のステップが正しく動作するために、1で直和を取ることにより、ハウスホルダー変換

 

を得る。

今、

 

または、有効数字四桁で、

 

を得た。

行列Qは直交行列であり、Rは上三角行列であるため、A = QRは求めるべきQR分解である。

利点と欠点編集

ハウスホルダー変換の使用は、R行列のゼロを生成するメカニズムに鏡映を利用しているため、最もシンプルな数値的に安定したQR分解アルゴリズムである。しかしながら、新しいゼロ要素を生成するすべての鏡映においてQR行列両方の全体が変化するため、ハウスホルダー変換は帯域幅が重く、並列化できない。

ギブンス回転の使用編集

QR分解はギブンス回転を使用しても計算できる。各回転により行列の亜対角要素がゼロになり、R行列を構成できる。すべてのギブンス回転を結合することで直交行列Qを構成できる。

実際には、行列全体を構成して乗算をするようなギブンス回転は行われない。代わりに、疎な要素を計算するような無駄な計算をしない、疎なギブンス行列乗算と同等なあるギブンス回転の手順が採られる。そのギブンス回転の手順は少しの非対角成分をゼロにするだけで済み、ハウスホルダー変換よりも容易に並列化できる。

編集

 

の分解を考える。

まず、左下隅の要素、 をゼロにする回転行列を構成する必要がある。この行列 はギブンス回転で求めることができる。まずベクトル を、X軸に沿って回転させる。このベクトルは角度 を持つ。直交ギブンス回転行列 を次のように作る。

 

ここで の結果は 要素がゼロである。

 

同様にしてそれぞれ非対角要素  要素がゼロであるようなギブンス行列  を構成し、三角行列 を構成する。直交行列 はすべてのギブンス行列の積 で表される。したがって、 であり、QR分解は である。

利点と欠点編集

ギブンス回転によるQR分解は、アルゴリズムを完全に動かすのに必要な行の順序を決定するのが簡単ではないため、実装に最も手間がかかる。しかしながら、新しいゼロ要素 がゼロになる予定の要素の行(i)とその上の行(j)にしか影響しないという特筆すべき利点がある。これにより、ギブンス回転アルゴリズムはハウスホルダー変換手法よりも帯域幅効率が良く、容易に並列化できる。

行列式や固有値の積との関係編集

QR分解を正方行列の行列式の絶対値を求めるのに利用できる。ある行列が と分解できるとする。このとき

 

である。

Qはユニタリであるため、 である。したがって、 Rの対角要素とすると、

 

となる。

さらに、行列式は固有値の積に等しいため、  の固有値とすると、

 

となる。

QR分解の定義を非正方行列に導入し、固有値を特異値に置き換えることで、上記性質を非正方行列 に拡張することができる。

非正方行列AのQR分解を

 

とする。ただし、 は零行列、 はユニタリ行列。

特異値分解と行列式の性質から、  の特異値として、

 

  の特異値は同じであるが、複素固有値が異なる場合があることに注意すること。しかしながら、Aが正方ならば、下記は真である。

 

結論として、QR分解を使うことによって行列の固有値や特異値の積を効率よく計算することができる。

列のピボット編集

ピボットQRは列のピボット[4]の新しいステップにおいて、それぞれ初めに残りの列で最も大きいものを取るという点で、通常のグラム・シュミット法とは異なっている。したがって、置換行列Pを次のように導入する。

 

列のピボットはAが(ほぼ)階数落ちである、またはその疑いがある場合に便利である。また、数値的精度を向上させることもできる。通常、Rの対角成分が非増加、つまり となるようにPを選ぶ。この手段により特異値分解よりも低い計算コストでAの(数値的な)階数を求めることができ、いわゆるRank Revealing QR分解英語版の基礎となっている。

線形逆問題への利用編集

行列の逆行列を直接求めるのに比べ、QR分解を利用した逆問題の解法は、条件数が減少していることからも分かるように、数値的に安定している[5]

次元が で階数が であるような行列 に対して、劣決定( )線形問題 を解くためには、まず の転置行列のQR分解 を求める。ただし、Qは直交行列(つまり、 )であり、Rは という特殊な形である。ここで、  正方右三角行列、零行列は 次元である。計算すると、この逆問題の解を次のように表すことができる。 

ここで、 ガウスの消去法で計算でき、 前方置換法英語版を用いることで直接計算できる。後者の手法の方が数値的精度が高く、計算量も少ないという利点がある。

ノルム を最小にするような過決定( )問題 の解 を求めるためには、まず のQR分解 を求める。 を直交行列 全体のうち最初の 列を含む 行列、 を先述の通りに置くと、この問題の解は と表せる。劣決定の場合と同様に、 の逆行列を直接計算しなくても、後方置換法英語版を用いることで早く正確に を求めることができる。(  は数値ライブラリによっては高速な(economic)QR分解として実装されている。)

一般化編集

岩澤分解英語版はQR分解を半単純リー群に一般化している。

脚注編集

[脚注の使い方]
  1. ^ Golub & Van Loan 2013, 5.2 The QR Factorization.
  2. ^ Golub & Van Loan 2013, Theorem 5.2.1 (QR Factorization).
  3. ^ a b c L. N. Trefethen and D. Bau, Numerical Linear Algebra (SIAM, 1997).
  4. ^ Strang, Gilbert (2019). Linear Algebra and Learning from Data (1 ed.). Wellesley: Wellesley Cambridge Press. p. 143. ISBN 978-0-692-19638-0 
  5. ^ Parker, Geophysical Inverse Theory, Ch1.13.

参考文献編集

和文編集

英文編集

関連項目編集

外部リンク編集