「過剰適合」の版間の差分

[[機械学習]]の分野では過学習（overtraining）とも呼ばれる。過剰適合の概念は機械学習でも重要である。通常、学習[[アルゴリズム]]は一連の訓練データを使って訓練される。つまり、典型的な入力データとその際の既知の出力結果を与える。学習者はそれによって、訓練データでは示されなかった他の例についても正しい出力を返すことができるようになると期待される。しかし、学習期間が長すぎたり、訓練データが典型的なものでなかった場合、学習者は訓練データの特定のランダムな（本来学習させたい特徴とは無関係な）特徴にまで適合してしまう。このような過剰適合の過程では、訓練データについての性能は向上するが、それ以外のデータでは逆に結果が悪くなる。

 

{{main|正則化}}

機械学習や統計学において、媒介変数を減らすのではなく、誤差関数<!--数学用語の誤差関数とは異なる-->に正則化項を追加して、モデルの複雑度・自由度に抑制を加え、過学習を防ぐ方法がある。L2 正則化や L1 正則化などがある。

[[サポートベクターマシン]]においては、媒介変数（パラメータ）を減らすのではなく、マージンを最大化することにより、過学習を防いでいて、これも、L2 正則化と同じような手法に基づいている。

 

 

== 参考文献 ==