ベイズ推定｜事前分布で更新する推定法

2025.08.31

ベイズ推定

ベイズ推定は、観測データによって信念（仮説の確からしさ）を更新する推定法である。未知パラメータの確率分布を明示的に扱い、工学・品質管理・信頼性評価などで、不確実性を定量化しながら意思決定できる点が利点である。データが少ない状況やノイズが大きい測定でも、既存知識（事前分布）を活用して安定した推定を行える。

Table Of Contents

ベイズの考え方と基本式

ベイズの定理は P(θ|D)=P(D|θ)P(θ)/P(D) で表される。ここで P(θ) は事前分布、P(D|θ) は尤度、P(θ|D) は事後分布、P(D) は周辺尤度（エビデンス）である。重要なのは、データ D によってパラメータ θ の分布そのものを更新する点である。これにより点推定だけでなく、不確実性の幅も同時に得られる。

手順と設計の要点

実務での流れは次の通りである。事前分布の設計は知識の反映であり、推定結果の安定性に直結する。尤度はデータ生成過程のモデル化であり、外れ値や計測誤差の特徴を反映させる。

  1. 目的と損失関数を定義（平均二乗誤差など）
  2. 事前分布 P(θ) を設定（情報的/非情報的）
  3. 尤度 P(D|θ) を定める（測定モデル）
  4. 事後分布 P(θ|D) を得る（解析/近似）
  5. 要約統計（平均・中央値・MAP）や区間、予測分布を算出

事前分布・事後分布・MAP

事前分布は設計知識や過去データを反映する。非情報的事前分布は影響を弱め、情報的事前分布は物理定数の範囲や製造公差を組み込む。事後分布のモードは MAP 推定量で、尤度最大化（MLE）に正則化項を加えた形として解釈できる。事後平均や中央値は損失関数の選択に応じて最適化される。

信用区間と予測分布

信用区間は「パラメータがその区間に含まれる確率が 95%」という直接的な解釈を与える。さらに事後分布を積分して得る事後予測分布 p(xnew|D) は、新たな測定や製品特性のばらつきを予測するために有用である。工程能力や出荷合否境界の評価にも直結する。

共役事前分布と解析解

共役事前分布を選ぶと、事後分布が同じ分布族になり計算が容易になる。製造・品質現場のオンライン更新に適する。

  • ベルヌーイ/二項 × ベータ
  • ポアソン × ガンマ
  • 正規（分散既知）× 正規、正規（平均・分散未知）× 正規-逆ガンマ

用語メモ

「周辺尤度（エビデンス）」は P(D)=∫P(D|θ)P(θ)dθ を指す。モデル比較で重要な正則化効果を持ち、パラメータ空間のボリュームを自然に罰する。

MCMC と変分推論

解析解が得にくい場合、Markov Chain Monte Carlo（MCMC）で事後分布からサンプルを生成する。Metropolis–Hastings、Gibbs、HMC/NUTS などが代表的である。収束診断（R-hat、トレース）を確認し、バーンインや間引きを適切に行う。大規模データでは変分推論（VI）で事後近似を最適化する手法が計算効率に優れる。

モデル比較と階層ベイズ

モデル比較にはベイズファクターや周辺尤度が用いられる。パラメータ数の多いモデルは自動的に抑制され、過学習を避けやすい。階層ベイズは個体差やロット差を層で表現し、データの共有（部分プーリング）で安定性を高める。工程・装置・ラインといった多層構造を自然に扱える。

工学・製造での活用例

ベイズ推定は、少数試験での歩留まり推定、寿命試験の打ち切りデータ補完、外れ値に頑健な重み付け、物理法則を反映した事前分布によるパラメータ制約などで威力を発揮する。また、校正値の不確かさ伝搬や、予防保全の故障率更新、ロバスト設計の不確実性伝播評価にも適する。

事前分布設計の指針

事前分布は「主張」である。設計公差・安全率・過去ロットの実測から、平均・分散・範囲を数値化し、事前予測チェックでデータと整合するか検証する。情報過多の事前は過信を招くため、感度分析で影響度を確認することが重要である。

実装上の注意

スケーリング（標準化）でサンプラーの混合を改善し、相関の強いパラメータは再パラメータ化を検討する。疑似データ（prior predictive）と後験予測（posterior predictive）の両方を可視化し、モデルの当てはまりと外挿の妥当性を点検する。Stan、PyMC、NumPyro などのツールを用いれば再現可能な分析基盤を構築できる。

意思決定とリスク

事後分布と損失関数を組み合わせれば、期待損失最小の意思決定が可能である。合否判定や検査強化のトリガは、閾値超過確率や期待利益で定式化できる。コスト、納期、信頼性目標を明示し、定量的にトレードオフを管理するのが実務の勘所である。

よくある落とし穴

過度に鋭い事前、誤った尤度仮定、識別性の低さ、MCMC の未収束は典型的な失敗要因である。診断統計量と残差の可視化、代替分布（重尾分布など）の検討、モデル比較による健全性確認を習慣化することで、ベイズ推定の再現性と説得力が高まる。

コメント（β版）