ディープラーニング
ディープラーニングは、多層のニューラルネットワークによりデータから階層的表現を自動獲得する学習手法である。画像・音声・言語・時系列など非構造データに強く、特徴量設計の負担を減らす。背景には大規模データ、計算資源（GPU）、最適化と正則化の進展がある。産業では外観検査、自然言語処理で広く用いられ、研究でも生成や表現学習を牽引する。 ディープラーニングは適切なデータと目的関数があれば高精度な予測・生成を達成できる。
基本概念とニューラルネットワーク
ニューラルネットワークは線形変換と活性化関数（ReLU, GELU など）を層状に重ね、順伝播で出力を算出し、誤差逆伝播で勾配を求めて重みを更新する。損失関数は分類で交差エントロピー、回帰で二乗誤差が用いられる。最適化はSGDやAdam、ミニバッチ学習が一般的である。バッチ正規化や残差接続は勾配の流れを安定化する。
代表的アーキテクチャ
- CNN（畳み込み）：局所受容野と重み共有により平行移動不変性を獲得し、画像認識やセグメンテーションで高性能。
- RNN/LSTM/GRU：系列依存を扱う。長距離依存の課題に対してTransformerが主流となった。
- Transformer：自己注意により長距離依存を並列処理し、言語・視覚・音声の基盤モデルで中核となる。
- 自己符号化器/VAE：次元削減、異常検知、生成に用いる。
学習プロセスと正則化
データは訓練/検証/テストに分割し、検証で汎化性能を確認する。画像なら回転・平行移動・色変換などの拡張、時系列なら窓切り出しやノイズ付与を行う。過学習を抑えるためにドロップアウト、ウェイト減衰、早期終了、ラベル平滑化が用いられる。クラス不均衡には重み付け損失や再サンプリングが有効である。実務現場で有効である。
性能評価と指標
分類ではAccuracy, Precision, Recall, F1、閾値に依存しないROC-AUC、物体検出ではmAP、回帰ではMAEやRMSEを用いる。混同行列で誤りを把握し、コストに応じて指標を選ぶ。不確実性推定も重要。
産業応用（製造・工学）
製造では画像検査の自動化、欠陥分類、設備故障の予兆検知、在庫最適化、工程条件のレシピ探索、ロボットの把持計画に活用される。サロゲートモデルは設計探索を高速化し、逆問題で最適形状や配合を提案する。化学では物性予測、エネルギーでは需要平準化や異常検出が進む。
導入手順とMLOps
課題定義→データ収集・アノテーション→ベースライン構築→反復的な改善→本番展開という流れを取る。運用ではMLOpsが重要で、実験管理、モデルのバージョニング、CI/CD、監視（データ/概念ドリフト）、ロールバック体制を整える。エッジかクラウドかも要件で選ぶ。
ハイパーパラメータとチューニング
- 学習率・バッチサイズ・エポック数・最適化手法（SGD/Adam）
- 深さ・幅、活性化、正則化強度、残差や注意の有無
- 学習率スケジューラ、初期化、データ拡張レシピ
- 探索手法：グリッド/ランダム/ベイズ最適化
データ品質と前処理
ラベルの一貫性、外れ値、リーク、重複の有無を点検する。正規化や標準化、欠損処理、カテゴリ表現を適切に選ぶ。データガバナンスとして由来の記録、権利確認、監査可能性を確保する。
説明可能性と安全性
Grad-CAMやSHAPなどの可視化は根拠の観察に役立つ。安全性では敵対的摂動、分布外データ、バイアスの増幅に注意する。モデルカードを整備し、適用範囲とリスクを明示する。
計算資源と効率化
学習にはGPU/TPUが用いられ、分散学習でスループットを上げる。推論では量子化、蒸留、プルーニングで軽量化し、レイテンシと消費電力を抑える。リアルタイム要件やエッジ制約がある場合、サイズと精度のバランスを評価する。
主要用語
- 表現学習：特徴を自動抽出する枠組み。
- 転移学習：事前学習モデルを別タスクへ微調整する。
- 自己教師あり学習：ラベルを用いず事前学習する。
- 注意機構：重要部分へ重み付けする演算。
- 残差接続：勾配消失を和らげるショートカット。
- 正則化：汎化を高めるための制約付与。
- データドリフト：時間とともに入力分布が変わる現象。
- 概念ドリフト：目的との関係が変化する現象。