ベイズ最適化でも使用されているガウス過程の初歩を理解するために「ガウス過程と機械学習」を読んでみた.
本書では第0章と題して,ガウス過程の overview を示している.そのため初学者でも非常に取っ付きやすい.自分も文章作成時は overview を示すと良いのかもしれない.文献案内も充実しているため繰り返して読むことになりそう.以下引用.
引用(気になる部分)
2 つのカーネルの和および積は半正定値をもつ,正しいカーネル関数になります.(P.77)
ガウス過程はベイズ統計の立場から見たカーネル法に相当するが,カーネルが上記の性質を持つためかなり柔軟なモデルを設計可能(線形変動+周期変動とか).カーネルすげー.もうちょっとカーネルを学ぶと良いのかもしれない.
ガウス過程は確率モデルとして自然な構造を持っており,何が学習されるか予測できないニューラルネットワークと異なって,カーネル関数を通じて問題に関する事前知識を表現したり,時系列やグラフのように自明にベクトル化できない対象を見通しよく扱うことができるという利点があります.(P.102)
パラメータ推定結果が説明可能なところがガウス過程の利点.物理現象等に適用すると良い.
参考文献
持橋大地, 大羽成征, "ガウス過程と機械学習" ,機械学習プロフェッショナルシリーズ, 講談社, 2019.