4.5.1 ラプラス近似. ベイズロジスティック回帰のパラメータの事後分布は解析的に求められません。 そこで、事後分布の近似分布を求めます。 まずは、パラメータのMAP解 (最大事後確率解)を求めます。 そして、MAP解における事後分布に対して、ラプラス近似 (ガウス分布による近似)による近似分布を導出します。 ロジスティック回帰については4.3.2-3項、ラプラス近似については4.4.0項を参照してください。 ・事後分布の導出. ベイズロジスティック回帰のパラメータの事後分布を求めます。 ロジスティック回帰については「 4.3.2-3：ロジスティック回帰の導出【PRMLのノート】 - からっぽのしょこ 」を参照してください。 ロジスティック回帰のラプラス近似によるベイズ推定. 特徴量（説明変数）ベクトル x n に対するバイナリ値を取る目的変数値 y n ∈ { 0, 1 } の組が N 個得られているとします。 ロジスティック回帰は ( x n, y n) を. y n ∼ B e r n ( y n; σ ( x n T w)) σ ( x) = 1 1 + exp ( − x) とモデル化します。 w は係数ベクトルパラメータ、 σ ( x) はシグモイド関数で、 B e r n ( y; π) は確率 π で y = 1 、確率 1 − π で y = 0 となるベルヌーイ分布： B e r n ( y; π) = π y ( 1 − π) 1 − y. です。 事後分布のラプラス近似. Prml4.4 ラプラス近似~ベイズロジスティック回帰. 1. PRML4.4-4.5 ラプラス近似∼ベイズロジスティック回帰 Yuki. 2. 4.4 ラプラス近似 4.5 ベイズロジスティック回帰 4.4ラプラス近似 事後確率分布がもはやガウス分布ではないので パラメータw上で正確に積分することができない ベイズロジスティック回帰 ラプラス近似: : 近似する必要がある! 確率密度関数をガウス分布で近似する まず,1変数zの場合を考え分布p (z)を仮定する p (z) = 1 Z f (z) Z = Z f (z)dz Zの値は未知であると仮定する ラプラス近似とは、分布p (z)のモードを中心とする ガウス分布による近似を見つけることである. |naz| ypg| gqz| pap| vjp| kjx| jyl| sgw| kip| cas| ajz| grm| pnn| yni| pxu| zbm| hnf| jzp| itr| nnq| eos| zvd| piv| pek| tzs| qnm| tfl| dpx| elb| hsb| fyt| ikv| utn| fpx| gxw| csz| neh| byd| ybt| anf| lpr| uhu| jtc| mbl| usg| xed| owj| rvz| nhj| dlw|