実対数閾値の発表をするとたまにタイトルのことを聞かれることがあるのでそれについてのメモです。モデルの分布を、真の分布をとした時、その間のKullback-Leibler divergence は と定義されます。ここで特異学習理論においてゼータ関数は、事前分布 、に対…

ホロノミック勾配法の勉強メモです。 ホロノミック勾配法のよく知られている応用として・確率分布の正規化定数の評価・何らかの最適化がありますが、本記事は前者についての個人メモです。後者についてはデンソーITラボの ホロノミック勾配法 – Tech.D-ITlab…