発展|まとめ(確率シリーズ 最終章)

発展まとめ:ケリー基準とMCMC

学んだことをつなぐ最終章。有利な賭けにいくら賭けるかを決めるケリー基準と、ベイズ推定+マルコフ連鎖のMCMCを体験します。

ここまでよく来たね! 最後は"実践で効く数学"と"AIやデータ科学につながる数学"の2本立てだよ。
✦✦クリーム色のニット姿で確率を説明する若い先生

1. ここまでの旅を振り返る

初級数える場合の数、順列、組合せ。確率の土台。 初級確率の定義余事象、加法定理、独立。 中級くり返す二項分布、「少なくとも1回」。 中級情報で更新条件付き確率とベイズの定理。 中級平均と揺れ期待値、分散、標準偏差。 上級大量のデータ大数の法則、正規分布、中心極限定理。 発展見立てを育てるベイズ推定。 発展状態が移り変わるマルコフ連鎖。

この最終章では、これまで学んだことを2つの発展的な話題でつなぎます。ひとつは「有利な賭けにいくら賭けるか」を決めるケリー基準、もうひとつはベイズ推定とマルコフ連鎖が合体した MCMC です。

2. ケリー基準:有利な賭けにいくら賭ける?

発展期待値がプラスの賭けがあっても、全財産を賭けると、1回負けただけで終わります。逆に少額しか賭けなければ、資産はなかなか増えません。では、最適な賭け方は?

資産に対する賭ける割合を f とし、勝ったら賭け金の b 倍が増え、負けたら賭け金を失う賭けを考えます(勝率 p、負ける確率 q=1−p)。

勝つと:資産 × (1 + b·f) / 負けると:資産 × (1 − f)

この賭けをくり返すと、資産は「掛け算」で増減します。掛け算の世界では、平均的な増え方は1回あたりの対数の平均で測るのが適切です(対数のページの、掛け算を足し算に変える性質!)。

成長率 g(f) = p·ln(1 + b·f) + q·ln(1 − f)

g(f) を最大にする f を求めると、次のケリー基準が得られます。

f* = p − q ÷ b (= (b·p − q) ÷ b)

勝率60%、オッズ1倍(b=1)なら f* = 0.6 − 0.4 = 0.2。資産の20%を賭けるのが、長期的な資産の増え方が最大になる賭け方です。

賭ける割合 f10%20%(最適)40%60%
成長率 g(f)(勝率60%・b=1)+1.5%+2.0%−0.2%−8.5%

最適より少し少ない賭けは、成長が少し遅いだけ。しかし賭けすぎは、期待値がプラスなのに資産が減っていくことすらあります。

ケリー基準を試そう



縦軸は資産の桁(10の何乗倍か。0が元手、1なら10倍、−2なら1/100)。最適な f のとき、資産が安定して伸びる様子を確認しよう。

3. MCMC:ベイズの計算を"歩いて"解く

発展:読み飛ばしてもOK

ここは大学の統計・機械学習で学ぶ内容の入口です。ベイズ推定とマルコフ連鎖を読んだ人だけが「なるほど」と言えるおまけ回なので、気楽に読んでね。

ベイズ推定のコインでは、事後分布の形が pʰ(1−p)ᵗ と手計算できました。しかし未知の量が10個、100個…になると、「山の面積を1にするための割り算(正規化)」の計算が現実的でなくなります。

そこで発想を変えます。事後分布の式を計算するのではなく、事後分布に従う点を大量に"作る"のです。点がたくさん集まれば、その分布から平均も区間も分かります。作り方がマルコフ連鎖モンテカルロ法(MCMC)です。

  1. 今いる位置 x から、少しだけ動いた候補 x′ をランダムに選ぶ。
  2. 目標の分布の高さ f(x′) と f(x) を比べる。f(x′) ≧ f(x) なら必ず移動。
  3. 低くなる場合も、確率 f(x′) ÷ f(x) で移動する。(高いところに集まりつつ、たまに低い所にも行く)
  4. これをくり返して、訪れた位置を記録する。

この歩き方(メトロポリス法)はマルコフ連鎖です。次の位置が、今の位置だけで決まるからです。しかも歩き方をこう設計すると、定常分布が、目標とする分布そのものになります。マルコフ連鎖の「定常分布」が、ここで主役になりました。

f(x′)÷f(x) という比しか使わないので、山の面積を1にするための面倒な定数は打ち消されて不要です。ここがMCMCの最大の魔法です。

メトロポリス法で分布を描こう

上:歩いた位置の分布(黄)と、正しい分布(緑)の比較。下:最初の300歩の軌跡。歩幅が小さすぎると動きが遅く、大きすぎると拒否ばかりで進まないのを試そう。

4. 確率が教えてくれること:まとめ

5. この先の学び

興味次のキーワード
確率をもっと厳密に確率変数、連続分布、確率密度関数、モーメント母関数
データから結論を出す統計的検定、p値、信頼区間、回帰分析
ベイズをさらに共役事前分布、階層ベイズ、ベイズ最適化
時間で動く確率確率過程、ブラウン運動、ポアソン過程、待ち行列
情報・AIへエントロピー、情報量、ナイーブベイズ、隠れマルコフモデル
お金・リスクへリスク管理、ポートフォリオ理論、ファットテール

6. 練習問題

  1. 勝率55%、オッズ1倍の賭けのケリー基準の賭け割合は?
  2. 勝率40%、オッズ2倍(勝つと賭け金の2倍増える)の賭けのケリー基準の賭け割合は?
  3. 勝率50%、オッズ1倍の賭けの割合は? その意味は?
  4. メトロポリス法で、現在の高さが f(x)=0.2 のとき、候補の高さが 0.1 と 0.4 の場合の移動確率は?
  5. MCMC で分布の正規化定数(面積を1にする割り算)が不要な理由は?
答えと途中式を確認する

1:f* = 0.55 − 0.45÷1 = 0.10(資産の10%)。

2:f* = 0.4 − 0.6÷2 = 0.1(資産の10%)。

3:f* = 0.5 − 0.5 = 0。期待値がゼロの賭けには賭けないのが最適、という意味。

4:0.1÷0.2 = 0.5(50%で移動)。0.4は0.2より高いので確率1(必ず移動)。

5:移動の確率が f(x′)÷f(x) という比だけで決まり、定数倍は分子と分母で打ち消されるから。