慶應義塾大学・株式会社Nospareの菅澤です． 今回はベイズ統計学を勉強するための参考書の順番 (私見) について紹介していきます． 3年ほど前に『日本語で学べるベイズ統計学の教科書10冊』を紹介しましたが，今回は「どのような順番でどの参考書を読んでいくと比較的スムーズに勉強が進められるのか」に焦点を当て，比較的最近の書籍や英語の書籍まで含めて紹介していきます． まずは全体的なフローのイメージを提示しておきます． 今回の記事では，「ベイズ統計学を勉強すること」のスタートとゴールを以下のように定めます． (スタート) 統計学の基礎的な内容 (統計検定2級程度の内容) は身についている (ゴール) ベイズモデリングに関する最新の論文がある程度理解して読め，自力でモデルを組んだり実装することができる また，このゴールへの道のりとして，大きく2通りのルートを想定します． (ルートA: フルスクラ

この記事は確率的プログラミング言語 Advent Calendar 2023の12/8の記事です。 概要 『Pythonではじめる数理最適化』はいい本ですよね。親しみやすい実例、分かりやすい数式、きれいなPythonコードと三拍子そろっています (今年のアドカレで改訂版が近いうちに出ることを知りました)。 7章「商品推薦のための興味のスコアリング」では、「何日前に直近の閲覧があったか」と「閲覧回数」の二つの軸で興味のスコアを考えます。興味のスコアが単調減少であるという制約のもと、再閲覧の割合と推定値の二乗誤差を最小化するという凸二次計画問題として解いています。この記事ではStanで解くとこんな感じですというのを示します。メリットとしてベイズ信頼区間も推定されます。 データ 公式のリポジトリの7章のipynbファイルを途中まで実行して得られるデータフレームrf_dfを使用します。他の人の扱い

はじめに Pythonで動かして学ぶ! あたらしいベイズ統計の教科書を読んだ事をgoogle colaboratryでやろうと思ったらこちらの記事にあるように、colabではpymc3ではなくpymcを使ってくれとのことなので、pymcでやってみました。 ベイズ推定とは ベイズ推定は、統計的な手法の1つであり、事前に与えられた確率分布（事前分布）とデータを元に、事後分布を計算し、その分布を利用してパラメータの推定や予測を行う手法です。 ベイズ推定では、あるパラメータ（例えば、母平均や母分散など）が持つ確率分布を事前分布として仮定します。この事前分布は、事前にパラメータについて知っている情報や仮定に基づいて設定されます。そして、データが得られた後、データと事前分布を組み合わせて事後分布を計算し、それによりパラメータの推定や予測が可能になります。 ベイズ推定に使用するデータの取得と前処理 今回

前回と前々回にベイズ推定について簡単に説明しました。 以下、前回の記事です。 以下、前々回の記事です。 通常の線形回帰モデルは、切片や係数、予測の値は1つです。 一方，ベイズ線形回帰モデルで得られるのは分布です。正確には、分布から得られるサンプルです。 今回は、PyMC3を使ってベイズ線形回帰モデルを構築する方法を紹介します。 通常の線形回帰モデルと比較します。 通常の線形回帰とベイズ線形回帰 簡単に数式で考えていきます。 通常の線形回帰モデルは、以下のように表現されます。yが目的変数で、xが説明変数です。 \displaystyle y = a + b x + \epsilon , \epsilon \sim \mathcal{N}(0,\sigma^2) これは、yが平均ax+bと標準偏差\sigmaで正規分布していることを意味します。 \displaystyle y \sim \ma

何かと便利なベイズ推定、ビジネスの世界でも活用が進んでいます。 MCMCというアルゴリズムが手軽に利用できるなったことが、大きな要因の1つでしょう。MCMCとは、マルコフ連鎖を利用したモンテカルロシミュレーションです。手軽にMCMCでベイズ推定を実現するのがPyMC3というPythonのパッケージです。 MCMCそのものの理解は脇においておくとしても、ベイズ推定そのものの理解を脇においておくわけには行きません。 ということで前回は、「コイン投げの例を使ってベイズ推定を何となく理解しよう」というお話しをしました。 PyMC3を使ったPythonベイズ推定超入門（その1）コイン投げの例を使ってベイズ推定を何となく理解しよう 前回は、PyMC3は登場しませんでした。コイン投げの場合、登場するまでもない、という感じでしたが、通常はそうは行きません。 今回は、「コイン投げの例を使ってPyMC3ベイズ

需要予測などで、特定の値（予測値が1つ）だけではなく、予測値の区間や分布が手に入った方が嬉しい場合があります。 区間だけであれば、従来の推定方法（最尤法など）で求めることはできます。95%信頼区間（予測区間）などです。 もちろん、このような区間はベイズ推定でも求めることはできます。 知り得たいのが区間だけであれば、従来の推定方法だろうがベイズ推定であろうが、どちらでもいいかもしれません。 しかし、ベイズ推定の場合、区間以上の情報を得ることができます。 どのような情報かというと、分布です。 この分布から平均値や最頻値などを予測値やその区間などを求めることができます。 それだけではありません。 ベイズ推定の面白いところは、今手元にあるデータが多かろうが少なかろうが取り急ぎ分布などを計算し、新たなデータを手にしたときにその分布を更新していく、というアプローチを取ります。 更新前の分布を「事前分布

TensorFlow Probability（TFP）は TensorFlow に基づいて作成された確率的推論と統計的分析のための Python ライブラリです。TFP を使用すると、最新のハードウェア（TPU、GPU）上で確率モデルとディープ ラーニングを組み合わせることができます。このリポジトリ資料では TensorFlow Probability の高位 API tfp.glm および tfp.sts を使ってマーケティング分析する例をご紹介しています。

はじめに 本内容はpymc3 Bayesian mediation analysisの解説記事です。 概要 ベイズ統計をAIコンペや実業務で使えたらいいなーと思い、独学で勉強しています。参考書から大枠のイメージを理解することはできましたが、じゃあ実際どう使えばいいんだい、というところが全く分かりませんでした。 何かハンズオン形式のチュートリアルみたいな教材がないかなと調べていたところ、pymc3のチュートリアルがとても良さそうだったので、こちらもとに学習を進めることにしました。 ただ、pymc3のチュートリアルは全て英語で記載されており、かつ統計的な専門知識もある程度必要になるため、理解は少し時間がかかりました。日本語の詳細な解説記事があればいいのになーと思い、頭の整理も兼ねて本記事を執筆しました。 対象とする課題 pymc3 Bayesian mediation analysis 実行環

はじめに 今度、マーケティング的な分析もすることになりそうです。私は今までベイズ推定をさわり程度に勉強してきましたが、実務でも使う機会が出てきそうです。時間的に余裕がある今のうちに勉強して手を動かし、自分用の備忘を兼ねて内容をここに書きます。 Pythonでベイズ推論を行うライブラリとしてPyMC3を使います。この記事では、PyMC3を使って、モデルの推定とテストデータに対する検証を行うまでを記載します。 参考 主に以下のPyMC3チュートリアルを参考にしています。 [1] Prior and Posterior Predictive Checks [2] Getting started with PyMC3 準備 AnacondaにPyMC3をインストールします。私の場合、Windows10 64bitに入れます。 ここで私はハマってしまいました。これはこちらの記事に書いていますので、参

Stan, PyStanとは Stanとは、C++をベースに実装された確率的プログラミング言語です。NUTSアルゴリズム (HMCを発展させたもの) を用いて、様々なベイズ推定を行うことができます。特徴として以下のようなものが挙げられます。 統計モデルの記述が簡単 HMCなのでサンプリングが高速 さまざまな確率分布を利用可能 PyStanはStanをPythonから扱うためのインターフェースを提供するパッケージです。Stanの文法に従ってモデルを記述し、コード実行時にモデルをコンパイルします。 PyStan: The Python Interface to Stan PySTanのインストール pipでインストール可能です。トレースプロットの描画のために arviz もインストールしておくと良いです。