マネーフォワード 分析推進部の石田と申します。 社内では、データサイエンティストとして施策効果検証系の案件を中心に担当しています。 本稿から2回に渡って、「ABテストにおける分散削減手法」というテーマで記事を執筆したいと思います。 馴染みのない方もいらっしゃるかもしれませんが、ABテストへ分散削減手法を適用することで、例えば以下に挙げたメリットを享受することができます。 必要サンプルサイズを低減できるため、意思決定サイクルを高速化できる より小さな改善効果を検出できる 魅力的だと感じていただけた方は、ぜひ最後まで本稿をお読みください！ 目次 想定する読者層と書いてある内容本稿のメインターゲットは、以下のような方です。 統計的仮説検定の理論を少し勉強したことがあるけど、分散削減と言われてもあまりピンと来ていない 確率変数、標本平均、分散、正規分布の意味は分かるけど、t検定の検定統計量がパッと

前回のブログ記事は、論文紹介という地味なテーマだったにしてはだいぶ話題を呼んだ*1ようで、個人的にはちょっと意外な感があったのでした。確かに、今をときめくTransformerにも苦手なものがあるという指摘は、NN一強の現代にあってはセンセーショナルなものと受け止められても不思議はなかったかと思います。 しかし、それは同時に「データセットが持つ本質的な性質」と「データ分析手法の性質」とのミスマッチと、それが引き起こす問題とについてこれまであまり関心を持ってこなかった人が多いということなのかもしれません。そして、そのミスマッチは冗談でなく古来からある程度定まった類型があり、データ分析業界の古参なら「そんなの常識だよ」というものばかりだったりします。 ところが、最近僕の周囲でもそういうミスマッチが深刻な実問題を招いているケースが散見され、思ったよりもそれは常識ではないのかな？と思わされることが

データラーニングギルドは、新しい時代に適した「ニュースタンダードな専門家コミュニティ」を目指して設立されました。データサイエンティストを始めとした専門職は技術の移り変わりが激しく、旧来の会社型の組織だけではキャリアの形成が困難な状況になって来ています。また、1社に所属する働き方から複数社に所属する働き方に変わり、複数の会社、個人間のコラボレーションが重要な時代に突入して来ています。 そんな世の中では、個人が複数の組織に属し、特定の目的に沿ってコラボレーションを支援するような、個々人が有機的に結合するための仕組みや環境が必要なのではないでしょうか？ 個人が複数のコミュニティに所属しながら、コミュニティ内部で、コミュニティ間をつなぎながら価値を生み出していくことが今後重要になって来ると考えた代表の村上が、新しい時代の働き方のモデルケースを作るべく立ち上げたコミュニティ、それがデータラーニングギ

【データサイエンティストたちの悪夢】 ・上司が「AI使ってます」と言いたいだけのプロジェクト ・自分が期待した結果しか認めないクライアント ・プロジェクト終盤でもまだ手に入らないデータ ・分析手法にしか興味がない分析者 ・最終報告後にやっと決まる仕様 【その分析、もう失敗しているかも…… 失敗を回避し、成功に近づくためのガイド】 本書は、第一線で活躍するデータサイエンティストたちが経験した、データ分析プロジェクトの「失敗」をもとに再構成された25の事例が収録されている。これらの臨場感あふれる事例から、データの活用に関わる人たちが、失敗を避けるために何をしてはならないのか、について学びとることができる。プロジェクトの失敗の予兆となる致命的な要因を察知し、失敗に至る「毒薬」を飲まないように注意するための知見が本書には随所に含まれている。 データの活用に関わる分析者、そして、分析を依頼する立場と

はじめに本稿は、自身がデータ分析者だと思っている人に対して、以下のことを自分の経験・学習した範囲から提案するものです。 ・こういうプロセスでデータ分析・データサイエンスを活用するのがいいよね ・このプロセスではこういうことに気をつけたり、こういうことができるといいよね 世の人が、これを以下のように役立ててくださり、世の中に資することを期待します。 ・これのどこまでが君のスコープなんだい？ということを、この文章を元に期待値調整（私は期待値を文脈に合わせて二つの意味で使うタイプの人です）できるようになる ・なるほど今俺は、こういうところで困っているのか？ということに気づける また、こちらで書いたことが共通認識になればなるほど、自分の得意な働き方が世の中のデフォルトになるので、自分にとっても得だなという側面があります。 なので別に世のため人のためだけではないです。（古典的ツンデレ）（俺こういう感

この記事はRetty Advent Calendar 2020の21日目の記事です。 adventar.org 昨日は、森田さんのETL基盤でデータを汎用的に処理できるようにした話でした。 はじめに こんにちは。平野(@MasaDoN22)です。 Rettyデータ分析チームのマネージャーを担当しています。 去年、一昨年に引き続き、分析チームの1年の振り返りとして書きました。 今年を一言でいうと、持てる武器を最大限活用して、目の前の課題に向き合った一年でした。 内容としては、分析チームの役割である意思決定支援・分析民主化・データ基盤・MLに沿って書いた一年の総集編です。 その結果、今年も文量が多くなってしまったので、興味のある分野だけ抜粋してお読みいただけますと幸いです。 本記事の前提となる、Rettyデータ分析チームの役割や過去の取り組みは、以下記事を御覧ください。 engineer.re

サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。

―今日は株式会社ホクソエムのお二人とヴァリューズの輿石さんに、データアナリストのキャリア論についてお聞きしていきたいのですが、本題に入る前にまずひとつお尋ねしたいです。なかなか実態の掴みづらいホクソエムという会社は、一体何者なのでしょうか…？（笑） タカヤナギ=サン：それについては牧山さんが会社の歴史をきれいに話してくれるかと。 牧山さん：いや〜話せないですね。もう忘れました（笑）。 タカヤナギ=サン：おっと。では私から簡単に話すと、まずホクソエムは匿名知的集団ホクソエムからはじまり2016年に株式会社となりました。代表取締役は私と牧山の2人。メンバーは計8名で、働き方改革とダイバーシティを体現して全員副業で回してます。 メンバーの特性としては、みんな本業の所属組織で実務をバリバリこなしつつ、博士号を持っているのが8分の3。残り5名も少なくともマスター卒で、データ分析に特化した人が集まるス

(Photo credit: https://pixabay.com/en/data-dataset-word-data-deluge-1188512/) 人工知能ブームで世間が喧しい昨今ですが、それに伴って往年に見かけたような内容のビッグデータ論やデータサイエンティスト論や機械学習システム論が再び出回るようになってきているようで、歴史は繰り返す感を覚える今日この頃です。 ということで歴史が繰り返している感を再確認すべく、これまでのデータ分析業界の5年間を僕個人が見聞してきた範囲and/or記憶している範囲and/orサーベイできる範囲で振り返ってみようと思います。ほぼ完全に個人的にして私的なヒストリーのまとめですので、公的な用途には参照されぬよう厳にお願いいたします。。。また僕の守備範囲が「広告もしくはマーケティング」であるが故にこの2領域に偏っている点もご注意ください。特に機械学習サイ

はじめに マーケティング施策を行うときに、その施策効果を測定するために、コントロールグループ（施策を適用しないユーザ）を作る場合がある。 例えば、販促メールを送るという施策を行うときに、一部のユーザには送らないようにする。 仮にメールを送らなかったユーザの平均売上が1000円であり、メールを送ったユーザは平均1100円だとすると、その差である100円が1人あたりの施策効果となる。 しかし、施策を適用しないユーザの数を増やすと、全体の売上効果はそれだけ減少してしまう。 つまり、全体のユーザ数を1万人とすると、全員にメールを送れば100万円の売上効果があるが、半分の5千人をコントロールとすると売上効果も半分の50万円となる。 したがって、コントロールグループに割り当てる人数はなるべく小さくしたいという要求がある。 ただし、コントロールグループの人数を少なくすると、効果測定の精度が落ちるという問

都内の事業会社で分析やWebマーケティングの仕事をしています。大学・大学院では経済学を通じて統計解析を行うなどしておりました。企業に勤めてからは、機械学習やテキストマイニング、クローリング技術などに関心を持っています。 Twitterアカウント Mr_Sakaue( SKUE ) GitHub 読書メーター ほしいものリスト 前回の分析では、価格への反応係数の事前分布が正規分布を仮定したモデルを用いていましたが、事後分布から多峰性が観察されました。そこで今回は、各個人の価格への反応係数の事前分布が混合ガウス分布に従うとした場合の事例を扱いたいと思います。 データのおさらい データ自体は前回のブログと同じですが、先日のTokyo.Rで松浦さんがオススメしていたGGallyパッケージのggpairs関数を用いて、今回扱うデータを可視化してみます。 まず、購買したマーガリンのブランド選択(6ブラ

Quipper で Web Engineer 兼 Engineering Manager を務める @ohbarye です。スタディサプリの開発、その中でも特に合格特訓コースや決済周りの機能開発・保守が主な業務です。 弊社が開発するプロダクト「スタディサプリ」ではA/Bテストを用いたプロダクトの改善を行っています。Quipper の行動指針の一つに "Fact based" という言葉が含まれており、憶測や独断ではなく計測されたデータや事実に基づいて意思決定することが強く推奨されているためです。 このたびスタディサプリにおいて負債と考えられていた機能を「消してよいかどうか」、A/Bテストを通して判断しました。その際に用いた手法や結果、そこから見えたこと、考えたことをご紹介します。 プロダクトの負債とは プロダクトチームにとって負債と考えられていたのは「キャリア決済」という決済手段でした。そ

元々コンサル会社から事業会社のほうでデータサイエンティストをやるようになって１年経つが辞める。そのきつかったことを匿名という場所で卑怯ながらも話したいと思う。 元々私は大学院でそこそこ統計をやってきてから、コンサル会社に行きデータサイエンティストとして事業会社へ移った口だ。 根本的にデータサイエンティストとしての資質としてざっくりいうと以下の３つが必要だと思われる。 1. 統計能力関係及びそのプログラミングや可視化能力 2. KPI設計及び事業からのKPIへの落とし込みからそのKPIからどう事業繋がるかというビジネス設計能力 3. 上を基にしたコンサル能力 私能力的には１がやや強く、その次に２がまぁまぁそして３はまだまだといった所で事業会社でデータサイエンティストとして孤軍奮闘をすることになった。 入社理由データはあるが、なかなか活用できていないこともあり、分析から企画から関われるという事

概要 2017年8月9日に国立がん研究センターは、がん治療拠点の約半数にあたる全国188の病院について、癌患者の5年後の生存率データを初めて公表しました（毎日新聞の記事）。報告書は国立がん研究センターが運営するウェブサイトからダウンロードできます（ここ）。報告書をダウンロードしようとすると注意点を記したポップアップが表示されます。大切な部分を抜粋すると以下です。 本報告書には、施設別の生存率を表示していますが、進行がんの多い少ない、高齢者の多い少ないなど、施設毎に治療している患者さんの構成が異なります。そのため、単純に生存率を比較して、その施設の治療成績の良し悪しを論ずることはできません。 一般に高齢者が多い病院ほど、進行癌（ステージが進んだ癌）が多い病院ほど、その病院の生存率は下がるわけです。それならば、統計モデリングで年齢と進行度（ステージ）の影響を取り除いて（専門的な言葉で言えば「調

“とある弁当屋”を舞台に、いま話題のデータサイエンティストが活躍するユニークな統計の入門書！ 本書では、物語風に統計解析の目的と方法を解説します。具体的には、最近注目を浴びている「データサイエンティスト」を主人公にみたて、顧客であるお弁当屋さんの売上向上を目指して活躍するという筋立てです。主人公が、お店の看板娘に解説するという形式で、統計の基礎概念、方法論、また応用について懇切丁寧に解き明かします。通勤通学の電車の中でも通読できるよう、できるだけ単純化した説明を試みました。そこで、机に向かってじっくり本書の内容を復習したいという読者には、サポートサイトを用意する予定です。統計学なんかまるで縁がなかった、習ったかもしれないけどもう忘れたという社会人や大学生、数学Iの「データの分析」がわけ分からんという高校生に贈ります。 序　カッコいいデータサイエンティスト 第1章　データの要約 データから情

情報処理学会ビッグデータ解析のビジネス実務利活用研究グループ（PBD-gr）キックオフミーティング「機械学習と人工知能の最前線：ビッグデータ、IoT、機械学習、人工知能利活用の新展開」 【セッション概要】2018年1月23日に「ビッグデータ解析のビジネス実務利活用研究グループ（PBD-gr）」の新設が情報処理学会で承認され、本ITフォーラム「ビッグデータ活用実務フォーラム」は、2018年4月から、新研究グループに移行します。本セッションは、新研究グループのキックオフミーティングとしてその概要、目的、今後の展開について紹介します。また、本セッションでは、PythonやJuliaなどデータ分析や機械学習関連のツールを中心に最近の機械学習をめぐる現状を「ビッグデータ、IoT、機械学習、人工知能利活用の新展開」をテーマに議論したいと思います。ディープラーニングを発端とする人工知能ブームはほぼ定着し