トレジャーデータで実践：Path 分析（アウトプット編１：頻出パターンマイニング） - トレジャーデータ（Treasure Data）ブログ
はじめに 「トレジャーデータで実践：Path 分析」シリーズでは，過去にWeb，広告，リアル店舗でのログを元に，コンバージョンパステーブルの作成例とその分析事例を紹介していました。 blog-jp.treasuredata.com それに続く本記事では，より具体的かつ汎用的な分析事例として，コンバージョンパスを分析インプットとした時に，どんな分析アウトプットが出せるか，について以下の3つを紹介する事にします。 頻出パターンマイニング（今回） コンバージョンパス ダイアグラム 決定木モデル 上記の資料はパス分析の概念から始まり，トレジャーデータにおけるデータの持たせ方から分析アウトプットまで，パス分析のいろはを詳細に述べた資料です。 コンバージョンパステーブル ここで，生データとコンバージョンマスタテーブルを元に，トレジャーデータ上で作成するコンバージョンパステーブル（パス分析のインプットと
［1］データ分析基盤の選び方、今やDWHはクラウド一択
我が社も社内データを活用して業績を高めたいのだが、さて何から手を付ければいいのか…。 昨今のビッグデータ分析の盛り上がりで、さまざまな企業の方からこんな悩みを打ち明けられることがあります。それも、企業のトップ層から、事業部門や情報システム部門など現場の方まで、悩みの中身は様々です。 例えば情報システム部門の方なら「情報システム部門としてビッグデータに取り組みたくとも、経営陣や事業部門を説得して巻き込んでいくのが大変で…」「そもそも事業部門の方で、どのような分析が効果的かを明らかにしてくれないと、導入するITツールを選定しようもない」と嘆きます。 その一方で、事業部門の方は「ビッグデータ分析には興味があるが、情シス（情報システム部門）と話すのは大変だし、かといって自分にはシステムの知識はないし…」「ウチは店舗出身のメンバーが中心なので、データ分析のスキルを身につけさせるのは難しそう」といった
データサイエンティストというかデータ分析職に就くための最低限のスキル要件とは - 渋谷駅前で働くデータサイエンティストのブログ
追記（2017年7月） こちらのスキル要件ですが、2017年版を新たに書きましたので是非そちらをご覧ください。 「データサイエンティストというかデータ分析職に就くためのスキル要件」という話題が某所であったんですが、僕にとって馴染みのあるTokyoR界隈で実際に企業のデータ分析職で活躍している人たちのスキルを眺めてみるに、 みどりぼん程度の統計学の知識 はじパタ程度の機械学習の知識 RかPythonでコードが組める SQLが書ける というのが全員の最大公約数＝下限ラインかなぁと。そんなわけで、ちょろっと色々与太話を書いてみます。なお僕の周りの半径5mに限った真実かもしれませんので、皆さん自身がどこかのデータサイエンティスト（）募集に応募して蹴られたとしても何の保証もいたしかねますので悪しからず。 統計学の知識は「みどりぼん以上」 データ解析のための統計モデリング入門――一般化線形モデル・階層
開発者がビッグデータ分析にPythonを使う時によくやる間違い | POSTD
システムの構築、新しい技術の習得、PythonやDevOpsなどに情熱を注ぐソフトウェア開発者です。現在はチューリッヒを拠点とするビッグデータのスタートアップで働いており、データ分析およびデータ管理ソリューションのためのPythonの技術を磨いています。 1 はじめに Python は開発時間を短縮できるという点で一般的に評価の高い言語です。しかし、Pythonを使って効率よくデータ分析をするには、思わぬ落とし穴があります。動的かつオープンソースのシステムであるという特徴は、初めは開発を容易にしてくれますが、大規模システムの破綻の原因になり得ます。ライブラリが複雑で実行時間が遅く、データの完全性を考慮した設計になっていないので、開発時間の短縮どころか、すぐに時間を使い果たしてしまう可能性があるのです。 この記事ではPythonやビッグデータで作業をする時に、最も時間を無駄にしがちな事柄につ
総務省統計局 データサイエンス・オンライン講座 社会人のためのデータサイエンス入門
統計データを用いた分析事例を知り、 統計リテラシーを学ぶ ・大人がデータサイエンスを学ぶべき理由 ・統計データからわかること① ・統計データからわかること② ・統計データからわかること③ ・統計リテラシーの重要性 ・統計を利用する際の注意点 データ分析に必要な統計学の基礎を学ぶ ・データの種類 ・代表値～平均・中央・最頻値 ・ヒストグラムと相対度数 ・四分位・パーセンタイル・箱ひげ図 ・分散・標準偏差 ・相関関係 ・回帰分析 ・標本分布 ・信頼区間 データの見方と 適切なグラフの選び方を学ぶ ・統計表の見方 ・比率の見方①－クロスセクションデータ－ ・比率の見方②－使い方と注意点－ ・時系列データの見方① ・時系列データの見方② ・グラフの選び方① ・グラフの選び方② ・グラフを作る時・読む時の注意点 誰もが使える公的統計データの取得方法と 使い方を学ぶ ・公的統計とは ・公的データの入手
ハイブリッド型樹木法
8. モデルに基づく再帰分割 8 一般の決定木の分割基準 Information Gain C4.5 Gini係数 CART 検定統計量 CHAID 他の分割基準を採用することもできる 下位モデルとして回帰式を採用 分割した時に2つの回帰式の残差平方和が最小になるように分割 適切な複数の回帰式になるようにデータを分割する 13. テストデータ・・・Boston 13 crim zn indus chas nox rm age dis rad tax ptratio black lstat medv 1 0.00632 18 2.31 0 0.538 6.575 65.2 4.0900 1 296 15.3 396.90 4.98 24.0 2 0.02731 0 7.07 0 0.469 6.421 78.9 4.9671 2 242 17.8 396.90 9.14 21.6
ニューラルネットによる単語のベクトル表現の学習 〜 Twitterのデータでword2vecしてみた - 病みつきエンジニアブログ
最近にわかにword2vecが流行っています。ので、乗っかってみました的記事です。 理論に関してはあまり詳しくしらないので、印象だけで語っているかもしれません。何かありましたらTwitterかコメント等でご指摘いただけますと幸いです。 ちなみに、失敗した話が多いです。 word2vecと単語のベクトル表現 word2vecは、機械学習の分野で使われる、ニューラルネットというモデルを使ったツール／ライブラリです*1。名前の通り、wordをvectorにします。vectorにする、というのは、ベクトル表現を獲得するということで、意味(みたいなもの)の獲得というか、素性の獲得というか。 単語のベクトル表現の獲得自体は、別にword2vecにしかないわけではありません。言い換えると、昔からあります。LDAを使って単語のトピック分布のようなものを学習したり(vingowでやりました)。余談ですが、こ
効果量(effect size)のはなし - 渋谷駅前で働くデータサイエンティストのブログ
統計学的検定の話を始めたら自分の勉強の方が止まらなくなってしまったので（笑）、ついでにやってみようと思います。ちなみにこの記事は前回のやたらブクマを集めた記事の続きみたいなものです。 そもそもビジネスの現場ではどういう「レベル」の統計学を使うべきなのか - 六本木で働くデータサイエンティストのブログ 例えば有意ではないという結果になった時にそれが「実際に帰無仮説が真」なのか「単にサンプルサイズが小さくて検出力が足りないだけ」なのか判断せよという問題。前者なら果てしなくサンプルサイズを大きくしても有意にはならないし、後者なら今度は効果量(effect size)のことを考えなければいけません。 というように前回の記事では検出力(statistical power)と効果量(effect size)について触れたんですが、タイムリーに先日の第36回TokyoRでその辺の話をしてきたので*1、そ
落とし穴を回避する―データの読み方、考え方
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 第1回と第2回では目的を持って分析を実施することの重要性を解説しました。では、実際にデータを分析する際に扱うデータはどのようなものがあるのでしょうか。データはあくまで記号の羅列です。それぞれに意味があり、適切なコンテキスト（背景や意味）を読み取れなければ、正しいデータ分析はできません。そこで、今回はデータの基本的な尺度や統計量などを説明したいと思います。 データの4つの尺度について データには主に4つの尺度があります。尺度とは物事の判断における基準のことです。基本的な集計においても、多変量解析や機械学習においても、この尺度が非常に重要です。なぜなら、適切な手法に対して、適切な尺度のデータを選択しなければ正しい分析を実施できないからです。
そもそもビジネスの現場ではどういう「レベル」の統計学を使うべきなのか - 渋谷駅前で働くデータサイエンティストのブログ
データサイエンティストブームが去りつつある一方で、データ分析ブームそのものはじわじわと広がり続けている感じのする昨今ですが。最近また、色々なところで「本当にビジネスやるのに統計学って必要なの？」みたいな話題を聞くことが増えてきたので、何となくざっくりまとめて書いてみました。 ちなみに今回の話題の参考図書を挙げようと思ったら、この辺ですかね。 とある弁当屋の統計技師(データサイエンティスト) ―データ分析のはじめかた― 作者: 石田基広,りんと出版社/メーカー: 共立出版発売日: 2013/09/25メディア: 単行本この商品を含むブログ (13件) を見る 統計学入門 (基礎統計学) 作者: 東京大学教養学部統計学教室出版社/メーカー: 東京大学出版会発売日: 1991/07/09メディア: 単行本購入: 158人 クリック: 3,604回この商品を含むブログ (78件) を見る 本当は赤
Treasure Data Platform で始めるデータ分析入門 〜1. イントロダクション〜 - doryokujin's blog
はじめに これから全7回に渡ってTreasure Data Platformを使ったデータ分析の紹介をします。教科書はこちらになります。 Treasure Data Intro for Data Enthusiast!! from Takahiro Inoue 本シリーズの目的は2つ。 Treasure Data Platform Service の概要を理解してもらう。 本シリーズを理解すればデータ分析が誰でも容易にレポーティングが可能になる。 今やデータサイエンティスト() という言葉は，高度な分析手法を駆使してあらゆる問題を解決するプロフェッショナル集団という響きがありますが，それは本質ではありません。データサイエンティストの本質は， 意思決定者（経営者，ディレクター，マネージャー）が容易に理解できるようなシンプルかつ説得力のある分析結果を提供することができること， データ収集からレ
Pythonによるデータ分析入門
訳者まえがき まえがき 1章 はじめに 1.1 この本で説明する内容 1.2 なぜPythonはデータ分析者におすすめなのか 1.2.1 「糊（グルー）」としてのPython 1.2.2 「2つの言語を利用する」ことの問題を解決する 1.2.3 Pythonを使わない場合 1.3 本書で扱う重要なPythonライブラリ 1.3.1 NumPy 1.3.2 pandas 1.3.3 matplotlib 1.3.4 IPython 1.3.5 SciPy 1.4 インストールとセットアップ 1.4.1 Windows 1.4.2 Apple OS X 1.4.3 GNU/Linux 1.4.4 Python 2とPython 3の相違点 1.4.5 統合開発環境（IDE） 1.5 コミュニティとカンファレンス（会議） 1.6 この本の読み方の案内 1.6.1 コード例 1.6.2 例として用
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
機械学習によるデータ分析 実践編
失敗から学ぶ�データ分析グループの�チームマネジメント変遷
言語処理100本ノック 2015
5分でわかるベイズ確率