前回と前々回にベイズ推定について簡単に説明しました。 以下、前回の記事です。 以下、前々回の記事です。 通常の線形回帰モデルは、切片や係数、予測の値は1つです。 一方，ベイズ線形回帰モデルで得られるのは分布です。正確には...

統計解析のフリーの分析ツールと言えば、Rです。 Rの中には、たくさんのサンプのデータセットがあります。 Pythonで使いたい！ という方もいることでしょう。 Pythonの統計解析パッケージであるstatsmodels...

異常とは、標準的な挙動から著しく逸脱した稀なデータのことである。 時系列の多くの異常値は、ある特定の時点における顕著なスパイクや、ある特定の期間だけ傾向が大きく異なるとかです。 そして、異常データの多くは、どのデータが異...

ビジネスの世界では、売上やPV数などの時系列データがたくさんあります。 このような時系列データは、いつも完璧なコンディションで存在するわけではありません。 例えば、データの一部が欠損、つまり、欠測値の状態になっていること...

Jupyter NotebookでPythonを使うことはあるが、Rは使ったことはない、というPythonユーザも少なくないでしょう。 Jupyterは、Julia+Python+Rから作った造語であるとは有名な話しです...

データサイエンティストの利用する分析ツールと言えば、PythonとRです。 幸運なことに、両方には共通している部分も多いですが、中にはPythonにしか実装それていないパッケージや関数や機能、Rにしか実装されていないパッ...

ビジネスの現場で登場するデータの多くは時系列データですが、通常のテーブルデータと同様に欠測値や外れ値なども、当然ながら発生します。 時系列データの一部に欠測値（データがない）がある場合、どうすればいいでしょうか。 テーブ...

何かと便利なベイズ推定、ビジネスの世界でも活用が進んでいます。 MCMCというアルゴリズムが手軽に利用できるなったことが、大きな要因の1つでしょう。MCMCとは、マルコフ連鎖を利用したモンテカルロシミュレーションです。手...

需要予測などで、特定の値（予測値が1つ）だけではなく、予測値の区間や分布が手に入った方が嬉しい場合があります。 区間だけであれば、従来の推定方法（最尤法など）で求めることはできます。95%信頼区間（予測区間）などです。 ...

実践的なデータサイエンスで、ちょくちょく出てくる確率分布が、二項分布とベータ分布です。 二項分布（Binomial Distribution）は、「成功率」の分かっている試行をn回行ったときの「成功回数」を確率変数とする...

売上などの時系列データには、周期性があります。 周期性の中で、期間の決まっているものを季節性と言ったりします。 例えば、1日単位の売上データであれば、週周期（7日間）や年周期（365.25日間）などです。 例えば、1時間...

多くの人にとって馴染みがあるのは、時系列データ系の数理モデル（アルゴリズム）よりも、テーブルデータ系の数理モデル（アルゴリズム）の方です。 例えば、以下の数理モデル（アルゴリズム）はテーブルデータ系のものです。 線形回帰...

AI（人工知能）って何だろうと考えたとき、定義は非常に難しいですが、、、　感覚的に思いつくことの1つとして、「何かを教えてくれるコンピュータ上の何か」といのもあるのではないでしょうか？ 何かを教えてくれるぐらいですから、...

Pythonの数値計算ライブラリーと言えば、NumPyやSciPyなどでしょう。 NumPyなどと異なり、数式そのものを記述するスタイルを取るライブラリーもあります。Theanoです。 https://theano-py...

ビジネスの現場で目にする多くのデータは時系列データです。例えば、売上やセンサーデータなどです。 さらに、ビジネスの現場で目にする多くの時系列データは、階層構造を持っています。例えば、売上全体とエリアごとの売上、そのエリア...

今も昔も実施されているデータ活用の1つが、ABテストです。データサイエンティストなどが関わることも多いです。 ただ、データサイエンティストがA/Bテストを行う方法は近年大きく変化しています。 従来は、手作業で行うものが多...