比較的よく使うPandas Query（クエリ―）の簡単な条件指定例（Python）
PythonでEDA（探索的データ分析）を実施するとき、PandasのQuery（クエリ―）を使う方も多いことでしょう。 ここで紹介するQuery（クエリ―）は、Pandasの関数の1つで、データフレームに対し条件抽出す...
RECENT ARTICLES
スピード or 精度、何を重視する？
AutoML【TPOT】の6構成(Config.)
TPOTでは、あらかじめパイプラインに使う変換器やアルゴリズム、探索するパラメータの範囲が決まっています。 しかし、あまり探索に時間をかけたくないときや単純な変換器・アルゴリズムを使いたいときがあると思います。 逆に時間...
STEP 3（分析）その3-1｜QC７つ道具の概要
– 古くて新しいQC7つ道具 –
データを集めたら、次にデータを分析しなければなりません。 集めたデータと分析の関係は、食材と料理の関係に似ています。良い食材であっても料理人の腕に問題があると台無しになることがあります。不十分な食材でも調理しだいで美味し...
Rでシンプル半自動EDA（探索的データ分析）
データセットを手にしたら、最初に実施するのがEDA（探索的データ分析）です。 端的に言うと、データと仲良くなるための会話です。 EDA（探索的データ分析）はほぼ半分は似たような分析を実施します。EDA（探索的データ分析）...
第230話｜売上などの数値予測は少なくとも9つのシナリオで実施する
ビジネスの現場で売上などの数値を予測することは多いでしょう。 例えば、予測モデルを構築し予測したり、例年踏襲型で数値を予測したりします。 例年踏襲型とは、昨年と同額もしくは昨対比10%UPみたいな感じの予測というものです...
Power BI Desktop で Wikipedia データからレポート作成
BI（ビジネスインテリジェンス）ツールで先ずすべきは、外部にあるデータの読み込み（データ取得）です。 前回は、Web上のデータを取得する方法と簡単なデータ加工について説明しました。 Web上にあるデータを取り込んだら、加...
便利だけど分かりにくい
データフレームを再構築するPandasのMelt()関数のお話し
RだろうがPythonだろうが、データフレームを再構築することは少なくないでしょう。 例えば…… 縦持ち（Long）のデータフレームを、横持ち（Wide）のデータフレームに再構築 横持ち（Wide)のデータフレームを、縦...
STEP 3（分析）その2｜分析の基本は比較
データを集めたら、次にデータを分析しなければなりません。 集めたデータと分析の関係は、食材と料理の関係に似ています。良い食材であっても料理人の腕に問題があると台無しになることがあります。不十分な食材でも調理しだいで美味し...
2行追加するだけでPython Pandasを高速化するPandarallel
Pythonでデータ分析をするとき、Pandasを使わない人はいないぐらいです。 Pandasの幾つかの機能を高速化するライブラリーがあります。 計算処理を並列化するPandaralellです。 ただ、すべての処理が高速...
第229話｜「相関」は曲がったことが大っ嫌い
データ分析では、よく数理統計学の手法が使われます。 その中で、比較的高頻度で登場するのが「相関分析」です。 2つの変量の間の関係性を見るものです。 今回は、「『相関』は曲がったことが大っ嫌い」というお話しをします。 相関...
Power BI Desktop で Web上のデータを取得
BI（ビジネスインテリジェンス）ツールで先ずすべきは、外部にあるデータの読み込み（データ取得）です。 前回は、複数のCSVデータを取得し結合するやり方について説明しました。 最近は、ExcelやCSVファイル、データベー...
Python PandasGUI（ノーコードEDA）で
Excelっぽい感じでグラフィカルにEDA（探索的データ分析）
データ分析を実施するとき、必ずと言っていいほど実施するのが、EDA（探索的データ分析）です。 Pythonだと、Pandasを使いEDAを実施する人も、多いのではないでしょうか。しかし、PythonでEDAを実施する場合...
STEP 3（分析）その1｜定量分析と定性分析
前回は、STEP2の「集める」のその5の「データは対で集める」についてお話ししました。 STEP 2（収集）その5｜データは対で集める データを集めたら、次にデータを分析しなければなりません。 集めたデータと分析の関係は...
第228話｜誰かが困っているところで、
データサイエンスのサーキュラーエコノミー（循環経済）を起こせ！
データサイエンスは、データとドメイン（データ活用の現場）の間の橋であり、その橋を走る汽車のようなものです。 ドメイン（データ活用の現場）を覗いてみれば、そこには何かに困っている人がいます。 何かに困っている人が、何に困っ...
Pythonで日時を扱うなら、とりあえずdatetimeモジュールを利用しよう
ビジネス系のデータ分析には、時間という概念が付いて回ることが多いです。 必ずというわけではありませんが、場合によっては「時間」に関する情報を使用することもあるでしょう。 Pythonですと、datetimeモジュールを利...
Power BI Desktop で 複数のCSVデータを取得し結合する
BI（ビジネスインテリジェンス）ツールで先ずすべきは、外部にあるデータの読み込み（データ取得）です。 前回は、データベース「PostgreSQL」のデータ取得について説明しました。 読み込むデータは、Excelファイルで...