メインコンテンツへスキップ
見出し画像

データサイエンス入門|平均・分散・相関から回帰分析・機械学習までを図解で解説

    はじめに

    「データサイエンスに興味はあるけれど、統計用語が難しそう」
    「平均・分散・相関係数・回帰分析が、実際に何に使われるのか分からない」
    そんな方に向けて、データサイエンスの基本を、ネットショップの売上分析を例に解説します。数式の暗記よりも、「どんな場面で何を使うのか」を理解することを優先します。基本情報技術者・応用情報技術者の試験対策だけでなく、データ分析、生成AI・機械学習の学習を始めたい方にも役立つ内容です。

    この記事で分かること

    • データサイエンス・統計学・データ分析・機械学習の違い

    • 平均、中央値、分散、標準偏差などの基礎統計

    • 相関分析と回帰分析、「相関と因果」の違い

    • 仮説検定、p値、信頼区間の基本的な考え方

    • 分類・クラスタリング、機械学習の評価指標と注意点

    1. データサイエンスとは? まずは全体像を理解しよう

    データサイエンスとは、データから価値ある知見を得て、予測や意思決定、課題解決につなげるための学問・実践領域です。

    例えば、ネットショップで「最近、売上が伸び悩んでいる」という問題が起きたとします。感覚だけでキャンペーンを増やすのではなく、アクセス数・購入率・広告費・顧客属性を調べ、原因を考え、施策を試して検証する。これがデータサイエンスの活用例です。

    似た言葉は次のように整理できます。

    • 統計学:データの特徴を要約し、不確実性を考慮して推定・検証するための理論や手法。

    • データ分析:データを集計・可視化・解析し、傾向や関係性を見いだす活動。

    • データサイエンス:統計・情報技術・ビジネス知識などを使い、分析結果を課題解決につなげる領域。

    • 機械学習:データから規則性を学習し、予測・分類などを行う技術。データサイエンスで使う手法の一つ。

    ここで重要なのは、分析をすること自体がゴールではないという点です。「売上を増やすため、どの施策を実行するか」までつなげてこそ、データ活用になります。

    データ分析の4つの問い

    1. 記述的分析:何が起きたのか?(例:今月の売上が前月より5%減った)

    2. 診断的分析:なぜ起きたのか?(例:アクセス数は同じだが購入率が下がった)

    3. 予測的分析:この先どうなるか?(例:来月の需要を予測する)

    4. 処方的分析:どう行動するべきか?(例:どの顧客層に施策を実施するか検討する)

    2. 分析前に知っておきたい「データの種類と前処理」

    量的データと質的データ

    • 量的データ:購入金額、年齢、購入件数など、数値の大小や差に意味があるデータ。

    • 質的データ:都道府県、会員ランク、商品カテゴリなど、分類や順序を示すデータ。

    統計では、データの尺度も重要です。名義尺度は血液型・商品カテゴリのように分類だけを表すもの、順序尺度は満足度の5段階評価のように順序はあるもの、間隔尺度は摂氏温度のように差に意味があるもの、比例尺度は売上金額のように「0」が量の不在を表し倍率にも意味があるものです。また、時系列データは同じ対象を時間に沿って記録したもの、クロスセクションデータは複数の対象をある時点などで比較するものです。

    欠損値・外れ値・標準化

    分析前のデータには、そのままでは使えない値が含まれます。

    • 欠損値:値が入っていない状態。削除、適切な値による補完、欠損フラグの追加などを検討します。

    • 外れ値:他の値から大きく離れた値。入力ミスとは限らないため、根拠なく除外しません。

    • 名寄せ・重複排除:同じ顧客が異なる表記で登録されていないか確認します。

    • 標準化:例えば平均0・標準偏差1になるよう値を変換し、異なる尺度の特徴量を扱いやすくします。

    • 正規化:一般には値を一定の範囲に変換する処理などを指しますが、分野によって意味が異なります。

    ポイント:分析の前処理は、結果の信頼性に直結します。 特に機械学習では、訓練データとテストデータを分ける前に全データから変換パラメータを学ぶと、情報漏えい(データリーケージ)を招くことがあります。

    画像

    3. 平均・中央値・分散・標準偏差を理解する

    まず、売上を単純化した次の2つの店舗を考えます。単位は万円です。

    • 店舗A:4、5、6

    • 店舗B:0、5、10

    どちらも平均売上は5万円。しかし、店舗Bの方が日による変動が大きいことは一目で分かります。

    代表値:平均値・中央値・最頻値

    • 平均値(Mean):すべての値の合計を個数で割ったもの。

    • 中央値(Median):値を小さい順に並べたとき、中央にある値。

    • 最頻値(Mode):最も多く現れる値。

    例えば「4、5、6、7、100」というデータなら、平均値は24.4ですが、中央値は6です。100という大きな値に平均が引っ張られているため、外れ値の影響を受けにくい中央値が実態を表す場合もあります。

    画像

    ばらつき:分散・標準偏差・四分位範囲

    • 分散(Variance):平均からのずれを二乗し、その平均を取ったもの。ばらつきの大きさを表します。

    • 標準偏差(Standard Deviation):分散の平方根。元データと同じ単位でばらつきを把握できます。

    • 四分位範囲(IQR):第3四分位数-第1四分位数。中央50%のデータの広がりを表します。

    今回の3日間の売上を、観測対象すべてとみなして母分散で計算すると、次のとおりです。

    画像

    両店の平均は同じでも、店舗Bの分散は店舗Aの25倍。ただし、母集団を推定するための標本分散では、計算目的に応じて分母を n−1 とする不偏分散を使うことがあります。

    IPA試験対策の要点:「平均が同じ」ことと「データの分布まで同じ」ことは、まったく別です。

    4. データの見える化:グラフは目的によって選ぶ

    分析結果を分かりやすく伝えるには、正しいグラフ選びが必要です。

    画像

    特に間違えやすいのは、棒グラフとヒストグラムの違いです。棒グラフは商品カテゴリなどの数量比較、ヒストグラムは数値を階級に分けた度数分布を示します。

    グラフの縦軸を途中から始めると変化が過大に見えることがあります。なお、すべてのグラフの軸を必ず0から始める必要があるわけではありません。目的・軸の表示・読者への説明を踏まえて、誤解を招かない表現にすることが大切です。

    5. 相関分析と回帰分析は何が違う?

    相関分析:2つのデータが一緒に動くか

    相関分析は、「広告費が増えた日ほど売上も増えているか」など、2つの変数の関係を調べる手法です。

    相関係数 r は、一般的なピアソンの相関係数なら −1から+1 の範囲を取ります。

    • +1に近い:強い正の線形相関

    • −1に近い:強い負の線形相関

    • 0に近い:線形相関が弱い。ただし、関係がまったくないとは限らない

    重要:相関関係と因果関係は違う

    例えば「アイスの売上が多い日は、熱中症の発生件数も多い」という関係が見つかっても、アイスが熱中症の原因とはいえません。気温の高さが両方に影響している可能性があります。このように、第三の要因などがつくる見かけの関係は擬似相関の典型例です。

    画像

    回帰分析:ある変数から別の変数を予測する

    回帰分析は、説明変数 x を使って目的変数 y の値や関係をモデル化する手法です。直線で表す単回帰モデルの基本形は次のとおり。

    画像

    例えば x を広告費、`y` を売上として、広告費に応じた売上の傾向をモデル化できます。ただし回帰式が当てはまること自体は、広告費が売上を増やしたという因果関係の証明にはなりません。

    • 単回帰分析:説明変数が1つ。

    • 重回帰分析:説明変数が複数。広告費・気温・曜日などを同時に扱います。

    • ロジスティック回帰:購入する/しないなど、主に2値の結果の確率をモデル化するために使います。名称に「回帰」が付きますが、分類にも広く利用します。

    6. 推測統計:標本から全体をどう判断する?

    母集団・標本・標本抽出

    ネットショップの全顧客を調べられない場合、一部の顧客を調査して全体の傾向を推測します。

    • 母集団:本当に知りたい対象全体。

    • 標本:母集団から取り出した観測対象。

    • 無作為抽出:抽出の偏りを抑えるため、確率的な手順で選ぶこと。

    • 選択バイアス:回答しやすい顧客だけを集めるなど、標本の選ばれ方に生じる偏り。

    標本数が大きくても、選び方が偏っていれば代表性を保証できません。

    信頼区間:推定値の不確かさを示す

    例えば「購入率は10%前後」と推定できても、標本から得た数字には誤差があります。95%信頼区間とは、同じ方法で標本抽出と区間計算を繰り返したとき、作られる区間の約95%が真の母数を含むよう設計された区間です。

    個別に得た信頼区間について「真の母数が95%の確率で入っている」と説明するのは、通常の頻度論的な解釈では正確ではありません。

    仮説検定とp値:差が本当にあるのか

    広告文AとBを比較するA/Bテストを考えます。

    • 帰無仮説:AとBに差がない(例えば購入率が等しい)。

    • 対立仮説:AとBに差がある。

    • 有意水準:帰無仮説を誤って棄却するリスクの許容基準。5%などを事前に設定します。

    • p値:帰無仮説に基づく統計モデルを前提としたとき、実際の観測結果と同じか、さらに極端な結果が得られる程度を表す値。

    一般に p < 0.05 であれば5%水準で帰無仮説を棄却しますが、「帰無仮説が正しい確率が5%未満」という意味ではありません。また、統計的有意差だけでは効果の大きさやビジネス上の重要性を判断できません。標本数、効果量、信頼区間も確認しましょう。

    検定では、実際には正しい帰無仮説を棄却する第1種の誤りと、実際には誤っている帰無仮説を棄却できない第2種の誤りも押さえておきます。

    7. 機械学習の超入門:分類・回帰・クラスタリング

    機械学習を「AIに大量のデータを入れること」と考えると、試験問題でも混乱します。まずは何を予測・発見したいのかで整理しましょう。

    画像

    教師あり学習

    正解にあたるラベル(目的変数)を持つデータを使って学習します。

    • 回帰:売上・気温・価格などの数値を予測する。

    • 分類:迷惑メールかどうか、解約するかどうかなど、カテゴリを判定する。

    • 決定木:質問による条件分岐を繰り返して予測する代表的な手法。

    教師なし学習

    正解ラベルがないデータから構造や傾向を探します。

    • クラスタリング:似た購買傾向の顧客をグループ分けする。代表例はk-means法。

    • 主成分分析(PCA):複数の変数の情報を、分散をなるべく保ちながら少数の軸にまとめる次元削減手法。

    • アソシエーション分析:「商品Aを買う人は商品Bも買いやすいか」を調べる。代表指標のリフト値は、同時購入が独立の場合に比べてどれほど多いかを表します。

    過学習とデータリーケージ

    過学習は、学習データの細かな特徴まで覚えすぎて、未知のデータで予測性能が落ちる状態です。対策にはモデルの単純化、正則化、適切な検証などがあります。

    モデル開発では通常、訓練用・検証用・テスト用のデータを用途に応じて分けます。前処理の統計量も訓練データだけから学習させ、テストデータをモデル選択やチューニングに使わないことが原則です。

    8. AIの性能評価:「正解率が高い=良いモデル」ではない

    例として、ネットショップの不正注文を検出するモデルを考えます。1,000件の注文のうち、不正注文は60件だったとします。

    モデルの結果が次のとおりだった場合:

    • TP(真陽性)40件:不正注文を正しく不正と判定

    • FP(偽陽性)10件:正常注文を誤って不正と判定

    • FN(偽陰性)20件:不正注文を見逃した

    • TN(真陰性)930件:正常注文を正しく正常と判定

    評価指標はこうなります。

    画像

    正解率は97%と高く見えても、不正注文の約3分の1を見逃しています。不正検知では見逃しを減らすことが重要になる一方、誤検知による顧客への影響も考慮しなければなりません。

    試験対策: 適合率は「不正と判定したものの中で、実際に不正だった割合」、再現率は「実際の不正をどれだけ拾えたか」と覚えると理解しやすくなります。

    9. IPA試験対策:間違えやすいポイントを総復習

    • 平均値と中央値:外れ値の影響が大きいとき、代表値としてどちらが適切か考える。

    • 分散と標準偏差:標準偏差は分散の平方根。元のデータと単位が一致する。

    • 相関と因果:相関が強くても因果は保証されない。交絡・擬似相関に注意。

    • ヒストグラムと棒グラフ:値の分布を見るのか、カテゴリ別数量を比較するのか。

    • 回帰と分類:数値予測かカテゴリ判定か。ロジスティック回帰の名前に惑わされない。

    • p値:帰無仮説が正しい確率ではない。「有意」も「効果が大きい」とは限らない。

    • 教師ありと教師なし:正解ラベルの有無を確認する。

    • 正解率と再現率:不正・障害のような少数クラスでは、正解率だけで判断しない。

    確認クイズ

    Q1. ほとんどが2,000~4,000円の購入金額に、100万円の購入が1件混ざっている。典型的な購入額を表すのに、平均値と中央値のどちらが適切?

    Q2. アイスの売上と熱中症の件数がともに増えた。これだけで「アイスを食べると熱中症になる」と判断してよい?

    Q3. ラベルのない顧客データを購買傾向でグループ分けしたい。回帰・分類・クラスタリングのどれ?

    Q4. 不正注文をできるだけ見逃したくない場合、まず注目したい指標は適合率・再現率のどちら?

    答え: Q1=中央値、Q2=判断できない(気温などの交絡要因を検討)、Q3=クラスタリング、Q4=再現率。ただし実務では誤検知とのバランスも重要。

    10. まとめ:データサイエンスは「用語の暗記」より「使い分け」

    データサイエンスの学習では、難しい数式から始める必要はありません。

    まずは ①データを整える → ②全体の特徴をつかむ → ③関係や差を検証する → ④予測する → ⑤意思決定につなげる という流れをつかみましょう。そのうえで、平均・分散・相関・回帰・検定・機械学習をそれぞれどの場面で使うのか説明できれば、IPA試験でも実務でも応用が利きます。

    なお、2026年11月1日現在、IPAが公表している2027年度開始予定の新試験制度向けシラバスは「案」です。10月30日公開の「プロフェッショナルデジタルスキル(データ・AI)試験(仮称)」の案にも、回帰分析・統計的仮説検定・データ可視化・機械学習を使った分析などが挙げられています。今後変更される可能性があるため、受験前には最新版を確認してください。

    関連記事


    参考資料

    1. IPA「試験要綱・シラバスについて」(基本情報 Ver.9.2、応用情報 Ver.7.2)
      https://www.ipa.go.jp/shiken/syllabus/gaiyou.html

    2. IPA「新試験制度のシラバス案について」(最終更新:2026年10月30日)
      https://www.ipa.go.jp/shiken/syllabus/henkou/2026/20260630.html

    3. IPA「プロフェッショナルデジタルスキル(データ・AI)試験(仮称) シラバス案 Ver.0.1」(2026年10月30日掲載)
      https://www.ipa.go.jp/shiken/syllabus/minaoshi/rqr7mi000000e2t4-att/syllabus_pd-d_ver0_1.pdf

    4. 総務省統計局「なるほど統計学園」学習資料
      https://www.stat.go.jp/edu/pdf/leaflet_new.pdf

    5. scikit-learn「Common pitfalls and recommended practices」(データリーケージに関する解説)
      https://scikit-learn.org/stable/common_pitfalls.html

    6. American Statistical Association「Statement on Statistical Significance and P-Values」(p値の誤解を避けるための原則)
      https://www.amstat.org/docs/default-source/amstat-documents/p-valuestatement.pdf

    あなたへのおすすめ