多重検定とは、複数の仮説検定を同時に行うと、少なくとも一つを偶然有意とする確率が高まる問題です。検定数と目的に応じて、家族内誤検出率や誤発見率を管理する方法を選びます。本記事では、定義、仕組み、使い方、関連手法との違い、評価、失敗しやすい点、採用判断までを実務の順序で整理します。
多重検定を導入するときは、手法名を先に決めるのではなく、誰のどの意思決定を支援するかを固定します。対象データの単位、観測期間、入力として利用できる情報、結果を確認する担当者、許容できる誤差を一文で記録し、基準となる単純な方法から比較を始めます。
多重検定とは？まず押さえる定義と役割
複数の仮説検定を同時に行うと、少なくとも一つを偶然有意とする確率が高まる問題です。検定数と目的に応じて、家族内誤検出率や誤発見率を管理する方法を選びます。
定義を実務へ落とすには、入力、処理、出力、仮定を分けて書きます。多重検定の結果が良く見えても、入力に将来の情報が混ざったり、対象範囲が変わったりすると、検証時だけ有利な結果になることがあります。データの発生時点と評価時点をそろえ、除外条件や欠測の扱いも先に決めます。
多重検定の仕組み｜計算と判断の流れ
1. 目的とデータの単位を定義する
検定の家族、主要仮説、許容する誤りを先に定義します。Bonferroni法、Holm法、Benjamini–Hochberg法などから目的に合う手続きを選び、調整済みp値や同時信頼区間を報告します。最初に目的変数または評価値の意味、観測単位、対象期間、利用可能な変数を確定します。業務上の対象外を後から都合よく除かず、除外件数と理由をログに残します。
2. 候補設定を学習・推定する
候補となる設定やモデルを複数用意し、訓練・検証・最終評価の役割を分けます。前処理や変数選択を全データへ先に適用せず、再現できるパイプラインとして保存します。乱数、ライブラリのバージョン、設定値、入力データのスナップショットを記録してください。
3. 結果を意思決定できる形へ変換する
出力はスコアや係数だけでなく、利用者が判断できる単位へ戻します。調整済みp値、信頼区間、検定数、効果量、検出力、FDRまたはFWERの定義を確認します。有意かどうかだけでなく、効果の大きさと業務上の閾値を併記します。点推定だけを示さず、不確実性、対象外の条件、判断を覆す反証も併記します。
多重検定の使い方｜実務での適用場面
小さな検証から始める
多数の指標、顧客セグメント、遺伝子、広告案、機械学習モデルを比較する場面で使います。何を一つの家族として扱うかを事前に決め、探索的分析と確認的分析を分けます。最初は代表的なデータと明確な成功条件に絞り、基準手法との差分を測ります。短期の指標が改善しても、運用負荷、説明可能性、更新頻度、例外処理まで含めて採用可否を判断します。
評価期間と利用者をそろえる
未来の情報を使えない業務では時系列分割、同じ顧客や案件が繰り返し現れる場合はグループ単位の分割を採用します。レポートを読む人が結果の意味を誤解しないよう、指標の単位、分母、対象範囲、信頼区間を記載します。
本番運用へ移す
本番では入力の欠損率や分布、結果の品質、処理時間、エラー率を監視します。悪化したときの再学習・再推定条件、承認者、ロールバック先を決め、検証時と同じ集計ができるログを残します。
多重検定と関連手法の違い
FWER制御は一つでも誤検出する確率を厳しく抑え、FDR制御は発見集合の中の誤検出割合を抑えます。保守性、検出力、意思決定コストを比較して選びます。
比較するときは、同じデータ分割、目的、評価期間、前処理、計算予算をそろえます。手法ごとに答えられる問いが違う場合、単純な順位付けを避け、精度、安定性、説明、費用、保守性を並べた判断表を作ります。
多重検定の評価方法｜数字だけで判断しない
主要指標と不確実性
調整済みp値、信頼区間、検定数、効果量、検出力、FDRまたはFWERの定義を確認します。有意かどうかだけでなく、効果の大きさと業務上の閾値を併記します。
診断と再現性
平均値だけでなく、期間別、グループ別、極端なケース別の結果を確認します。設定を変えた感度分析、別データでの確認、複数シードでの再実験を行い、結論が一つの偶然に依存していないかを点検します。
多重検定で起きやすい失敗と対策
データと前処理の問題
全データで集計・標準化・補完してから分割する、未来の値を入力に含める、評価対象を結果を見て選ぶ、といった操作は性能や推定を楽観的にします。前処理を学習側へ限定し、処理前後の件数と値域を監査します。
指標と問いを混同する
有意になった組み合わせだけを報告する、検定の家族を後から分ける、調整済みp値と未調整p値を混ぜる、といった失敗があります。分析計画と全検定の一覧を保存します。指標の改善が業務成果や因果効果を意味するとは限りません。分析が答えている問いと意思決定者の問いを並べ、足りない仮定やデータを明示します。
運用条件の変化を無視する
制度、価格、顧客構成、季節性、計測方法は変化します。入力分布、欠測、結果の品質、主要グループの差を監視し、再評価のトリガーを事前に決めます。
多重検定を採用する判断基準
確認的に誤検出を厳しく抑えるならHolmなど、候補を広く探索するならFDR制御など、目的に応じて選びます。方法を選んだ理由を報告します。採用しない場合も、基準手法、見送った理由、次に必要なデータを記録すると、将来の再検討が容易になります。
説明資料では、数式やアルゴリズムだけでなく、何を仮定し、どこから先は分からないかを示します。結果を利用する人が反証条件や適用範囲を確認できるよう、成功例だけでなく失敗例も残してください。
多重検定まとめ｜目的・前提・評価をそろえる
多重検定は、複数の仮説検定を同時に行うと、少なくとも一つを偶然有意とする確率が高まる問題です。検定数と目的に応じて、家族内誤検出率や誤発見率を管理する方法を選びます。価値を出すには、対象、時間、入力、出力、仮定を定義し、基準手法と同じ条件で評価することが重要です。
小さく検証してから適用範囲を広げ、設定・データ・評価結果を再現できる形で保存します。精度や有意性だけでなく、誤りのコスト、説明可能性、運用負荷、影響を受ける人への公平性も含めて判断してください。
よくある質問（FAQ）
Q. 多重検定とは何ですか？
複数の仮説検定を同時に行うと、少なくとも一つを偶然有意とする確率が高まる問題です。検定数と目的に応じて、家族内誤検出率や誤発見率を管理する方法を選びます。
Q. 多重検定はどのような場面で使いますか？
複数の仮説や指標を同時に検定し、偶然の有意結果を管理したいときに使います。
Q. 多重検定を使うときの評価指標は何ですか？
調整済みp値、効果量、区間、検定数、FDRまたはFWERの定義を確認します。
Q. 多重検定で起きやすい失敗は何ですか？
検定の後付け選択、未調整p値の混在、検定家族の恣意的な分割に注意します。
Q. 多重検定と似た手法はどう使い分けますか？
FWERは少なくとも一つの誤検出を制御し、FDRは発見集合内の誤検出割合を制御します。
参考資料
本記事の定義と実務上の注意は、次の公式資料を参照しています。
https://www.amstat.org/asa/files/pdfs/P-ValueStatement.pdf、https://doi.org/10.1111/j.2517-6161.1995.tb02031.x。仕様や前提は更新されるため、実装時は利用するバージョンの公式ドキュメントも確認してください。