Foundations of Data Science 📂 Inferential Statistics · 7 of 8 138 min read

Significance Level (α)

A deep, story-driven tutorial on the significance level α — covering its origin with Ronald Fisher, what it truly means (precisely), its relationship to Type I and II errors, three real-world stories (nuclear safety, FDA drug trials, particle physics), the critical α vs p-value distinction, worked examples comparing three α values on the same data, a field guide for choosing α, its connection to power and sample size, and 8 golden rules every analyst must follow.

🌐
SectionSection第 01 节

The Judge's Threshold ⚖️Judge की सीमा ⚖️法官的门槛 ⚖️

Picture a courtroom. The judge must decide how much evidence is "enough" to convict. Set the bar too low and innocent people go to prison. Set it too high and guilty people walk free. Before the trial begins, society agrees on a standard: "beyond reasonable doubt".

एक अदालत की कल्पना करें। Judge को तय करना है कि सज़ा के लिए कितना सबूत "काफ़ी" है। सीमा बहुत नीची रखें तो बेगुनाह जेल जाते हैं। बहुत ऊँची रखें तो दोषी छूट जाते हैं। मुक़दमा शुरू होने से पहले समाज एक मानक पर सहमत होता है: "संदेह से परे"।

想象一个法庭。法官必须决定多少证据才“足够”定罪。门槛太低,无辜者会入狱;门槛太高,罪犯会逍遥法外。审判开始前,社会已就一个标准达成共识:“排除合理怀疑”。

In statistics that threshold is the significance level, written α (alpha). You choose it before collecting data. It fixes how much evidence you need before you reject the null hypothesis H₀.

Statistics में वह सीमा significance level है, जिसे α (alpha) लिखते हैं। आप इसे data जुटाने से पहले चुनते हैं। यह तय करता है कि null hypothesis H₀ को reject करने से पहले कितना सबूत चाहिए।

在统计学中,这个门槛就是显著性水平,记作 α(alpha)。你要在收集数据之前选定它。它决定了拒绝原假设 H₀ 需要多少证据。

Most people meet α = 0.05 and never question it. Where did 0.05 come from? What does it really mean? What happens when you change it, and how should you choose it? This tutorial answers all of it — with stories, pictures, live simulations and code.

ज़्यादातर लोग α = 0.05 देखते हैं और कभी सवाल नहीं करते। 0.05 कहाँ से आया? इसका असली मतलब क्या है? इसे बदलने पर क्या होता है, और इसे कैसे चुनें? यह tutorial सबका जवाब देता है — कहानियों, तस्वीरों, live simulations और code के साथ।

大多数人见到 α = 0.05 就从不质疑。0.05 从何而来?它到底是什么意思?改变它会怎样?又该如何选择?本教程用故事、图片、实时模拟和代码一一解答。

💡
The One-Sentence Definitionएक वाक्य में परिभाषा一句话定义

α is the probability of a Type I error — rejecting H₀ when H₀ is actually true — that you are willing to accept. Think of it as your false-alarm budget: set before the study, and never changed after seeing the data.

α, Type I error — H₀ सच होने पर भी उसे reject करना — की वह probability है जो आप स्वीकार करने को तैयार हैं। इसे अपना झूठे alarm का बजट समझें: study से पहले तय, और data देखने के बाद कभी नहीं बदला जाता।

α 是你愿意接受的第一类错误(H₀ 实际为真却被拒绝)的概率。可以把它看作你的误报预算:研究前设定,看到数据后绝不更改。


SectionSection第 02 节

Where Did α = 0.05 Come From? 📜α = 0.05 कहाँ से आया? 📜α = 0.05 从何而来?📜

The story of Ronald FisherRonald Fisher की कहानी罗纳德·费希尔的故事

In 1925 Ronald Fisher, a statistician at the Rothamsted agricultural research station in England, published Statistical Methods for Research Workers. Discussing the normal curve, he noted that a value beyond about 2 standard deviations happens by chance only about 1 time in 20, and that it is "convenient" to take this point as a limit for judging whether a difference is significant.

1925 में England के Rothamsted कृषि अनुसंधान केंद्र के statistician Ronald Fisher ने Statistical Methods for Research Workers प्रकाशित की। Normal curve पर बात करते हुए उन्होंने लिखा कि लगभग 2 standard deviations से आगे की value संयोग से सिर्फ़ लगभग 20 में 1 बार आती है, और किसी अंतर को significant मानने के लिए इस बिंदु को सीमा मानना "सुविधाजनक" है।

1925 年,英国洛桑农业研究站的统计学家罗纳德·费希尔出版了《研究工作者的统计方法》。在讨论正态曲线时,他指出超过约 2 个标准差的值仅凭偶然大约每 20 次出现 1 次,并认为把这个点作为判断差异是否显著的界限是“方便的”。

Fisher chose 1-in-20 as a handy rule of thumb for field experiments — did a new fertiliser really raise yields, or was it soil variation? Over the next century the 0.05 line spread from farming into medicine, psychology, economics and engineering, and became a near-universal default.

Fisher ने 1-in-20 को खेत के प्रयोगों के लिए एक आसान अंगूठा-नियम के रूप में चुना — क्या नए fertiliser ने सच में पैदावार बढ़ाई, या यह मिट्टी का बदलाव था? अगली सदी में 0.05 की रेखा खेती से medicine, psychology, economics और engineering तक फैल गई, और लगभग सार्वभौमिक डिफ़ॉल्ट बन गई।

费希尔选择“二十分之一”作为田间试验的简便经验法则 —— 新肥料是真的提高了产量,还是只是土壤差异?此后一百年,0.05 这条线从农业扩散到医学、心理学、经济学和工程学,几乎成了通用默认值。

⚠️
Fisher's Own Warning — and What Happened NextFisher की अपनी चेतावनी — और फिर क्या हुआ费希尔自己的警告 —— 以及后来的事

Fisher did not mean 0.05 as a rigid law. In 1926 he wrote that a fact should count as established only if a properly designed experiment rarely fails to give a significant result — that is, through repetition, not one lucky p-value. In 2016 the American Statistical Association issued a formal statement warning against bright-line thinking. In 2018 a group of 72 researchers proposed lowering the default to 0.005 for claims of new discoveries. Yet 0.05 is still the default in most fields.

Fisher ने 0.05 को कठोर क़ानून नहीं माना। 1926 में उन्होंने लिखा कि कोई तथ्य तभी स्थापित माना जाए जब ठीक से design किया गया प्रयोग significant नतीजा देने में शायद ही कभी चूके — यानी दोहराव से, किसी एक किस्मत वाले p-value से नहीं। 2016 में American Statistical Association ने एक औपचारिक बयान में सख़्त सीमा-रेखा वाली सोच के ख़िलाफ़ चेताया। 2018 में 72 researchers के एक समूह ने नई खोजों के दावों के लिए डिफ़ॉल्ट को 0.005 करने का प्रस्ताव दिया। फिर भी ज़्यादातर क्षेत्रों में 0.05 ही डिफ़ॉल्ट है।

费希尔并没有把 0.05 当作死板的法则。1926 年他写道:只有当一个设计良好的实验很少不能得到显著结果时,一个事实才应被视为确立 —— 也就是靠重复,而不是靠一次走运的 p 值。2016 年美国统计协会发表正式声明,警告不要用一条硬性界线来思考。2018 年,72 位研究者联名提议把宣称新发现的默认阈值降到 0.005。但大多数领域仍以 0.05 为默认。


SectionSection第 03 节

What α Actually Means — Preciselyα का असली मतलब — सटीक रूप सेα 的确切含义

Many textbooks are vague here. Let us be exact. Setting α = 0.05 means four things:

कई किताबें यहाँ अस्पष्ट रहती हैं। सटीक बात करें। α = 0.05 रखने का मतलब चार बातें हैं:

很多教材在这里含糊其辞。我们说得精确些。设定 α = 0.05 意味着四件事:

📐 The Four Precise Meanings of α = 0.05α = 0.05 के चार सटीक मतलबα = 0.05 的四个确切含义
1
It is a property of your decision rule, not of one result. If H₀ is true and you repeat the same study many times, you will wrongly reject H₀ in about 5 out of every 100 studies — purely by chance.
यह आपके decision rule का गुण है, किसी एक नतीजे का नहीं। अगर H₀ सच है और आप वही study कई बार दोहराएँ, तो हर 100 studies में लगभग 5 में आप ग़लती से H₀ reject करेंगे — सिर्फ़ संयोग से।
它是你的决策规则的性质,而不是某一个结果的性质。如果 H₀ 为真,把同一研究重复很多次,大约每 100 次中有 5 次会纯凭偶然错误地拒绝 H₀。
2
It sets the rejection region. α is the area under the H₀ curve that counts as "extreme enough". For a two-tailed z-test that is the outer 2.5% in each tail, beyond ±1.96.
यह rejection region तय करता है। α, H₀ curve के नीचे का वह area है जिसे "काफ़ी extreme" माना जाता है। Two-tailed z-test में यह ±1.96 से आगे हर tail का बाहरी 2.5% है।
它确定拒绝域。α 是 H₀ 曲线下被视为“足够极端”的面积。双侧 z 检验中,就是 ±1.96 之外每侧最外面的 2.5%。
3
It is NOT the probability that H₀ is true or false. α says nothing about whether this particular H₀ is correct. It only controls the long-run false-alarm rate when H₀ is true.
यह H₀ के सच या ग़लत होने की probability नहीं है। α इस ख़ास H₀ के सही होने के बारे में कुछ नहीं कहता। यह सिर्फ़ H₀ सच होने पर लंबे समय की झूठे alarm की दर को नियंत्रित करता है।
它不是 H₀ 为真或为假的概率。α 不说明这个 H₀ 是否正确,它只控制 H₀ 为真时的长期误报率。
4
You choose it; the data do not. α is a policy decision made before the study. It should reflect how costly a false alarm would be in your situation.
इसे आप चुनते हैं; data नहीं। α, study से पहले लिया गया एक नीतिगत फ़ैसला है। इसे दिखाना चाहिए कि आपकी स्थिति में झूठा alarm कितना महँगा होगा।
它由你选择,而不是由数据决定。α 是研究前的政策性决定,应体现在你的情境中误报的代价有多大。

SectionSection第 04 节

α in Pictures — Understand Before the Maths 📊तस्वीरों में α — गणित से पहले समझें 📊图解 α — 先理解,再算数 📊

Choosing α means drawing lines on the H₀ curve. Everything beyond the lines is the rejection region, and its area is exactly α. A bigger α gives a bigger region: rejecting H₀ becomes easier, but false alarms become more common.

α चुनने का मतलब H₀ curve पर रेखाएँ खींचना है। रेखाओं के आगे सब कुछ rejection region है, और उसका area ठीक α है। बड़ा α बड़ा region देता है: H₀ reject करना आसान होता है, पर झूठे alarms ज़्यादा होते हैं।

选择 α 就是在 H₀ 曲线上画线。线外的一切都是拒绝域,其面积正好是 α。α 越大,区域越大:拒绝 H₀ 更容易,但误报也更常见。

📊 PICTURE 1 — THREE CHOICES OF α (TWO-TAILED)तस्वीर 1 — α के तीन चुनाव (TWO-TAILED)图 1 — 三种 α 选择(双侧)
Three significance levels Very strict: α = 0.01बहुत सख़्त: α = 0.01非常严格:α = 0.01 +2.576 -2.576 0.5% + 0.5% 1 false alarm in 100 (if H₀ is true)100 में 1 झूठा alarm (अगर H₀ सच)每 100 次 1 次误报(若 H₀ 为真) The common default: α = 0.05आम डिफ़ॉल्ट: α = 0.05常用默认:α = 0.05 +1.960 -1.960 2.5% + 2.5% 1 false alarm in 20 (if H₀ is true)20 में 1 झूठा alarm (अगर H₀ सच)每 20 次 1 次误报(若 H₀ 为真) Lenient: α = 0.1नरम: α = 0.1宽松:α = 0.1 +1.645 -1.645 5% + 5% 1 false alarm in 10 (if H₀ is true)10 में 1 झूठा alarm (अगर H₀ सच)每 10 次 1 次误报(若 H₀ 为真)
LIVELIVE互动α Slider — Move the Lineα Slider — रेखा खिसकाएँα 滑块 — 移动界线

Slide α (or press play) and watch the red rejection region shrink and the critical value move outwards. Then move your test statistic z and see when the verdict flips.

α खिसकाएँ (या play दबाएँ) और लाल rejection region को सिकुड़ते और critical value को बाहर जाते देखें। फिर अपना test statistic z खिसकाएँ और देखें फ़ैसला कब पलटता है।

拖动 α(或点播放),看红色拒绝域缩小、临界值外移。再移动你的检验统计量 z,看判决何时翻转。

LIVELIVE互动False-Alarm Rain — Seeing α Happenझूठे Alarm की बारिश — α को होते देखें误报之雨 — 亲眼看到 α

Every drop is a new experiment in which H₀ is TRUE. Drops that land in the red zones are false alarms. Start the rain and watch the false-alarm rate settle at exactly the α you chose.

हर बूँद एक नया प्रयोग है जिसमें H₀ सच है। लाल क्षेत्र में गिरने वाली बूँदें झूठे alarms हैं। बारिश शुरू करें और देखें कि झूठे alarm की दर ठीक आपके चुने α पर टिक जाती है।

每一滴都是一次 H₀ 为真的新实验。落在红区的雨滴就是误报。开始下雨,看误报率如何稳定在你选的 α。


SectionSection第 05 节

α and the Two Types of Error 🎯α और दो तरह की Errors 🎯α 与两类错误 🎯

Choosing α is a trade-off between two kinds of mistake. The "right" α depends on which mistake costs more in your situation.

α चुनना दो तरह की ग़लतियों के बीच सौदा है। "सही" α इस पर निर्भर है कि आपकी स्थिति में कौन-सी ग़लती ज़्यादा महँगी है।

选择 α 是在两种错误之间权衡。“正确”的 α 取决于在你的情境中哪种错误代价更高。

Type I errorType I error第一类错误
α
  • False positive: rejecting a TRUE H₀False positive: सच्चे H₀ को reject करना假阳性:拒绝了为真的 H₀
  • Its probability is α — you set itइसकी probability α है — आप तय करते हैं其概率就是 α —— 由你设定
  • Lower α → fewer false alarmsकम α → कम झूठे alarmsα 越低 → 误报越少
  • e.g. convicting an innocent personजैसे बेगुनाह को सज़ा如:给无辜者定罪
  • e.g. approving a useless drugजैसे बेअसर दवा को मंज़ूरी如:批准无效药物
Type II errorType II error第二类错误
β
  • False negative: keeping a FALSE H₀False negative: ग़लत H₀ को रखना假阴性:保留了为假的 H₀
  • β depends on α, n, effect size and σβ, α, n, effect size और σ पर निर्भरβ 取决于 α、n、效应量和 σ
  • Power = 1 − βPower = 1 − β检验力 = 1 − β
  • e.g. freeing a guilty personजैसे दोषी को छोड़ना如:放走罪犯
  • e.g. dropping a drug that worksजैसे असरदार दवा छोड़ देना如:放弃有效药物
The trade-offसौदा权衡
α ↔ β
  • With n fixed: lower α → higher βn तय हो तो: कम α → ज़्यादा βn 固定时:α 降低 → β 升高
  • With n fixed: higher α → lower βn तय हो तो: ज़्यादा α → कम βn 固定时:α 升高 → β 降低
  • A bigger n lowers β at the same αबड़ा n उसी α पर β घटाता है更大的 n 能在同一 α 下降低 β
  • Let the costlier error guide αमहँगी ग़लती से α तय करें让代价更高的错误决定 α
H₀ is actually TRUEH₀ असल में सच हैH₀ 实际为真H₀ is actually FALSEH₀ असल में ग़लत हैH₀ 实际为假
You reject H₀आप H₀ reject करते हैं你拒绝 H₀❌ Type I error — probability α (false alarm)Type I error — probability α (झूठा alarm)第一类错误 —— 概率 α(误报)✅ Correct — probability = power = 1 − βसही — probability = power = 1 − β正确 —— 概率 = 检验力 = 1 − β
You fail to reject H₀आप H₀ reject नहीं करते你不拒绝 H₀✅ Correct — probability 1 − αसही — probability 1 − α正确 —— 概率 1 − α❌ Type II error — probability β (missed effect)Type II error — probability β (छूटा effect)第二类错误 —— 概率 β(漏掉效应)
LIVELIVE互动The α–β Trade-offα–β का सौदाα–β 权衡

Right-tailed z-test. Move α: the red line slides, the red area (α) and the orange area (β) trade places. The lower chart traces β for every α; the dashed curve shows what doubling n would do.

Right-tailed z-test. α खिसकाएँ: लाल line खिसकती है, लाल area (α) और नारंगी area (β) अदला-बदली करते हैं। नीचे का chart हर α के लिए β दिखाता है; dashed curve दिखाता है कि n दोगुना करने से क्या होगा।

右侧 z 检验。移动 α:红线滑动,红色面积(α)与橙色面积(β)此消彼长。下图画出每个 α 对应的 β;虚线表示 n 翻倍后的效果。


SectionSection第 06 节

Story 1 — The Nuclear Safety Inspector ☢️कहानी 1 — Nuclear Safety Inspector ☢️故事 1 — 核安全检查员 ☢️

An engineer monitors radiation dose at a nuclear plant. H₀: the average dose is within the safe limit (μ ≤ 50 mSv per year). She tests whether it has risen. What should α be? Compare the two mistakes:

एक engineer nuclear plant में radiation dose पर नज़र रखती है। H₀: औसत dose सुरक्षित सीमा में है (μ ≤ 50 mSv प्रति साल)। वह जाँचती है कि क्या यह बढ़ा है। α क्या हो? दोनों ग़लतियों की तुलना करें:

一位工程师监测核电站的辐射剂量。H₀:平均剂量在安全限值内(μ ≤ 每年 50 mSv)。她要检验剂量是否升高。α 应取多少?比较两种错误:

ErrorError错误What happensक्या होता है后果
Type I (false alarm)Type I (झूठा alarm)第一类(误报)An unneeded alert and inspection. Costly, but reversible.बेवजह alert और जाँच। महँगा, पर ठीक हो सकता है।不必要的警报和检查。代价高,但可挽回。
Type II (missed hazard)Type II (छूटा ख़तरा)第二类(漏掉危险)Workers exposed to a real rise in radiation. Possibly irreversible harm.Radiation में असली बढ़त से कर्मचारी प्रभावित। नुक़सान शायद अपरिवर्तनीय।工人暴露于真实升高的辐射中。可能造成不可逆的伤害。

Here a miss is far worse than a false alarm. To lower β, she raises α — a monitoring screen might use α = 0.10, accepting more alarms to catch real problems sooner. (Real plants also use fixed action limits and many independent checks; this is a simplified example.)

यहाँ चूक, झूठे alarm से कहीं बुरी है। β घटाने के लिए वह α बढ़ाती है — एक monitoring screen α = 0.10 ले सकती है, असली समस्या जल्दी पकड़ने के लिए ज़्यादा alarms स्वीकार करते हुए। (असली plants तय action limits और कई स्वतंत्र जाँचें भी इस्तेमाल करते हैं; यह सरल उदाहरण है।)

在这里,漏报远比误报糟糕。为降低 β,她提高 α —— 监测筛查可能采用 α = 0.10,接受更多警报以便更早发现真实问题。(实际电站还会使用固定的行动限值和多重独立检查;这是简化示例。)

🧮 Nuclear Safety — Right-Tailed z-test at α = 0.10Nuclear Safety — α = 0.10 पर Right-Tailed z-test核安全 —— α = 0.10 的右侧 z 检验
H₀ / H₁
H₀: μ ≤ 50 mSv/year | H₁: μ > 50 (right-tailed) | α = 0.10
H₀: μ ≤ 50 mSv/year | H₁: μ > 50 (right-tailed) | α = 0.10
H₀:μ ≤ 50 mSv/年 | H₁:μ > 50(右侧)| α = 0.10
DataData数据
n = 36 readings, x̄ = 53.2 mSv, σ = 12 mSv (known from the sensors)
n = 36 readings, x̄ = 53.2 mSv, σ = 12 mSv (sensors से ज्ञात)
n = 36 个读数,x̄ = 53.2 mSv,σ = 12 mSv(由传感器已知)
Step 1Step 1第 1 步
SE = 12 / √36 = 12 / 6 = 2.0
SE = 12 / √36 = 12 / 6 = 2.0
SE = 12 / √36 = 12 / 6 = 2.0
Step 2Step 2第 2 步
z = (53.2 − 50) / 2.0 = +1.60; p = 0.055
z = (53.2 − 50) / 2.0 = +1.60; p = 0.055
z = (53.2 − 50) / 2.0 = +1.60;p = 0.055
Step 3Step 3第 3 步
Critical z (right-tailed, α = 0.10) = +1.282
Critical z (right-tailed, α = 0.10) = +1.282
临界 z(右侧,α = 0.10)= +1.282
Decisionफ़ैसला决定
1.60 > 1.282 → reject H₀: the plant goes on alert. ⚠️
At α = 0.05 (critical 1.645) the same data would not reject.
1.60 > 1.282 → H₀ reject: plant alert पर जाता है। ⚠️
α = 0.05 (critical 1.645) पर वही data reject नहीं करता।
1.60 > 1.282 → 拒绝 H₀:电站进入警戒。⚠️
若 α = 0.05(临界值 1.645),同样的数据就不会拒绝。
⚖️ PICTURE 2 — SAME DATA, THREE α, THREE VERDICTSतस्वीर 2 — वही DATA, तीन α, तीन फ़ैसले图 2 — 同样数据,三个 α,三种判决
Same z, three alphas 0 0.5 1 1.5 2 2.5 α = 0.1: z* = 1.282 α = 0.1: ✓ reject H₀α = 0.1: ✓ H₀ rejectα = 0.1: ✓ 拒绝 H₀ α = 0.05: z* = 1.645 α = 0.05: ✗ fail to rejectα = 0.05: ✗ reject नहींα = 0.05: ✗ 不拒绝 α = 0.01: z* = 2.326 α = 0.01: ✗ fail to rejectα = 0.01: ✗ reject नहींα = 0.01: ✗ 不拒绝 nuclear plant: z = 1.60 (p = 0.055)nuclear plant: z = 1.60 (p = 0.055)核电站:z = 1.60(p = 0.055) Right-tailed test. Red band = rejection region for each α. The same data get three different verdicts.Right-tailed test. लाल पट्टी = हर α का rejection region. वही data तीन अलग फ़ैसले पाता है।右侧检验。红色带 = 各 α 的拒绝域。同样的数据得到三种不同的判决。
⚠️
The Choice of α Changed the Decisionα के चुनाव ने फ़ैसला बदल दियाα 的选择改变了决定

With z = 1.60: alert at α = 0.10, no action at α = 0.05 or 0.01. Same data, same test — different decisions, only because of the threshold chosen in advance. That is why α must be fixed before the analysis, never chosen to make a result "significant".

z = 1.60 पर: α = 0.10 पर alert, α = 0.05 या 0.01 पर कोई कार्रवाई नहीं। वही data, वही test — अलग फ़ैसले, सिर्फ़ पहले से चुनी सीमा की वजह से। इसीलिए α को analysis से पहले तय करना चाहिए, नतीजे को "significant" बनाने के लिए कभी नहीं चुनना चाहिए।

z = 1.60 时:α = 0.10 报警,α = 0.05 或 0.01 不行动。同样的数据、同样的检验 —— 只因事先选的门槛不同,决定就不同。所以 α 必须在分析之前确定,绝不能为了让结果“显著”而挑选。


SectionSection第 07 节

Story 2 — The Clinical Drug Trial 💊कहानी 2 — Clinical Drug Trial 💊故事 2 — 临床药物试验 💊

A company develops a new cancer drug. H₀: the drug does not extend survival. H₁: it does. Here the costs look different from the nuclear case:

एक कंपनी नई cancer दवा बनाती है। H₀: दवा जीवन नहीं बढ़ाती। H₁: बढ़ाती है। यहाँ क़ीमतें nuclear मामले से अलग दिखती हैं:

一家公司研发了一种新抗癌药。H₀:药物不能延长生存期。H₁:能。这里的代价与核电站情况不同:

ErrorError错误What happensक्या होता है后果
Type I (false approval)Type I (ग़लत मंज़ूरी)第一类(错误批准)Patients take a drug that does not work, may miss better options, and face its side effects.मरीज़ बेअसर दवा लेते हैं, बेहतर विकल्प चूक सकते हैं, और उसके side effects झेलते हैं।患者服用无效药物,可能错过更好的选择,还要承受副作用。
Type II (missed benefit)Type II (छूटा फ़ायदा)第二类(错过疗效)A useful drug is delayed or dropped — serious, but it can be studied again.उपयोगी दवा देर से आती है या छोड़ दी जाती है — गंभीर, पर उसकी फिर से study हो सकती है।有用的药物被推迟或放弃 —— 很严重,但可以再研究。

Regulators therefore keep α small. The usual standard for a confirmatory trial is two-sided α = 0.05 (equivalent to one-sided 0.025). Traditionally the US FDA has also expected two such trials, or one trial with especially strong evidence — which makes the overall chance of a false approval far smaller than 5%.

इसलिए regulators α को छोटा रखते हैं। Confirmatory trial का आम मानक two-sided α = 0.05 है (one-sided 0.025 के बराबर)। परंपरागत रूप से US FDA ने दो ऐसे trials, या असाधारण मज़बूत सबूत वाले एक trial की भी उम्मीद रखी है — जिससे ग़लत मंज़ूरी का कुल chance 5% से बहुत कम हो जाता है।

因此监管机构会把 α 定得较小。确证性试验的常用标准是双侧 α = 0.05(相当于单侧 0.025)。传统上,美国 FDA 还要求两项这样的试验,或一项证据特别有力的试验 —— 这使错误批准的总体概率远低于 5%。

🧮 Drug Trial — Right-Tailed t-test, Judged at Several αDrug Trial — Right-Tailed t-test, कई α पर药物试验 —— 右侧 t 检验,在多个 α 下判断
SetupSetup设定
25 matched pairs (drug vs placebo). For each pair we record the extra months of survival with the drug. x̄ = 4.2 months, s = 6.5 months, df = 24.
25 मेल खाते जोड़े (दवा vs placebo)। हर जोड़े में दवा से मिले अतिरिक्त महीनों का जीवन दर्ज होता है। x̄ = 4.2 महीने, s = 6.5 महीने, df = 24.
25 个配对(药物 vs 安慰剂)。记录每对中用药带来的额外生存月数。x̄ = 4.2 个月,s = 6.5 个月,df = 24。
H₀ / H₁
H₀: μ ≤ 0 | H₁: μ > 0 (the drug extends survival)
H₀: μ ≤ 0 | H₁: μ > 0 (दवा जीवन बढ़ाती है)
H₀:μ ≤ 0 | H₁:μ > 0(药物延长生存期)
Step 1Step 1第 1 步
SE = 6.5 / √25 = 1.30; t = 4.2 / 1.30 = +3.23; p = 0.0018
SE = 6.5 / √25 = 1.30; t = 4.2 / 1.30 = +3.23; p = 0.0018
SE = 6.5 / √25 = 1.30;t = 4.2 / 1.30 = +3.23;p = 0.0018
α = 0.05
Critical t = 1.711 → 3.23 > 1.711 → reject H₀
Critical t = 1.711 → 3.23 > 1.711 → H₀ reject
临界 t = 1.711 → 3.23 > 1.711 → 拒绝 H₀
α = 0.01
Critical t = 2.492 → 3.23 > 2.492 → reject H₀
Critical t = 2.492 → 3.23 > 2.492 → H₀ reject
临界 t = 2.492 → 3.23 > 2.492 → 拒绝 H₀
α = 0.001
Critical t = 3.467 → 3.23 < 3.467 → fail to reject
Critical t = 3.467 → 3.23 < 3.467 → reject नहीं
临界 t = 3.467 → 3.23 < 3.467 → 不拒绝
Lessonसीख启示
The evidence is strong (p = 0.0018), but not strong enough for the strictest threshold. The required strength of evidence must be agreed before the trial — in practice, written into the trial protocol.
सबूत मज़बूत है (p = 0.0018), पर सबसे सख़्त सीमा के लिए काफ़ी नहीं। ज़रूरी सबूत की ताक़त trial से पहले तय होनी चाहिए — व्यवहार में, trial protocol में लिखी जाती है।
证据很强(p = 0.0018),但还不足以通过最严格的门槛。所需的证据强度必须在试验前约定 —— 实际中会写进试验方案。

SectionSection第 08 节

Story 3 — The Particle Physics Standard 🔬कहानी 3 — Particle Physics का मानक 🔬故事 3 — 粒子物理的标准 🔬

In July 2012, CERN announced the discovery of the Higgs boson. Did they use α = 0.05? Not even close. Particle physics uses the "5-sigma" standard: the result must be more than 5 standard deviations from what background noise alone would give. That is a one-sided α of about 2.9 × 10⁻⁷ — roughly 1 in 3.5 million.

July 2012 में CERN ने Higgs boson की खोज की घोषणा की। क्या उन्होंने α = 0.05 लिया? बिल्कुल नहीं। Particle physics "5-sigma" मानक इस्तेमाल करती है: नतीजा सिर्फ़ background शोर से मिलने वाले मान से 5 standard deviations से ज़्यादा दूर होना चाहिए। यह लगभग 2.9 × 10⁻⁷ — मोटे तौर पर 35 लाख में 1 का one-sided α है।

2012 年 7 月,欧洲核子研究中心宣布发现希格斯玻色子。他们用的是 α = 0.05 吗?差得远。粒子物理采用“5σ”标准:结果必须比仅由背景噪声产生的结果偏离超过 5 个标准差。这对应的单侧 α 约为 2.9 × 10⁻⁷ —— 约 350 万分之一。

Why so strict? Physicists search for bumps across many energy ranges and channels, so some bump will appear somewhere by chance — the "look-elsewhere effect". Hidden measurement errors are also hard to rule out. And a claim of a new particle is extraordinary, so it needs extraordinary evidence. (CERN's two experiments, ATLAS and CMS, each reached about 5 sigma independently.)

इतना सख़्त क्यों? Physicists कई energy ranges और channels में उभार ढूँढते हैं, इसलिए संयोग से कहीं न कहीं कोई उभार दिखेगा — "look-elsewhere effect"। छिपी माप-ग़लतियों को भी पूरी तरह हटाना मुश्किल है। और नए कण का दावा असाधारण है, इसलिए असाधारण सबूत चाहिए। (CERN के दोनों प्रयोग, ATLAS और CMS, अलग-अलग लगभग 5 sigma तक पहुँचे।)

为什么这么严格?物理学家在许多能量区间和通道中寻找“凸起”,所以某处总会偶然出现一个凸起 —— 即“别处效应”。隐藏的测量误差也难以完全排除。而且宣布新粒子是非同寻常的主张,需要非同寻常的证据。(欧洲核子研究中心的两个实验 ATLAS 和 CMS 各自独立达到了约 5σ。)

Exploratory workExploratory काम探索性研究
α = 0.10
1 in 10. Pilot studies and early screening, where finding leads matters more than certainty.
10 में 1. Pilot studies और शुरुआती screening, जहाँ सुराग ढूँढना निश्चितता से ज़्यादा ज़रूरी है।
十分之一。试点研究和早期筛查,找到线索比确定性更重要。
Common defaultआम डिफ़ॉल्ट常用默认
α = 0.05
1 in 20. Most social science, business and medical research; confirmatory drug trials use two-sided 0.05.
20 में 1. ज़्यादातर social science, business और medical research; confirmatory drug trials two-sided 0.05 लेते हैं।
二十分之一。多数社会科学、商业和医学研究;确证性药物试验使用双侧 0.05。
Strictसख़्त严格
α = 0.01 – 0.001
1 in 100 to 1 in 1,000. When false alarms are costly or many tests are run.
100 में 1 से 1,000 में 1. जब झूठे alarms महँगे हों या कई tests चलें।
百分之一到千分之一。误报代价高或检验很多时使用。
Genomics (GWAS)Genomics (GWAS)基因组学(GWAS)
α = 5 × 10⁻⁸
About 0.05 ÷ 1,000,000: a Bonferroni-style correction for about a million independent genetic tests.
लगभग 0.05 ÷ 1,000,000: लगभग 10 लाख स्वतंत्र genetic tests के लिए Bonferroni जैसा correction.
约 0.05 ÷ 1,000,000:针对约一百万个独立遗传检验的 Bonferroni 式校正。
Particle physicsParticle physics粒子物理
α ≈ 2.9 × 10⁻⁷ (5σ)
About 1 in 3.5 million. Many places to look, hidden errors and extraordinary claims.
लगभग 35 लाख में 1. देखने की कई जगहें, छिपी ग़लतियाँ और असाधारण दावे।
约 350 万分之一。搜索范围大、隐藏误差多、主张非同寻常。
🪜 PICTURE 3 — THE LADDER OF α (LOG SCALE)तस्वीर 3 — α की सीढ़ी (LOG SCALE)图 3 — α 的阶梯(对数刻度)
Ladder of significance levels 10-8 10-7 10-6 10-5 10-4 10-3 10-2 10-1 α = 0.1 exploratoryexploratory探索性 α = 0.05 common defaultआम डिफ़ॉल्ट常用默认 α = 0.01 strictसख़्त严格 α = 0.005 proposed (2018)प्रस्तावित (2018)2018 年的提议 α = 0.001 very strictबहुत सख़्त非常严格 α = 2.9×10⁻⁷ physics "5σ"physics "5σ"物理学“5σ” α = 5×10⁻⁸ genomics (GWAS)genomics (GWAS)基因组学(GWAS) ← stricter (fewer false alarms) more lenient (fewer misses) →← ज़्यादा सख़्त (कम झूठे alarms) ज़्यादा नरम (कम चूक) →← 更严格(误报更少) 更宽松(漏报更少)→

SectionSection第 09 节

α vs p-value — The Most Common Confusionα vs p-value — सबसे आम उलझनα vs p 值 — 最常见的混淆

Students often mix up α and the p-value. They are different things, and confusing them leads to wrong conclusions.

छात्र अक्सर α और p-value को मिला देते हैं। ये अलग चीज़ें हैं, और इन्हें मिलाने से ग़लत निष्कर्ष निकलते हैं।

学生常把 α 和 p 值混为一谈。它们是不同的东西,混淆会导致错误结论。

FeatureFeature特征Significance level αSignificance level α显著性水平 αp-value
What it isक्या है是什么A threshold you choose in advanceपहले से चुनी सीमा事先选定的门槛A probability computed from your dataआपके data से निकली probability由数据算出的概率
When it is setकब तय何时确定Before data collectionData जुटाने से पहले收集数据之前After the analysisAnalysis के बाद分析之后
Who sets itकौन तय करता है由谁决定You, based on the costs of errorsआप, ग़लतियों की क़ीमत के आधार पर你,依据错误的代价The data, through the test statisticData, test statistic के ज़रिए数据,通过检验统计量
Meaningमतलब含义Your false-alarm rate when H₀ is trueH₀ सच होने पर आपकी झूठे alarm की दरH₀ 为真时的误报率Chance of data this extreme if H₀ were trueH₀ सच होने पर इतना extreme data मिलने का chance若 H₀ 为真,出现这么极端数据的概率
Fixed or variable?तय या बदलता?固定还是可变?Fixed — never changed after seeing resultsतय — नतीजे देखने के बाद कभी नहीं बदलता固定 —— 看到结果后绝不更改Changes from sample to sampleहर sample के साथ बदलता है随样本变化
Decision ruleDecision rule决策规则Reject H₀ if p < αp < α हो तो H₀ reject若 p < α 则拒绝 H₀Reject H₀ if p < αp < α हो तो H₀ reject若 p < α 则拒绝 H₀
📐
A Helpful Analogy — the Speed Limitएक उपयोगी मिसाल — Speed Limit一个有用的比喻 —— 限速

Think of the critical value as a speed limit posted before you drive, and your test statistic as the speedometer. Above the limit → you get a ticket (reject H₀). In p-value language the arrow flips: the faster you go, the smaller the p-value, so you get a ticket when p is below α. Either way, the limit is posted before the drive and is not changed after you see how fast you went.

Critical value को गाड़ी चलाने से पहले लगी speed limit समझें, और अपने test statistic को speedometer. सीमा से ऊपर → चालान (H₀ reject)। p-value की भाषा में तीर पलटता है: आप जितना तेज़ चलें, p-value उतना छोटा, इसलिए चालान तब कटता है जब p, α से नीचे हो। दोनों तरह से, सीमा पहले लगी होती है और रफ़्तार देखने के बाद नहीं बदली जाती।

把临界值看作开车前就立好的限速牌,把检验统计量看作速度表。超过限速 → 被罚单(拒绝 H₀)。换成 p 值的说法,箭头反过来:开得越快,p 值越小,所以当 p 低于 α 时被罚。无论哪种说法,限速牌都在开车前立好,不会因为看到车速而更改。


SectionSection第 10 节

Worked Comparison — Same Data, Three Values of αहल की गई तुलना — वही Data, α के तीन मान对比例题 — 同样数据,三个 α

A marketing team tests a new website design on 500 users. A right-tailed z-test gives z = +1.75. Watch how the conclusion depends on α.

एक marketing team 500 users पर नया website design जाँचती है। Right-tailed z-test से z = +1.75 आता है। देखें कि निष्कर्ष α पर कैसे निर्भर है।

营销团队在 500 名用户上测试新网站设计。右侧 z 检验得到 z = +1.75。看结论如何取决于 α。

🧮 A/B Test — z = +1.75, Right-TailedA/B Test — z = +1.75, Right-TailedA/B 测试 —— z = +1.75,右侧
Contextसंदर्भ背景
H₁: the new design raises conversions. z = +1.75, right-tailed p = 0.040
H₁: नया design conversions बढ़ाता है। z = +1.75, right-tailed p = 0.040
H₁:新设计提高转化率。z = +1.75,右侧 p = 0.040
α = 0.10
Critical z = +1.282 → 1.75 > 1.282 → reject H₀ ✅ Launch. (Lenient, quick business test.)
Critical z = +1.282 → 1.75 > 1.282 → H₀ reject ✅ Launch. (नरम, तेज़ business test.)
临界 z = +1.282 → 1.75 > 1.282 → 拒绝 H₀ ✅ 上线。(宽松、快速的商业测试。)
α = 0.05
Critical z = +1.645 → 1.75 > 1.645 → reject H₀ ✅ Launch. p = 0.040 < 0.05.
Critical z = +1.645 → 1.75 > 1.645 → H₀ reject ✅ Launch. p = 0.040 < 0.05.
临界 z = +1.645 → 1.75 > 1.645 → 拒绝 H₀ ✅ 上线。p = 0.040 < 0.05。
α = 0.01
Critical z = +2.326 → 1.75 < 2.326 → fail to reject ❌ Keep the old design.
Critical z = +2.326 → 1.75 < 2.326 → reject नहीं ❌ पुराना design रखें।
临界 z = +2.326 → 1.75 < 2.326 → 不拒绝 ❌ 保留旧设计。
Lessonसीख启示
The data are identical in all three cases; only the pre-set threshold differs. That is why α must be declared in advance. Changing it after seeing the result is a form of p-hacking.
तीनों मामलों में data एक जैसा है; सिर्फ़ पहले से तय सीमा अलग है। इसीलिए α पहले से घोषित करना ज़रूरी है। नतीजा देखकर इसे बदलना p-hacking का एक रूप है।
三种情况的数据完全相同,只是事先设定的门槛不同。所以 α 必须事先声明。看到结果后再改,就是 p-hacking 的一种。

SectionSection第 11 节

How to Choose Your α — A Field Guideअपना α कैसे चुनें — एक Field Guide如何选择 α — 实用指南

Field / situationक्षेत्र / स्थिति领域 / 情境Typical αआम α常用 αReasoningतर्क理由Priorityप्राथमिकता侧重
🔬 Particle physicsParticle physics粒子物理≈ 2.9 × 10⁻⁷ (5σ)Many places to look; extraordinary claimsदेखने की कई जगहें; असाधारण दावे搜索范围大;主张非同寻常Minimise αα घटाएँ尽量减小 α
🧬 Genomics (GWAS)Genomics (GWAS)基因组学(GWAS)5 × 10⁻⁸About a million tests at once; Bonferroni-style correctionएक साथ लगभग 10 लाख tests; Bonferroni जैसा correction同时约一百万个检验;Bonferroni 式校正Minimise αα घटाएँ尽量减小 α
💊 Confirmatory drug trialsConfirmatory drug trials确证性药物试验0.05 two-sided (0.025 one-sided)0.05 two-sided (0.025 one-sided)双侧 0.05(单侧 0.025)False approvals harm patients; often two trials neededग़लत मंज़ूरी मरीज़ों को नुक़सान; अक्सर दो trials ज़रूरी错误批准会伤害患者;常需两项试验Keep α smallα छोटा रखें保持 α 较小
🏭 Industrial quality controlIndustrial quality control工业质量控制0.01 – 0.05Stopping a line is expensive; balance false alarms and missesLine रोकना महँगा; झूठे alarms और चूक में संतुलन停线代价高;平衡误报与漏报Balanceसंतुलन平衡
📊 Social science researchSocial science research社会科学研究0.05Convention; moderate samples; replication neededपरंपरा; मध्यम samples; दोहराव ज़रूरी惯例;样本适中;需要重复验证Balanceसंतुलन平衡
☢️ Safety / environmental screeningSafety / environmental screening安全 / 环境筛查0.05 – 0.10Missing a real hazard is worse than a false alarmअसली ख़तरा चूकना झूठे alarm से बुरा漏掉真实危险比误报更糟Raise αα बढ़ाएँ提高 α
📈 A/B testing (marketing)A/B testing (marketing)A/B 测试(营销)0.05 – 0.10A false launch is cheap to undo; fast iterationग़लत launch वापस लेना सस्ता; तेज़ बदलाव错误上线容易撤回;快速迭代Raise αα बढ़ाएँ提高 α
🔍 Exploratory / pilot studiesExploratory / pilot studies探索性 / 试点研究0.10 – 0.20Generating ideas to test properly laterबाद में ठीक से जाँचने के लिए ideas जुटाना为日后正式检验生成想法Raise αα बढ़ाएँ提高 α
💡
The Bonferroni Correction — When You Run Many TestsBonferroni Correction — जब आप कई Tests चलाएँBonferroni 校正 —— 做很多检验时

Run 20 tests at α = 0.05 on pure noise and you expect about 1 false positive; the chance of at least one is 64%. Bonferroni divides α by the number of tests: α_adjusted = α / m. For 20 tests at α = 0.05, each test uses 0.0025, which keeps the chance of any false positive (the family-wise error rate) at or below 5%. For very many tests, False Discovery Rate methods (Benjamini–Hochberg) lose less power.

शुद्ध शोर पर α = 0.05 से 20 tests चलाएँ, तो लगभग 1 false positive की उम्मीद है; कम से कम एक का chance 64% है। Bonferroni, α को tests की संख्या से भाग देता है: α_adjusted = α / m. α = 0.05 पर 20 tests के लिए हर test 0.0025 लेता है, जिससे किसी भी false positive का chance (family-wise error rate) 5% या उससे कम रहता है। बहुत ज़्यादा tests के लिए False Discovery Rate methods (Benjamini–Hochberg) कम power खोते हैं।

在纯噪声上以 α = 0.05 做 20 个检验,预计约有 1 个假阳性;至少一个的概率为 64%。Bonferroni 把 α 除以检验个数:α_adjusted = α / m。20 个检验、α = 0.05 时,每个检验用 0.0025,使出现任何假阳性的概率(族错误率)不超过 5%。检验非常多时,错误发现率方法(Benjamini–Hochberg)损失的检验力更少。

LIVELIVE互动Choose α by Cost — A Toy Modelक़ीमत से α चुनें — एक Toy Model按代价选择 α — 简化模型

Pick a scenario or set your own costs. The curve shows the expected cost of each α: false alarms cost 1 each, misses cost "ratio" each. The green dot marks the cheapest α. Notice how far it can be from 0.05.

एक scenario चुनें या अपनी क़ीमतें तय करें। Curve हर α की अपेक्षित क़ीमत दिखाता है: हर झूठे alarm की क़ीमत 1, हर चूक की क़ीमत "ratio"। हरा dot सबसे सस्ता α दिखाता है। देखें कि यह 0.05 से कितना दूर हो सकता है।

选一个场景或自己设定代价。曲线显示每个 α 的期望代价:每次误报代价为 1,每次漏报代价为“比值”。绿点标出代价最低的 α。注意它可能离 0.05 很远。


SectionSection第 12 节

α, Sample Size and Statistical Powerα, Sample Size और Statistical Powerα、样本量与检验力

α, sample size n and power (1 − β) are tied together — with the effect size, they form the four corners of every study design.

α, sample size n और power (1 − β) आपस में जुड़े हैं — effect size के साथ ये हर study design के चार कोने हैं।

α、样本量 n 和检验力(1 − β)相互关联 —— 加上效应量,它们构成每个研究设计的四个角。

Raise α (0.05 → 0.10)α बढ़ाएँ (0.05 → 0.10)提高 α(0.05 → 0.10)
Power ↑ β ↓
Easier to reject H₀, so real effects are found more often — but more false alarms. Same n.
H₀ reject करना आसान, इसलिए असली effects ज़्यादा मिलते हैं — पर ज़्यादा झूठे alarms. वही n.
更容易拒绝 H₀,真实效应更常被发现 —— 但误报更多。n 不变。
Lower α (0.05 → 0.01)α घटाएँ (0.05 → 0.01)降低 α(0.05 → 0.01)
Power ↓ β ↑
Fewer false alarms but more missed effects. To keep the same power, you need a bigger n (e.g. 63 → 93 per group for d = 0.5).
कम झूठे alarms पर ज़्यादा छूटे effects. वही power रखने के लिए बड़ा n चाहिए (जैसे d = 0.5 पर हर group में 63 → 93)।
误报更少,但漏报更多。要保持同样的检验力,需要更大的 n(如 d = 0.5 时每组 63 → 93 人)。
Increase nn बढ़ाएँ增大 n
Power ↑ SE ↓
The main way to lower α and β together: more data narrows the sampling distribution.
α और β को एक साथ घटाने का मुख्य तरीका: ज़्यादा data, sampling distribution को पतला करता है।
同时降低 α 和 β 的主要方法:更多数据让抽样分布更窄。
Effect size (δ)Effect size (δ)效应量(δ)
Larger δ → easier
A large real effect is easy to detect even at a strict α with a small n. A tiny effect needs a huge n.
बड़ा असली effect सख़्त α और छोटे n पर भी आसानी से पकड़ा जाता है। छोटे effect को बहुत बड़ा n चाहिए।
大的真实效应即使在严格 α 和小 n 下也容易检测;微小效应则需要巨大的 n。
✅
The 80% Power Convention80% Power की परंपरा80% 检验力惯例

Most studies plan for 80% power (β = 0.20) at α = 0.05: a 20% chance of missing a real effect and a 5% chance of a false alarm. The statistician Jacob Cohen suggested this balance, reasoning that a false alarm is usually about four times as serious as a miss. It is a convention too — high-stakes trials often aim for 90%.

ज़्यादातर studies α = 0.05 पर 80% power (β = 0.20) की योजना बनाती हैं: असली effect चूकने का 20% chance और झूठे alarm का 5% chance. Statistician Jacob Cohen ने यह संतुलन सुझाया, यह मानकर कि झूठा alarm आम तौर पर चूक से लगभग चार गुना गंभीर होता है। यह भी एक परंपरा है — बड़े जोखिम वाले trials अक्सर 90% का लक्ष्य रखते हैं।

多数研究在 α = 0.05 下规划 80% 检验力(β = 0.20):漏掉真实效应的概率 20%,误报概率 5%。统计学家雅各布·科恩提出了这一平衡,理由是误报通常比漏报严重约四倍。这同样是惯例 —— 高风险试验常以 90% 为目标。


SectionSection第 13 节

Python ImplementationPython ImplementationPython 实现

Critical values for common α — including 5σ and GWASआम α के critical values — 5σ और GWAS समेत常用 α 的临界值 —— 含 5σ 与 GWAS

from scipy import stats

print(f"{'alpha':>10} {'two-tailed z*':>14} {'one-tailed z*':>14}")
for a in [0.10, 0.05, 0.01, 0.001]:
    print(f"{a:>10} {stats.norm.ppf(1 - a/2):>14.3f} {stats.norm.ppf(1 - a):>14.3f}")

# Particle physics: "5 sigma" is a one-sided tail beyond z = 5
p5 = stats.norm.sf(5)
print(f"\n5-sigma: alpha = {p5:.2e}  (about 1 in {1/p5:,.0f})")
# Genomics (GWAS): 0.05 / 1,000,000 tests
print(f"GWAS threshold 0.05/1e6 = {0.05/1e6:.0e} -> z* = {stats.norm.ppf(1 - 5e-8/2):.2f}")
OUTPUT
alpha two-tailed z* one-tailed z* 0.1 1.645 1.282 0.05 1.960 1.645 0.01 2.576 2.326 0.001 3.291 3.090 5-sigma: alpha = 2.87e-07 (about 1 in 3,488,556) GWAS threshold 0.05/1e6 = 5e-08 -> z* = 5.45

One result, several α — the three storiesएक नतीजा, कई α — तीनों कहानियाँ一个结果,多个 α —— 三个故事

from scipy import stats

def decide(stat, p, alphas):
    for a in alphas:
        print(f"   α = {a:<6} → {'REJECT H₀' if p < a else 'fail to reject H₀'}")

# Story 1 — nuclear plant, right-tailed z-test (σ known)
z = (53.2 - 50) / (12 / 36 ** 0.5)
p = stats.norm.sf(z)
print(f"Nuclear: z = {z:.2f}, p = {p:.4f}")
decide(z, p, [0.10, 0.05, 0.01])

# Story 2 — drug trial, right-tailed one-sample t-test on 25 paired differences
t = 4.2 / (6.5 / 25 ** 0.5)
p = stats.t.sf(t, df=24)
print(f"\nDrug: t = {t:.3f}, df = 24, p = {p:.4f}")
decide(t, p, [0.05, 0.01, 0.001])

# Story 3 — A/B test, right-tailed z
z = 1.75
p = stats.norm.sf(z)
print(f"\nA/B: z = {z:.2f}, p = {p:.4f}")
decide(z, p, [0.10, 0.05, 0.01])
OUTPUT
Nuclear: z = 1.60, p = 0.0548 α = 0.1 → REJECT H₀ α = 0.05 → fail to reject H₀ α = 0.01 → fail to reject H₀ Drug: t = 3.231, df = 24, p = 0.0018 α = 0.05 → REJECT H₀ α = 0.01 → REJECT H₀ α = 0.001 → fail to reject H₀ A/B: z = 1.75, p = 0.0401 α = 0.1 → REJECT H₀ α = 0.05 → REJECT H₀ α = 0.01 → fail to reject H₀

α really is the false-positive rate — simulationα सच में false-positive दर है — simulationα 就是假阳性率 —— 模拟

import numpy as np
from scipy import stats

# 100,000 experiments where H₀ is TRUE. How often do we reject?
rng = np.random.default_rng(42)
n, reps = 30, 100_000
x = rng.normal(0, 1, (reps, n))
p = stats.ttest_1samp(x, popmean=0, axis=1).pvalue

for a in [0.10, 0.05, 0.01, 0.001]:
    print(f"α = {a:<6} false-positive rate = {np.mean(p < a)*100:6.2f}%")
OUTPUT
α = 0.1 false-positive rate = 9.80% α = 0.05 false-positive rate = 4.84% α = 0.01 false-positive rate = 0.95% α = 0.001 false-positive rate = 0.10%

The price of a smaller α: power and sample sizeछोटे α की क़ीमत: power और sample size更小 α 的代价:检验力与样本量

from scipy import stats

# Power of a right-tailed z-test: true effect δ = 2.5 standard errors
delta = 2.5
print(f"{'alpha':>7} {'power':>7} {'beta':>7}")
for a in [0.10, 0.05, 0.01, 0.001]:
    power = stats.norm.sf(stats.norm.ppf(1 - a) - delta)
    print(f"{a:>7} {power*100:6.1f}% {(1-power)*100:6.1f}%")

# Sample size per group for 80% power, two-sided, effect d = 0.5
for a in [0.05, 0.01]:
    n = 2 * ((stats.norm.ppf(1 - a/2) + stats.norm.ppf(0.80)) / 0.5) ** 2
    print(f"α = {a}: about {n:.0f} people per group for 80% power (d = 0.5)")
OUTPUT
alpha power beta 0.1 88.8% 11.2% 0.05 80.4% 19.6% 0.01 56.9% 43.1% 0.001 27.8% 72.2% α = 0.05: about 63 people per group for 80% power (d = 0.5) α = 0.01: about 93 people per group for 80% power (d = 0.5)

Many tests: family-wise error and Bonferroniकई tests: family-wise error और Bonferroni多重检验:族错误率与 Bonferroni

# Family-wise error rate: chance of at least one false positive in m tests
for m in [1, 5, 20, 100]:
    raw = 1 - (1 - 0.05) ** m
    bon = 1 - (1 - 0.05 / m) ** m
    print(f"m = {m:>3}: no correction {raw*100:5.1f}%   Bonferroni (α/m = {0.05/m:.4f}) {bon*100:4.1f}%")
OUTPUT
m = 1: no correction 5.0% Bonferroni (α/m = 0.0500) 5.0% m = 5: no correction 22.6% Bonferroni (α/m = 0.0100) 4.9% m = 20: no correction 64.2% Bonferroni (α/m = 0.0025) 4.9% m = 100: no correction 99.4% Bonferroni (α/m = 0.0005) 4.9%

SectionSection第 14 节

The Golden Rules of αα के Golden Rulesα 的黄金法则

🎯 8 Rules Every Analyst Should Followहर Analyst के लिए 8 नियम每位分析师都应遵守的 8 条规则
1
Set α before collecting data. Choosing α after seeing the p-value is moving the goalposts — it makes the error rate meaningless and is a form of p-hacking.
Data जुटाने से पहले α तय करें। p-value देखकर α चुनना goalposts खिसकाना है — इससे error दर बेमतलब हो जाती है, और यह p-hacking का एक रूप है।
在收集数据前设定 α。看到 p 值后再选 α 就是挪动球门 —— 错误率因此失去意义,也是 p-hacking 的一种。
2
α is not a law of nature. 0.05 is a convention. Choose α from the relative costs of Type I and Type II errors in your setting.
α प्रकृति का नियम नहीं। 0.05 एक परंपरा है। अपनी स्थिति में Type I और Type II errors की तुलनात्मक क़ीमत से α चुनें।
α 不是自然法则。0.05 只是惯例。要根据你情境中第一类和第二类错误的相对代价来选择 α。
3
Report the exact p-value, not just "significant". p = 0.048 and p = 0.002 both pass α = 0.05, but they are very different strengths of evidence.
सिर्फ़ "significant" नहीं, सटीक p-value बताएँ। p = 0.048 और p = 0.002 दोनों α = 0.05 पार करते हैं, पर सबूत की ताक़त बहुत अलग है।
报告确切的 p 值,而不只是“显著”。p = 0.048 和 p = 0.002 都通过了 α = 0.05,但证据强度相差很大。
4
Statistical significance ≠ practical importance. With a huge sample, a tiny difference can pass α = 0.05. Always add an effect size (Cohen's d, a difference in means, an odds ratio) and a confidence interval.
Statistical significance ≠ व्यावहारिक महत्व। बहुत बड़े sample में छोटा अंतर भी α = 0.05 पार कर सकता है। हमेशा effect size (Cohen's d, means का अंतर, odds ratio) और confidence interval जोड़ें।
统计显著 ≠ 实际重要。样本巨大时,微小差异也能通过 α = 0.05。始终补充效应量(Cohen 的 d、均值差、优势比)和置信区间。
5
Correct α for multiple tests. 20 tests at α = 0.05 give at least one false positive 64% of the time. Use Bonferroni (α/m), Holm, or FDR control for large-scale testing.
कई tests के लिए α को ठीक करें। α = 0.05 पर 20 tests, 64% बार कम से कम एक false positive देते हैं। Bonferroni (α/m), Holm, या बड़े पैमाने पर FDR control इस्तेमाल करें।
多重检验要校正 α。α = 0.05 做 20 个检验,64% 的情况下至少一个假阳性。使用 Bonferroni(α/m)、Holm,或大规模检验时用 FDR 控制。
6
Think about which error hurts more. Ask: "What happens after a false alarm? What happens after a miss?" The more harmful error should drive α — not habit.
सोचें कि कौन-सी ग़लती ज़्यादा नुक़सान करती है। पूछें: "झूठे alarm के बाद क्या होता है? चूक के बाद क्या?" ज़्यादा नुक़सानदेह ग़लती से α तय हो — आदत से नहीं।
想清楚哪种错误伤害更大。问自己:“误报后会怎样?漏报后又会怎样?”应由危害更大的错误决定 α —— 而不是习惯。
7
Pre-register α and the analysis plan. Record H₀, H₁, α and the planned test on a public registry (such as OSF or ClinicalTrials.gov) before collecting data. Then nobody can suspect that α was chosen to fit the result.
α और analysis योजना pre-register करें। Data जुटाने से पहले H₀, H₁, α और योजनाबद्ध test को किसी सार्वजनिक registry (जैसे OSF या ClinicalTrials.gov) पर दर्ज करें। तब कोई शक नहीं कर सकता कि α नतीजे के हिसाब से चुना गया।
预注册 α 和分析计划。在收集数据前,把 H₀、H₁、α 和计划的检验登记在公开平台(如 OSF 或 ClinicalTrials.gov)。这样没人会怀疑 α 是为迎合结果而选的。
8
α is not a substitute for replication. One study passing α = 0.05 is a start, not a proof. Knowledge grows through independent repetition — as Fisher himself said.
α, दोहराव की जगह नहीं ले सकता। α = 0.05 पार करने वाली एक study शुरुआत है, सबूत नहीं। ज्ञान स्वतंत्र दोहराव से बढ़ता है — जैसा Fisher ने ख़ुद कहा।
α 不能代替重复验证。一项研究通过 α = 0.05 只是开始,而不是证明。知识靠独立重复积累 —— 正如费希尔本人所说。
🧮
The Big Pictureबड़ी तस्वीर全局视角

α is one of the most important choices in any study, yet it is often set without thought. It decides how sensitive the test is, how false alarms are balanced against missed discoveries, and how much your conclusions can be trusted. Choose it on purpose, write it down in advance, and never change it after seeing the data.

α किसी भी study के सबसे ज़रूरी चुनावों में से एक है, फिर भी अक्सर बिना सोचे तय किया जाता है। यह तय करता है कि test कितना संवेदनशील है, झूठे alarms और छूटी खोजों में संतुलन कैसा है, और आपके निष्कर्षों पर कितना भरोसा किया जा सकता है। इसे सोच-समझकर चुनें, पहले से लिखें, और data देखने के बाद कभी न बदलें।

α 是任何研究中最重要的选择之一,却常常被随手设定。它决定了检验的灵敏度、误报与漏报之间的平衡,以及结论的可信程度。要有意识地选择它,事先写下来,看到数据后绝不更改。