Paritian

Estatística

Calculadora de Significância de Testes A/B

Se a diferença na taxa de conversão entre duas versões de uma página, email ou anúncio é provavelmente real ou só acaso, com o valor p e a estatística z.

Resultados

Taxa de conversão A 10,000 %
Taxa de conversão B 13,000 %
Variação relativa de A para B 30,00 %
Estatística z 2,1027
Valor p (bilateral) 0,03549
Significativo a 95 %? Sim
Como varia
Valor p (bilateral)Conversões na versão B 100 – 160. Valor p (bilateral): 1 → 0,0000662778; Limiar habitual (0,05): 0,05 → 0,05Valor p (bilateral)Limiar habitual (0,05)00,20,40,60,81100110120130140150160Conversões na versão B

A linha tracejada marca o valor que escreveu.

O que faz esta ferramenta

Um teste em que B converte 13 % e A 10 % parece uma vitória clara, mas com umas centenas de visitantes essa diferença aparece por acaso com uma frequência surpreendente. O teste z de duas proporções pergunta quão provável seria uma diferença pelo menos desta dimensão se as duas versões fossem na verdade iguais; abaixo de 0,05 a convenção habitual diz que é significativa. Decida o tamanho da amostra antes de começar e não pare o teste mal passe a linha — espreitar vezes sem conta aumenta os falsos positivos. O gráfico mostra o valor p para outros números de conversões em B.

Fórmula

z = (p_B − p_A) ÷ √(p̂(1 − p̂)(1/n_A + 1/n_B)) · p-value = 2(1 − Φ(|z|))

Variáveis

SímboloSignificadoUnidade
naVisitantes na versão A—
caConversões na versão A—
nbVisitantes na versão B—
cbConversões na versão B—
CATaxa de conversão A%
CBTaxa de conversão B%
UPVariação relativa de A para B%
ZEstatística z—
PVValor p (bilateral)—
SGSignificativo a 95 %?—

Exemplo resolvido

  • Visitantes na versão A1000
  • Conversões na versão A100
  • Visitantes na versão B1000
  • Conversões na versão B130
  • Taxa de conversão A10,000 %
  • Taxa de conversão B13,000 %
  • Variação relativa de A para B30,00 %
  • Estatística z2,1027
  • Valor p (bilateral)0,03549
  • Significativo a 95 %?Sim

Limitações

  • O desvio padrão e a variância são calculados para uma amostra (dividindo por n − 1). Para uma população completa, divida por n.
  • O resultado é uma estimativa baseada apenas nos valores que introduziu. Situações reais incluem muitas vezes fatores que esta calculadora desconhece.