Calculadora de Significância de Testes A/B
Se a diferença na taxa de conversão entre duas versões de uma página, email ou anúncio é provavelmente real ou só acaso, com o valor p e a estatística z.
Resultados
A linha tracejada marca o valor que escreveu.
O que faz esta ferramenta
Um teste em que B converte 13 % e A 10 % parece uma vitória clara, mas com umas centenas de visitantes essa diferença aparece por acaso com uma frequência surpreendente. O teste z de duas proporções pergunta quão provável seria uma diferença pelo menos desta dimensão se as duas versões fossem na verdade iguais; abaixo de 0,05 a convenção habitual diz que é significativa. Decida o tamanho da amostra antes de começar e não pare o teste mal passe a linha — espreitar vezes sem conta aumenta os falsos positivos. O gráfico mostra o valor p para outros números de conversões em B.
Fórmula
z = (p_B − p_A) ÷ √(p̂(1 − p̂)(1/n_A + 1/n_B)) · p-value = 2(1 − Φ(|z|))
Variáveis
| Símbolo | Significado | Unidade |
|---|---|---|
na | Visitantes na versão A | — |
ca | Conversões na versão A | — |
nb | Visitantes na versão B | — |
cb | Conversões na versão B | — |
CA | Taxa de conversão A | % |
CB | Taxa de conversão B | % |
UP | Variação relativa de A para B | % |
Z | Estatística z | — |
PV | Valor p (bilateral) | — |
SG | Significativo a 95 %? | — |
Exemplo resolvido
- Visitantes na versão A1000
- Conversões na versão A100
- Visitantes na versão B1000
- Conversões na versão B130
- Taxa de conversão A10,000 %
- Taxa de conversão B13,000 %
- Variação relativa de A para B30,00 %
- Estatística z2,1027
- Valor p (bilateral)0,03549
- Significativo a 95 %?Sim
Limitações
- O desvio padrão e a variância são calculados para uma amostra (dividindo por n − 1). Para uma população completa, divida por n.
- O resultado é uma estimativa baseada apenas nos valores que introduziu. Situações reais incluem muitas vezes fatores que esta calculadora desconhece.