Calculatrice de Précision en Virgule Flottante (IEEE 754 : Float, Double, Demi, bfloat16)
À quel point la droite numérique est grossière autour d'une valeur en demi-précision, bfloat16, simple ou double précision : l'écart jusqu'au nombre suivant, l'epsilon machine, les chiffres fiables et le plus grand entier encore exact.
Résultats
Ce que fait cet outil
Les nombres en virgule flottante ne sont régulièrement espacés qu'à l'intérieur de chaque puissance de deux : l'écart double chaque fois que la valeur double, mais reste la même fraction de la valeur. C'est pourquoi 0,1 + 0,2 ne donne pas exactement 0,3, qu'un float de 32 bits cesse de compter les entiers à 16 777 216, et qu'un nombre JavaScript n'est exact pour les entiers que jusqu'à 2⁵³ (9 007 199 254 740 992). Au-delà, l'écart d'un double vaut 2, puis 4, puis 8. Servez-vous de l'écart, et non du nombre de chiffres affichés, pour juger jusqu'où un résultat est fiable.
Formule
gap (ULP) = 2^(⌊log₂|x|⌋ − p) · ε = 2^−p · digits ≈ (p + 1) log₁₀ 2 · largest gap-free integer = 2^(p+1) (p = 10, 7, 23, 52 fraction bits)
Variables
| Symbole | Signification | Unité |
|---|---|---|
fm | Format du nombre | — |
x | Valeur à examiner | — |
U | Écart jusqu'au nombre représentable suivant à cette valeur | — |
R | Cet écart en fraction de la valeur | — |
EP | Epsilon machine (écart juste au-dessus de 1) | — |
DG | Chiffres décimaux fiables | — |
MI | Plus grand entier avant que les entiers se mettent à sauter | — |
MV | Plus grande valeur finie | — |
Exemple résolu
- Format du nombre4
- Valeur à examiner0,1
- Écart jusqu'au nombre représentable suivant à cette valeur1,38778e-17
- Cet écart en fraction de la valeur1,38778e-16
- Epsilon machine (écart juste au-dessus de 1)2,22045e-16
- Chiffres décimaux fiables15,95
- Plus grand entier avant que les entiers se mettent à sauter9,0072e+15
- Plus grande valeur finie1,79769e+308
Limites
- La formule suppose des conditions idéales : pas de frottement, pas de résistance de l'air et pas de pertes de rendement sauf si vous les saisissez.
- Le calcul est mené en pleine précision et seul l'affichage est arrondi. Si vous recopiez une valeur intermédiaire, de petits écarts peuvent apparaître.