Loi des grands nombres : Bienaymé-Tchebychev et la taille d'un échantillon

L'inégalité de Bienaymé-Tchebychev et sa preuve en trois lignes

La partie « Concentration, loi des grands nombres » du programme de spécialité de terminale de 2019 exige une capacité : « appliquer l'inégalité de Bienaymé-Tchebychev pour définir une taille d'échantillon, en fonction de la précision et du risque choisi ». Elle repose sur l'espérance et la variance d'une somme de variables aléatoires.

Soit X une variable aléatoire d'espérance μ et de variance V(X). Pour tout réel δ strictement positif :

P(|X − μ| ≥ δ) ≤ V(X)/δ².

On la démontre pour une variable aléatoire qui prend un nombre fini de valeurs x₁, …, x_r avec les probabilités p₁, …, p_r. Par définition, V(X) = p₁(x₁ − μ)² + … + p_r(x_r − μ)². Tous les termes sont positifs ; si l'on ne garde que ceux pour lesquels |x_i − μ| ≥ δ, la somme diminue ou reste égale. Dans chacun de ces termes, (x_i − μ)² ≥ δ², donc le terme est au moins égal à p_iδ². On obtient V(X) ≥ δ² × (somme des p_i correspondants) = δ² × P(|X − μ| ≥ δ). Il reste à diviser par δ², qui est strictement positif.

En prenant δ = kσ, où σ est l'écart-type : P(|X − μ| ≥ kσ) ≤ 1/k². Un écart d'au moins deux écarts-types a une probabilité au plus 1/4, d'au moins trois écarts-types au plus 1/9, pour n'importe quelle loi.

Par passage à l'événement contraire, P(|X − μ| < δ) ≥ 1 − V(X)/δ². C'est sous cette forme qu'on minore la probabilité que X tombe dans l'intervalle ]μ − δ ; μ + δ[. Le programme ne range pas cette preuve parmi les démonstrations exigibles, mais elle aide à retenir l'inégalité.

Pourquoi la moyenne se concentre

Un échantillon de taille n d'une variable aléatoire X est une liste (X₁, …, X_n) de variables aléatoires indépendantes, qui suivent toutes la loi de X. Sa moyenne est Mₙ = (X₁ + … + X_n)/n.

Par linéarité de l'espérance, E(Mₙ) = nμ/n = μ. Pour la variance, l'indépendance permet d'additionner : V(X₁ + … + X_n) = nV, et V(aY) = a²V(Y) donne V(Mₙ) = nV/n² = V/n. La moyenne a la même espérance que X, mais une variance n fois plus petite. En appliquant Bienaymé-Tchebychev à Mₙ, on obtient l'inégalité de concentration :

pour tout δ > 0, P(|Mₙ − μ| ≥ δ) ≤ V/(nδ²).

Pour δ fixé, V/(nδ²) tend vers 0 quand n tend vers +∞. Une probabilité étant positive, le théorème des gendarmes donne lim P(|Mₙ − μ| ≥ δ) = 0 quand n → +∞. C'est la loi des grands nombres sous la forme du programme. Appliquée à une variable de Bernoulli de paramètre p, elle dit que la fréquence de succès sur n répétitions indépendantes se rapproche de p : c'est ce qui justifie qu'on estime une probabilité par une fréquence observée sur un grand nombre d'expériences.

Majorer un écart, trouver une taille d'échantillon : la démarche

Pour majorer une probabilité d'écart, on identifie μ et V, on vérifie que l'événement est bien de la forme |X − μ| ≥ δ, centré sur l'espérance, et l'on applique l'inégalité. Si l'énoncé parle d'un intervalle ]a ; b[, on vérifie que son centre (a + b)/2 est μ ; sinon, l'inégalité ne s'applique pas directement.

Pour une taille d'échantillon, on part d'une précision δ et d'un risque α, et l'on cherche n tel que P(|Mₙ − μ| ≥ δ) ≤ α. Il suffit que V/(nδ²) ≤ α, c'est-à-dire n ≥ V/(αδ²). J'exige « il suffit que » : on obtient une taille qui garantit le résultat, pas la plus petite taille possible, l'inégalité étant, dit le programme, « loin d'être optimale ».

Exemple 1 · Comparer la majoration et la valeur exacte

Énoncé. X suit la loi binomiale B(100 ; 0,5). Majorer P(|X − 50| ≥ 10), puis minorer P(40 < X < 60). Comparer avec la valeur exacte donnée par la calculatrice.

Rédaction. Pour une loi binomiale, E(X) = np = 50 et V(X) = np(1 − p) = 25, donc σ = 5. D'après l'inégalité de Bienaymé-Tchebychev, P(|X − 50| ≥ 10) ≤ 25/10² = 0,25. L'événement 40 < X < 60 est l'événement |X − 50| < 10, contraire du précédent, donc P(40 < X < 60) ≥ 1 − 0,25 = 0,75.

La calculatrice donne P(|X − 50| ≥ 10) ≈ 0,057, donc P(40 < X < 60) ≈ 0,943. La majoration est juste mais grossière : elle vaut pour toutes les lois, y compris bien plus dispersées, et ne tire rien de la forme de la loi binomiale.

La figure reprend cet exemple : chaque barre a pour hauteur P(X = k). Les barres centrales (bleues, 40 < k < 60) apparaissent d'abord, puis les queues en or avec les bornes μ − 2σ = 40 et μ + 2σ = 60 en pointillés rouges, puis la majoration de Bienaymé-Tchebychev, enfin le calcul exact. Les barres en or, à au moins deux écarts-types de l'espérance, sont très basses : elles totalisent environ 0,057, quand l'inégalité annonce seulement « au plus 0,25 ».

Exemple 2 · Combien de lancers de dé ?

Énoncé. On lance n fois un dé équilibré et l'on note Mₙ la moyenne des résultats. Déterminer une valeur de n pour laquelle P(|Mₙ − 3,5| ≥ 0,1) ≤ 0,05.

Rédaction. Soit X le résultat d'un lancer. E(X) = (1 + 2 + … + 6)/6 = 3,5 et E(X²) = (1 + 4 + 9 + 16 + 25 + 36)/6 = 91/6, donc V(X) = 91/6 − 49/4 = 35/12. Les lancers sont indépendants, donc Mₙ est la moyenne d'un échantillon de taille n de X, et l'inégalité de concentration donne P(|Mₙ − 3,5| ≥ 0,1) ≤ (35/12)/(n × 0,01).

Il suffit donc que (35/12)/(0,01n) ≤ 0,05, c'est-à-dire n ≥ (35/12)/0,0005 = 17 500/3 ≈ 5 833,3. Comme n est entier, n ≥ 5 834 convient. Avec 5 834 lancers, la moyenne s'écarte de 3,5 d'au moins 0,1 avec une probabilité inférieure ou égale à 5 %.

Exemple 3 · Un sondage de 1 000 personnes

Énoncé. Dans une population, une proportion inconnue p de personnes approuve une mesure. On interroge n personnes au hasard, de façon indépendante, et l'on note Fₙ la fréquence des réponses favorables. a) Montrer que p(1 − p) ≤ 1/4. b) Pour n = 1 000, majorer P(|Fₙ − p| ≥ 0,05). c) Quelle taille assure une précision de 0,01 avec un risque d'au plus 5 % ?

Rédaction. a) 1/4 − p(1 − p) = p² − p + 1/4 = (p − 1/2)² ≥ 0.

b) Fₙ est la moyenne d'un échantillon de taille n d'une variable de Bernoulli de paramètre p, d'espérance p et de variance p(1 − p). Donc P(|Fₙ − p| ≥ 0,05) ≤ p(1 − p)/(1 000 × 0,05²) ≤ (1/4)/2,5 = 0,1.

c) Il suffit que (1/4)/(n × 0,01²) ≤ 0,05, soit n ≥ 1/(4 × 0,05 × 0,0001) = 50 000.

Les erreurs sur la loi des grands nombres qui coûtent des points

• Écrire V/δ au lieu de V/δ², ou remplacer la variance par l'écart-type. On écrit μ, V et δ séparément avant d'appliquer l'inégalité.
• Se tromper d'événement : l'inégalité porte sur |X − μ| ≥ δ (large), son contraire est |X − μ| < δ (strict). Écrire P(|X − μ| ≤ δ) ≥ 1 − V/δ² reste vrai mais n'est pas ce que donne le passage au contraire.
• Appliquer l'inégalité à un intervalle qui n'est pas centré sur l'espérance.
• Arrondir n à l'entier inférieur, ce qui fait perdre la garantie, ou présenter 5 834 comme le nombre minimal de lancers alors qu'il est seulement suffisant.
• Oublier l'indépendance des variables de l'échantillon, sans laquelle V(Mₙ) = V/n est faux.

Trois exercices corrigés sur la loi des grands nombres

Exercice 1 · Appliquer l'inégalité sans connaître la loi

Énoncé. Le temps d'attente X, en minutes, à un guichet a pour espérance 20 et pour variance 4. On ne connaît pas sa loi. a) Majorer P(|X − 20| ≥ 5). b) Minorer P(15 < X < 25). c) Majorer la probabilité que X s'écarte de 20 d'au moins 6 minutes.

Correction. a) D'après Bienaymé-Tchebychev, P(|X − 20| ≥ 5) ≤ 4/25 = 0,16.

b) L'intervalle ]15 ; 25[ est centré sur l'espérance 20, et 15 < X < 25 équivaut à |X − 20| < 5, événement contraire du précédent. Donc P(15 < X < 25) ≥ 1 − 0,16 = 0,84.

c) L'écart-type vaut σ = 2, donc 6 = 3σ et P(|X − 20| ≥ 6) ≤ 1/3² = 1/9 ≈ 0,11.

Exercice 2 · Taille d'un échantillon de mesures

Énoncé. Une mesure physique est modélisée par une variable aléatoire d'espérance μ inconnue et d'écart-type 2. On répète n mesures indépendantes et l'on note Mₙ leur moyenne. Déterminer une valeur de n telle que la probabilité que Mₙ s'écarte de μ d'au moins 0,5 soit au plus 0,01.

Correction. La variance vaut V = 2² = 4. Les mesures sont indépendantes et de même loi, donc l'inégalité de concentration s'applique : P(|Mₙ − μ| ≥ 0,5) ≤ 4/(n × 0,25) = 16/n. Il suffit que 16/n ≤ 0,01, soit n ≥ 1 600. Avec 1 600 mesures, la condition est assurée.

Exercice 3 · Fréquence d'une loi binomiale et loi des grands nombres

Énoncé. Une pièce de machine est défectueuse avec une probabilité 0,3. On en contrôle n, de façon indépendante. Soit Sₙ le nombre de pièces défectueuses et Fₙ = Sₙ/n. a) Calculer E(Fₙ) et V(Fₙ). b) Déterminer une valeur de n pour laquelle P(0,25 < Fₙ < 0,35) ≥ 0,9. c) Que dit la loi des grands nombres sur Fₙ ?

Correction. a) Sₙ suit la loi binomiale B(n ; 0,3), donc E(Sₙ) = 0,3n et V(Sₙ) = 0,21n. Alors E(Fₙ) = 0,3 et V(Fₙ) = 0,21n/n² = 0,21/n.

b) L'intervalle ]0,25 ; 0,35[ est centré sur 0,3, et 0,25 < Fₙ < 0,35 équivaut à |Fₙ − 0,3| < 0,05. Par Bienaymé-Tchebychev appliquée à Fₙ, P(|Fₙ − 0,3| ≥ 0,05) ≤ (0,21/n)/0,0025 = 84/n, donc P(0,25 < Fₙ < 0,35) ≥ 1 − 84/n. Il suffit que 1 − 84/n ≥ 0,9, soit 84/n ≤ 0,1, soit n ≥ 840.

c) Pour tout δ > 0, P(|Fₙ − 0,3| ≥ δ) tend vers 0 quand n tend vers +∞. Sur un grand nombre de contrôles, la proportion de pièces défectueuses observée est, avec une probabilité aussi proche de 1 qu'on veut, aussi proche de 0,3 qu'on veut.