Théorème limite central
On lance $n$ fois une pièce de monnaie, et on convient que l'on gagne 1 euro si l'on obtient pile, que l'on perd 1 euro si l'on obtient face. On note $S_n$ l'argent gagné, ou perdu, après $n$ parties. Quelle est la loi de probabilité de $S_n$? Intuitivement, il est clair qu'il y a plus de chances que $S_n$ soit proche de 0 plutôt que $S_n$ soit grand. Mais peut-on aller plus loin, et donner l'allure de la loi de probabilité de $S_n$? Le théorème suivant, dit théorème limite central, affirme que c'est effectivement le cas.
La grande force de ce théorème est sa généralité : il y a vraiment très peu d'hypothèses sur la suite $(X_n)$. Quelle que soit la loi de probabilité d'un événement aléatoire, si on le répète infiniment souvent, de façon indépendante, sa moyenne finit par se comporter comme une loi normale. C'est ce théorème qui permet d'affirmer que la loi normale est la loi des phénomènes naturels. Si on observe par exemple la taille des individus dans une population, celle-ci va suivre une répartition qui va ressembler à celle de la loi normale (la fameuse courbe en cloche).