Je ne sais pas si ça vous est déjà arrivé, mais quand on fait des crêpes, la probabilité d’en réussir une est proportionnelle à la probabilité que l’on vient de réussir les dernières. Autrement dit si j’ai réussi les premières, je suis dans un bon jour, et je réussi davantage celles qui suivent. Alors que si je commence par rater les premières, je suis dans un mauvais jour, et je les rate toutes (pour les sportifs, il est aussi possible de noter que, par exemple, au tennis, la probabilité de réussir son service est d’autant plus forte que j’ai réussi les derniers: c’est pareil).
- Une première formalisation du problème
Supposons que sur les premiers essais (qui servent d’étalonnage), fois j’ai réussi ma crêpe, et fois, je l’ai ratée (trop de trous, trop irrégulière, trop cuite, que sais-je encore). Mon a priori sur la probabilité de ne pas avoir de chance (et de rater ma crêpe) est . Supposons que la probabilité de réussir à l’instant (on commence à compter après les premiers essais) soit la fréquence empirique observée sur le passé. Autrement dit
où est le nombre de succès. En particulier . On retrouve ici le fait que plus j’en ai raté, plus j’ai de chances de rater les prochaines… c’est la mauvaise main en quelque sorte.
Afin de mieux comprendre, supposons . Autrement dit, sur mes deux premiers essais (qui ne servent qu’à étalonner), j’ai raté et réussi une fois. Juste avant l’instant 1, j’ai deux possibilité: réussir ou rater, avec la probabilité . I.e.
Si on se place une crêpe plus loin, et que l’on regarde les probabilités conditionnelles
avec quelque-chose de similaire si on conditionne par l’autre événement,
Et donc la probabilité non conditionnelle s’écrit
i.e.
et
Moralité
Autrement dit, on poursuivant la récurrence, on a que est uniformément distribué sur
Étonnant, non ? Autrement dit, si j’ai commencé par un échec et une réussite, la probabilité d’avoir 50 réussites sur 100 essais sera très exactement . Qui est la même probabilité que d’avoir 1 réussite, ou 99 !
On a aussi que
Mais que se passe-t-il si et ne sont plus égaux à 1 ?
- Lien avec l’approche bayésienne et la théorie de la crédibilité
Ce qui est amusant, c’est que la probabilité
est bien connue par les personnes qui connaissent l’assurance et la théorie de la crédibilité. Supposons que je note la variable indicatrice correspondant à une réussite ou un succès au ème essai (avec probabilité ). D’un point de vu bayésien, la loi conjuguée de la loi binomiale (on va compter les réussites sur n essais) est une loi Beta. Rappelons que la loi Beta a pour densité
sur , et que l’espérance de cette variable est , i.e. . Donc cette modélisation devrait parfaitement convenir à notre problème. Ce qui est intéressant, c’est que comme on travaille avec la loi conjuguée, la loi ex post est encore une loi Beta. Autrement dit, ici, si je suppose que suit a priori une loi Beta , et que la loi de sachant suit une loi binomiale , alors la loi a posteriori de sachant est une loi (c’est ce que l’on avait vu ici). Et en particulier
Autrement dit on obtient une combinaison convexe entre la moyenne de la loi a priori (à gauche) et la fréquence empirique (à droite).
On retrouve ici ce que nous avions noté auparavant, en notant que , et .
On peut toutefois se demander si le résultat que l’on avait obtenu sur la loi de S_n reste valide ici…
Notons que
i.e. (moyennant quelques calculs)
Dans le cas où , en réécrivant aussi le premier terme, on a
i.e.
On retrouve bien la formule obtenue auparavant… Ce qui est intéressant aussi, c’est que si on note que
or
et donc
et par récurrence, on obtient que
et que de plus
Autrement dit, effectivement, si j’en ai raté beaucoup au début, ma probabilité d’en rater beaucoup est grande (et elle est d’ailleurs constante). Certains parleraient de no-free lunch.