Tag Archives: paradoxe

A la recherche des homonymes…

Il y a quelques mois, Baptiste Coulmont m’avait contacté avec une question passionnante (comme chaque fois qu’il me contacte).

Baptiste voulait travailler sur la proportion de personnes qui ont un homonymes dans une population de taille donnée, ou sur la probabilité de ne pas avoir d’homonymes dans un bureau de vote, par exemple. Or ce dernier problème n’est pas sans rappeler le “paradoxe des anniversaires“.

Dans un groupe de 23 personnes, il y a plus d’une chance sur deux pour que deux personnes de ce groupe aient leur anniversaire le même jour. Ou dit autrement, il est plus surprenant de ne pas avoir deux personnes qui ont leur anniversaire le même jour que d’avoir deux personnes qui ont leur anniversaire le même jour.

On parle de “paradoxe” parce que le nombre de jours possibles est relativement grand (k=365), mais que la taille du groupe est elle relativement petite (n=23). Ici c’est un peu la même chose, sauf qu’on est sur des nombres beaucoup plus grands: on a des milliers de noms possibles (en fait, on s’intéresse au couple prénom+nom, ce qui augmente très largement le nombre de possibilités, que l’on notera k ici), on considère des groupes relativement grands (la taille du groupe sera elle notée n), et surtout, l’hypothèse (implicite) d’uniformité dans la distribution des dates ne marche pas sur les noms de famille, et les prénoms. On peut malgré tout tenter de formaliser le problème.

Considérons une collection de k éléments, notée \mathcal{X}=\lbrace x_1,\cdots,x_k\rbrace, et faisons n tirages avec remise. Les tirages obtenus sont notés ici X_1,\cdots,X_n et correspondent à des variables aléatoires iid, suivant des lois multinomiales sur \mathcal{X} avec comme vecteur de probabilités \mathbf{p}=(p_1,\cdots,p_k). Dans le cas des anniversaires, \mathcal{X} correspond aux dates, avec k=365, et \mathbf{p} est uniforme sur \mathcal{X} – ou encore \mathbf{p}=\mathbf{1}/k . Le problème classique est de calculer la probabilité que dans un groupe de taille donnée tout le monde ait des dates d’anniversaire différentes

\mathbb{P}[\forall j\neq i, X_i\neq X_j]

mais on peut aussi calculer (comme le voulait Baptiste) la proportion de personne ayant un alter-ego (une personne dans le groupe qui a son anniversaire le même jour)
\frac{1}{n}\sum_{i=1}^n \mathbf{1}(\exists j\neq i,X_i=X_j)

On a donc tenté d’approcher le second, quand on a un groupe de taille n. Notons Z_i le nombre de personnes (parmi les n-1 restantes) qui partagent la même date d’anniversaire que i,
Z_i=\sum_{j\in\{1,\cdots,n\}\backslash\{i\}} \mathbf{1}(X_j \neq X_i)
Aussi, la personne i a un alter-ego si Z_i\geq 1. Et donc, la proportion de personnes avec un alter-ego dans le groupe s’écrit
P_{n,k}=\frac{1}{n}\sum_{i=1}^n \mathbf{1}(Z_i\geq 1)
Si \mathbf{p} correspond à la loi uniforme sur \mathcal{X}, alors
1-P_{n,k}=\binom{k}{n}\frac{1}{k^n}\sim \exp\left[\binom{n+1}{2}\frac{1}{k}\right]\sim e^{-n^2/2k}
comme le montre Chatterjee et al. (2004). Je pourrais aussi renvoyer aux articles de Inoue & Aki (2008) et plus récemment de  Cortina Borja (2013) pour des revues de littérature sur les aspects computationnels.

Mais la plupart des résultats sont obtenu dans le cas où \mathbf{p} correspond à une distribution uniforme. Les propriétés plus générales sont beaucoup plus rares(on pourra lire Munford (1977), Das Gupta (2004),  Inoue & Aki (2008) ou Nunnikhoven (1992) pour des tentatives. Utiliser des méthodes de Monte Carlo est probablement le plus naturel (si on n’est pas trop pressé) en se donnant un ensemble \mathcal{X} (qui sont les dates dans le problème des anniversaires et les noms dans le cas des homonymes) de taille k, et une distribution \mathbf{p} sur \mathcal{X}. On a ainsi pu approcher P_{n,k}, la proportion de personnes ayant un alter-ego dans une population de taille n: sur les figures ci-dessous, on a cette proportion en fonction de  n (en abscisse), avec des courbes différentes pour différents k. Histoire d’être un peu réaliste, on va chercher le taux de personnes ayant un homonyme dans une popoluation de plusieurs centaine de milliers de personnes, et quand aussi des milliers, des dizaines de milliers, de possibilités.

Dans le cas d’une distribution uniforme, la proportion évolue comme sur la figure ci-dessous

On a tenté de quitter l’indépendance en utilisant une loi paramétrique, plus précisément une loi de type Pareto, ou Zipf, pour \mathbf{p}. En fait, c’est le type de distribution qu’avait observé Li (2012) sur la distribution des prénoms, avec p_i \propto i^{-\alpha} (ou plus récemment, Höhle (2017)). On a alors l’évolution suivante

On est ici en échelle logarithmique pour la taille n parce que c’est naturel. Mais pour l’instant, on était resté sur P_{n,k}. Baptiste insistait pour passer aussi à une échelle logarithmique sur l’axe des ordonnées, mais ca n’etait pas concluant. On a alors tenté deux autres représentations, plus classiques quand on travaille sur des probabilités (ou des proportions) : représenter \text{logit}(P_{n,k}) en fonction du logarithme de n (où \text{logit}(u)=\log[u/(1-u)]) et une version probit, à savoir \Phi^{-1}(P_{n,k}) (où ici \Phi est la fonctionc cumulative de la loi normale centrée et réduite).

En grande dimension, on a l’impression d’avoir une relation linéaire entre la transformée probit de la proportion de personnes ayant un homonyme et le logarithme de la taille de la population considérée

\Phi^{-1}(P_{n,k}) \sim a_{k}+b_{k} \log[n]

C’est joli, mais on se demandait comment utiliser ca sur nos données, pour travailler vraiment sur les homonymes. Le soucis, c’est qu’on n’a pas de fichier national, avec les noms et les prénoms. Alors Baptiste a sorti de son sac les listes électorales parisiennes. Le soucis est que la base est (relativement) petite. Le nombre de couple est très limité. Au lieu de faire des tirages avec remise dans les couples (“prénom”, “nom”) – encore une fois, la base est trop petite – on a voulu tenter de tirer indépendemment le “prénom” et le “nom”. On y gagne en ayant à disposition une base plus grande, mais on introduit un biais colossal, les “prénom” et “nom” étant assez corrélés. Dans notre cas, on a k_1 “prénom” et k_2 “prénom”. Il y a quelques années Chalabi & Flowers (2014)} (repris plus en détails sur ce blog) était revenu sur la non indépendance des noms et des prénoms, en s’interrogeant sur le nom le plus populaire aux Etats-Unis. Selon les auteurs “Michael Smith” n’était probablement pas le nom le plus populaire, même si “Michael” et “Smith” étaient respectivement les “prénom” et “nom” les plus populaires. En France “Jean” et “Marie” sont les prénoms les plus populaires pour les garcons et les filles, respectivement, et “Martin” est le nom le plus populaire (au moins sur les listes électorales parisiennes), mais en fait, le nom le plus populaire est “Thi Nguyen”, avec 350 personnes à Paris, alors que seulement 84 “Jean Martin” sont observés, le troisième plus haut score. Ah oui, je dois préciser qu’on se limite ici au premier prénom, en cas de prénoms composés. Tout comme Chalabi & Flowers (2014), on a fait un test du chi-deux pour tester l’indépendance, sur les 20 “noms” et “prénoms” les plus populaires. Sur la figure ci-dessous, on a les résidus normalisés du test. Par exemple “Michel Michel”est en rouge, car c’est beaucoup moins donné que ce qu’on aurait si  les deux composantes étaient indépendantes

Bref, on n’a pas trop le droit de tirer le “prénom” et le “nom” indépendament. Mais on va quand même le faire, pour voir. Ici \mathcal{X} est l’ensemble \mathcal{X}_1\times\mathcal{X}_2 avec k_1 choix pour le “prénom” et k_2 pour le “nom”.

Soit \mathbf{p}=(p_{i_1,i_2}) la probabilité empirique sur \mathcal{X}. On imagine que \mathbf{p} contient énormément de 0, car beaucoup de couples ne sont pas observés. Pour les simulations, on va noter \mathbf{p}^{\perp} la pobabilité jointe sous hypothèse d’indépendance
p^{\perp}_{i_1,i_2}=\left(\frac{1}{k_2}\sum_{j=1}^{k_2} p_{i_1,j}\right)\cdot\left(\frac{1}{k_1}\sum_{j=1}^{k_1} p_{j,i_2}\right)=p_{i_1,\cdot}p_{\cdot,i_2}

Lors de nos simulations, on va considérer deux cas : on dire des \mathbf{x}=(x_1,x_2) soit suivant la distribution \mathbf{p}, soit suivant \mathbf{p}^{\perp}. Bon, j’avais formalisé pour clarifier un peu dans ma tête et aussi pour impressionner Baptiste, mais techniquement, dans un cas on tire une paire observée – genre “Baptiste Coulmont” – et dans le second cas, on tire d’un côté un prénom – genre “Baptiste” – et de l’autre un nom de famille – genre “Charpentier” (même s’il n’existe aucun “Baptiste Charpentier”, on dit juste qu’il serait possible qu’il y en ait un).

Bref, on tirant des échantillons (plusieurs milliers de taille donnée, puis en moyennant), on obtient la figure ci-dessous (avec une échelle logarithme pour l’axe des ordonnées)

La courbe noir sur-estime sûrement à cause du faible nombre de choix possibles (on va tirer jusqu’à 50 millions de noms). En revanche, l’indépendance n’étant pas réaliste, la courbe rouge sous-estime probablement la proportion. Mais le plus intéressant est le graphique ci-dessous, obtenu en représentant la version probit de la probabilité

La courbe rouge est incroyablement linéaire ! Bien plus linéaire que ce qu’on espérait avoir suite à nos simulations dans le cas de la loi de Pareto.

En fait, on note que si on se limite au cas où n n’est pas trop grand, la courbe noire semble aussi linéaire. Ensuite on perd la linéarité parce qu’on tire avec remise dans une base trop petite, mais au début (lorsque n n’est pas trop grand), on pourrait accepter l’hypothèse d’une relation linéaire entre la transformée probit, et le logarithme de n. Bref, on estime une relation linéaire, et on extrapole pour les valeurs de n plus grandes

Si on revient sur la représentation plus classique, de la proportion de personnes ayant un homonyme en fonction de n, on obtient

Autrement dit, en France, on peut estimer que 80% des francais ont un homonyme.

Deux points pour poursuivre, sur la robustesse de l’approche. Tout d’abord, si on change un peu la taille de l’intervalle des n pour lesquels la courbe noire semble linéaire, la pente change peu

et on a un ordre de grandeur assez proche. Bref, ce 80% semble assez robuste,

Ensuite, comme cette relation linéaire me surprenait, on a aussi tenté sur des données américaines… et on a exactement le même genre de résultats…

Pour aller plus loin, on a tout mis sur github (avec des graphs en ggplot2 pour faire plus joli…) et une version (en anglais) est en ligne sur arxiv.

La magie des pourcentages

Ce matin, je me suis fait interpeller sur twitter par @PierreAgeron qui m’interrogeait sur la Figure suivante

Il me demandait comment les hausses observées en 2014  par trimestre (+0.0%, +0.0%, +0.1%, et +0.1%) pouvait donner +0.4% “globalement” pour 2014.

Le principe avec les pourcentages, c’est qu’on parle de variation, par rapport à une référence, et si on change la référence, alors forcément, on perd toute cohérence. On mélange des choux et des carottes. Cela dit, ce qui me gênait le plus, ce n’était pas 2014, mais2012. En effet, on a une hausse de +0.2% suivi d’une baisse de -0.2%, et une hausse de +0.3% suivi d’une baisse de -0.3%. Dit comme ça, on devrait s’attendre à une baisse globale, d’après une égalité que l’on connaît tous,

https://latex.codecogs.com/gif.latex?(1+x)(1-x)=1-x^2

Une hausse de https://latex.codecogs.com/gif.latex?x% suivie d’une baisse de https://latex.codecogs.com/gif.latex?x%, c’est une baisse de https://latex.codecogs.com/gif.latex?x^2%. Et pourtant, en 2012, on nous dit qu’on a une hausse.

Heureusement, Damien Babet, a.k.a. @DaBab, m’a proposé un joli exemple numérique que je vais reprendre ici . Considérons les huit valeurs suivantes pour 2011 et 2012,

> v=c(1011,1010,1012,1014,1016,1014,1017,1014)
> names(v)=c(paste("2011Q",1:4,sep=""),
+ paste("2012Q",1:4,sep=""))
> barplot(v,ylim=c(1000,1020))

En fait, cet exemple correspond effectivement au cas décrit initialement, puisqu’en 2012, on a une hausse puis une baisse du même taux,

> d=diff(v)/v[1:7]
> barplot(dv)

On est donc bien dans la situation du graphique introductif. Et maintenant, quand on agrège nos données trimestrielle, on a bien une hausse

> v2=c(sum(v[1:4]),sum(v[4+1:4]))
> names(v2)=c(2011,2012)
> barplot(v2,ylim=c(4000,4080))
> (v2[2]/v2[1]-1)*100
     2012 
0.3459353

(si vous n’êtes pas convaincu, mettez une grosse grève qui aurait paralysé la France pendant deux trimestre en 2011, avec 0 en Q1 et Q2…). Étonnant, non ? J’avais prévenu ! Les pourcentages, c’est de la magie !

25% ? sérieusemement, vous y croyez ?

(pour reprendre les statistiques postées par @guybirenbaum l’autre jour)

Réfléchissons deux minutes (ou un peu plus, c’est ce qu’on a fait ce midi avec @J_P_Boucher). On vous interroge sur un sondage: si vous croyez aux sondages, vous le dites. Mais si vous n’y croyez pas… vous répondez n’importe quoi (sinon c’est que vous y croyez, non ?). Bon essayons de formaliser ça afin de mieux comprendre… Soit https://latex.codecogs.com/gif.latex?X la réponse donnée, et https://latex.codecogs.com/gif.latex?Y la vérité (ce que pense vraiment la personne interrogée). On sait que

https://latex.codecogs.com/gif.latex?\mathbb{P}(X=C)=1-\mathbb{P}(X=CP)=\frac{1}{4}

Mais ce qu’on veut calculer, c’est https://latex.codecogs.com/gif.latex?p=%20\mathbb{P}(Y=C), la probabilité qu’une personne y croit vraiment aux sondages. Pour ça, on sait que

https://latex.codecogs.com/gif.latex?\mathbb{P}(X=C)=\mathbb{P}(X=C|Y=C)\cdot%20\mathbb{P}(Y=C)

https://latex.codecogs.com/gif.latex?+\mathbb{P}(X=C|Y=CP)\cdot%20\mathbb{P}(Y=CP)

Pour le premier terme, une personne qui y croit le dira (sinon c’est qu’elle n’y croit pas), donc https://latex.codecogs.com/gif.latex?%20\mathbb{P}(X=C|Y=C)=1. Par contre, une personne qui n’y croit pas peut dire n’importe quoi. Disons que https://latex.codecogs.com/gif.latex?%20\mathbb{P}(X=C|Y=CP) vaut https://latex.codecogs.com/gif.latex?%20\alpha. Dans ce cas

https://latex.codecogs.com/gif.latex?%20\frac{1}{4}=p+\alpha(1-p)

ou encore

https://latex.codecogs.com/gif.latex?%20p=\frac{1/4-\alpha}{1-\alpha}

Supposons par exemple qu’une petite proportion des personnes qui n’y croient pas disent y croire, disons 10%. Dans ce cas, la vraie probabilité qu’une personne croit au sondage serait plutôt 16%. Si https://latex.codecogs.com/gif.latex?%20\alpha était un peu plus grand (25%), on serait juste tombé sur la proportion des rigolos qui répondent n’importe quoi aux sondages, car personne n’y croit !

Tout le monde peut sortir vainqueur d’un pari ?

Petit paradoxe du jour (emprunté à http://www.futilitycloset.com/). Avec un collègue, suite à un pari stupide, nous nous sommes engagé à mettre une cravate, et celui qui a payé sa cravate le plus cher devra la donner à l’autre (ce que nous ne savions pas avant de choisir ladite cravate). A priori, nous avons autant de chance l’un que l’autre de gagner. Si je perds, je perds le prix de ma cravate, disons http://freakonometrics.blog.free.fr/public/perso5/cravate01.gif. Alors que si je gagne, je gagne une cravate qui vaut plus cher que la mienne, disons http://freakonometrics.blog.free.fr/public/perso5/corrrec-01.gif, avec http://freakonometrics.blog.free.fr/public/perso5/corrre-2.gif. Aussi, mon espérance de gain est

http://freakonometrics.blog.free.fr/public/perso5/cravate04.gif

aussi, en moyenne, je vais sortir gagnant de ce pari. Sauf que mon collègue peut faire le même raisonnement… Donc en moyenne, on y gagne tous… Étonnant, non ?

Le paradoxe de l’examen surprise…

La semaine dernière, Steve Landsburg reprenait (sur http://thebigquestions.com) sous une forme amusante un paradoxe que j’avais évoqué voilà deux ans sur le blog. Je ne résiste pas au plaisir de me replonger dans ce paradoxe…

Un professeur rédigeant son plan de cours veut mentionner un examen surprise, qui compterait pour 10% de la note finale.  Il annonce donc à ses étudiants, au premier cours, qu’un examen surprise (et un seul) se tiendrait à une date (surprise) parmi les 12 séances de cours. Mais comme le fait noter un élève, l’examen ne pourrait avoir lieu lors de la dernière séance (la 12ème), car cela signifierait qu’il n’y a pas eu d’examen les 11 premières séances, et donc l’examen surprise devrait forcément se tenir au 12ème cours (mais alors il ne serait plus surprise du tout). Bref, impossible d’avoir un examen surprise ce jour là. Mais dans ce cas, surenchérit une étudiante, il ne peut non plus avoir lieu à l’avant dernière séance (la 11ème), car là encore cela signifierait qu’il n’y a pas eu d’examen les 10 premières séances, et donc l’examen surprise devrait forcément au 11ème cours (car il ne peut pas avoir lieu au 12ème comme on vient de le voir, et là encore, il ne serait plus surprise du tout). Bref, de manière récurrente, on peut montrer que l’examen surprise a alors lieu forcément le premier jour. Mais là encore, il n’y a pas de surprise. Et donc impossible qu’il y ait un examen surprise si ce dernier a été annoncé. Moralité, pour faire un examen surprise, il ne faut surtout pas évoquer qu’il y en aura un. Mais comme on ne peut pas faire un examen non annoncé dans les modalités de contrôle des connaissances, il est impossible de faire des surprises aux étudiants à l’université… C’est triste, non ?

Les garçons ont-ils plus de sœurs que les filles ?

Ce qui est pénible avec les paradoxes, en tant que scientifique, c’est qu’ils nous obligent à remettre en cause notre intuition, sans cesse. Car mine de rien, on fonctionne tous à l’intuition, c’est un peu comme ça qu’on monte un programme de recherche: on a l’intuition que l’on pourra obtenir des résultats, mais tout reste à prouver.

Prenons la question suivante “les garçons on-t-ils plus de sœurs que les filles ?” en moyenne. N’importe qui avec un peu de bon sens répondrait “oui“, l’idée naturelle est que la fille ne peut pas se compter elle même comme sœur, donc les filles devraient en compter un peu moins… Et comme toujours la formulation est importante. On ne demande pas, par exemple “les garçons ont-t-ils plus chance d’avoir au moins une sœur que les filles ?” (auquel cas la réponse serait différente).

Maintenant réfléchissons un peu, et faisons un petit modèle où on suppose que la taille de la fratrie ne dépend pas des sexes de la fratrie. Et comptons, pour mieux voir ce qui se passe. Et commençons par un cas simple, par exemple avec trois enfants,

  • (G,G,G) – personne n’a de sœur
  • (G,G,F), (G,F,G) ou (F,G,G) – la fille n’a pas de sœur, par contre, il y a deux garçons avec une sœur
  • (G,F,F), (F,G,F) ou (F,F,G) – dans chaque cas, il y a deux filles avec une sœur, et un garçon avec deux sœurs,
  • (F,F,F) – ce qui fait trois filles avec chacune deux sœurs.

Si on récapitule pour les garçons, on a 3 cas avec 2 garçons ayant 1 sœur et 3 cas avec 1 garçon ayant 2 sœurs, soit (à un facteur de normalisation près) un nombre espéré de sœurs de 12. Et pour les filles, on a 3 cas avec 2 filles ayant 1 sœur et 1 cas avec 3 filles ayant 2 sœurs, soit (au même facteur de normalisation près) un nombre espéré de sœur de 12.
Posons http://freakonometrics.blog.free.fr/public/perso4/soeur07.gif la taille de la fratrie, que l’on va supposer fixé. Essayons de formaliser les calculs qu’on vient de faire. S’il y a http://freakonometrics.blog.free.fr/public/perso4/soeur08.gif filles, et http://freakonometrics.blog.free.fr/public/perso4/soeur11.gif garçons,

  • http://freakonometrics.blog.free.fr/public/perso4/soeur08.gif filles et http://freakonometrics.blog.free.fr/public/perso4/soeur11.gif garçons – chacun des http://freakonometrics.blog.free.fr/public/perso4/soeur11.gif garçons a http://freakonometrics.blog.free.fr/public/perso4/soeur08.gif sœurs, alors que chacune des http://freakonometrics.blog.free.fr/public/perso4/soeur08.gif filles a http://freakonometrics.blog.free.fr/public/perso4/soeur13.gif sœurs,

Bref, dans le calcul de l’espérance pour les garçons, on doit avoir des http://freakonometrics.blog.free.fr/public/perso4/soeur12.gif et pour les filles, http://freakonometrics.blog.free.fr/public/perso4/soeur14.gif. Et en faisant intervenir le nombre de combinaisons possibles de http://freakonometrics.blog.free.fr/public/perso4/soeur08.gif filles, et http://freakonometrics.blog.free.fr/public/perso4/soeur11.gif garçons, et par qui était notre facteur de proportionnalité de tout à l’heure (i.e. le nombre de possibilités d’agencement des sexes dans les familles avec http://freakonometrics.blog.free.fr/public/perso4/soeur07.gif enfants, quand on se focalise sur le sexe de tous, sauf un, qui est choisi au hasard, et qui est la personne qui compte ses soeurs), et en notant http://freakonometrics.blog.free.fr/public/perso4/soeur06.gif l’espérance du nombre de sœurs chez les garçons, et http://freakonometrics.blog.free.fr/public/perso4/soeur05.gif chez les filles, on a (merci à Pierre Antoine qui m’a fait remarqué une erreur dans mes calculs initiaux)

alors que

Un peu de calculs permet de montrer que ces deux quantités sont en fait égales… et valent

ce qui a du sens car il reste http://freakonometrics.blog.free.fr/public/perso4/soeur07.gif-1 personnes dans la fratrie (je peux renvoyer au livre de Ruma Falk, Understanding Probability and Statistics: A Book of Problems, page 46, qui passe par les fonctions génératrices pour une démonstration propre). Amusant, non ? En tous les cas suffisamment pour attirer mon attention alors que j’essaye de récupérer d’un soucis de santé, en dormant dans le lit de ma (grande) fille au milieu des peluches et des poupées…

Petit calcul de probabilités

En mars 1996, Parade Magazine publiait une question intéressante relative à un calcul de probabilité (la question est reproduite ici, ainsi qu’une discussion autour de l’existence de ce professeur… mais comme le note le site , il semble qu’il s’agisse d’une légende urbaine). De manière un peu surprenante, la réaction de la personne est que – si les deux élèves ont menti – la probabilité que deux personnes désigne le même pneu d’une voiture serait de 1/16. Pourtant, si on note A, B, C et D les quatre pneus de la voiture, un dénombrement rapide donne 16 situations possibles,

(A,A) (A,B) (A,C) (A,D)
(B,A) (B,B) (B,C) (B,D)
(C,A) (C,B) (C,C) (C,D)
(D,A) (D,B) (D,C) (D,D)

mais 4 paires concordantes. Soit un chance sur quatre que les étudiants indiquent le même pneu. Intuitivement, on demande à un étudiant quel pneu a crevé (jusque là pas de calculs de probabilités) http://freakonometrics.blog.free.fr/public/perso3/101_3.jpgpuis on veut voir si l’autre indique le même pneu (s’il ment, il a alors une chance sur quatre de donner le même que son voisin). Cette intuition que la probabilité serait 1/16 est alors un peu surprenante. Cela correspondrait au cas où le professeur sait quel pneu avait éclaté, mais pas les étudiants (on retrouve le mythe que l’enseignant sait toujours tout). Ou au cas où trois étudiants étaient dans la voiture et que l’on demande que les trois répondent la même chose.

Will Rogers ou la magie des moyennes

Pour reprendre un exemple emprunté à@mathematicsprof, il existe un paradoxe intéressant (mais assez simpliste) sur les moyennes, appelé phénomène de Will Rogers. Le point de départ est une déclaration de Will Rogers, qui avait affirmé que “in the 1930’s, there was a mass migration of people from Oklahoma to California. As a result, the average I.Q. of both states…..increased”. Le paradoxe est connu en médecine sous le nom de “stage migration”, et se trouve mentionné dans bon nombre d’études académiques. Comment cela est-il possible ? En fait c’est assez simple… Considérons les deux groupes suivants

(1,2,3,4,5)(6,7,8,9,10)

Les moyennes sont respectivement de 3 et 8. Maintenant, si le 6 quitte le second groupe pour le premier,

(1,2,3,4,5,6)(7,8,9,10)

les moyennes deviennent alors 3,5 et 8,5. Formellement, si on considère deux groupes http://freakonometrics.blog.free.fr/public/perso2/will-1.gif et http://freakonometrics.blog.free.fr/public/perso2/will-2.gif, tels que http://freakonometrics.blog.free.fr/public/perso2/will-3.gif, si on transfère http://freakonometrics.blog.free.fr/public/perso2/will-6.gif, on détériore la moyenne des deux groupes, alors que si on transfère http://freakonometrics.blog.free.fr/public/perso2/will-8.gif, on améliore les deux….

Étonnant non (bon, pas tant que ça quand on voit la solution) ?

Non, les probabilités ne sont pas nos amies…

… et non, nous ne vivons pas le monde merveilleux des Bisounours: la vie n’est pas toujours juste. Les probabilités sont un objet assez curieux à manipuler, pas forcément très intuitif. J’avais évoqué ici et enfin  la notion d’espace probabilisé http://freakonometrics.blog.free.fr/public/perso/espace-probabilise.png… En fait, généralement, les calculs de probabilités sont assez troublants et paradoxaux. On va considérer ici des gens devant prendre des situations en présence d’incertitude, et plus particulièrement deux situations: la difficulté de prendre en compte de l’information (et donc de calculer des probabilités conditionnelles) et le cas où les gens doivent agir en prenant des décisions de manière aléatoire (et donc fixent en même les probabilités).

  • Les probabilités conditionnelles

Avant hier, j’avais mis en ligne (ici) un billet sur le paradoxe dit de Monty Hall, où le candidat à un jeu télévisé doit choisir une porte parmi trois (afin de gagner une voiture), une fois son choix effectué, le présentateur ouvre une des deux autres portes (une qui n’a pas de lot derrière) et demande au candidat s’il souhaite revenir sur son choix. Et la réponse est qu’effectivement, le candidat a intérêt à ouvrir la porte qui est restée ouverte (et que l’animateur n’a pas choisie). L’idée du raisonnement est de formaliser proprement cette information à l’aide de lois conditionnelles.

Cette importance de l’information se retrouve par exemple dans l’histoire des cocus de Bagdad ou des yeux bleus (ici). Sinon, sur les paradoxes de probabilité, je peux aussi renvoyer vers des histoires de des lancers de pièces (ici), mais aussi sur le paradoxe des enveloppes () qui pourrait faire penser à l’histoire de Monty Hall. Mais mon préféré sur les lois conditionnelles reste le paradoxe de Simpson (ici, repris sous une forme plus géométrique )…

  • Les probabilités comme paramètres de décision

Dans tous ces exemples, les probabilités sont connues, et il s’agit simplement d’une mise à jour afin de prendre en compte une nouvelle information. Mais il existe des cas encore plus vicieux, où les probabilités ne peuvent pas être considérées comme exogènes, ou objectives, car elles sont déterminées par les joueurs. Considérons une jeu simple, un peu dans l’esprit du pierre-feuille-ciseau (que j’avais déjà évoqué ici, en rappelant qu’il était fondamental de prendre des décisions de manière aléatoire). Dans le jeu d’aujourd’hui, on a toujours deux joueurs, disons moi (P) et ma fille (F). On cache nos mains dans le dos, et on les sort au même moment, en montant un ou deux doigts,

  • si le nombre de doigts sortis est identique (paires (1,1) ou (2,2)), alors je gagne le nombre de doigts sortis, i.e. 2 ou 4
  • si le nombre de doigts sortis est différent (paires (1,2) ou (2,1)), alors ma fille gagne le nombre de doigts sortis, i.e. 3

La matrice des paiements est alors la suivante

P\F 1 2
1 2 -3
2 -3 4

Si on suppose que l’on a une chance sur 4 pour chacune des paires, le jeu est alors a somme nulle, puisque
http://freakonometrics.blog.free.fr/public/maths/jeuPF-80.png
Sauf que les probabilités sont fixées par les joueurs, en l’occurrence moi et ma fille. Supposons que je sorte 1 doigt avec probabilité http://freakonometrics.blog.free.fr/public/maths/jeuPF1.png, et 2 avec probabilité http://freakonometrics.blog.free.fr/public/maths/jeuPF2.png(avec http://freakonometrics.blog.free.fr/public/maths/jeuPF-81.png). Ma fille sort 1 doigt avec probabilité http://freakonometrics.blog.free.fr/public/maths/jeuPF3.png, et 2 avec probabilitéhttp://freakonometrics.blog.free.fr/public/maths/jeuPF4.png (avec http://freakonometrics.blog.free.fr/public/maths/jeuPF5.png). La valeur espérée du jeu (de mon point de vue) est
http://freakonometrics.blog.free.fr/public/maths/jeuPF.png
Ma fille cherche http://freakonometrics.blog.free.fr/public/maths/jeuPF15.png qui va minimiser cette valeur, alors que moi, je cherche http://freakonometrics.blog.free.fr/public/maths/jeuPF16.png qui la maximise. Bref, un problème classique de problème minmax de théorie des jeu. L’équilibre (s’il existe) sera http://freakonometrics.blog.free.fr/public/maths/jeuPF17.png où http://freakonometrics.blog.free.fr/public/maths/jeuPF-18.pnget http://freakonometrics.blog.free.fr/public/maths/jeuPF-19.png solution de
http://freakonometrics.blog.free.fr/public/maths/jeuPF-20.png
A p donné, ma fille cherche à trouver
http://freakonometrics.blog.free.fr/public/maths/jeuPF-21.png
soit
http://freakonometrics.blog.free.fr/public/maths/jeuPF-23.png
soit encore
http://freakonometrics.blog.free.fr/public/maths/jeuPF-25.png
en notant que http://freakonometrics.blog.free.fr/public/maths/jeuPF-81.png, on peut réécrire http://freakonometrics.blog.free.fr/public/maths/jeuPF-26.png. Autrement dit, si http://freakonometrics.blog.free.fr/public/maths/jeuPF-27.png, ma fille a toujours intérêt à sortir un doigt (car http://freakonometrics.blog.free.fr/public/maths/jeuPF-82.png) et ce n’est pas un équilibre… pareillement, si http://freakonometrics.blog.free.fr/public/maths/jeuPF-28.png, ma fille a toujours intérêt à sortir deux doigts, et là encore ce n’est pas un équilibre. Autrement dit, le seul équilibre possible est obtenu lorsque http://freakonometrics.blog.free.fr/public/maths/jeuPF-29.png, i.e l’équilibre correspond à http://freakonometrics.blog.free.fr/public/maths/jeuPF-30.png. De manière dual, pour ma part, je cherchais à trouver
http://freakonometrics.blog.free.fr/public/maths/jeuPF-31.png
i.e.
http://freakonometrics.blog.free.fr/public/maths/jeuPF-32.png
soit
http://freakonometrics.blog.free.fr/public/maths/jeuPF-25.png
qui conduit à un équilibre seulement si http://freakonometrics.blog.free.fr/public/maths/jeuPF-33.png. Autrement dit, afin que le jeu soit à l’équilibre, il faut que nous jouions la stratégie suivante: sortir un doigt avec probabilité http://freakonometrics.blog.free.fr/public/maths/jeuPF-40.png (et pas http://freakonometrics.blog.free.fr/public/maths/jeuPF60.png) et deux avec probabilité http://freakonometrics.blog.free.fr/public/maths/jeuPF-41.png. Et la valeur espérée du jeu est alors
http://freakonometrics.blog.free.fr/public/maths/jeuPF-50.png
Moralité, ma fille tu as intérêt à travailler tes maths si tu veux battre un jour ton père ce n’est pas vraiment un jeu “juste“… à condition bien sûr que moi et ma fille soyons ensuite capable de mettre en œuvre cette stratégie… Car si je regarde avec mes yeux de statisticiens, je pense qu’il est assez dur de faire la différence entre http://freakonometrics.blog.free.fr/public/maths/jeuPF-40.png et http://freakonometrics.blog.free.fr/public/maths/jeuPF60.png … La preuve sur cette petite simulation,

> N=100; pv=rep(NA,100000)
> for(s in 1:100000){
+ X=sample(1:2,size=N,prob=c(5/12,7/12),replace=TRUE)
+ P=prop.test(table(X)[1],n=N,p=1/2)
+ pv[s]=P$p.value}
> mean(pv>0.05)
[1] 0.66776

autrement dit, en supposant que ma fille et moi arrivions a jouer 100 fois à ce jeu, dans 2/3 des cas je n’arrive pas à faire la différence entre une probabilité valant http://freakonometrics.blog.free.fr/public/maths/jeuPF60.png et une probabilité valant http://freakonometrics.blog.free.fr/public/maths/jeuPF-40.png.

Discussions géométriques du soir

J’avais raconté l’autre jour l’aventure de mon fils qui souhaitait faire des triangles avec des bouts de bois (ici). Il a récidivé ce soir. Sauf qu’il n’avait qu’un grand baton, et que j’avais fermé le portillon qui l’empêchait d’aller dans la forêt en chercher (la nuance entre romancer et devenir mythomane doit être mince). Je lui ai suggéré de le casser en trois portions, puis de constituer un triangle avec les trois morceaux restant. Manque de bol, l’expérience rate (comme l’autre fois). Et me souvenant de mes pénibles calculs de la dernière fois, je me suis rappelé qu’il avait une chance sur deux de pouvoir effectivement construire un triangle… sauf que la manière d’obtenir les trois bouts de bois me semble différente… donc peut être que ce 1/2 n’est plus valide ?
En fait, je crois qu’il faut définir clairement comment on va couper les bouts de bois.

  • méthode 1: le coupage simultané

Je suppose que je peux couper d’un coup le bout de bois en deux. Formellement, je tire deux points sur l’intevalle correspondant à mon bout de bois, les tirages étant uniformes, et indépendants. On arrive alors à trois morceaux, alatex2png.2.php.pngalatex2png-1.2.php.png et alatex2png-2.2.php.pngen sachant que 

alatex2png-3.2.php.png

la longueur du bout de bois dont je diposais initialement. On supposera que aalatex2png.2.png=1 pour simplifier (ce qui ne changera rien au résultat final, on s’en doute). L’ensemble des points que je peux obtenir peuvent alors se visualiser comme des points du simplexe, 

alatex2png-4.2.php.png

autrement dit, on peut les représenter dans le triangle équilatéral ci-dessous.
Or on ne peut constituer un triangle que si la plus grande des longeurs n’excède pas la somme des deux autres. Supposons que alatex2png-2.2.php.png soit la plus grande longueur (et qu’elle soit visualisée graphiquement par rapport à la distance au côté en bas), le point rouge ci-dessous (correpondant à un triplet de longueurs possibles) ne convient pas. En fait, dès lors que l’on entre dans l’aire rosée, on ne peut plus constituer un triangle…

Moralité, à moins de tomber dans le triangle jaune, on ne peut pas constituer de triangle…. Ce qui veut dire qu’on n’a plus qu’une chance sur quatre !

  • méthode 2: le coupage séquentiel

Une autre méthodde consister à couper d’abord en deux (en tirant un point au hasard sur mon intervalle), puis de recouper en deux le plus grand morceau… Damned, mon fils a de bonne idée, mais ça sent les calculs à n’en plus finir ça…Ou alors va falloir continuer à essayer de faire des dessins, car mine de rien, c’est plus simple que les calculs de la dernière fois. Bon, la longueur de mon bout de bois est la hauteur de mon triangle. Je commence par le couper en deux, la distance au côté en bas devant être la plus petite des deux.

Une fois fixé la taille de ce petit bout, il me reste à couper le plus grand morceaux en deux. Pour cela, je vais me déplacer le long du segment rouge ci-dessous,
La position sur ce petit segment me donnant ensuite les deux autres longueurs des morceaux. Or rappelons que pour que nos bouts de bois forments un triangle, il faut forcément appartenir au triangle jaune,
Pour résumer, nous avions exclus la partie supérieure du triangle, et conditionnellement au fait que nous sommes dans le lozange inférieur, nous souhaitons être dans le triangle jaune. Arg, cette fois-ci la probabilité passe à une chance sur trois !

  • couper d’un coup comme découpage séquentiel aléatoire ?

Mais attends deux minutes mon bonhomme (oui, je parle à mon fils). Si j’avais choisi de découper le plus petit morceau, on sait qu’il est impossible de constituer un triangle car par définition alatex2png-5.2.php.png Supposons que l’on casse le baton en deux, et que l’on tire ensuite au hasard (avec probabilité 1/2 et 1/2) quelle partie sera alors coupée en deux, on doit se ramener au cas précédant non ? La probabilité de constituer un triangle doit alors être

alatex2png-6.2.php.png

Damned, mais ça ne fait pas un quart ça ! Bon, je crois que je vais prendre une aspirine et aller demander à mon fils d’aller ranger ses bâtons !

Le paradoxe de Saint Pétersbourg, partie 1

Pour répondre à une question sur mon précédant billet (ici), je vais revenir sur un paradoxe assez classique, le paradoxe de Saint Petersbourg. Mais avant de parler du paradoxe, et de ses implications en théorie de la décision dans l’incertain, je voulais présenter le jeu, et en profiter pour jouer à faire des dessins puisque j’ai cru remarquer que j’avais des amateurs d’explications géométriques.
Le jeu est simple, c’est un jeu de pile ou face répété, le jeu s’arrêtant à la sortie du premier “face” (et on le verra par la suite, l’idée est de doubler ses gains chaque fois que “pile” sort).
Aussi, le temps d’arrêt du jeu est https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-01.png dont la loi est simplement

https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-02.png  https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-03.png
https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-04.png  https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-05.png

… etc. On retrouve ainsi une loi géométrique de paramètre 1/2. L’espérance du nombre de lancers que l’on ferra avant que le jeu ne s’arrête est fini (alors qu’on le verra le gain espéré est infini), et vaut l’inverse de cette probabilité, i.e. 2. Pour ceux qui ont oublié la formule (que l’on obtient de manière assez calculatoire, en faisant une dérivation dans une série), on peut refaire le calcul,
https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-06.png

Personnellement, je ne sais pas calculer cette somme (infinie), mais comme dans mon précédant billet (ici), il existe une somme que l’on peut calculer simplement en faisant un petit dessin,

J’ai 1 carré (mauve) de surface 1, 2 (bleus ) de surface 1/2, puis 3 (verts) de surface 1/4, puis 4 (jaunes) de surface 1/8, puis 5 (rouges) de surface 1/16, 6 (oranges) de surface 1/32, etc. Autrement dit

https://perso.univ-rennes1.fr/arthur.charpentier/latex/stpb-07.png

Or l’espérance que l’on cherche à calculer, c’est cette somme, à un facteur 2 près….  Aussi, en moyenne, on peut espérer faire 2 lancers (la moitié de la surface) ! Ce qui correspond précisément à l’espérance d’une loi géométrique de paramètre 1/2. Décidément, on peut faire plein de choses avec des petits dessins..

Paradoxe et enseignement des probabilités

L’été semble être propice aux billets sur les paradoxes et autres bizarreries intellectuelles (je renvoie par exemple au très bon billet de Laurent, ici). Je vais en rajouter une couche (j’avais déjà parlé du paradoxe des enveloppes, ici ou de Simpson, ). En fait, je voulais revenir sur un paradoxe que j’avais lu en Terminale (à l’époque il y avait une introduction aux probabilités). J’y repense car je suis en train de finir de préparer mon cours de rappels de probabilité, et je cherche des exercices “simples” évitant toute ambiguité afin d’être un peu éclairant… pas comme ici….

Lançons trois pièces de monnaie. Quelle est la probabilité que les 3 pièces tombent du même côté (peu importe lequel) ?

Réponse 1: facile, faisons un peu de dénombrement, il y a 8 cas possibles (PPP, FPP, PFP, PPF, FFP, FPF, PFF, FFF), qui sont équiprobables, et seuls deux nous intéressent (FFF et PPP), on a alors 1 chance sur 4.

Réponse 2: facile, raisonnons deux minutes et essayons de trouver une réponse élégante. Comme j’ai 3 pièces pour seulement deux faces, il y en a forcément deux qui sont tombées du même côté, et pour la troisième, il me reste une chance sur deux, et la réponse est alors 1 chance sur 2.

Etonnant, non?“.

Bon, c’est un exemple assez classique en théorie des probabilités, je laisse aux lecteurs le temps de la réflexion…. le but étant de montrer qu’il y a une faute dans le raisonnement de la personne ayant donné la seconde réponse… Oui, c’est toute la difficulté des TD de probas: comment expliquer qu’un raisonnement qui semble juste est falacieux…

Paradoxe, vote et démocratie

Le paradoxe le plus classique sur les élections est le paradoxe de Condorcet, correspondant à une intransitivité des préférences. Pour rappels, dans le cours d’économie de l’incertain, j’avais postulé que les relations de préférences étaient une relation d’ordre (et donc étaient transitives) sans que cela ne soulève la moindre objection. Prenons un cas pratique: un sondage LH2 pour RMC-BFM TV-20 minutes, diffusé le 12 mars 2007 sur les élections présidentiels, donnait les intentions de vote suivant,

  • au premier tour, Sarkozy (28) > Royal (26) > Bayrou (22)
  • au second tour, Sarkozy (52) > Royal (48) mais  Bayrou (55) > Sarkozy (45)

Autrement dit, on peut A>B, et B>C, mais sans pour autant avoir A>C.

Pour Condorcet, il n’existait pas de système simple assurant cette cohérence, à savoir une fonction de choix social indiscutable, permettant d’agréger des préférences individuelles en préférences sociales. Arrow démontre, sous réserve d’acceptation de quelques hypothèses, qu’il n’existerait pas de système du tout assurant la cohérence, hormis celui où la fonction de choix social coïnciderait avec les choix d’un seul individu, parfois surnommé dictateur, indépendemment du reste de la population.

Le théorème d’Arrow peut être énoncé sous la forme suivante.

Pour au moins 3 options de choix et deux individus, il n’existe pas de fonction de choix social satisfaisant les propriétés suivantes :

  1. Universalité : la fonction de choix social doit être définie pour tout profil de préférences logiquement possible. Cela signifie qu’on ne peut éliminer le choix de certains individus du groupe des individus qui déterminent le choix collectif.
  2. Non-dictature : il n’existe aucun individu pour lequel la liste de ses choix personnels coïncide avec la fonction de choix social, indépendamment des préférences des autres ;
  3. Unanimité : lorsque tous les individus ont les mêmes préférences, la fonction de choix social doit associer ces mêmes préférences à la société.
  4. Indifférence des Options Non-Pertinentes : le classement relatif de deux options ne doit dépendre que de leur position relative pour les individus et non du classement d’options tierces ; si l’on ne considère qu’un sous-ensemble d’options, la fonction ne doit pas aboutir à un autre classement de ce sous-ensemble.

Sur les paradoxes du vote, je renvoie à une très bonne émission qui avait été diffusée dans Archimède sur Arte en janvier 2001. L’intégralité du texte se trouve ici,

Hasard et uniformité, le paradoxe des enveloppes

Suite au billet de ce matin sur la loi de Benford, et sur l’erreur commune consistant à assimiler hasard et uniformité, Mathieu Rosenbaum m’a rappelé un petit paradoxe que je donnais quand je faisais la formation au concours Administrateur de l’INSEE. C’est parfois appelé le paradoxe des deux enveloppes: “Deux enveloppes contiennent chacune un chèque. On sait que l’un des chèques porte un montant double de l’autre. Le candidat choisit une des enveloppes. On lui donne la possibilité d’ouvrir l’enveloppe et de regarde le chèque, puis on lui demande s’il souhaite changer d’enveloppe. Que fait-il ?“.

Essayons de raisonner…Supposons qu’il tombe sur un chèque d’un montant X en ouvrant. Il y a deux cas possibles :

  • une chance sur deux que l’autre enveloppe contienne un chèque deux fois plus important (donc de valeur 2X);
  • une chance sur deux que l’autre enveloppe contienne un chèque deux fois plus petit (donc de valeur X/2).

L’espérance de gain (si on oublie l’utilité et les aspects économiques du problème) si on change d’enveloppe paraît donc être 0,5 * 2X + 0,5 * X/ 2, soit 1,25X, qui est (strictement) supérieur à X. Il faudrait donc à tout coup changer d’enveloppe. Moralité, quel que soit le montant, on a toujours intérêt à changer…. “Étonnant, non ?“. Il était d’ailleurs inutile de regarder le montant… et tant qu’à faire, si la stratégie optimale est de toujours changer d’enveloppe, pourquoi ne pas l’avoir fait plus tôt… Dès qu’on veut prendre une enveloppe, il faut prendre l’autre… enfin non, l’autre, enfin,…. bref, que fait-on ?

Il y a plein d’explications de ce paradoxe, ici par exemple. Personnellement, je retiendrais celle qui est liée à ce que je racontais sur la loi de Benford… Quand on fait le calcul des probabilités, prendre 1/2 et 1/2, c’est suppose que P(2X)=P(X/2)… et ce quel que soit X… autrement dit, on prend une loi uniforme sur l’ensemble des réels positifs (ou des entiers positifs si on suppose que le chèque est un compte rond). Mais une telle mesure de probabilité n’existe pas…

[20/03/2009] Sur le paradoxe des enveloppes et plusieurs autres “phénomènes curieux en probabilités et statistiques” je renvoie vers un cours article de Michel Emery, ici.