La semaine passée, on avait fait quelques calculs pour obtenir l’information de Fisher pour des lois classiques. Je voulais juste remettre au propre les calculs pour les lois à plusieurs paramètres. Pour la loi Gamma,
la log-vraisemblance s’écrit
de telle sorte que
Ici, même pas besoin de prendre une espérance car la Hessienne est constante
Considérons un simple jeu de pile ou face. On suppose que l’on tombe sur pile avec une probabilité 
(histoire de formaliser un peu). Le but du jeu est dedeviner sur quelle face la pièce va tomber: si on devine bien, on gagne, sinon on perd. Et le but de mon billet est de comprendre quelle est la stratégie qu’il convient de mettre en œuvrer si on connaît, ou si on estime .
Supposons que l’on connaisse parfaitement . A priori deux stratégies sont possibles:
et face avec probabilité 
.
, on prédit pile, sinon on prédit face (à chaque lancer si on fait plusieurs lancers consécutifs).Notons 
la variable correspondant à la valeur prise au lancer, disons 1 si on tomber sur pile et 0 sur face. Et notons 
la valeur prédite. On gagne si 
, et la probabilité de gagner est alors
i.e. pour la première stratégie
En revanche pour la seconde, la probabilité de gagner est
Graphiquement, on peut représenter en ligne la prédiction que l’on fait, et en colonne la face obtenue. En bleu, on gagne, et en rouge on perd,
 |
 |
. Considérons le polynôme 
, dont les racines sont 
et 
, i.e sur 
,
ou encore
i.e.
(avec une inégalité stricte si est strictement inférieur à 1). Bref, il est toujoursplus intéressant de parier toujours la même chose (et de ne pas essayer de jouer au plus malin).
Supposons maintenant que la probabilité soit inconnue, mais estimable. Autrement dit, on a assisté à 
lancers, on a un échantillon 
et on estime la probabilité de tomber sur pile par
(qui tire une loi uniforme sur le segment unité), pour la prochaine valeur, on prédit
Autrement dit, si on estime que la probabilité de tomber sur pile dépasse 50%, on prédit pile, et sinon on prédit face.
On gagne si 
, et la probabilité de gagner est alors
Dans le premier cas, la probabilité de gagner est
(comme auparavant). En revanche, dans le second cas, le calcul de la probabilité de gagner est
Graphiquement, on obtient, cette fois,
 |
|
Si on se place au bout de 20 lancers, on obtient la courbe rouge ci-dessous pour le cas d’information imparfaite, et verte dans le cas de l’information parfaite, pour le ratio de la probabilité de gagner avec le second cas divisé par le premier cas (nous avions vu auparavant que le ratio été inférieur à 1)
à partir du code suivant
Supposons que l’on répète le jeu un certain nombre de fois, avec un apprentissage au fur et à mesure que les tirages avancent, i.e. l’algorithme s’écrit
> n=10 > p=.64 > X=sample(c("a","b"),size=100,prob=c(p,1-p),replace=TRUE) > S1=S2=rep(NA,100) > for(s in (n+1):100){ + P=c(mean(X[1:(s-1)]=="a"),mean(X[1:(s-1)]=="b")) + S1[s]=(sample(c("a","b"),size=1,prob=P)==X[s]) + S2[s]=(names(sort(table(X[1:s])))[2]==X[s]) + } > sum(S1[(n+1):100])/sum(S2[(n+1):100])
Graphiquement, si on suppose que l’on apprend sur 10 tirages (et que l’on calcule le nombre moyen de victoires sur les 90 lancers suivants), on obtient un graphique assez proche de ce que l’on avait auparavant,
I.e. comme le ratio est inférieur à 1, la seconde stratégie l’emporte toujours.
Moralité, j’ai un peu l’impression qu’il est souvent inutile d’élaborer une stratégie trop complexe, car les stratégies les plus simples permettent de gagner le plus souvent…
Vendredi, nous devrions aborder un peu la problématique des tests asymptotiques. Avant, rappelons que l’estimateur du maximum de vraisemblance
de 
vérifie la propriété asymptotique suivante.
Or on a une propriété intéressante sur les convergences de vecteurs Gaussiens (pour rester assez général). Soit 
une suite de vecteurs aléatoires telle que 
où 
. Alors
où 
(pour un paramètre univarié, ça sera alors ). Mais ce résultat n’est intéressant que si 
est connue. En fait, si on a la suite des variances vérifie 
, alors
Traduit sur notre estimateur du maximum de vraisemblance, cela signifie que
ou encore
Trois tests peut alors être mis en œuvre (et tant qu’à faire, on peut essayer de l’illustrer sur un exemple: encore et toujours du pile/face).
> set.seed(1) > n=20 > X=sample(0:1,size=n,replace=TRUE) > p=seq(0,1,by=.01) > logL=function(p){sum(log(dbinom(X,size=1,prob=p)))} > LL=sapply(p,logL) > plot(p,LL,type="l",col="red",lwd=2) > p0=.5 > points(p0,logL(p0),pch=3,cex=1.5,lwd=2) > abline(v=p0,lty=2)
On a alors 20 tirages de pile ou face, on a obtenu 11 piles, et on se demande si la pièce est “juste“.
Mais avant toute chose, commençons par calculer l’estimateur du maximum de vraisemblance, ainsi que le score et l’information de Fisher. Dans ce modèle de variables de Bernoulli, on connaît des formes explicites de ces quantités. Mais ici, on va utiliser la méthode la plus générale qui soit, i.e. on va maximiser la log-vraisemblance, puis on va calculer le score et l’information de Fisher à la valeur de que l’on souhaite tester.
> neglogL=function(p){-sum(log(dbinom(X,size=1,prob=p)))} > pml=optim(fn=neglogL,par=p0,method="BFGS")$par Warning messages: 1: In dbinom(x, size, prob, log) : NaNs produced 2: In dbinom(x, size, prob, log) : NaNs produced > nx=sum(X==1) > f = expression(nx*log(p)+(n-nx)*log(1-p)) > Df = D(f, "p") > Df2 = D(Df, "p") > p=p0 > score=eval(Df) > (IF=-eval(Df2)) [1] 80 > 1/(p0*(1-p0)/n) [1] 80
On note que l’information de Fisher calculée par double différenciation de la log-vraisemblance est identique à la formule analytique. Pour rappels, on a
Trois tests (équivalent asymptotiquement comme on le verra en cours) sont alors possibles.
Tout d’abord le test de Wald propose de travailler sur la différence 
entre l’estimateur du maximum de vraisemblance, et la valeur que l’on cherche à tester (comme le montre le dessin ci-dessous). Cette différence doit être “petite” si est la vraie valeur.
On peut alors utiliser la statistique suivante
Asymptotiquement, en utilisant le résultat évoqué au début, cette statistique tend, sous l’hypothèse que est la vraie valeur, vers une loi du chi-deux.
> alpha=0.05 > (T=(pml-p0)^2*IF) [1] 0.1999970 > T<qchisq(1-alpha,df=1) [1] TRUE
Ici, on accepte l’hypothèse que la pièce n’est pas pipée.
Ensuite le test du rapport de vraisemblance propose de travailler sur les valeurs de la log-vraisemblance. Là encore, cette différence doit être “petite” si est la vraie valeur. Graphiquement, on mesure une distance normalisée
La statistique est celle d’un test bilatéral,
On pose alors
(le 2 sera détaillé un peu en cours, c’est mis là de manière à avoir trois tests équivalents). Asymptotiquement, on peut montrer que cette statistique tend, sous l’hypothèse que est la vraie valeur, vers une loi du chi-deux.
> (T=2*(logL(pml)-logL(p0))) [1] 0.2003347 > T<qchisq(1-alpha,df=1) [1] TRUE
Là encore, on accepte l’hypothèse que la pièce n’est pas pipée.
Enfin, le test du score propose de travailler sur la pente de la log-vraisemblance en . Cette pente doit être “petite” si est la vraie valeur.
La pente correspond au score,
La statistique de test est alors ici
Et là encore, asymptotiquement, on peut montrer que cette statistique tend, sous l’hypothèse que est la vraie valeur, vers une loi du chi-deux.
> (T=slope^2/IF) [1] 0.2 > T<qchisq(1-alpha,df=1) [1] TRUE
Et le test accepte ici encore l’hypothèse que la pièce n’est pas pipée.
Nous avons défini dans le cours l’information de Fisher par
où 
. On verra la semaine prochaine que cette information peut s’écrire (moyennant quelques conditions de régularité)
Dans un cadre multivarié, on a que 
avec
ou encore
(avec une écriture analogue au cas univarié en utilisant la matrice Hessienne).
Étant donné un échantillon, l’information de Fisher empirique est la pente de la log-vraisemblance en 
, i.e. dans le cas d’échantillons de 20 tirages de pile/face (avec une pièce non truquée)
X=sample(c("PILE","FACE"),size=20,prob=c(.5,.5),replace=TRUE) X=(X=="PILE")*1 vecP=seq(0,1,by=.01) logL=function(p){sum(log(dbinom(X,size=1,prob=p)))} L=lapply(vecP,logL) plot(vecP,L,type="l",col="blue",lwd=2,xlab="",ylab="") abline(v=.5,col="red",lty=2)
En répétant plusieurs milliers de fois, on peut étudier la distribution de cette pente
En note que le score est centré, et ici la variance est
> var(SCORE) [1] 80.00168 > 20/(.5*(1-.5)) [1] 80 20/(.5*(1-.5))
(ce qui correspond effectivement à l’information de Fisher). Mais cette informationest un concept plus général qu’une variance…
Bon, maintenant essayons de creuser un peu cette histoire d’information (c’est Ronald Fisher qui a – le premier – utilisé ce nom en 1925, bien avant les travaux de Shannon et Wiener sur des mesures logarithme d’information dans un contexte de théorie de la communication).
On cherche a quantifier le mesure d’information d’un échantillon 
correspondant à une collection de variables aléatoires 
, i.i.d. de loi 
, et de densité/loi de probabilité 
.
Une hypothèse est qu’avoir 
observations apporte deux fois plus d’information qu’en avoir seulement 
. On a alors quelque chose qui pourrait s’écrire
Aussi on suppose que pas d’observation signifie pas d’information… J’ai l’impression que les bayésiens ne seraient pas d’accord, mais c’est une autre histoire…
On suppose aussi que l’information dépend de la loi , et pas de l’échantillon .
On peut aussi noter (c’est une idée peut être plus simple à comprendre dans le contexte de la communication) que la compression ne peut que détériorer l’information. Autrement dit, si on utiliser 
et non pas 
, l’information est moins bonne, i.e.
Et le seul cas pour lequel on n’a pas de perte d’information est le cas d’une statistique exhaustive.
On notera aussi qu’une information doit être positive (au pire on n’a pas d’information).
Mais pour relier cette information a une propriété sur la variance de notre estimateur, il faut creuser un peu. Considérons un estimateur sans biais 
de , i.e.
ou encore (en supposant que l’échantillon soit réduit à une unique observation)
soit, en notant que
(car on a une densité)
En différenciant par rapport à , on peut en déduire que
soit (en admettant que l’on puisse intervertir intégrale et dérivée)
Or on peut réécrire
ce qui donne
ou encore
Et là, on invoque l’inégalité de Cauchy-Schwarz afin de garantir que
On reconnait alors deux espérances, i.e.
(pour le terme de gauche, on a utilisé le fait qu’on avait un estimateur sans biais). Bref, il existe plein d’application de cette information, cette dernière inégalité étant probablement la plus importante.
Pour aller un peu plus loin, je peux renvoyer vers des notes de cours de Tran Viet Chi, en ligne ici. Et pour ceux qui veulent aller vraiment plus loin, John Pierce Robert Ash et surtout Solomon Kullback ont écrit des livres entiers sur statistiques et mesure d’information….
… et non, nous ne vivons pas le monde merveilleux des Bisounours: la vie n’est pas toujours juste. Les probabilités sont un objet assez curieux à manipuler, pas forcément très intuitif. J’avais évoqué ici, là et enfin là la notion d’espace probabilisé 
… En fait, généralement, les calculs de probabilités sont assez troublants et paradoxaux. On va considérer ici des gens devant prendre des situations en présence d’incertitude, et plus particulièrement deux situations: la difficulté de prendre en compte de l’information (et donc de calculer des probabilités conditionnelles) et le cas où les gens doivent agir en prenant des décisions de manière aléatoire (et donc fixent en même les probabilités).
Avant hier, j’avais mis en ligne (ici) un billet sur le paradoxe dit de Monty Hall, où le candidat à un jeu télévisé doit choisir une porte parmi trois (afin de gagner une voiture), une fois son choix effectué, le présentateur ouvre une des deux autres portes (une qui n’a pas de lot derrière) et demande au candidat s’il souhaite revenir sur son choix. Et la réponse est qu’effectivement, le candidat a intérêt à ouvrir la porte qui est restée ouverte (et que l’animateur n’a pas choisie). L’idée du raisonnement est de formaliser proprement cette information à l’aide de lois conditionnelles.
Cette importance de l’information se retrouve par exemple dans l’histoire des cocus de Bagdad ou des yeux bleus (ici). Sinon, sur les paradoxes de probabilité, je peux aussi renvoyer vers des histoires de des lancers de pièces (ici), mais aussi sur le paradoxe des enveloppes (là) qui pourrait faire penser à l’histoire de Monty Hall. Mais mon préféré sur les lois conditionnelles reste le paradoxe de Simpson (ici, repris sous une forme plus géométrique là)…
Dans tous ces exemples, les probabilités sont connues, et il s’agit simplement d’une mise à jour afin de prendre en compte une nouvelle information. 
Mais il existe des cas encore plus vicieux, où les probabilités ne peuvent pas être considérées comme exogènes, ou objectives, car elles sont déterminées par les joueurs. Considérons une jeu simple, un peu dans l’esprit du pierre-feuille-ciseau (que j’avais déjà évoqué ici, en rappelant qu’il était fondamental de prendre des décisions de manière aléatoire). Dans le jeu d’aujourd’hui, on a toujours deux joueurs, disons moi (P) et ma fille (F). On cache nos mains dans le dos, et on les sort au même moment, en montant un ou deux doigts,
La matrice des paiements est alors la suivante
| P\F | 1 | 2 |
| 1 | 2 | -3 |
| 2 | -3 | 4 |
Si on suppose que l’on a une chance sur 4 pour chacune des paires, le jeu est alors a somme nulle, puisque
Sauf que les probabilités sont fixées par les joueurs, en l’occurrence moi et ma fille. Supposons que je sorte 1 doigt avec probabilité 
, et 2 avec probabilité 
(avec 
). Ma fille sort 1 doigt avec probabilité 
, et 2 avec probabilité
(avec 
). La valeur espérée du jeu (de mon point de vue) est
Ma fille cherche 
qui va minimiser cette valeur, alors que moi, je cherche 
qui la maximise. Bref, un problème classique de problème minmax de théorie des jeu. L’équilibre (s’il existe) sera 
où 
et 
solution de
A p donné, ma fille cherche à trouver
soit
soit encore
en notant que , on peut réécrire 
. Autrement dit, si 
, ma fille a toujours intérêt à sortir un doigt (car 
) et ce n’est pas un équilibre… pareillement, si 
, ma fille a toujours intérêt à sortir deux doigts, et là encore ce n’est pas un équilibre. Autrement dit, le seul équilibre possible est obtenu lorsque 
, i.e l’équilibre correspond à 
. De manière dual, pour ma part, je cherchais à trouver
i.e.
soit
qui conduit à un équilibre seulement si 
. Autrement dit, afin que le jeu soit à l’équilibre, il faut que nous jouions la stratégie suivante: sortir un doigt avec probabilité 
(et pas 
) et deux avec probabilité 
. Et la valeur espérée du jeu est alors
Moralité, ma fille tu as intérêt à travailler tes maths si tu veux battre un jour ton père ce n’est pas vraiment un jeu “juste“… à condition bien sûr que moi et ma fille soyons ensuite capable de mettre en œuvre cette stratégie… Car si je regarde avec mes yeux de statisticiens, je pense qu’il est assez dur de faire la différence entre et … La preuve sur cette petite simulation,
> N=100; pv=rep(NA,100000) > for(s in 1:100000){ + X=sample(1:2,size=N,prob=c(5/12,7/12),replace=TRUE) + P=prop.test(table(X)[1],n=N,p=1/2) + pv[s]=P$p.value} > mean(pv>0.05) [1] 0.66776
autrement dit, en supposant que ma fille et moi arrivions a jouer 100 fois à ce jeu, dans 2/3 des cas je n’arrive pas à faire la différence entre une probabilité valant et une probabilité valant .
Petite séance d’économie de l’information et de l’incertain dans le cadre de la préparation à l’agrégation. Les slides qui ont été utilisés sont en ligne.
Le cours présente les principes de base en économie de l’incertain (en particulier l’espérance d’utilité, telle que formalisée par par von Neumann et Morgenstern) a partir des lotteries, puis présentera rapidement quelques applications en finance et en assurance.
La seconde partie aborde les deux points clés d’aléa-moral et d’antisélection, et plus généralement d’asymétrie d’information.
Quelques compléments peuvent se trouver sur internet en particulier http://cepa.newschool.edu/ (en anglais), sur la page d’Olivier Gossner ou de Denis Bouyssou, à l’Université de la Réunion, des slides de François Pigalle, ou sinon l’article de Jean Benoit Dujol dans le Tigre. Pour une approche plus “formalisée”, on retiendra les slides de Pierre Cahuc à l’X. Sinon pour une vision plus générale du problème, il y a l’article de Xavier de la Vega paru dans le mensuel Sciences Humaines.
Sinon, une petite précision par rapport à la réponse que j’avais apporté oralement à une question (qui était posée lors du clavardage, “lien Arrow-Debreu ?“). J’avais évoqué l’approche de Gérard Debreu sur l’existence de fonctions d’utilité, mais ce n’était peut-être pas ce qui était posé par l’internaute… Pour reprendre, dans le contexte de l’intervention
Je ne sais pas si ces éléments permettent de mieux répondre à la question qui était posée, mais la réponse me paraît plus exacte que celle que j’avais faite, omettant de parler des biens d’Arrow-Debreu. Sinon j’ai transmis la demande qui avait été faite de faire une intervention en statistique (rappeler la base de la statistique descriptive) et en théorie de jeux.
