Le statisticien et économiste Alfred Sauvy est resté dans les mémoires pour avoir inventé en 1952 le terme “tiers-monde”. Mais on lui a aussi attribué la paternité de la phrase suivante « dans toute statistique, l’inexactitude du nombre est compensée par la précision des décimales ». J’ai du l’entendre alors que j’étais étudiant, et depuis, elle me suit partout.
J’y repensais l’autre jour, quand Mathieu Gallard mentionnait sur Twitter le graphique suivant (correspondant a la popularité du président de la république, en France, dans les 18 mois qui suivent l’élection).
Le tweet disait (entre autres) “@EmmanuelMacron est à ce stade de son quinquennat légèrement moins populaire que @fhollande“. Pour rappel, ces courbes “de popularité” sont construites par un sondage, avec a chaque fois environ 1000 personnes interrogées (“sur la taille de l’échantillon on est toujours entre 950 et 970 interviews” me disait Mathieu). Bon, tous ceux qui ont des souvenirs de cours de stats se souviennent qu’avec 1000 personnes interrogées, 2 points de différence, c’est rarement significatif. Mais plus globalement, compte tenu de la marge d’erreur, je me suis demande pourquoi les courbes n’étaient pas lissées ? Ça éviterait les discussions stériles pour une variation de 2 points par exemple..
Si on reprend les données brutes (merci Mathieu), on a ici
rate=read.csv2("http://freakonometrics.free.fr/satisfaction.csv") plot(rate[,2],type="b",ylim=c(.2,.75),xlim=c(0,20),pch=19) lines(rate[,3],type="b",col="red") lines(rate[,4],type="b",col="blue") lines(rate[,5],type="b",col="dark green") text(18.15,rate[17,2],"EM") text(18.15,rate[17,3],"FH",col="red") text(18.15,rate[17,4],"NS",col="blue") text(18.15,rate[17,5],"JC",col="dark green") |
ce qui donne le même que dans le tweet (même si je n’ose pas interpoler linéairement les valeurs manquantes – il y en a deux dans mon fichier)
Prenons la courbe la plus récente, celle d’Emmanuel Macron (avec en plus les valeurs manquantes pour pimenter un peu) et rajoutons les intervalles de confiance ponctuels.
plot(rate$EM,type="b",ylim=c(.2,.5)) p=rate$EM n=length(p) arrows(1:n,p-2/sqrt(1000)*sqrt(p*(1-p)),1:n,p+2/sqrt(1000)*sqrt(p*(1-p)),code=3,angle=90,length=.1,col="blue") |
Personnellement, j’aurais bien voulu (1) lisser tout ça, (2) rajouter quelque chose qui s’apparente a des bandes de confiance. Mais avec des erreurs de mesure (c’est comme ça qu’on peut interpréter le fait que les points viennent d’un sondage), je ne sais pas trop quoi faire. J’ai tenté la méthode suivante : le tire au hasard des points dans l’intervalle de confiance, puis je lisse sur ce nouveau jeu de points. Et je répète mille fois
library(mgcv) Y=matrix(NA,73,1000) for(s in 1:1000){ x=(1:n)[!is.na(p)] pna=p[!is.na(p)] ps=rnorm(length(x),pna,1/sqrt(1000)*sqrt(pna*(1-pna))) b=data.frame(x=x,y=ps) reg=gam(y~s(x),data=b) yp=predict(reg,newdata=data.frame(x=seq(0,18,by=.25))) Y[,s]=yp if(s<100) lines(seq(0,18,by=.25),yp,col="light blue") } lines(seq(0,18,by=.25),apply(Y,1,mean),col="red",lwd=2) lines(seq(0,18,by=.25),apply(Y,1,function(x) quantile(x,.95)),col="red",lty=2) lines(seq(0,18,by=.25),apply(Y,1,function(x) quantile(x,.05)),col="red",lty=2) |
On voit que notre courbe lissée est réaliste, voire même les pseudo-bandes de confiance autour. Pour obtenir ces trois courbes, on peut utiliser la fonction suivante
courbe=function(j=1){ p=rate[,1+j] n=length(p) Y=matrix(NA,73,1000) for(s in 1:1000){ x=(1:n)[!is.na(p)] pna=p[!is.na(p)] ps=rnorm(length(x),pna,1/sqrt(1000)*sqrt(pna*(1-pna))) b=data.frame(x=x,y=ps) reg=gam(y~s(x),data=b) yp=predict(reg,newdata=data.frame(x=seq(0,18,by=.25))) Y[,s]=yp } data.frame( x=seq(0,18,by=.25), pred=apply(Y,1,mean), upr=apply(Y,1,function(x) quantile(x,.975)), lwr=apply(Y,1,function(x) quantile(x,.025))) } |
Sur les quatre colonnes de notre tableau, ça donne
plot(rate[,2],type="b",ylim=c(0,.8),xlim=c(0,20),col="white") Y=courbe(4) polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col=rgb(0,1,0,.4),border=NA) lines(Y$x,Y$pred,col="dark green",lwd=2) text(18.65,Y$pred[73],"JC",col="dark green") Y=courbe(3) polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col=rgb(0,0,1,.4),border=NA) lines(Y$x,Y$pred,col="blue",lwd=2) text(18.65,Y$pred[73],"NS",col="blue") Y=courbe(2) polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col=rgb(1,0,0,.4),border=NA) lines(Y$x,Y$pred,col="red",lwd=2) text(18.65,Y$pred[73],"FH",col="red") Y=courbe(1) polygon(c(Y$x,rev(Y$x)),c(Y$upr,rev(Y$lwr)),col="grey",border=NA) lines(Y$x,Y$pred,col="black",lwd=2) text(18.65,Y$pred[73],"EM",col="black") |
Pourquoi les instituts de sondages, qui produisent les courbes de popularité, ne montrent pas ce genre de courbes ? Elles sont – a mon avis – aussi justes que celles qu’ils fournissent, au centième près, jouant sur une précision que l’incertitude ne devrait pas autoriser…
de personnes fraudent le fisc. Et qu’une proportion 
aime Prince, va à la piscine une fois par mois, a un diplôme de l’enseignement supérieur, etc. Peut importe, la seconde proportion doit pouvoir être estimée sans problème avec une autre enquête (voire par le recensement). Bref, on a un estimateur de 
oui, vaste programme… Lorsque les enfants étaient petits, je me souviens avoir été maintes fois étonné par la profondeur des questions qu’ils pouvaient poser,
de voter pour A, sachant que l’on a alors une probabilité 
pour qu’une personne prise au hasard ne vote par pour A. Sur 
personnes interrogées, le nombre de personnes qui déclarera voter pour A est 
, qui suit une loi binomiale de paramètres 
, i.e.
,
désigne la fonction quantile de la loi normale centrée réduite; ou encore, en remplaçant les quantités inconnues par des estimateurs,
alors la loi a posteriori, sachant que sur 
la probabilité de voter pour R, et 
la probabilité de voter pour S. On note 
la probabilité de voter pour un autre candidat, 
.
et 
sont les fréquences empiriques obtenues à partir de 
personnes sondées, rappelons que
(hypothèse 
) car c’est finalement de ça qu’on parle ici, l’idée la plus naturelle serait d’introduire la statistique de test d’égalité des proportions,
=44.75%
=3.71 avec 2000 personnes interrogées. Sous 
= 10.436. La statistique de test est ici