Suite à mon exposé d’hier, Pierre me demandait d’argumenter un point que j’avais évoqué oralement sans le justifier: “ une régression médiane passe forcément par deux points du nuage “. Par exemple,
x=c(1,2,3) y=c(3,7,8) plot(x,y,pch=19,cex=1.5,xlim=c(0,4),ylim=c(0,10)) library(quantreg) abline(rq(y~x,tau=.5),col="red")
Essayons de le justifier… de manière un peu heuristique. Commençons un peu au hasard, avec une droite qui passe “entre” les points (on admettra que la régression médiane sépare l’espace en deux, avec la moitié des points en dessous, la moitié au dessus, à un près pour des histoires de parité).
c’est joli, mais on peut sûrement faire mieux. En particulier, on va chercher ici à minimiser la somme des valeurs absolue des erreurs (c’est le principe de la régression médiane). Essayons de translater la courbe, vers le haut, ou vers le bas,
plot(x,y,pch=19,cex=1.5,xlim=c(0,4),ylim=c(0,10)) abline(a=-1,b=3.2,col="blue",lwd=2) for(i in seq(-2,3,by=.5)){ abline(a=i,b=3.2,col="blue",lty=2)}
Si on regarde ce que vaut la somme des valeurs absolues des erreurs, on a
d=function(h) sum(abs(y-(h+3.2*x))) H=seq(-4,6,by=.01) D=Vectorize(d)(H) plot(H,D,type="l")
Formellement, l’optimum est ici
> optimize(d,lower=-5,upper=5) $minimum [1] -0.2000091 $objective [1] 2.200009
Bref, retenons cette courbe, et notons qu’elle passe par un des points,
Et c’est assez normal. On commençait avec deux points au dessus, et un en dessous. Soit la somme des valeurs absolues des erreurs . Si on translate de
, on passe de
à
(tant que l’on a toujours deux points au dessus, car celui en dessous sera toujours en dessous). Si on translate de
,
(là encore tant qu’il n’y a qu’un point en dessous). Bref, on a intérêt à translater vers le haut. Si on dépasse le premier point rencontré, on se retrouve dans la situation inverse, avec un point au dessus et deux au dessous, et on a intérêt à redescendre. Bref, la translation optimale revient a s’arrêter dès qu’on croise un point. Autrement dit, la régression passe forcément par un point. Au moins.
Maintenant, essayons de faire pivoter la courbe autour de ce point, là encore afin de minimiser la somme des valeurs absolues des erreurs,
plot(x,y,pch=19,cex=1.5,xlim=c(0,4),ylim=c(0,10)) abline(a=optimize(d,lower=-5,upper=5)$minimum,b=3.2, col="blue",lwd=2) points(x[1],y[1],cex=1.8,lwd=2,col="blue") for(i in seq(-1,5,by=.25)){ abline(a=(y[1]-i*x[1]),b=i,col="blue",lty=2)}
La distance est alors, en fonction de la pente de la droite
d2=function(h) sum(abs(y-((y[1]-h*x[1])+h*x))) H=seq(-4,6,by=.01) D=Vectorize(d2)(H) plot(H,D,type="l")
Là encore on peut formaliser un peu
> optimize(d2,lower=-5,upper=5) $minimum [1] 2.500018 $objective [1] 1.500018
Et si on regarde cette dernière droite, on passe par deux points,
plot(x,y,pch=19,cex=1.5,xlim=c(0,4),ylim=c(0,10)) h=optimize(d2,lower=-5,upper=5)$minimum abline(a=(y[1]-h*x[1]), b=h,col="purple",lwd=2)
Pour comprendre pourquoi, comparons les deux cas,
- en faisant un pivot vers le bas, pour un des points, la valeur absolue des erreurs augmente alors que pour l’autre, elle diminue
- en faisant un pivot vers le haut, là encore pour un des points, la valeur absolue des erreurs augmente alors que pour l’autre, elle diminue, mais en sens inverse par rapport au cas précédent,
Et pour faire simple, dans le premier cas, le gain (sur la baisse) compense la perte, alors que dans le second cas, c’est le contraire. Bref, on a intérêt à pivoter vers le bas, ou vers le point à droite. Jusqu’à l’atteindre. Et optimalement, on passera par ce point. Bref, on passera par deux points. Et je laisse les plus courageux regarder avec plus de trois points, mais c’est toujours pareil…
oui, vaste programme… Lorsque les enfants étaient petits, je me souviens avoir été maintes fois étonné par la profondeur des questions qu’ils pouvaient poser,