Lorsque j’étais petit (il y a fort longtemps, à une époque où je regardais pas mal la télévision) il y avait une publicité pour les pastilles kiss cool,
Et quand je présente la régression multiple à mes étudiants, je ne peux m’empêcher d’y penser… Mais avant d’aller plus loin sur le parallèle, faisons un peu de mathématiques.
Les techniques de régression permettent d’avoir des jolis théorèmes, souvent d’une portée incroyablement générale (moyennant quelques petites hypothèses techniques). Par exemple le théorème de Frisch-Waugh, en régression multiple, dont j’ai déjà parlé dans des vieux billets. Un des corolaires est que lorsque les variables explicatives dans un modèle de régression sont orthogonales, la régression multiple correspond à une collection de régressions simples (autrement dit, les estimateurs par moindres carrés coïncident). Formellement, si on considère le modèley_i=\beta_0+\beta_1x_{1,i}+\beta_2x_{2,i}+\varepsilon_i(avec les hypothèses usuelles des modèles de régression) alors, si les variables x_1 et x_2 sont non-corrélées, \widehat{\beta}_1 coïncide avec \widehat{b}_1 dans le modèley_i=b_0+b_1x_{1,i}+\eta_iOn peut faire une petite simulation pour confirmer (sinon, bien entendu, on peut regarder la démonstration qui se trouve dans tous les livres d’économétrie, qui est d’ailleurs un simple résultat d’algèbre linéaire, ou de géométrie, avec des projections successives sur des sous-espaces orthogonaux – même si c’est à Michael Lovell que l’on doit l’approche géométrique).
library(mnormt) r = 0 S = matrix(c(1,r,r,1),2,2) n = 1000 set.seed(1) X = rmnorm(n,c(0,0),S) E = rnorm(n,0,.3) Y = 2+X[,1]-2*X[,2]+E base = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2])) |
Petite note technique: je vais centrer les variables, histoire de ne pas avoir à garder la constante dans mon modèle (qui va compliquer les notations, et potentiellement embrouiller un peu le billet). La constante est nulle ici, on le voit,
reg = lm(Y~X1+X2,data=base) summary(reg) Coefficients: Estimate Std. Error t value Pr(|t|) (Intercept) 7.449e-18 9.777e-03 0.0 1 X1 1.012e+00 9.171e-03 110.3 2e-16 *** X2 -1.988e+00 9.719e-03 -204.6 2e-16 *** |
Bref, je régresse sans constante
reg = lm(Y~0+X1+X2,data=base) summary(reg) Coefficients: Estimate Std. Error t value Pr(|t|) X1 1.011520 0.009166 110.3 2e-16 *** X2 -1.988321 0.009714 -204.7 2e-16 *** |
Maintenant, on va regarder les deux régressions simple
reg1 = lm(Y~0+X1,data=base) summary(reg1) Coefficients: Estimate Std. Error t value Pr(|t|) X1 1.01300 0.06006 16.86 2e-16 *** |
quand on régresse juste sur la première variable, et pour la seconde, on obtient
reg2 = lm(Y~0+X2,data=base) summary(reg2) Coefficients: Estimate Std. Error t value Pr(|t|) X2 -1.98916 0.03528 -56.39 2e-16 *** |
Autrement dit, nos estimateurs sont très proches (si on avait laissé la constante, ils coïncideraient).
Maintenant, le gros soucis est que ce résultat n’est plus valide lorsque les variables explicatives sont corrélées. Le théorème de Frisch-Waugh nous explique comment ces estimateurs divergent, mais le point ici est que si les variables sont corrélées, utiliser les régressions simples donne deux estimateurs biaisés des vrais paramètres (du modèle multiple). Recommençons l’exercice précédant
r=.9 S=matrix(c(1,r,r,1),2,2) set.seed(1) X=rmnorm(n,c(0,0),S) Y = 2+X[,1]-2*X[,2]+E base = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2])) reg = lm(Y~X1+X2,data=base) summary(reg) reg = lm(Y~0+X1+X2,data=base) summary(reg) Coefficients: Estimate Std. Error t value Pr(|t|) X1 0.98740 0.02205 44.79 2e-16 *** X2 -1.97321 0.02229 -88.54 2e-16 *** |
(on retrouve des valeurs proches de celles utilisées pour simuler nos données, donc tout va bien). En revanche, pour les régressions simples, on obtient
reg1 = lm(Y~0+X1,data=base) summary(reg1) Coefficients: Estimate Std. Error t value Pr(|t|) X1 -0.78784 0.02726 -28.9 2e-16 *** |
et
reg2 = lm(Y~0+X2,data=base) summary(reg2) Coefficients: Estimate Std. Error t value Pr(|t|) X2 -1.06543 0.01607 -66.31 2e-16 *** |
Autrement dit, \widehat{b}_1\neq \widehat{\beta}_1 (et pareil pour le second). Ce qui signifie que si on construit une prévision à partir de ce modèle, \widetilde{y}_i=\widehat{b}_1x_{1,i}+\widehat{b}_2x_{2,i}, on sera potentiellement très loin de la “bonne” prévision \widehat{y}_i=\widehat{\beta}_1x_{1,i}+\widehat{\beta}_2x_{2,i} (qui sera sans biais, etc, je renvoie ici vers n’importe quel cours d’économétrie). On peut le voir sur un dessin,
Yp=reg1$coefficients[1]*base$X1+reg2$coefficients[1]*base$X2 plot(base$Y,predict(reg),ylim=range(Yp),col=rgb(0,0,1,.5),cex=.7,xlab="observé",ylab="prédit") abline(a=0,b=1,lty=2) points(base$Y,Yp,col=rgb(1,0,0,.5),cex=.7) abline(lm(predict(reg)~base$Y),col="blue") abline(lm(Yp~base$Y),col="red") |
En bleu, on a les prévisions avec le modèle linéaire multiple, et en rouge, en faisant deux régressions indépendantes… Si on regarde sur la droite, le modèle rouge sur-valorise, ou disons sur-estime largement, alors qu’il sous-valorise à gauche. La différence entre les deux droites s’interprète ici comme un biais. Sur le graphique ci-dessous, on peut visualiser la distribution des \widetilde{y}_i=\widehat{b}_1x_{1,i}+\widehat{b}_2x_{2,i}, en rouge, et les \widehat{y}_i=\widehat{\beta}_1x_{1,i}+\widehat{\beta}_2x_{2,i} , en bleu. Cet excès de dispersion, de variance, qu’on observe sur les points rouges, j’interprète ça comme de la polarisation
plot(density(Yp),col="red")lwd=2) lines(density(predict(reg)),col="blue",lwd=2) |
En fait, ce que raconte le théorème de Frisch-Waugh (et je renvoie à mon précédant billet pour plus de détails), c’est qu’on a le droit de faire plusieurs régressions, mais en cascade ! et surtout pas indépendamment : je peux expliquer y avec la première variable x_1, et ensuite régresser le résidu (ce qu’on n’a pas pu expliquer) sur la seconde x_2. Cette méthode donnera la même prévision que le modèle multiple.
On peut aller un peu plus loin: on peut jouer sur la valeur de la corrélation, pour mesure l’écart entre les deux prévisions (ici je prévois pour une observation au hasard, la 78ème)
comp=function(r){ S=matrix(c(1,r,r,1),2,2) set.seed(1) X=rmnorm(n,c(0,0),S) Y = 2+X[,1]-2*X[,2]+E base = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2])) reg = lm(Y~0+X1+X2,data=base) reg1 = lm(Y~0+X1,data=base) reg2 = lm(Y~0+X2,data=base) y1=predict(reg) y2=reg1$coefficients[1]*base$X1+reg2$coefficients[1]*base$X2 c(y1[78],y2[78],(y2[78]-y1[78])/y1[78])} vR=seq(0,.98,by=.02) vc=Vectorize(comp)(vR) plot(vR,vc[3,]*100,ylab="Différence relative (%)",xlab="Corrélation",type="l") |
On prédit ici pour une observation avec un large y_i, ce qui correspondait à la partie de droite du graphique précédant (avec les points rouges et bleus).
C’est ce que j’appelle le deuxième effet kiss-cool. Quand on est dans le premier cas, avec les variables indépendantes (corrélation nulle, c’est à dire à gauche sur ma figure), on explique ce qu’on peut avec la première variable, et on rajoute l’impact de la seconde. Et \widetilde{y}_i\sim\widehat{y}_i. Le soucis ici est que je n’ai pas le droit de considérer deux modèles indépendants lors que les variables sont très corrélées. Une partie de l’explication fournie par la seconde variable était déjà inclue dans la première. Par exemple avec deux variables très (positivement) corrélées, la prévision qu’on obtient en ajoutant les deux effets estimés indépendamment avec deux régressions simple \widetilde{y}_i=\widehat{b}_1x_{1,i}+\widehat{b}_2x_{2,i}, on sur-estime de 50% à 70% la “vraie” prévision \widehat{y}_i=\widehat{\beta}_1x_{1,i}+\widehat{\beta}_2x_{2,i}.
Tous les chercheurs savent savent ça… on parle ici de résultats du tout premier cours de modèles linéaires. Et malgré tout, en pratique, on continue à utiliser cette seconde méthode. Un exemple bien connu est celui de l’évaluation (des étudiants, des chercheurs, peu importe). Par exemple, quand on évalue un dossier de financement pour un chercheur, on nous demande de mettre un score
- pour les publications scientifiques (nombre, qualité, etc)
- pour l’encadrement d’étudiants (nombre, niveau, etc)
- pour la qualité de l’environnement (prestige du labo, etc)
- etc
Et à la fin, on somme tout. Mais on le voit, ces variables sont très très corrélées: si vous êtes dans un labo prestigieux, vous attirez beaucoup de candidatures d’étudiants (et des bons), et avoir beaucoup d’étudiants va permettre d’avoir plus de publications (si on ajoute son nom comme co-auteur). Bref, on est typiquement dans un modèle à double (voire triple) effet kiss-cool. Quelqu’un dans un bon labo aura un bon score sur le troisième item, mais aussi un bon sur le nombre d’étudiants, et aussi sur les publications. Ajouter ces scores est stupide, car on a une spirale infernale (les bons sont sur-évalués, et les moins bon, sous-évalués), c’est ce que racontait mon premier dessin, avec les points rouges et bleus. C’est un effet clivant de polarisation forte.
Si on voulait faire les choses proprement, ce que dit le le théorème de Frisch-Waugh, c’est que les scores devraient être attribués en corrigeant de la corrélation entre les variables
- on peut commencer par calculer un score pour la qualité de l’environnement (prestige du labo, etc)
- à environnement donné, calculer un score pour l’encadrement d’étudiants (nombre, niveau, etc)
- à environnement donné, et à encadrement d’étudiants donné, calculer un score pour les publications
- etc
C’est comme la situation que je voyais en France, où on pouvait avoir une variable qui tenait compte d’un prestige du chercheur (par exemple, être chercheur CNRS donnait un bonus) et une autre sur le dossier de publications. Sauf que les deux sont corrélés. Et la plupart des classements d’universités sont construits à partir de scores qui sont loin d’être indépendants.
Bref, tant que l’évaluation se fera en sommant des scores qui sont construits sur des critères souvent très corrélés, on polarise fortement la population.
Est-ce gênant? A priori oui. Car le message que cela envoie est qu’il existe deux classes, les bons, et les mauvais, alors qu’en réalité, le niveau est beaucoup plus homogène qu’il n’y paraît. Un petit effet positif se retrouve démultiplié par le fait qu’il va se répercuter (positivement) sur plein d’autres variables. C’est mon effet kiss-cool. Mais on pourrait se dire que c’est un problème de distribution des notes finales. Si l’ordre est préservé, on pourrait se dire que ce n’est pas très grave. Malheureusement, ce n’est pas le cas.
Si on quitte un instant le cas de la corrélation très forte, les rangs des prédictions (c’est à dire les rangs des chercheurs une fois donnés les notes \widehat{y}_i ou \widetilde{y}_i ) sont moins corrélés si la corrélation sous-jacente est importante (mais pas trop)
comp=function(r){ S=matrix(c(1,r,r,1),2,2) set.seed(1) X=rmnorm(n,c(0,0),S) Y = 2+X[,1]-2*X[,2]+E base = data.frame(Y=Y-mean(Y),X1=X[,1]-mean(X[,1]),X2=X[,2]-mean(X[,2])) reg = lm(Y~0+X1+X2,data=base) reg1 = lm(Y~0+X1,data=base) reg2 = lm(Y~0+X2,data=base) y1=predict(reg) y2=reg1$coefficients[1]*base$X1+reg2$coefficients[1]*base$X2 cor(y1,y2,method="spearman")} vR=seq(0,.98,by=.02) vc=Vectorize(comp)(vR) plot(vR,vc,ylab="Corrélation de rangs",xlab="Corrélation",type="l") |
Autrement dit, si les variables x_1 et x_2 sont très peu corrélées, on a les mêmes rangs (globalement). En revanche, si la corrélation entre les variables x_1 et x_2 augmente, le rang des \widetilde{y}_i est de moins en moins cohérent avec celui entre les \widehat{y}_i (qui devrait être celui que l’on recherche).
Bref, il serait temps de comprendre enfin sérieusement les conséquences de ce joli papier, publié il y a presque 90 ans
and 
, what could we say about 
? For instance, the intuition is that if 
The interpretation is that if 
(either the company defaults, or not), so that
of binary responses, i.e. 
with 
taking values 1 or 2. Assume that probability 
can be function of some covariates.
such that 
if 
is lower than a given threshold, and 1 otherwise.
is a Gaussian random vector. This assumption can be used to derive the likelihood of a sample 
.
I wanted to upload here a small problem I started to work on…. unfortunatley, I could not find (yet) a proper answer. Any comments and suggestions are welcomed. The problem is simple: 
and 
. From Fréchet-Hoeffding bounds, we know that
. Further, correlation matrices are necessarily positive-semidefinite matrices.
will be a function of 
.
and 
) are functions of 
,
and 
.
, respectively describing global dependence (that can be related to 
from 
(but actually any positive distribution should work) and 
)
with a Bernoulli 
distribution
from copula 
if 
and 
if 
and 
, and 
In order to get a better understanding, I look at slices, for instance when 
. On the graph on the right, to dark area are values that can not be obtained since correlation have to be positive-semidefinite. Dots are points that have been obtained in a particular scenario. I have also included the convex hull if the points obtained with all the scenarios (here 50,000 scenarios), since I assume that the set of positive correlation is necessarily convex. Graphs below have been obtained when 
and 
.
Je vais prendre 10 minutes pour continuer la discussion amorcée 
