Pourquoi certains chercheurs publient beaucoup, et d’autres moins ? ou de l’hétérogénéité dans une loi de Poisson (oui, le but principal du billet est de parler de la régression de Poisson).

Il y a une vingtaine d’années, Scott Long publiait un article intitulé ‘The Origins of Sex Differences in Science‘. Mais surtout, les données sont téléchargeables ici.
> library(foreign) > base=read.dta("http://www.ats.ucla.edu/stat/stata/examples/long/couart2.dta") > head(base) art fem mar kid5 phd ment 1 0 Men Married 0 2.52 7 2 0 Women Single 0 2.05 6 3 0 Women Single 0 3.75 6 4 0 Men Married 1 1.18 3 5 0 Women Single 0 3.75 26 6 0 Women Married 2 3.59 2
On dispose de plusieurs informations, recueillies auprès de 950 docteurs en biochimie. On a ainsi
- le nombre de publications au cours des 3 dernières années de leur doctorat,
- le sexe du docteur,
- son statut marital (marié(e) ou célibataire), a priori à la fin du doctorat,
- le nombre d’enfant(s) du docteur agé(s) de moins de 5 ans, là encore à la fin du doctorat
- le nombre de publications du directeur de thèse (appelé ici mentor) au cours des 3 dernières années
(on a aussi le prestige du département, mais je trouve cette variable trop subjective). Comme on fait un comptage de publications, on pourrait espérer voir une loi de Poisson.
> n=nrow(base) > lambda=mean(base$art) > compte=table(base$art) > N=as.numeric(names(compte)) > empirique=as.numeric(compte[as.character(0:19)])/n > theorique=dpois(0:19,lambda) > cbind(0:19,empirique,theorique) empirique theorique [1,] 0 0.3005 0.1839 [2,] 1 0.2688 0.3114 [3,] 2 0.1945 0.2636 [4,] 3 0.0918 0.1487 [5,] 4 0.0732 0.0629 [6,] 5 0.0295 0.0213 [7,] 6 0.0185 0.0060 [8,] 7 0.0131 0.0014 [9,] 8 0.0010 0.0003 [10,] 9 0.0021 0.0000 [11,] 10 0.0010 0.0000 [12,] 11 0.0010 0.0000 [13,] 12 0.0021 0.0000 [14,] 13 NA 0.0000 [15,] 14 NA 0.0000 [16,] 15 NA 0.0000 [17,] 16 0.0010 0.0000 [18,] 17 NA 0.0000 [19,] 18 NA 0.0000 [20,] 19 0.0010 0.0000 > plot(0:19,theorique,col="red",type="p") > lines(0:19,empirique,type="p",col="blue ")
Mais non… graphiquement, on est relativement éloignés de la loi de Poisson

avec en rouge la fréquence que l’on aurait eu avec une loi de Poisson (de paramètre la moyenne obtenue sur l’ensemble de la population), et en bleu, la fréquence empirique.
Un test rapide permettra de convaincre les sceptiques,
> library(vcd) > summary(goodfit(base$art,type="poisson")) Goodness-of-fit test for poisson distribution X^2 df P(> X^2) Likelihood Ratio 296.3715 13 1.381259e-55
Manifestement, il y a de l’hétérogénéité dans la population des doctorants. Il y a ceux qui publient beaucoup, ceux qui publient peu et ceux qui ne publient pas.
- Le sexe et le nombre de publications
Peut-être qu’en discriminant par le sexe, on aurait, par sous-populations, des lois de Poisson. Si on étudie la distribution du nombre de publications pour les hommes

versus la distribution du nombre de publications pour les femmes

ça ne semble pas suffire pour expliquer toute l’hétérogénéité. Même s’il semble y avoir une différence ne serait-ce que sur le nombre moyen de publications par sexe,
Là encore, on peut faire un test rapide de comparaison de moyennes
> t.test(base$art~base$fem) Welch Two Sample t-test data: base$art by base$fem t = 3.3298, df = 885.945, p-value = 0.0009049 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: 0.1692780 0.6552866 sample estimates: mean in group Men mean in group Women 1.882591 1.470309
Visiblement les deux sous-populations sont différentes, mais le critère du sexe ne suffit pas à expliquer l’hétérogénéité.
Maintenant, notons que le critère retenu est le nombre de publications. La stratégie des personnes de sexe féminin peut être de viser moins de publications, mais dans de meilleures revues. En
tous les cas, le sexe pourrait expliquer en partie (et en partie seulement) l’hétérogénéité observée.
- Le statut marital et le nombre de publications
On peut aussi comparer le statut marital, en particulier marié(e)

versus célibataire

Là encore, on peut comparer les moyennes, et faire un test d’égalité. Mais cette fois, l’influence est beaucoup plus faible que le sexe.
> t.test(base$art~base$mar) Welch Two Sample t-test data: base$art by base$mar t = -1.1869, df = 710.307, p-value = 0.2356 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: -0.4033993 0.0994165 sample estimates: mean in group Single mean in group Married 1.592233 1.744224
la différence entre les moyennes n’étant pas, ici, significative.
- Les enfants et le nombre de publications
Une variable probablement plus intéressante que le statut marital pourrait être le nombre d’enfants (moi qui finissait la rédaction de ma thèse alors que ma deuxième apprenait à marcher On a la distribution suivante pour le nombre de publications pour un(e) docteur(e) ayant au moins un enfant,

versus un(e) docteur(e) sans enfant,

Mais la encore, le test de comparaison de moyenne n’est pas vraiment concluant,
> base$kid=base$kid5>0 > t.test(base$art~base$kid) Welch Two Sample t-test data: base$art by base$kid t = 0.6136, df = 646.359, p-value = 0.5397 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: -0.1803154 0.3442384 sample estimates: mean in group FALSE mean in group TRUE 1.721202 1.639241
Certes, les docteur(e)s sans enfant publient plus, mais ce n’est pas non plus flagrant. On pourrait se dire que ce sont surtout les femmes qui ont eu des enfants qui sont pénalisées (la encore, car l’objectif est d’expliquer une quantité de publications), mais tout d’abord autant les hommes que les femmes répercutent le fait d’avoir eu, ou non, un enfant; mais surtout la variable de sexe est beaucoup plus discriminante que le fait d’avoir eu des enfants,
> baseH=base[base$fem=="Men",] > baseF=base[base$fem=="Women",] > t.test(baseH$art~baseH$kid) Welch Two Sample t-test data: baseH$art by baseH$kid t = 1.3831, df = 491.989, p-value = 0.1673 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: -0.1136025 0.6538074 sample estimates: mean in group FALSE mean in group TRUE 2.011628 1.741525 > t.test(baseF$art~baseF$kid) Welch Two Sample t-test data: baseF$art by baseF$kid t = 0.9525, df = 137.906, p-value = 0.3425 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: -0.1764049 0.5043375 sample estimates: mean in group FALSE mean in group TRUE 1.501466 1.337500
- Impact du directeur de thèse sur le nombre de publications
Une fois analysées les variables personnelles, si on regardait l’impact du directeur de thèse sur le travail de l’étudiant ? Qui sait, les variables pourraient être corrélées (je ne parle pas ici de relation causale). Par exemple, on peut regarder la distribution du nombre de publications pour un(e) docteur(e) ayant eu un directeur de thèse qui publiait peu (moins que la moyenne ici)

versus un directeur de thèse qui publiait beaucoup (plus que la moyenne),

Cette fois, on a une nette différence
> base$publis=base$ment>=9 > t.test(base$art~base$publis) Welch Two Sample t-test data: base$art by base$publis t = -6.7568, df = 497.017, p-value = 3.96e-11 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: -1.2506429 -0.6871632 sample estimates: mean in group FALSE mean in group TRUE 1.341338 2.310241
Un directeur de thèse qui publie semble avoir des étudiant(e)s qui publient aussi (ou réciproquement).
- Régression de Poisson et nombre de publications
La population était initialement très hétérogène. Trop hétérogène pour une loi de Poisson, avec une variance valant plus du double de la moyenne empirique,
> var(base$art)/mean(base$art) [1] 2.191358 > summary(glm(art~1,data=base,family=quasipoisson)) Call: glm(formula = art ~ 1, family = quasipoisson, data = base) Deviance Residuals: Min 1Q Median 3Q Max -1.8401 -1.8401 -0.5770 0.2294 7.5677 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 0.52644 0.03761 14.00 <2e-16 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 (Dispersion parameter for quasipoisson family taken to be 2.191389) Null deviance: 1817.4 on 914 degrees of freedom Residual deviance: 1817.4 on 914 degrees of freedom AIC: NA Number of Fisher Scoring iterations: 5
Si on régresse sur les différentes variables on retrouve les interprétations que nous avions eues,
> summary(glm(art~mar+fem+I(kid5>0)+ment,data=base,family=quasipoisson)) Call: glm(formula = art ~ mar + fem + I(kid5 > 0) + ment, family = quasipoisson, data = base) Deviance Residuals: Min 1Q Median 3Q Max -3.5080 -1.5615 -0.3626 0.5614 5.4494 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 0.338732 0.081482 4.157 3.53e-05 *** marMarried 0.149527 0.085110 1.757 0.07928 . femWomen -0.218643 0.074151 -2.949 0.00327 ** I(kid5 > 0)TRUE -0.250286 0.085834 -2.916 0.00363 ** ment 0.026000 0.002656 9.788 < 2e-16 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 (Dispersion parameter for quasipoisson family taken to be 1.837376) Null deviance: 1817.4 on 914 degrees of freedom Residual deviance: 1641.1 on 910 degrees of freedom AIC: NA Number of Fisher Scoring iterations: 5
On peut d’ailleurs faire une régression GAM avec une estimation par splines de l’effet du nombre de publications du directeur de thèse. Ce qui permet de légitimer le fait que la variable intervient de manière linéaire

On pourrait noter la concavité de la courbe qui semble sous-entendre qu’un directeur qui publie énormément peut toujours s’occuper de ses étudiants – et les faire publier plus qu’un directeur qui publie moins, mais en première approximation, la courbe peut être supposée linéaire.
On peut aussi regarder rapidement qui ne publie pas pendant sa thèse,
> summary(glm((art==0)~mar+fem+I(kid5>0)+ment,data=base,family=binomial)) Call: glm(formula = (art == 0) ~ mar + fem + I(kid5 > 0) + ment, family = binomial, data = base) Deviance Residuals: Min 1Q Median 3Q Max -1.1609 -0.9043 -0.7019 1.2697 2.5221 Coefficients: Estimate Std. Error z value Pr(>|z|) (Intercept) -0.28843 0.18591 -1.551 0.1208 marMarried -0.33565 0.18800 -1.785 0.0742 . femWomen 0.23697 0.15829 1.497 0.1344 I(kid5 > 0)TRUE 0.42957 0.19032 2.257 0.0240 * ment -0.08141 0.01261 -6.455 1.08e-10 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 (Dispersion parameter for binomial family taken to be 1) Null deviance: 1118.7 on 914 degrees of freedom Residual deviance: 1052.0 on 910 degrees of freedom AIC: 1062.0 Number of Fisher Scoring iterations: 5
Certain(e)s ont eu un enfant, et semblent avoir été pénalisé(e)s, mais si un doctorant n’a pas publié, c’est presque uniquement à cause de son directeur (qui publie peu).
Pour reprendre l’interprétation sur l’analyse du nombre de publications, par exemple, le fait d’être marié, ou pas, a peu d’influence sur le nombre de publications. Par contre les femmes – toutes choses étant égales par ailleurs – publient 20% de moins que les hommes,
> exp(glm(art~mar+fem+I(kid5>0)+ment,data=base, + family=quasipoisson)$coefficients[3]) femWomen 0.8036087
Par contre le fait d’avoir – ou pas – des enfants semble ici beaucoup plus fort, car les docteur(e)s qui ont eu au moins un enfant publient 25% de moins que ceux qui n’en ont pas eu.
> exp(glm(art~mar+fem+I(kid5>0)+ment,data=base, + family=quasipoisson)$coefficients[4]) I(kid5 > 0)TRUE 0.7785778
Aussi, une femme ayant eu un enfant aura publié 37% de moins qu’un homme qui n’a pas eu d’enfants. Toutes choses étant égales par ailleurs.
- Toutes choses étant égales par ailleurs ?
C’est ici qu’est l’arnaque, car rien ne garantie que toutes choses puissent être égales par ailleurs. Par exemple, une femme avec enfant (ou pas) peut elle avoir un directeur de thèse qui publie beaucoup ? N’y a-t-il pas un peu d’endogénéité cachée ?
Si on regarde le nombre de publications du directeur de thèse versus le sexe de l’étudiant,
> t.test(base$ment~base$fem) Welch Two Sample t-test data: base$ment by base$fem t = 2.7101, df = 901.2, p-value = 0.006854 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: 0.4587075 2.8673525 sample estimates: mean in group Men mean in group Women 9.532389 7.869359
on note que les directeurs de thèse des hommes publient plus que les directeurs de thèse des femmes. Autrement dit, si les femmes publient moins, c’est peut être parce que les directeurs de thèses qui pourraient les aider à publier ne les prennent pas en thèse, non ? Car il n’y a pas de lien entre le fait d’avoir ou pas des enfants à la fin de sa thèse, et le nombre de publications de son directeur,
> t.test(base$ment~base$kid) Welch Two Sample t-test data: base$ment by base$kid t = -1.5626, df = 499.06, p-value = 0.1188 alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: -2.5485856 0.2905184 sample estimates: mean in group FALSE mean in group TRUE 8.377295 9.506329
Bref, c’est manifestement le directeur de these qui influence le plus le nombre de publication d’un doctorant. Mais il serait intéressant d’avoir les memes statistiques 5 ans apres la soutenance…



















(correspondant à l’apport), on contracte un crédit pour une durée
, et on suppose que le taux pour le crédit est
, et que le taux d’inflation est
(la valeur de la maison peut augmenter dans le temps, mais aussi éventuellement baisser si la valeur de
, à son actif, le propriétaire possède la maison, d’une valeur
(ce qu’il touche s’il revend la maison, si l’on oublie les frais associés); et au passif, il doit rembourser à la banque un montant
, où
est le montant des remboursement effectues tous les ans, i.e. solution de
,









qui donne la distribution “typique” des notes. Autrement dit, la médiane est à 63,ce qui signifie que plus de moitie a une note qui est “bien“,”très bien” voire “excellent“. En revanche, une distribution comme celle dessous est considérée comme “dure et discriminatoire”
Pour mieux comprendre les notations au Canada et en France, j’ai voulu faire une petite étude (non, je ne reviendrai pas sur les notes). On continue aujourd’hui àtrouver ce genre de distribution à Montréal. Par exemple, si on considère les cours, analyse (en première année), algèbre linéaire et calcul, on a les histogrammes suivants









La loi de Benford (que j’avais pu évoquer 







puis on veut voir si l’autre indique le même pneu (s’il ment, il a alors une chance sur quatre de donner le même que son voisin). Cette intuition que la probabilité serait 1/16 est alors un peu surprenante. Cela correspondrait au cas où le professeur sait quel pneu avait éclaté, mais pas les étudiants (on retrouve le mythe que l’enseignant sait toujours tout). Ou au cas où trois étudiants étaient dans la voiture et que l’on demande que les trois répondent la même chose.
(histoire de formaliser un peu). Le but du jeu est dedeviner sur quelle face la pièce va tomber: si on devine bien, on gagne, sinon on perd. Et le but de mon billet est de comprendre quelle est la stratégie qu’il convient de mettre en œuvrer si on connaît, ou si on estime
.
, on prédit pile, sinon on prédit face (à chaque lancer si on fait plusieurs lancers consécutifs).
la variable correspondant à la valeur prise au lancer, disons 1 si on tomber sur pile et 0 sur face. Et notons
la valeur prédite. On gagne si
, et la probabilité de gagner est alors




. Considérons le polynôme
, dont les racines sont
et
, i.e sur
,


lancers, on a un échantillon
et on estime la probabilité de tomber sur pile par
(qui tire une loi uniforme sur le segment unité), pour la prochaine valeur, on prédit

, et la probabilité de gagner est alors

(comme auparavant). En revanche, dans le second cas, le calcul de la probabilité de gagner est








est la proba annuelle d’incident par an et par réacteur, en supposant les centrales indépendantes, la probabilité d’avoir un incident sur
réacteurs sur une durée de
années est


Comments