Somewhere else, part 95

Some writings worth reading,

So is economics in need of a major shake-up? Should we burn our existing textbooks and rewrite them from scratch? Actually, no. Without recourse to the economist’s toolkit, we cannot even begin to make sense of the current crisis. Why, for example, did China’s decision to accumulate foreign reserves result in a mortgage lender in Ohio taking excessive risks? If your answer does not use elements from behavioral economics, agency theory, information economics, and international economics, among others, it is likely to remain seriously incomplete. The fault lies not with economics, but with economists. The problem is that economists (and those who listen to them) became over-confident in their preferred models of the moment: markets are efficient, financial innovation transfers risk to those best able to bear it, self-regulation works best, and government intervention is ineffective and harmful. They forgot that there were many other models that led in radically different directions. Hubris creates blind spots. If anything needs fixing, it is the sociology of the profession. The textbooks – at least those used in advanced courses – are fine. Non-economists tend to think of economics as a discipline that idolizes markets and a narrow concept of (allocative) efficiency. If the only economics course you take is the typical introductory survey, or if you are a journalist asking an economist for a quick opinion on a policy issue, that is indeed what you will encounter. But take a few more economics courses, or spend some time in advanced seminar rooms, and you will get a different picture. [to be continued…]

avec quelques billets en français

Did I miss something?

Somewhere else, part 94

Some writings worth reading

What you have is an increasing number of brilliant PhD graduates arriving every year into the market hoping to secure a permanent position as a professor and enjoying freedom and high salaries, a bit like the rank-and-file drug dealer hoping to become a drug lord. To achieve that, they are ready to forgo the income and security that they could have in other areas of employment by accepting insecure working conditions in the hope of securing jobs that are not expanding at the same rate. Because of the increasing inflow of potential outsiders ready to accept this kind of working conditions, this allows insiders to outsource a number of their tasks onto them, especially teaching, in a context where there are increasing pressures for research and publishing. The result is that the core is shrinking, the periphery is expanding, and the core is increasingly dependent on the periphery. [to be continued…]

Let’s be honest, life is easier as a native English speaker. This is certainly true in science and academia, and it only really dawns on you when you work with non-native English users. Then, you get a glimpse into the extra obstacles they have to overcome, and you are suddenly very, very grateful that you are not expected to do the same in a foreign language. Learning to read and write in an academic discipline is hard enough in your own language, how about doing it in another language as well? [to be continued…]

and another R code, “Mapping Super Typhoon Yolanda (Haiyan) Track” http://alstatr.blogspot.ca/2013/11/… see

et comme régulièrement, un peu de lecture en français (nettement plus que ces dernières semaines)

Did I miss something?

Données, examen final

L’examen final du cours ACT2040 aura lieu, comme confirmé par courriel il y a plusieurs jours, le mercredi 11 décembre, pendant 3 heures. Il y aura surtout des sorties à commenter. Les sorties seront obtenues à partir des trois jeux de données suivants

> CORPOREL=read.table("http://freakonometrics.free.fr/corporel-2040.csv",header=TRUE,sep=";")
> tail(CORPOREL)
         degre age cat.age sexe vehicule anciennete alcool cat.alc
76336  indemne  45   40-49    M  voiture          6      0    0-20
76337 corporel  59   50-59    F  voiture          2      0    0-20
76338  indemne  34   30-39    F  voiture          2      0    0-20
76339  indemne  29   26-29    F  voiture          5      9    0-20
76340  indemne  64     60+    M  voiture          0      0    0-20
76341  indemne  57   50-59    F  voiture          1      0    0-20

Il s’agit d’observations d’accident automobiles, en Australie, la variable d’intérêt étant ici la gravité (le degré) de l’accident. Parmi les variables explicatives, l’âge du conducteur (en variable ‘continue‘ et en classes arbitraires) et son degré d’alcoolémie (en variable ‘continue‘ et en classes liées à des critères légaux, en g/10L), l’âge de la voiture, et le sexe du conducteur (M pour les hommes et F pour les femmes).

Le second jeu de données est un triangle de paiements, cumulés, avec la prime acquise, par année calendaire,

> load("http://freakonometrics.free.fr/triangle-intra.txt")
> intra
$triangle
        0     1     2     3     4     5     6     7     8     9
1988 5244  9228 10823 11352 11791 12082 12120 12199 12215 12215
1989 5984  9939 11725 12346 12746 12909 13034 13109 13113    NA
1990 7452 12421 14171 14752 15066 15354 15637 15720    NA    NA
1991 7115 11117 12488 13274 13662 13859 13872    NA    NA    NA
1992 5753  8969  9917 10697 11135 11282    NA    NA    NA    NA
1993 3937  6524  7989  8543  8757    NA    NA    NA    NA    NA
1994 5127  8212  8976  9325    NA    NA    NA    NA    NA    NA
1995 5046  8006  8984    NA    NA    NA    NA    NA    NA    NA
1996 5129  8202    NA    NA    NA    NA    NA    NA    NA    NA
1997 3689    NA    NA    NA    NA    NA    NA    NA    NA    NA

$primes
 [1] 15883 16689 18029 17858 16709 14212 15083 15131 15465 11217

en cas de soucis pour l’importation, il sera possible d’utiliser la commande

> source("http://freakonometrics.free.fr/triangle-intra2.R")

Enfin, le dernier jeux de données sera un peu plus insolite pour ce cours. Il s’agit de données de tables de mortalité, au Canada

> DECES=read.table("http://freakonometrics.free.fr/DECES-CAN.csv",header=TRUE,sep=";")
> tail(DECES)
     D   E   A    Y
772 84 147 105 2010
773 39  76 106 2010
774 23  40 107 2010
775 15  20 108 2010
776  7   8 109 2010
777  5   5 110 2010

Par année Y, on observe un certain nombre de personnes en vie E, d’âge A au 1er janvier, et un certain nombre va décéder dans l’année, D. Par exemple, en 2010, il y avait 147 personnes de 105 ans en début d’année, 84 vont décéder dans l’année. L’idée sera d’utiliser les modèles de provisionnement pour modéliser les probabilités de décéder.

Somewhere else, part 93

Some writings worth reading

et un peu de lecture en français,

  • merci @Maitre_de_conf pour la pensée de la semaine “tu sais que tu es fatigué quand tu réalises que tu t’acharnes contre la serrure d’un bureau qui n’est en fait pas le tien

Did I miss something?

Erdos, Facebook, et les réseaux (ou pourquoi il faut aimer ses profs)

Ambitieux programme, je sais. Et autant le dire tout de suite, ça risque fort de partir dans tous les sens…

Dans un précédant billet je parlais du nombre d’Erdős, qui est l’équivalent de la théorie des 6 poignées de main (qui semble être de 4.74 pour les personnes sur Facebook, ou peut-être encore moins sur Linkedin où j’ai constamment l’impression que j’ai des connaissances communes avec tout le monde !) pour des mathématiciens. Dans un cas, on nous dit que toute personne sur terre peut être reliée à n’importe quelle autre, au travers d’une chaîne de relations individuelles comprenant au plus cinq autres maillons. Dans le second cas, on nous dit que les chercheurs en maths peuvent se relier entre eux, via leurs coauteurs (en passant par Paul Erdős au pire). On peut d’ailleurs faire un calcul explicite, en ligne (je me suis rendu compte que j’étais plus proche de plusieurs médailles Fields que je ne le pensais…). Cela dit, coauteur de papiers, et amis sur Facebook, ce n’est pas la même chose (si j’en crois la manière dont certains collègues peuvent parler de leurs (anciens le plus souvent) coauteurs). Tout ça pour dire que le réseau d’un chercheur va bien au delà coauteurs. J’en parle d’autant plus volontiers qu’il y a beaucoup de collègues avec qui je m’entends très bien, avec qui j’ai pu passer des semaines de vacances quand on était au doctorat par exemple ou que l’on continue à croiser, avec ou sans enfants, qui passent faire un BBQ a la maison quand ils sont de passage à Montréal (quand ils ne squattent pas une semaine à la maison), etc. Bref, comme le disait une personne de mon jury de thèse, ‘le monde académique est petit‘ (‘tout petit‘ aurait dit David Lodge).

Pourquoi je raconte tout ça ? Ce matin, Luziadell me faisait découvrir (via Twitter) une ‘étude’ qui disait que “recruiters spend only 6 seconds reviewing an individual resume“. Ce qui m’a fait pensé à plusieurs discussions suite a mon billet du milieu de la semaine, où je disais (dans un commentaire) que je n’avais plus le temps de lire les CV que je recevais, comme beaucoup de collègues (faute de temps, mais aussi parce qu’on n’y comprends vite plus rien). Pour être plus précis (et plus honnête), si je ne lis plus les candidatures spontanées pour les stages, en revanche, je lis en détails les CV pour l’admission à la maîtrise et au doctorat (et pareil pour le recrutement, où on a moins de dossiers qu’en maths pures). Mais comme je le disais, souvent, je lis un CV et je ne sais pas trop quoi en penser… Et le secret, c’est le réseau ! C’est à dire qu’au lieu de me fier au CV, je vais essayer de voir si je connais un prof dans une formation qui aurait pu connaître l’étudiant, et j’essaye de le contacter. Je peux raconter une expérience qui commence à dater (il y a maintenant prescription) : lorsque j’étais enseignant à l’ENSAE, j’ai été sur un comité qui gérait les admissions sur titre (hors concours). Le but était, à partir de 50 dossiers, faire un classement. Classer les gens, à partir d’information différentes est difficile, et je me suis rendu compte que les notes comptaient, mais ce n’est pas ce qui était regardé en premier. Je me souviens que les personnes les plus seniors regardaient beaucoup les lettres de recommandation. J’ai été choqué sur le moment, trouvant que ce n’était pas juste. Mais avec le recul, je me rends compte que c’est au contraire le meilleur système (en combinant cette information avec les autres, cela va de soi). En contrepartie, il faut, bien entendu, ne recommander que si les étudiants le méritent (sinon notre recommandation perd tout crédit). Depuis, je recommande, toujours avec parcimonie, pour que mes étudiants trouvent des stages, ou soient admis sur dossier dans des formations. Et je pense que ça marche1… Maintenant je suis aussi lucide sur le fait que ma recommandation ne fait pas tout, loin de la. Mais il y a une forte corrélation entre les deux… heureusement.

Quand j’étais encore jeune, mon père m’avait expliqué que ce n’est pas le nom de la formation qui fait sa valeur, ce sont ses élèves. Avec l’expérience, je dirais que ce sont aussi ses enseignants2. Par exemple, là où j’enseigne, tous les cours sont données deux voire trois fois par an. Et pas par le même prof. Je suis exigeant. Très exigent. Et je sais qu’un étudiant qui a eu 80 avec moi aurait pu avoir 90 avec un autre. C’est injuste si l’on se dit que les employeurs ne se fient qu’aux relevés de notes. Mais je ne changerais pas mes standards pour autant3. Les profs assurent le prestige de la formation auprès des autres formations (compte tenu des échanges qui existent entre les institutions), mais aussi des employeurs. Ceux qui ne sont pas convaincu pourront relire l’article dans l’agefi.fr sur Nicole el Karoui, à “qui les les marchés lui disent merci !” pour avoir su “créer une formation unique en analyse quantitative, très prisée des salles de marché“. Et je pourrais en trouver d’autres ! Dans ce jeu triangulaire employeurs-enseignants-élèves, les enseignants jouent un rôle non négligeable !

L’an passé, il y avait eu des (grosses) manifestations au Québec contre la hausse des frais d’inscriptions (au moins au départ), et je n’ai jamais caché mon point de vue. Je n’aime pas l’idée de voir les étudiants venir des consommateurs à l’épicerie des diplômes, car j’ai l’impression que beaucoup (trop) d’étudiants cherchent un diplôme plus qu’une formation. Je suis toujours navré quand après plusieurs cours, les seules questions qui me sont posées sont “ça sera à l’examen ?”. Il faut arrêter de croire que le diplôme a un sens. Comme je le disais, on ne lit plus les CV, on ne regarde plus quel cours vous avez fait, on ne sait même plus comment juger les notes ! Par contre, si vous êtes soutenu par un enseignant, j’ai l’impression que cela ouvre des portes, que ce soit pour poursuivre des études ailleurs, ou pour trouver un travail intéressant… Moralité ? Aimez-vos profs ! (ou à défaut, respectez les un minimum)4.

1.Cela dit, un danger avec ce système est que parfois, les personnes qui ne lisent pas les CV ne prennent pas le temps de lire les recommandations. J’ai eu cette mésaventure une fois, car je dois avouer que j’ai du mal à dire non. Bref, un étudiant voulait absolument que je le recommande. J’ai accepté (en précisant – comme toujours – que j’enverrais directement la recommandation à l’employeur, afin de donner plus de cachet). Ma ‘recommandation‘ était de ne pas embaucher l’étudiant (la lettre était longue et argumentée).. et l’étudiant a été embauché..

2. Si j’osais un parallèle, je mentionnerais une phrase mentionnée dans how Google sold its engineers to managenent, qui disait “people don’t quit companies—they quit managers“, que je traduirait en disant que ce n’est pas la marque de la compagnie pour laquelle on travaille qui fait l’emploi, ce sont les collègues, et avant tout le manager. Transcrit en termes d’études, je disais que ce n’est pas le nom de la formation qui fait sa qualité, ce sont ces enseignants (qui en sont- quelque part – les managers).

3. Ce n’est pas rationnel car dans ce jeu, les professeurs sont évalués par les étudiants, et les évaluations fournies sont utiles pour la promotion des professeurs. Mais j’ai arrêté de lire les évaluations. Je veux dire que juger si un prof est dynamique, s’il est souvent en retard, etc, c’est une information intéressante, mais si on traîne un peu sur des sites comme http://ratemyprofessors.com/, par exemple, on voit que ça va beaucoup plus loin ! Je suis assez mal a l’aise quand un jeune de 22 ans dit que son professeur de probabilité ne connaît pas la matière alors que c’est une star sur le domaine, et que ses livres font références. Oui oui, c’est un exemple réel que j’ai pu voir… C’est amusant de traîner un peu sur ce site, on comprend mieux ce que cherchent les étudiants qui prennent le temps de remplir des évaluations (un prof sympa a l’examen qui place des jokes régulièrement). Par contre, pour revenir au point de mon paragraphe, être ‘juste’ sur les notes est important dans la mesure où je pars du fait que quand je mets une note, je donne une forme de recommandation…

4. et non, ce billet n’était pas (uniquement) destiné à l’étudiant qui m’a envoyé un courriel laconique hier “salut, c’est possible d’avoir les données pour le devoir ?

Actuary in 2010 (“the Future”)

I am getting old, some day, I will probably admit it. And I have been wondering, over the past months, if things have changed in the actuarial profession. And how. I have seen things changing in Europe, mainly due to Solvency II requirements, and I know that the ‘culture’ of actuarial studies is not the same in Europe and in North America (in Europe, as far as I know, student discover actuarial science in graduate programs, usually after a bachelor program in mathematics, or economics and business, with a strong quantitative background). But in North America, I had the feeling that actuarial studies are more ‘business’ than ‘mathematics’. So I wanted to get a better understanding of that feeling I had. When I was working on the associateship exams (while I was working as an actuary in Hong Kong), I remember reading the Loss Models, trying to get a better understanding of ruin theory and credibility concepts. But in the new edition, ruin theory has been removed, and I keep wondering when (in their studies) actuarial students in North America hear about solvency. I am still working on that, reading past syllabuses (or syllabi, I don’t understand what should be the plural) of the SOA preliminary exams.

Continue reading Actuary in 2010 (“the Future”)

Somewhere else, part 92

(picture via http://blogs.wsj.com/photojournal/2013/…)

Some writings worth reading

Rather, fixing peer review has to begin with you, the reviewer, telling yourself “maybe I would have done it another way myself, but it’s not my paper.” You need to adopt a mentality of “is it good how the author did it” rather than “how could this paper be made better” (read: how would I have done it). That is the whole of being a good reviewer, the rest is commentary. That said, here’s the commentary.” [to be continued…]

You can (try to) read the report here.  What grabbed my attention is the emphasis Deloitte places on “culture”, and so I read on. The first finding is that 65% of the sample believe there is a problem, but only half of these see an issue at their own institution.  Three quarters think that compensation was a significant factor in creating the problems, but only a quarter felt their own institution was at fault. At first sight these results seem wrong, there is agreement on the issue but most people are not taking responsibility.  With a bit of thought though, the results are coherent, if a third of the respondents worked at problem banks it is not unreasonable that two thirds of respondents recognise the fact.  However given the breadth of problems in UK banking – from leverage based speculation, through LIBOR/FX fixing, money laundering at overseas branches,  to retail mis-selling – I think the lay observer of UK banking has a right to raise their eyebrows at the results. When asked to identify “What went wrong” bankers identified the main causes as poor leadership and incentives, both issues that are within banks’ abilities to control and Deloitte sees these issues as being cultural.  Externally, bankers identified issues with light touch regulation but accepted that it was difficult for the regulator to retain the right skills to challenge the banks. I don’t disagree with these observations but I do think they highlight a significant issue.  The system appears to be based on carrots and sticks: rational utility maximisers will attempt to break the system and so have to be constrained by rules and sanctions.  I believe this carrot-stick dynamic is fundamentally unstable, not least because the people chasing the carrots are often faster than those wielding the sticks (the issue of the regulators competencies in complex, dynamic markets)” [to ve continued…]

Of the funds … in 1995, less than 40% still existed in 2013. The remaining funds closed/merged into other funds.” [to be continued….]

et un peu de lecture (ou d’enregistrements en français)

Did I miss something?

(une petite pensée pour les lecteurs de la presse française pour conclure)

Maudits Français…

S’il y a une tâche que je déteste par dessus tout dans ma vie d’enseignant-chercheur, à Montréal, c’est celle de traducteur de CV de Français. Assez (pour ne pas dire trop) régulièrement, on me demande de donner un coup de main pour décoder le CV d’un étudiant Français, à la recherche d’un “stage“. Sous prétexte que les Québécois parlent le français, beaucoup d’étudiants nous envoient des CV en français, malheureusement dans une langue qui ne parle qu’aux français (de France). On y entend parler de “CPGE” (souvent sans expliquer ce que cela signifie), de “Master” ou pire, de “Stage de Master 2”. Je me souviens de dialogues savoureux avec des collègues,

ça veut dire quoi ça M2 ?
– ça correspond à la deuxième année de maîtrise, en gros… [ndlr oui, LMD c’est un système qui n’existe pas en dehors de l’Europe, le reste du monde raisonne davantage en undergraduate et graduate studies je pense]
donc ils écrivent leur mémoire ?
euh, non, ils ont encore plein de cours, tu vois ça sur le relevé de notes…
ils suivent tant de cours que ça ?
en fait, un cours, je ne sais pas trop combien ça fait d’heures, mais c’est souvent une vingtaine… il n’y a pas marqué le nombre d’heures dans le relevé de notes ? [ndlr à Montréal, un cours c’est 45 heures, et quand on suit des études graduées, c’est rare d’en suivre beaucoup]
non… d’ailleurs, pourquoi il a suivi autant de cours de physiques ? il veut être ingénieur ou faire de la finance ? s’il veut faire de la finance, pourquoi il n’a pas fait une formation en finance, avec quelques cours d’économie plutôt ?
euh… c’est compliqué  c’est le principe des école d’ingénieurs en France… souvent les élèves regardent le “classement” des écoles et pas ce qui y est enseigné… donc tu peux rentrer dans une école d’électronique avant de te rendre compte que tu aimes la finance computationnelle [ndlr suit souvent une longue discussion sur les écoles, ou la variétés d’écoles, ce qui embrouille tout le monde, car toutes les écoles ont des noms proches, et qui fait que personne n’y comprend rien]
ah ? [ndlr je vais simplifier le message d’incompréhension qui suit mon long monologue]  et 14.23 c’est bien comme moyenne ?
ça dépend,  ne veut pas dire grand chose… tiens, regarde le classement
il n’y a pas de classement…
pfffff qu’est-ce que j’en sais moi….
s’il est bon, pourquoi il ne reste pas faire son mémoire en France ? si j’ai un bon étudiant en maîtrise, je le garde au moins jusqu’à la fin de son mémoire [ndlr oui, quand tout se passe bien, à Montréal, quand un étudiant est inscrit en maîtrise, il suit son directeur pendant les deux ans, ce dernier en contrepartie le finance]
– non, c’est pas un mémoire qu’il cherche, il veut un “stage”, c’est obligatoire… normalement tu le fais en entreprise, mais tu peux aussi le faire dans un labo universitaire
en entreprise? mais il a fini ses cours?
– ben oui, je pense
– pourquoi il travaille pas alors? il pourrait chercher un emploi, ça serait mieux payé
– en fait je crois qu’un stage, c’est une période d’essai pas cher, avant une embauche…. c’est un peu une arnaque, mais ça marche comme ça en France.
– c’est louche ton histoire. S’il veut travailler en entreprise ensuite, autant qu’il cherche un stage en entreprise, et s’il veut le faire dans un labo, c’est qu’il veut faire un doctorat par la suite ?
euh… effectivement, je sais pas trop….
bon, tu nous embrouilles avec tes français, on comprend rien, on va relire les CV reçus d’étudiants de Téhéran, au moins ils sont plus clairs !

Je pense que tous mes collègues qui sont passé par le système français, et qui sont maintenant à l’étranger (disons en dehors de l’Europe) ont tous vécu des histoires similaires. Les étudiants français sont souvent bons, mais ils sont incroyablement mauvais pour se vendre ! Je ne peux que conseiller aux étudiants de tenter de postuler pour faire des césures, des stages, des semestres à l’étranger ! Mais il fait comprendre que personne ne comprend rien à vos CV ! On reçoit des applications de toutes les régions du monde, et les CV de Français sont les plus durs à comprendre, car aucun effort n’est fait pour qu’un étranger le comprenne. Je ne dis pas que c’est simple. Sur http://fr.wikipedia.org/, il y a un schéma censé comparer le système d’éducation supérieur au Québec et en France (ou disons une version simplifiée de la France), qui éclaire un peu, mais il faudrait aller un peu plus loin. Peut-être faudrait-il traîner un peu en ligne pour voir des CV d’étudiants de maîtrise, voir des formats que l’on a l’habitude de recevoir. Les commentaires sont ouverts si quelqu’un a des suggestions… mais personnellement, j’en ai marre de faire le boulot et de ré-expliquer le fonctionnement d’un système que j’ai de plus en plus de mal à comprendre…

[ndlr to be continued….]

 

[mardi 26 novembre] Grâce à Emmanuel Davidenkoff, il est possible d’entendre ce billet ! on n’arrête pas le progrès ! (merci à Mathieu et @FrenchRedFrog qui me l’ont appris ce matin)

Binomial regression model

Most of the time, when we introduce binomial models, such as the logistic or probit models, we discuss only Bernoulli variables, . This year (actually also the year before), I discuss extensions to multinomial regressionswhere  is a function on some simplex. The multinomial logistic model was mention here. The idea is to consider, for instance with three possible classes

the following model

and

Continue reading Binomial regression model

Graduate Course on Copulas and Extreme Values

This Winter, I will be giving a (graduate) course on extreme values, and copulas (more generally multivariate models and dependence), MAT8595. It is an ISM course, and even if it will probably be given in French, I will upload information here, in English. I will upload the (detailed) syllabus of the course during the Christmas holidays. But to give an overview, for those willing to register, the first part of the course will focus on extreme value theory. The references will be

The second part of the course will be on multivariate distributions. The references will be

Specific references and more details about the chapters will be given during the course. I will upload exercises this winter, as well as a list of articles that will be used for projects. Examples will be illustrated using R functions from dedicated packages.

Grades will be based on exercises (homework), report (based on a published paper) and final writen exam.

Graduate Course on Time Series

This Winter, I will be giving a (graduate) course on time series, MAT8181. It is an ISM course, and even if it will probably be given in French, I will upload information here, in English. I will upload the (detailed) syllabus of the course during the Christmas holidays. But to give an overview, for those willing to register, the first part of the course will focus on linear models, univariate and then multivariate. The references for this first part are

In the second part, we will introcue non-linear models, used in financial econometrics, from ARCH to GARCH, as well as stochastic volatility models. The references for this second part are

[a pdf version can be found on Eric Zivot’s webpage]

Specific references and more details about the chapters will be given during the course. I will upload exercises this winter, as well as a list of articles that will be used for projects. Examples will be illustrated using R functions from dedicated packages.

Grades will be based on exercises (homework), report (based on a published paper) and final writen exam.

Probabilité et géométrie

Une des formules les plus importantes en probabilité (je trouve) est la “formule des probabilités totales” qui dit tout simplement que

que l’ont peut aussi écrire, à l’aide de la formule de Bayes

Une des conséquences de ce résultat est la “law of total expectation“, souvent appelé théorème de double projection,

que l’on écrit souvent sous la forme raccourcie  (dans la formule de droite, le premier symbole est un espérance, c’est à dire une intégrale, et donc un nombre réel, alors que le second indique que l’on travaille sur une espérance conditionnelle, c’est à dire une variable aléatoire). Mais comme toujours dans les relations simplifiée, il faut savoir de quoi on parle.

La démonstration est simple

soit

ou enfin

tout simplement.

L’interprétation est encore plus simple (pour utiliser un exemple que j’aime de plus en plus) : si est le poids d’une personne https://latex.codecogs.com/gif.latex%20?Y, et https://latex.codecogs.com/gif.latex%20?X le sexe, alors

https://latex.codecogs.com/gif.latex%20?\mathbb{E}(Y)=%20\mathbb{E}(Y\vert%20X=\text{H})\cdot\mathbb{P}(X=\text{H})+\mathbb{E}(Y\vert%20X=\text{F})\cdot\mathbb{P}(X=\text{F})

c’est à dire que le poids moyen d’une personne prise au hasard est un barycentre (damned, je fais déjà de la géométrie) entre le poids moyen des hommes et le poids moyen des femmes, les poids pour le calcul du barycentre étant liés aux proportions d’hommes et de femmes. Tout simplement.

Il existe une autre relation classique en probabilité (connue en statistiques sous le nom de “formule de décomposition de la variance”) qui dit que

Là aussi, on a une écriture un peu simplificatrice, que l’on va essayer de décortiquer un peu. Pour ça, le plus simple est de faire un peu de géométrie. Car oui, dans les espaces de variables aléatoire, on peut faire de la géométrique. En particulier des projections (orthogonales). Mais avant, de faire des projections, il faut des distances, des angles, une notion d’orthogonalité, etc.

  • Rappels de géométrie

Pour parler d’orthogonalité, il faut une notion de produit scalaire. Pour rappel, un produit scalaire, sur un espace https://latex.codecogs.com/gif.latex?\mathcal%20E, c’est défini par

  • une notion de symétrie https://latex.codecogs.com/gif.latex?%3C\vec%20x,\vec%20y%3E=%3C\vec%20y,\vec%20x%3E
  • de bilinéarité https://latex.codecogs.com/gif.latex?%3C\alpha%20\vec%20x+\beta%20\vec%20y,\vec%20z%3E=\alpha%3C\vec%20x,\vec%20z%3E+\beta%3C\vec%20y,\vec%20z%3E
  • de positivité, https://latex.codecogs.com/gif.latex?%3C\vec%20x,\vec%20x%3E%20\geq%200
  • et le produit scalaire est dit défini https://latex.codecogs.com/gif.latex?%3C\vec%20x,\vec%20x%3E=0 implique https://latex.codecogs.com/gif.latex?\vec%20x=\vec%200

De ce produit scalaire, on peut déduire une norme

https://latex.codecogs.com/gif.latex?\|\vec%20x\|=\sqrt{%3C\vec%20x,\vec%20x%3E}

En effet, on retrouve la propriété d’homogénéité, https://latex.codecogs.com/gif.latex?\|\lambda\vec%20x\|=\vert\lambda\vert%20\|\vec%20x\| (c’est pour ça que l’on prend la racine carrée), et https://latex.codecogs.com/gif.latex?\|\vec%20x\|=0 si et seulement si https://latex.codecogs.com/gif.latex?\vec%20x=\vec%200. On a aussi l’inégalité de Cauchy-Schwarz,

https://latex.codecogs.com/gif.latex?\|%3C\vec%20x,\vec%20y%3E\|%20\leq%20\|\vec%20x\|\|\vec%20y\|

qui va impliquer l’inégalité triangulaire

https://latex.codecogs.com/gif.latex?\|\vec%20x+y\|\leq%20\|\vec%20x\|+\|\vec%20y\|

On dira que deux vecteurs sont orthogonaux, noté https://latex.codecogs.com/gif.latex?\vec%20x\perp\vec%20y si https://latex.codecogs.com/gif.latex?%3C\vec%20x,\vec%20y%3E=0. Dans ce cas, on a la relation de Pythagore,

https://latex.codecogs.com/gif.latex?\|\vec%20x+y\|^2=%20\|\vec%20x\|^2+\|\vec%20y\|^2

Autre objet intéressant, la projection orthogonale. Rappelons tout d’abord que si https://latex.codecogs.com/gif.latex?\mathcal%20F\subset%20\mathcal%20E, on dira que https://latex.codecogs.com/gif.latex?\vec%20x\perp\mathcal%20F si https://latex.codecogs.com/gif.latex?\vec%20x\perp\vec%20yy pour tout https://latex.codecogs.com/gif.latex?\vec%20y\in\mathcal%20F. Et on notera

https://latex.codecogs.com/gif.latex?\mathcal%20F^\perp=\{\vec%20x\in\mathcal%20E;\vec%20x\perp\mathcal%20F\}

On a alors des résultats intéressants. En particulier, pour tout https://latex.codecogs.com/gif.latex?\vec%20y\in\mathcal%20E, il existe un unique https://latex.codecogs.com/gif.latex?\vec%20y_\star\in\mathcal%20F\subset%20\mathcal%20E tel que

https://latex.codecogs.com/gif.latex?\|\vec%20y-\vec%20y_\star\|=%20\inf\{\|\vec%20y-\vec%20z\|%20,\vec%20z\in\mathcal%20F\}

On peut aussi montrer que https://latex.codecogs.com/gif.latex?\vec%20y-\vec%20y_\star%20\in\mathcal%20F^\perp. On parlera alors de projection orthogonale de https://latex.codecogs.com/gif.latex?\vec%20y sur https://latex.codecogs.com/gif.latex?\mathcal%20F, et on pourra noter https://latex.codecogs.com/gif.latex?\vec%20y_\star=\Pi_{\mathcal%20F}(\vec%20y). Tout cela est assez standard dans les espaces de dimension finie (on pensera à https://latex.codecogs.com/gif.latex?\mathbb{R}^n pour avoir un peu d’intuition). On connait plein de choses sur les projections orthogonales, il suffit de penser dans https://latex.codecogs.com/gif.latex%20?\mathbb{R}^n pour avoir un peu d’intuition. Par exemple, si , alors

Cette relation est vraie dans https://latex.codecogs.com/gif.latex%20?\mathbb{R}^n, mais aussi dans des espaces plus généraux. C’est ce qu’on appelle le théoreme de double projection (on qu’on devrait voir réapparaître sur les variables aléatoires).

  • Géométrie dans les espaces de variables aléatoires

L’espace des variables aléatoires de variance finie – https://latex.codecogs.com/gif.latex?L_2 – peut être muni d’une telle opération, de produit scalaire,

https://latex.codecogs.com/gif.latex?%3CX,Y%3E=\mathbb{E}(XY)

La norme est alors https://latex.codecogs.com/gif.latex?\|X\|=\sqrt{\mathbb{E}(X^2)}. En fait, on voit qu’on s’avance sur un terrain glissant ici, car pour avoir un produit scalaire, il faudrait que https://latex.codecogs.com/gif.latex?%3CX,X%3E=0 si et seulement si https://latex.codecogs.com/gif.latex?X=0, et pour avoir une norme il faudrait que https://latex.codecogs.com/gif.latex?\|X\|=0 si et seulement si https://latex.codecogs.com/gif.latex?X=0. Le soucis technique ici est que https://latex.codecogs.com/gif.latex?\mathbb{E}(X^2)=0 signifie que https://latex.codecogs.com/gif.latex?\mathbb{P}(X=0)=1 et pas https://latex.codecogs.com/gif.latex?X(\omega)=0 pour tout https://latex.codecogs.com/gif.latex?\omega. Bref, l’égalité est a comprendre au sens presque partout. Mais c’est un point de détail (ici). Techniquement, comme l’explique justement Williams (1991) dans le chapitre 6, https://latex.codecogs.com/gif.latex?L_2 est précisément l’espace  (classique en probabilité) quotienté par cette relation d’équivalence .

Un sous-espace de https://latex.codecogs.com/gif.latex?L_2 est l’espace des constante, https://latex.codecogs.com/gif.latex?\mathbb{R}, que je noterais aussi https://latex.codecogs.com/gif.latex?s\{\boldsymbol{1}\}. On notera que, comme rappelé dans tous les cours que je donne

https://latex.codecogs.com/gif.latex?\mathbb{E}(Y)%20=\underset{c\in\mathbb{R}}{\text{argmin}}\{\mathbb{E}([Y-c]^2)\}

c’est à dire que

https://latex.codecogs.com/gif.latex?\mathbb{E}(Y)=\Pi_{s\{\boldsymbol{1}\}}(Y)

L’espérance est la projection orthogonale sur l’espace des constantes. Et

https://latex.codecogs.com/gif.latex?\text{Var}(Y)%20=\underset{c\in\mathbb{R}}{\text{min}}\{\mathbb{E}([Y-c]^2)\}

Un autre sous-espace de https://latex.codecogs.com/gif.latex?L_2 qui sera intéressant est le suivant. Si https://latex.codecogs.com/gif.latex?X\in%20L_2, on notera

https://latex.codecogs.com/gif.latex?s\{X\}=\{\tilde%20X=\psi(X)\in%20L_2,\psi:\mathbb{R}\rightarrow\mathbb{R}\}

Par exemple, on peut considérer une variable de Bernoulli, https://latex.codecogs.com/gif.latex?X=\boldsymbol{1}_Ahttps://latex.codecogs.com/gif.latex?A\subset%20\mathbb{R}. Dans ce cas, le sous-espace est équivalent au sous-espace des combinaisons linéaires,

https://latex.codecogs.com/gif.latex?sl\{X\}=\{\tilde%20X=\beta_0+\beta_1%20X;(\beta_0,\beta_1)\in%20\mathbb{R}^2\}\subset%20L_2

Techniquement, je pense que

https://latex.codecogs.com/gif.latex?\overline{\sigma\{X\}}%20\subset%20s\{X\}

mais il semblerait qu’on ait égalité stricte… Mais comme je veux parler de projection sans parler de l’espace https://latex.codecogs.com/gif.latex?\Omega, on va continuer avec mon interprétation heuristique, et je ne parlerais pas de https://latex.codecogs.com/gif.latex?\sigma\{X\}. Je fais des projections sur des sous-espaces de https://latex.codecogs.com/gif.latex?L_2, pas sur des https://latex.codecogs.com/gif.latex?\sigma-algèbres.

Si https://latex.codecogs.com/gif.latex?Y\in%20L_2, on posera

https://latex.codecogs.com/gif.latex?\mathbb{E}(Y\vert%20X)=\Pi_{s\{\boldsymbol{X}\}}(Y)

qui sera la solution du problème de moindres carrés

https://latex.codecogs.com/gif.latex?\mathbb{E}(Y\vert%20X)%20=\underset{X_\star\in%20s\{X\}}{\text{argmin}}\{\mathbb{E}([Y-X_\star]^2)\}

On notera que https://latex.codecogs.com/gif.latex?\mathbb{E}(Y\vert%20X)%20\in%20s\{X\}}, et on retrouve ici l’écriture standard d’un modèle de régression, https://latex.codecogs.com/gif.latex?\mathbb{E}(Y\vert%20X)%20=\psi(X). On parlera alors d’espérance conditionnelle. Qui est ici une variable aléatoire, par construction. En fait, l’unicité de la variable aléatoire est possible précisément parce que tout a l’heure, on définissait une égalité presque sure.

On avait rappelé le théor`eme de double projection tout a l’heure. Et comme https://latex.codecogs.com/gif.latex%20?s\{\boldsymbol{1}\}\subset%20s\{X\}, alors

https://latex.codecogs.com/gif.latex%20?\Pi_{s\{\boldsymbol{1}\}}(Y)=\Pi_{s\{\boldsymbol{1}\}}\big(\Pi_{s\{X\}}(Y)\big)

ce qui se traduit par la relation bien connue

https://latex.codecogs.com/gif.latex%20?\mathbb{E}(Y)=%20\mathbb{E}\big(\mathbb{E}(Y\vert%20X)\big)

En économétrie (linéaire) et dans les premiers cours de séries temporelles, on introduit un autre type d’opérateur car on ne projette pas dans des espaces aussi gros que https://latex.codecogs.com/gif.latex%20?s\{X\}. On introduit souvent l’opérateur d’espérance linéaire, avec

https://latex.codecogs.com/gif.latex?\text{EL}(Y\vert%20X)=\Pi_{sl\{{X}\}}(Y)

où (comme on l’avait introduit tout à l’heure)

https://latex.codecogs.com/gif.latex?sl\{X\}=\{\tilde%20X=\beta_0+\beta_1%20X;(\beta_0,\beta_1)\in%20\mathbb{R}^2\}\subset%20L_2

et pour les séries temporelles stationnaires,

https://latex.codecogs.com/gif.latex?\text{EL}(X_t\vert%20X_{t-1},X_{t-2},\cdots)=\Pi_{\overline{sl\{\boldsymbol{X}\}}}(Y)

Oui, si le processus est stationnaire, je peux régresser sur tout le passé, mais dans ce cas, je pense qu’il faut fermer l’espace afin de projeter dessus…

Bon, maintenant, on voit que mon interprétation géométrique est bancale… en effet, je ne peux définir mon espérance conditionnelle (voire mon espérance tout court) à l’aide de projections orthogonales que si je suis dans un espace muni qu’un tel opérateur. Et si https://latex.codecogs.com/gif.latex?L_2 est un espace de Hilbert, ce n’est pas le cas de https://latex.codecogs.com/gif.latex?L_1. Pourtant, nul besoin d’être dans https://latex.codecogs.com/gif.latex?L_2 pour définir une espérance conditionnelle… Je pense que l’astuce peut être de noter que si https://latex.codecogs.com/gif.latex?X appartient à https://latex.codecogs.com/gif.latex?L_1 mais pas https://latex.codecogs.com/gif.latex?L_2, on peut quand même s’en sortir car https://latex.codecogs.com/gif.latex?L_1 est un espace de Banach et on a malgré tout des notions de convergences. Et https://latex.codecogs.com/gif.latex?L_2 est dense dans https://latex.codecogs.com/gif.latex?L_1. Bref, en faisant un peu de limite, pour peut étendre ce qu’on vient de faire pour les variables qui ne sont pas de carré intégrable…

Visuellement (il serait peut-être temps de faire des dessins, non ?) on a

On voit apparaître un paquet de relations sur ce dessin, que ce soit des doubles projections, mais aussi le théorème de Pythagore. Mais prenons notre temps…

  • et la constante ?

Maintenant, si on regarde un peu détails, il y a des choses étranges. Par exemple https://latex.codecogs.com/gif.latex?X\perp%20Y se traduit ici par https://latex.codecogs.com/gif.latex?\mathbb{E}(XY)=0. Mais ce n’est pas ce qu’on utilise classiquement comme notion d’orthogonalité. On a davantage l’habitude de voir

https://latex.codecogs.com/gif.latex?\text{Cov}(X,Y)=\mathbb{E}(XY)-\mathbb{E}(X)\mathbb{E}(Y)=0

Qu’est ce qu’on a raté ? L’idée est de poser https://latex.codecogs.com/gif.latex%20?\vec%20x=X-\mathbb{E}(X), et https://latex.codecogs.com/gif.latex%20?\vec%20y=Y-\mathbb{E}(Y), c’est à dire que l’on va travailler sur les variables centrées. On peut noter que

https://latex.codecogs.com/gif.latex%20?\text{Var}(X)=\mathbb{E}([X-\mathbb{E}(X)]^2)=\|%20\vec%20x%20\|^2

et on va définir la covariance entre X et Y a partir des vecteurs translatés,

https://latex.codecogs.com/gif.latex%20?\text{Cov}(X,Y)=%3C\vec%20x,\vec%20y%3E

et la corrélation comme

https://latex.codecogs.com/gif.latex%20?\text{corr}(X,Y)=\frac{%3C\vec%20x,\vec%20y%3E}{\|%20\vec%20x%20\|\cdot%20\|%20\vec%20y%20\|}%20=\cos(\theta)

où https://latex.codecogs.com/gif.latex%20?\theta est l’angle entre les vecteurs https://latex.codecogs.com/gif.latex%20?\vec%20x et https://latex.codecogs.com/gif.latex%20?\vec%20y. On dira que https://latex.codecogs.com/gif.latex?X\perp%20Y si https://latex.codecogs.com/gif.latex%20?\vec%20x%20\perp%20\vec%20y (au sens géométrique du terme), qui correspond a la relation classique https://latex.codecogs.com/gif.latex%20?\text{corr}(X,Y)=0). Le théroreme de Pythagore nous dit que si https://latex.codecogs.com/gif.latex%20?\vec%20x%20\perp%20\vec%20y, alors

https://latex.codecogs.com/gif.latex%20?\|%20\vec%20x%20+\vec%20y%20\|^2=\|%20\vec%20x%20\|^2+\|%20\vec%20y%20\|^2

Ce qui se traduit par

https://latex.codecogs.com/gif.latex%20?\text{Var}(X+Y)=\text{Var}(X)+\text{Var}(Y)

si les variables sont orthogonales.

Maintenant, on était allé un peu plus loin tout a l’heure, avec des variables correspondant à des espérances conditionnelles. Par exemple, la formule de décomposition de la variance. On peut reprendre l’égalité du théorème de Pythagore, avec

https://latex.codecogs.com/gif.latex%20?\vec%20x=\mathbb{E}(Y\vert%20X)-\mathbb{E}(Y)

et

https://latex.codecogs.com/gif.latex%20?\vec%20y=Y-\mathbb{E}(Y\vert%20X)

On note facilement que https://latex.codecogs.com/gif.latex%20?\vec%20x%20\perp%20\vec%20y, car https://latex.codecogs.com/gif.latex%20?\vec%20x\in%20s\{X\} alors que https://latex.codecogs.com/gif.latex%20?\vec%20y\in%20s\{X\}^\perp, par construction de la projection orthogonale. Aussi le théorème de Pythagore nous dit que

https://latex.codecogs.com/gif.latex%20?\|%20Y-\mathbb{E}(Y)%20\|^2=\|%20\mathbb{E}(Y\vert%20X)-\mathbb{E}(Y)%20\|^2+\|%20%20Y-\mathbb{E}(Y\vert%20X)%20\|^2

Pour le terme de gauche, c’est assez facile,

https://latex.codecogs.com/gif.latex%20?\|%20Y-\mathbb{E}(Y)%20\|^2=%20\text{Var}(Y)

Pour le premier terme de droite, la aussi, c’est facile, car https://latex.codecogs.com/gif.latex%20?\mathbb{E}[\mathbb{E}(Y\vert%20X)]=\mathbb{E}(Y), par le théorème de double projection, et donc

https://latex.codecogs.com/gif.latex%20?\|%20\mathbb{E}(Y\vert%20X)-\mathbb{E}(Y)%20\|^2=\text{Var}(\mathbb{E}(Y\vert%20X))

Pour le dernier terme, a droite, c’est plus vicieux. Disons qu’on va l’identifier a une variance conditionnelle (je n’ai toujours pas défini formellement de variable aléatoire appelée “variance conditionnelle“), i.e.

https://latex.codecogs.com/gif.latex%20?\|%20\vec%20Y-\mathbb{E}(Y\vert%20X)%20\|^2%20=%20\mathbb{E}(\text{Var}(Y\vert%20X))

On retrouve alors la formule de décomposition de la variance, en variance intra et variance inter.

Cette formule est classique en statistique, en régression (les résidus sont orthogonaux a https://latex.codecogs.com/gif.latex%20?sl\{\boldsymbol{X}\}, on aura donc une partie de la variance qui sera expliquée par nos variables explicatives https://latex.codecogs.com/gif.latex%20?\boldsymbol{X} et une partie qui sera dite non expliquée) ou en crédibilité (je peux renvoyer cette fois à l’exemple des jeux de fléchettes de Philbrick (1982)). Promis, on reparlera de géométrie cet hiver, quand je ferais les lois multivariées en cours (avec cette fois des notions d’invariance, de rotations, de symétries, etc)

Research, and honesty

Some great thoughts about research… via Twitter

Wait… that one was actually a true story