Category Archives: Readings

Approches Statistiques du Risque

Il semble que l’ouvrage approches statistiques du risque, édité par Jean Jacques Droesbeke, Myriam Maumy-Bertrand, Gilbert Saporta et Christine Thomas-Agnan soit finalement paru, selon Gilbert Saporta. Ou devraient paraître – au pire – dans les jours à venir (je le vois pas encore sur le site de Technip). Les 400 pages reprennent les mini-cours que nous avions fait aux Journées d’Etudes Statistique de 2010, au CIRM, avec Patrice Bertail, Anne-Laure Fougères, Stéphane Loisel, Philippe NaveauEric Parent et Jean-Marc Tallon. Pour ma part, mes slides et mes notes de cours traînent quelque part sur le blog. Je garde un très bon souvenir de cette semaine de mini-cours, qui présentaient l’avantage d’être très complets, avec une introduction aux mesures de risques et aux lien avec la théorie de la décision, à la théorie du risque, aux notions simples d’extrêmes, de lois multivariés, et d’extrêmes multivariés, avec des applications en hydrologie, en santé, et en assurance. Avec bien entendu l’introduction historique de Jean Jacques. Même si les documents ont été écrits voilà déjà presque cinq ans, j’ai survolé mes chapitres il y a quelques semaines, et j’ai l’impression qu’ils restent d’actualité pour tous ceux qui s’intéressent au sujet (et ils sont nombreux me semble-t-il).

Jimmy, Mile End, et le Québec

Suite à mon billet sur Paul et le Québec, j’avais commencé une discussion (par courriel) avec Antoine, en France, qui voulait plus de références de bande dessinées québécoises. Or justement, pendant les fêtes je me suis offert Non-Aventures de Jimmy Beaulieu. Jimmy Beaulieu a fait plusieurs livres disons… sensuels, ces derniers temps, en plus de travailler sur Magasin Général, de Régis Loisel et Jean-Louis Tripp (je ne parlerais pas, pour l’instant, de cette série car si j’ai grand plaisir à la lire, je me méfie de Régis Loisel qui ne sait décidément pas clore ses histoires… j’ai adoré le premier cycle de la Quête de l’oiseau du temps, et sa superbe adaptation de Peter Pan, mais je n’ai pas aimé les ‘suites’. Mais on en reparlera peut-être un jour).

Dans Non-Aventures, on retrouve plusieurs (petites) histoires, détachées les unes des autres, avec comme seul point commun le fait d’être (comme le dit le sous titre du livre, des planches à la première personne). On retrouve ici quelques rééditions de vieux publications épuisées (ou presques) comme Le moral des troupes, ou Quelques pelures, mais aussi (me semble-t-il) beaucoup de dessins nouveaux.

Pourquoi j’en parle ici ? peut-être pour finir ma série sur la BD québécoise commence avec Guy Delisle et Michel Rabagliati. Avec Jimmy Beaulieu, on continue dans la BD québécoise autobiographique. Mais au lieu d’être de l’auto-dérision comme Guy Delisle ou nostalgique comme Michel Rabagliati, on est ici dans une mise en scène du quotidien. A Montréal (le plus souvent). Et on le vit avec lui… On se retrouve souvent dans plusieurs scène. J’avoue avoir beaucoup aimé sa description des balcons de Montréal (qui me semble très juste). Le livre de Jimmy Beaulieu est très beau, et souvent très sensuel…. Sinon, pour découvrir la vie de Montréal, je ne peux que recommander un livre paru voilà deux ans, Mile End, de Michel Hellman truffé de petites anecdotes. Si on aime déambuler dans Mile End, on sera davantage touché par certaines histoires, mais il suffit de vivre dans un quartier qui a une vie de quartier, précisément, pour apprécier le livre. Il y a par exemple cette délicieuse réflexion sur l’histoire des poteaux électriques, dans les rues (que l’on peut lire sur http://editionspowpow.com/bandes-dessinees/mile-end/…).

Sur la forme… on a l’impression de lire du Trondheim, et c’est toujours agréable ! Deux jolies bandes dessinées pour découvrir le Québec. Et promis, la prochaine fois, je parle d’économie ou de sciences… de choses plus sérieuses quoi !

Paul et le Québec

En mai 2004, j’étais à Québec pour une grosse conférence. Je me souviens avoir flâné dans les librairies, à la recherche de productions locales, en musique, et en bande dessinées. Le premier EP d’Arcade Fire était sorti, et (l’incroyable) Funeral allait sortir quelques mois plus tard, mais il allait falloir attendre la naissance de ma fille pour que j’achète les deux albums (étrangement, j’ai beaucoup écouté Arcade Fire à la naissance de ma fille, et je ne peux m’empêcher d’associer les deux). J’avais en revanche ramené dans mes valises Yanqui U.X.O. de Godspeed You! Black Emperor (je ne pouvais me douter que ça serait un tel choc, et aussi un sujet de discussion presque sans fin avec celui qui a été plusieurs années mon voisin, à Montréal). Mais je m’égare…. En 2004, j’avais ramené pas mal de titres des 400 coups et de La Pastèque, dont Paul en appartement qui venait de sortir. J’ai dévoré le titre pendant la conférence (pas pendant les exposés, c’était une de ces conférences incroyables où j’étais absorbé du premier au dernier exposé, où j’en rencontré beaucoup de monde, dont plusieurs futurs collaborateurs), et j’ai acheté dans la foulée les deux premiers, Paul à la campagne (sorti en 1998) et Paul a un travail d’été (en 2002). Il m’aura fallu plusieurs séjours au Québec pour comprendre certaines subtilités (dont un certain nombre d’expressions), mais j’ai fini par devenir un inconditionnel. Et justement, pour les fêtes, et pour célébrer les 15 ans du titre, une version format géant, et colorié de Paul à la campagne est sorti (il semble qu’en France, seul l’édition en noir et blanc soit disponible). Et ma femme l’a eut pour Noël… Une fois qu’elle l’avais lu, je me suis permis de lui emprunter. Pour faire simple et rapide, j’adore cette version couleur. On a l’impression de livre une BD de style BD belge telle que je l’adore, genre Yves Challand. Mais du Challand très québécois ! Avec beaucoup de nostalgie en plus… Ce n’est pas du même ordre qu’Approximativement, qui reste un gros choc de lecture (pseudo) autobiographique. J’étais peut-être aussi content de trouver une forme de relève à Monsieur Jean, que j’avais beaucoup aimé. En y repensant, la lecture de Paul est indissociable (dans ma mémoire) de la lecture du pavé Blankets de Craig Thompson (que j’ai du découvrir à la même époque, en français tout d’abord, avant de le lire enfin en version originale quelques années plus tard). Ce n’est pas comme relire les vieux Astérix ou écouter Patchanka (où je repense immanquablement aux lectures de mon enfance, chez mes grands-parents pour les premiers, ou sur mon walkman dans la voiture pour aller chez mes grands-parents, justement, pour le dernier). Je revois ici des situations pour lesquelles je ne peux m’empêcher de faire des parallèles avec d’autres que j’ai vécues. Et c’est une forme de nostalgie très agréable… Bref, cette version en couleur m’a enchanté ! et les enfants ont aussi beaucoup aimé, pour mon plus grand plaisir… Et comme le titre ne semble pouvoir se trouver qu’au Canada, je ne peux qu’encourager tous les français (de France) à venir faire un tour au Québec pour l’acheter…

Donner

Autant mettre les choses au clair assez rapidement. Dans ce billet, je ne pensais pas parler du sens mystique de Noël, mais plutôt revenir sur l’utilisation du participe passé féminin de ce verbe, souvent utilisé au pluriel: les données. Les données ont avant tout un sens ‘scientifique’, représentant des informations fournies qui vont permettre de donner une solution à un problème. Plus généralement, une donnée – que l’on pourrait assimiler a un fait – va servir de base, à un raisonnement. Mais ce qui va davantage attirer mon attention, c’est l’interprétation informatique de ce terme, où la donnée est une information élémentaire qui sera utilisée lors d’un traitement informatique – automatisé – des informations. En anglais, on parle de data, qui – si on en croit l’étymologie – parle aussi de don, comme forme plurielle du latin datum, donner. Euclide par exemple utilise Δεδομένα comme titre d’un de ses ouvrages. Bref, les données, dans leur sens mathématique, sont anciennes !

Il y a bientôt 3 ans, j’avais fait un rapide billet expliquant que l’ouverture des bases de données (notion d’open data) était souvent une fausse bonne nouvelle. Essentiellement car données reste un terme flou: beaucoup de services publiques se sentent une responsabilité (justifiée de mon point de vue) pour libérer, donner ces données. Mais les données sont trop souvent (trop) agrégées pour permettre une interprétation pertinente, à cause du fait que beaucoup pense qu’on leur vole quelque chose si on partage des données individuelles (même anonymisées). Et je voulais prendre un peu de temps aujourd’hui pour revenir sur cette idée de big data, dont tout le monde parle en se moment, et revenant sur quelques livres que j’ai lu récemment avec grand plaisir, dont le très bon Big Data, a revolution that will transform how we live, work and think !

  • Le changement de paradigme de la statistique

Les transformations informatiques des dernières années ont poussé – de mon point de vue – beaucoup de statisticiens à s’interroger sur le sens même de leur métier. Au point que pour un certain nombre, on ne devrait plus parler de statistician mais de data scientist. Je pense aussi que quelque chose de profond se trame. Lorsque j’étais encore étudiant, l’idée centrale de la formation en statistique reposait sur la notion d’échantillonnage : on disposait d’un jeu de données, https://latex.codecogs.com/gif.latex?\{x_1,x_2,\cdots,x_n\}, où chaque observation https://latex.codecogs.com/gif.latex?x_i peut être un ensemble d’observations,  disons https://latex.codecogs.com/gif.latex?x_i=(x_{1,i},\ldots,x_{k,i}). Pour chaque individu (noté https://latex.codecogs.com/gif.latex?i), on connaît sa taille, son poids (des informations quantitatives), son sexe (des informations qualitatives, ou catégorielles), son prénom (des informations textuelles), et d’autres choses plus complexes encore. Et à partir de ce jeu de données, le statisticien doit inférer quelque chose pour l’ensemble de la population. Car le jeu de données est obtenu sur un sous-ensemble (espéré représentatif) de la population. L’ironie – selon moi – a été que beaucoup de résultats obtenus reposaient sur des propriétés asymptotiques : si on a beaucoup de données (formellement si https://latex.codecogs.com/gif.latex?n\rightarrow\infty) alors on peut conclure des choses. A distance finie (si https://latex.codecogs.com/gif.latex?n n’est pas trop grand), on ne savait souvent pas trop quoi dire… Mais peut-être devrais-je prendre un exemple plus concret… Dans les modèles de régression, standard, on a une variable d’intérêt, que l’on note https://latex.codecogs.com/gif.latex?y pour la distinguer. Et on suppose que pour prédire https://latex.codecogs.com/gif.latex?y, on peut utiliser une variable dite explicative (que l’on continue par contre à noter https://latex.codecogs.com/gif.latex?x). On va alors supposer que

https://latex.codecogs.com/gif.latex?y=m(x)+\varepsilon

https://latex.codecogs.com/gif.latex?m(\cdot) est une fonction inconnue, et où https://latex.codecogs.com/gif.latex?\varepsilon est un bruit, un élément que l’on ne peut prévoir. On peut penser à n’importe quoi. Par exemple en physique, on lâche un objet à une certaine hauteur https://latex.codecogs.com/gif.latex?x, et on se demande combien de temps il mettra à tomber. Et on notera https://latex.codecogs.com/gif.latex?y ce temps. Si on ne connaît pas les travaux de Newton (et c’est l’idée de l’expérimentation scientifique), on fait plein d’expériences. C’est notre https://latex.codecogs.com/gif.latex?n. Et forcément, on fait des erreurs de mesures, c’est notre https://latex.codecogs.com/gif.latex?\varepsilon. Bref, on va pouvoir construire un modèle. Le premier point important ici est qu’en physique, les modèles (en tous les cas ceux que j’ai appris quand j’étais petit) sont assez simples, avec des fonctions https://latex.codecogs.com/gif.latex?m(\cdot) standards (on pourra argumenter sur le fait que ces fonctions sont devenues standards précisément parce qu’elles apparaissaient souvent en physique). Et les erreurs de mesures sont souvent faibles. En sciences humaines, c’est assez différent. Par exemple il peut exister une relation entre le poids d’une personne https://latex.codecogs.com/gif.latex?y et sa taille https://latex.codecogs.com/gif.latex?x. Mais à https://latex.codecogs.com/gif.latex?x donné, on peut observer beaucoup de variabilité parmi les https://latex.codecogs.com/gif.latex?y. Bref, il y a beaucoup de bruit (notre https://latex.codecogs.com/gif.latex?\varepsilon). On retrouve ici la distinction que fait Nate Silver entre le signal (la fonction https://latex.codecogs.com/gif.latex?m(\cdot)) et le bruit (la composante https://latex.codecogs.com/gif.latex?\varepsilon). Le second point sur lequel il convient d’insister est qu’en physique, il y a (souvent) une relation causale : je me donne un https://latex.codecogs.com/gif.latex?x (je peux d’ailleurs presque l’imposer dans une expérience), et il va induire un https://latex.codecogs.com/gif.latex?y. Quelque part, dans mon expérience, le https://latex.codecogs.com/gif.latex?y sera obtenu une fois le https://latex.codecogs.com/gif.latex?x fixé. En sciences humaines, c’est souvent différent : pour les tailles et les poids, je peux mesurer l’un avant l’autre, peut importe… Un point fondamental est que la corrélation importe plus que la causalité.

Bref, à partir d’un échantillon d’observations https://latex.codecogs.com/gif.latex?\{(x_1,y_1),\cdots,(x_n,y_n)\} (histoire de distinguer mes deux variables, et leur nature différente), on va construire un estimateur pour la fonction https://latex.codecogs.com/gif.latex?m(\cdot), que l’on note https://latex.codecogs.com/gif.latex?\widehat{m}(\cdot). Et classiquement, on peut faire des modèles pour un peu n’importe quoi. Les plus sceptiques pourront relire First crush the grapes, then crunch the numbers qui nous explique comme juger de la qualité d’un vin à l’aide de trois variables explicatives (objectives, liées au climat).

Classiquement, en statistique, on avait quelques variables explicatives, et des observations. Disons, classiquement plus d’observations que de variables pouvant intervenir dans le modèle. Mais pas non plus un nombre incroyablement élevé. L’explication classique dans les cours de statistique est que les enquêtes coûtent cher. Mais les choses ont changé. Et ce n’est pas qu’à ause d’internet (quand on pense big data on pense en premier à internet). En fait, en traitement d’images ou en génomique, on a commencé à voir des problèmes intéressants apparaître.

  • De la régression à la classification

Un autre type de modèle passionnant est celui où on dispose d’un ensemble d’observations  où cette fois la variable  est une variable binaire (pour simplifier), malade-infecté, vie-mort, rouge-bleu, positif-négatif, 0-1. Classiquement, la fonction précédant  sera remplacée par un score  que l’on pourra interpréter comme une probabilité. Plusieurs méthodes sont envisageables, allant d’une analyse discriminante, ou une régression logistique à une méthode par plus proches voisins.

On pourra aussi penser à une méthode par arbre de classifications, voire une forêt aléatoire remplie d’arbres,

Mais cet exemple est simple: on a deux variables explicatives, et une population de rouges et de bleus assez clairement séparée. On peut penser à des cas où la taille de  est énorme, et que la proportion de points rouges est faible. C’est le cas pour les tests pour détecter des cancers.

  • Gros mais vide

Classiquement, la grande dimension faisait peur. Tout le monde avait en mémoire la notion de malédiction de la dimension, “curve of dimensionsality” introduit par Richard Bellman en 1957,

all [problems due to high dimension] may be subsumed under the header the curse of dimensionality. Since it is a curse (…) there is no need to feel discouraged about the possibility of obtaining significant results despite it

En fait, comme le notait Charles Bouveyron, la grande dimension, ce n’est pas si simple, et les difficultés ne vont pas forcément croître avec la dimension. Considérons par exemple le volume d’une sphère de rayon 1, en dimension . On peut montrer que le volume est

Si on regarde cette fonction, effectivement, passer de la dimension 3 a la dimension 4 puis a la dimension 5 faire grossir la taille de notre boule. Mais passée la dimension 10, de manière surprenante, la dimension diminue… Amusant non ?

En plus (oui, depuis quelques semaines, j’aime jouer avec les sphères) on n’est pas n’importe où ! En fait, on a très peu de chances d’être au centre: on peu montrer assez simplement que si on tire des points au hasard dans la sphère unité, on a en fait de très très fortes chances d’être au bord de la sphère. Et le calcul est simple: la probabilité d’être a une distance supérieure a  (et donc d’être vraiment proche du bord) si  est

 lorsque 

(quelle que soit la valeur de ). Bref, les grands espaces, c’est grand, mais c’est rempli de vide !

Il y a plus de 5 ans, lors des journées UseR! à Rennes, Trevor Hastie avait fait un exposé brillant qui m’avait ouvert les yeux sur des problèmes que j’ignorais : les très grosses matrices sont souvent très vide, en évoquant l’exemple de la prévision pour Netflix ou Amazon (exemple repris dans  Big data, a revolution that will transform how we live, work and think dont je reparlerais dans deux minutes).

  •  Apprendre à partir des données, ou quand les données l’emportent sur le modèle

Le point important est d’oublier l’analyse causale, pour se focaliser sur les corrélations. C’est ce que font les économètres. Quand on fait un modèle pour calculer un score pour un crédit hypothécaire (je peux renvoyer à un billet évoquant un article écrit avec Stéphane Tufféry sur les aspects méthodologique), on ne cherche pas les variables qui peuvent causer un défaut de remboursement d’une dette, on cherche juste des variables corrélés à cette dernière. C’est un peu l’histoire de Google voilà quelques années, lors de leur étude sur la grippe. L’idée était d’utiliser les saisies de mots clés faisant penser à des symptômes grippaux pour détecter des épidémies, bien avant que les autorités sanitaires n’aient été informées !

David Patterson allait encore plus loin dans son article datant de décembre 2011, Computer Scientists May Have What It Takes to Help Cure Cancer, en ne parlant pas de diagnostique mais de méthode de guérison. En 2011, la Fair Isaac Coorporation (FICO), a proposé un score très intéressant, le Medication Adherence Score. Son but est de prédire si quelqu’un prendra les médicaments prescrits, ou pas. Il n’y a aucune analyse causale, avec des tests en laboratoires. Juste une analyse de corrélation, montrant par exemple que les personnes célibataires ont plus tendance à oublier de prendre leurs médicaments. Et le pouvoir prédictif semble incroyablement bon. On ne cherche plus de mécanisme causaux pouvant expliquer telle ou telle variable, juste utiliser des données à notre disposition pour inférer une réponse… En 2008, Chris Anderson disait que

the deluge deluge makes the scientific method obsolete (…) this is a world where massive amounts of data and applied mathematics replace every other tool that might be brought to bear (…) with enough data, the numbers speak for themselves“.

Pour ma part, je me contentait de voir un changement de paradigme dans la modélisation statistique, mais depuis longtemps, les économètres savent que la recherche de corrélations l’emporte sur une éventuelle analyse causale.

Pour comprendre l’importance des données, et de l’apprentissage à partir des données, Nate Silver prend l’exemple des échecs, et de Deep Blue. La force de l’ordinateur n’était pas son algorithme et sa stratégie de jeu. Mais surtout le fait qu’il avait en mémoire des milliers et des milliers de parties, et qu’il pouvait reconnaître des similitudes entre des situations. Pour reprendre l’explication donnée par Viktor Meyer-Schönberger et Kenneth Cukier,

(…) chess algorithms have changed only slightly in the past few decades, since the rules of chess are fully known and tightly constrained. The reason computer chess programs play far better today than in the past is in part that they are playing their endgame better. And they’re doing that simply because the systems have been fed more data. In fact, endgames when six or fewer pieces are left on the chessboard have been completely analyzed and all possible moves (N=all) have been represented in a massive table that when uncompressed fills more than a terabyte of data. This enables chess computers to play the endgame flawlessly. No human will ever be able to outplay the system.

Quelques paragraphes plus loin, Viktor Meyer-Schönberger et Kenneth Cukier parlent de la traduction automatique. Dans les années 50, le défi était de proposer un ‘correcteur de grammaire’, et avec le temps, l’idée d’un traducteur automatique se développa, essentiellement chez IBM. Une percée importante semble avoir été le projet Candide, où 10 ans de transcipts parlementaires canadiens, en français et en anglais, ont été utilisé. Soit environ 3 millions de phrases avec une traduction (de haute qualité, on parle ici de document juridique… il serait dommage qu’en jouant sur la langage on puisse passer de l’illégalité à la légalité). Google a poussé l’idée quelques années plus tard, on utilisant des bases plusieurs milliers de fois plus grosses que celles d’IBM. Comme le disent Viktor et Kenneth,

the reason Google’s translation system works well is not that it has a smarter algorithm. It works well because its creator (…) fed in more data – and not just high quality. Google was able to use dataset tens of thousands of times larger than IBM’s Candide because it accepted messiness. (…) Simple models and a lot of data trump more elaborate models on less data” (comme détaillé dans unreasonable effectiveness of data).

Ils évoquent aussi l’article d’Alberto Cavallo et Roberto Rigobon (voir l’article sur le site du MIT) qui, au lieu d’utiliser les indices de prix calculés par les instituts publics, ont proposé de collecter près d’un demi-million de prix de vente. Comme le soulignent Viktor et Kenneth,

the information is messy, and not all the data points collected are esily comparable. But by combining the big-data collection with clever analysis, the project was able to detect a deflationary swing in prices immediately after Lehman Brothers filed for bankruptcy in September 2008, while those who relied on the official CPI data had to wait until November to see it.”

Leur méthodologie est désormais implémentée dans le billion prices project. Un point intéressant et qui fait que le paradigme de la modélisation statistique a beaucoup changé, c’est qu’avoir plus de données (même très bruitées) semble plus intéressant que construire un bon modèle. C’est en tous les cas une des thèses défendues dans le joli livre de  Viktor Meyer-Schönberger et Kenneth Cukier. On pourra aussi relire deux articles qui ont fait du bruit data, data everywhere ou big data and the end of theory?.

Parmi les autres applications, on pourra aussi parler de l’utilisation de Google pour améliorer la prévision des marchés financier, avec plusieurs articles sur ce sujet en avril dernier, dont celui de Philip Ball Counting Google searches predicts market movementscelui de Bernhard Warner Big Data’ Researchers Turn to Google to Beat the Markets ou enfin celui de Richard Waters, Google search proves to be new word in stock market prediction.

Cela dit, comme le note Ian Ayres dans Super Crunchers, le principal intérêt des modèles de régression n’est plus sur la prévision, mais ils permettent toujours d’avoir des intervalles de confiance sur les prévisions. Ce qui peut être une information essentielle… Cela dit, j’avoue avoir moins aimé le livre, qui évoquait des choses que tout le monde connaît, et j’y ai beaucoup moins appris qu’à la lecture des deux autres livres (sauf peut-être le chapitre à la fin Are we having fun yet? mais qui m’a juste ouvert l’appétit). Et écrire un livre dont le message est (selon moi) qu’il faut que tout le monde ai un minimum de bon sens statistique ne fait que me caresser dans le sens du poil (et je préfère quand on me provoque un peu). Je pourrais aussi mentionner le livre de de Stephen Baker, The Numerati (et le blog associé,  http://thenumerati.net/) mais je n’ai pas fini de le lire, et je pensais lui consacrer une fiche de lecture exprès.

  • C’est quoi une donnée

Pour revenir à notre discussion, quand on pense donnée, on pense souvent à des chiffres. Mais comme le montre l’exemple de la traduction automatique, les textes sont aussi des données. J’ai fait à plusieurs reprises des analyses textuelles, et on peut faire mille fois mieux. Les localisations aussi sont des données (on pourra relire l’étude intéressante http://bbc.co.uk/news/… pour comprendre où les chats passent leurs journées). Les connexions sur Twitter aussi (en témoigne une analyse amorcée par Ewen il y a quelques mois)… etc. En ce sens, la notion de data analysis va probablement beaucoup plus loin que la modélisation statistique. Par exemple, mes faibles compétences en théorie des graphs ne me permettent pas de bien comprendre les relations et les inter-connexions dans les réseaux.

  • Des dangers de la granualarité trop faible, et l’open-data

Pour faire simple et provocateur, aller chercher les données qui nous intéresse permet de faire des choses fabuleux. Qui à faire tourner des robots pour aller les chercher, s’il le faut. Car les données qu’on nous donne sont rarement exploitables, malheureusement! Pire, elle donne souvent lieu à des interprétations fallacieuses. Parfois, les données comporte un biais de sélection. Le plus souvent, elles sont agrégées. Et de mon point de vue, rien de pire que les données agrégées. Les sociologues penseront à l’ecological fallacy. Pour ma part, je préfère le paradoxe de Simpson. Pensons à un journaliste de données qui voudrait faire une enquête sur les hôpitaux, pour publier un “classement des meilleurs hôpitaux“. Pour cela, il trouve des données mise en libre accès par un organisme publique. Par exemple

hôpital total survie décès taux de survie
hôpital A 1000 800 200 80%
hôpital B 1000 900 100 90%

L’hôpital B sera bien mieux noté, et bien mieux classé. Et ça semble normal… Maintenant, notre journaliste creuse un peu, appelle les deux hôpitaux, et obtient un peu plus d’information… Pour les gens qui arrivent à l’hôpital en voiture, ou en taxi, on a les statistiques suivantes

hôpital total survie décès taux de survie
hôpital A 600 590 10 98%
hôpital B 900 870 30 97%

alors que pour les personnes qui sont arrivées en ambulance, on a

hôpital total survie décès taux de survie
hôpital A 400 210 190 53%
hôpital B 100 30 70 30%

Bref, dans les deux cas, on a intérêt à choisir A. Étonnant non? Mais pas inexplicable mathématiquement, puisque l’on peut parfaitement avoir

et

(pour rappel, on s’intéresse à comparer des taux) tout en ayant

soit visuellement

Ceci peut aussi s’expliquer intuitivement, c’est qu’ici, l’hôpital B sélectionne ses patients (en demandant aux ambulances de ne pas apporter de cas graves chez eux pour ne pas faire chuter leur taux de survie). Comme le dit la loi de Goodhart, “quand une mesure devient un objectif, elle cesse d’être une mesure“. Et cet exemple est loin d’être le seul…

Bref, j’aime l’idée d’ouvrir les données, afin de permettre à tout à chacun de faire sa propre analyse. J’en avais parlé dans un article sur l’importance du do-it-yourself et pourquoi je suis pour l’open-source quand on code. Mais en amont, il faut des données. Et en ce sens, je pense que l’idée d’ouvrir les données est fabuleuse. Mais le résultat est – pour l’instant et le plus souvent – désastreux. J’ai toujours du mal à comprendre pourquoi je ne pourrais pas avoir accès à certaines données d’état-civil, qui sont supposées publiques, par exemple. Cela dit, en hackant un minimum, on peut aller trouver des données que l’on cherche. C’est ce que j’avais retenu de ma rapide étude sur le prix des billets d’avion, reprise quelques mois plus tard avec des données que je suis allé chercher en ligne. Bref, il y a moyen de s’amuser ! Et de réfléchir un peu à ce que j’enseigne dans mes cours de statistique, et ce que j’utilise comme compétences quand je veux faire un peu d’analyse de données, de freakonométrie pour reprendre le titre de mon blog…

  • Pour aller plus loin

Quelques livres passionnants pour commencer

mais surtout

qui va beaucoup plus loin que ce que j’ai pu évoquer, en particulier qui parle d’éthique, chose que je tiens à tout prix à éviter car je n’ai pas de pensée claire sur le sujet (penser à Minority Report de Philip K. Dick suffit à m’angoisser). Sinon parmi les événements,

  • La journée Big Data, organisée par l’Institut des Actuaires à Paris, début décembre (donc c’est passé)
  • Un débat sur le Big Data organisé en 2014 à Montréal, mais on en reparlera….

Hackers (par Steven Levy)

Ce soir, j’ai pris un peu de temps (au lieu d’avancer le corrigé pour mon examen) pour finir les dernières pages qui me restaient de L’Ethique des Hackers, traduction en français de Hackers: Heroes of the Computer Revolution, par Steven Levy. Et je vais prendre un peu de temps pour en parler ici, parce que ce livre m’a captivé (et poussé à en acheter d’autres car je suis resté sur ma faim, mais on en reparlera plus loin).

Avant de commencer, pour être honnête, je dois avouer que le style m’a un peu dérouté (surtout au début) et j’ai un peu regretté de ne pas l’avoir acheté en anglais. Le style m’a fait pensé à Tom Holland, par exemple, qui romance énormément l’Histoire. Par moment, on a des doutes, et on se demande s’il n’en fait pas un peu trop, en prêtant à ses personnages des propos fictifs, et imaginés. Mais d’un autre côté, cette humanisation permet de suivre davantage, et de rester accroché tout du long !

La première section est assez incroyable. Surtout pour moi qui connaît peu de choses sur les ordinateurs. Elle parle des hackers de Boston dans les années 60. C’est d’ailleurs fascinant de noter (ça reste vrai assez longtemps dans le livre) que le mot hacker est très souvent associé à hacker de matériel. Autrement dit, les hackers ne font pas du code, ils font avant tout de la soudure, du câblage, et du hardware. On comprend vite pourquoi le Tech Model Railroad Club du MIT – un peu exotique quand on y pense – était au cœur de cette bande ! J’étais content de retrouver des histoires que pouvait raconter André, un informaticien que je côtoyais quand je travaillais à l’INSEE, et qui avait connu l’époque des cartes perforées, et des gros algorithmes pour manipuler un fichier de recensement avec plusieurs dizaines de millions d’enregistrements. Car malgré tout, Levy parle un peu de code et d’algorithme, et surtout de collaboration : les codes sont libres, l’information doit circuler. Bref, Levy parle de choses qui me parlent énormément… Le seul reproche sur cette période est qu’il y a peu de photos.

Par exemple, j’ai découvert l’importance de Spacewar, jeu que l’on voit longuement évoqué… mais je me demandais en permanence: mais à quoi ça peut ressembler un jeu de fusées en 1960 (la seule photo est celle représentée au dessus) ? Eh bien, ça ressemble à ça…

Décevant, non ? un peu je trouve… La première partie est vraiment instructive, mais les étudiants de Boston passent pour des fous, autant prévenir. En fait, j’ai nettement préféré la seconde partie, correspondant aux années 70, sur la côte ouest cette fois, où on quitte le MIT pour Berkeley. D’ailleurs, en lisant cette partie, j’ai regretté de ne pas avoir eu le temps d’aller au Computer History Museum cet été, lorsque nous étions à San Francisco (il va falloir y retourner !).

Dans cette partie, on commence à parler de micro-informatique, de BASIC et de FORTRAN. Et de philosophie de l’informatique. J’y ai découvert la lettre de Bill Gates, datant de 1976 (il a alors tout juste 20 ans) qui pose des questions dont il est question dans tout le livre, sur la propriété des codes, sur les droits d’auteurs… autant de concepts qui me sont totalement étrangers, comme tous ceux qui passent sur le blog doivent noter. Je ne comprends pas quand quelqu’un met des © sur ses graphiques, ou quand quelqu’un me demande la permission d’utiliser mes codes dans ses notes de cours… J’avais eu une discussion avec Marin sur mon utilisation d’images sur mon blog (cela dit, j’ai supprimé mes images de Tintin) mais j’avoue que c’est un sujet qui me dépasse et que je ne comprends pas. Et en ce sens, lire sur le Homebrew Computer Club par exemple m’a permis de mieux comprendre ma philosophie vis à vis de l’informatique… J’ai appris à quel point le logiciel libre (je parle de logiciel, mais dans les années 70, on parle autant de hardware que de software) est au cœur de l’histoire de l’informatique (car plus qu’une histoire de hackers, c’est une histoire de l’informatique que livre Levy). Et au milieu de cette effervescence des années 70, en Californie, des gens comme Bill Gates sont des marginaux,

Toute la seconde partie du livre est réellement fascinante, autour de Steve Wozniak (entre autres) et du libre. La troisième partie est autour des jeux vidéos, et c’est un sujet qui me passionne moins, donc je passerais (même si j’ai appris plein de choses, et que la discussion sur la propriété et les licences commence réellement autour des jeux, on pensera aux pages sur les copies de PacMan pour ordinateurs, inspirés par les versions arcade).

Un bémol est qu’il s’agit de l’histoire américaine de l’informatique. Certes, cela englobe une grande partie de l’histoire, mais quitte à lire sur les logiciels libres, et sur la philosophie des hackers (ce qui Levy appelle éthique), j’aurais bien aimé voir apparaître des gens comme Linus Torvalds voire Eric Raymond. Cela dit, on a déjà 500 pages, et je dois avouer que j’ai appris plein de choses. Mon père m’a fait découvrir l’informatique dans les années 80, je me souviens avoir tapé du BASIC pour faire des jeux, et j’ai découvert l’informatique avant l’époque des logiciels propriétaires. Et je suis content d’avoir appris beaucoup de choses sur cette époque où les propos tenus par Bill Gates étaient les propos que peu de gens tenaient… J’ai aussi aimé lire un livre où le mot hacker n’était pas connoté négativement (je m’étais déjà énervé dans un précédant billet).

Bref, j’ai dévoré cette Ethique des Hackers (il faut dire qu’il fait froid en ce moment à Montréal, et que j’ai tendance à préférer le métro à mon vélo… ce qui me laisse plus de temps pour lire), et je vais probablement continuer, avec Where Wizards Stay Up Late sur l’histoire de l’internet… à suivre donc.

Pour la petite histoire, j’ai pris un coup de vieux le week-end dernier, quand j’ai voulu revoir (avec mon fils) War Games de John Badham (qui date de 1983). Le film m’avait beaucoup impressionné lorsque je l’avais vu, par son caractère science fiction (je pense que la réflexion sur l’utilisation de l’ordinateur m’avait alors échappé). En le revoyant, 30 ans après sa sortie, j’ai eu du mal à expliquer à mon fils ce qu’était une disquette (la 8 pouces, dans le film… même moi je n’ai pas connu ça), ou le bruit que faisait quand on se connectait sur internet… tiens, d’ailleurs, je ne vais pas bouder mon plaisir,

Surtout, dans le film, on y voit qu’un hacker est avant tout un hacker de matériel… tout comme le livre de Levy,

Bref, plusieurs expériences qui m’ont donné envie de me replonger dans l’histoire de l’informatique, pour en savoir plus ! A suivre donc !

Le guide du mauvais-père

Ça me démangeait depuis plusieurs mois, je vais commencer à mettre en ligne des posts pour raconter des coups de cœurs de lecture. Et je vais commencer par Le Guide du Mauvais Père, de Guy Delisle.

Oui, car autant le dire tout de suite, j’ai vite compris que ce livre était en fait ma biographie non autorisée ! Le Guide du Mauvais Père est le premier tome d’une (je l’espère) longue série. Pour la petite histoire, j’ai découvert Guy Delisle lorsqu’il a publié son Shenzhen, en 2000, à l’époque où – pour ma part – je vivais juste en face, sur l’île de Hong-Kong. Il y a ensuite eu le superbe Pyong Yang et surtout – quelques années plus tard – les Chroniques Birmanes, qui décrit le plus beau pays que j’ai traversé, et où je rêve de retourner ! Bref, j’adorais ses chroniques de vie à l’étranger, dans lesquelles je me suis beaucoup reconnu (autre occidental perdu en Orient). Mais je me souviens avoir lu aussi des petits strips qu’il avait publié alors qu’il vivait encore au Canada (car oui, je suis un bédéphile, ou ne pas dire bédéphage), il faudrait que je remette la main dessus, un jour.

Et pour mon anniversaire, ma femme m’a offert Le Guide du Mauvais Père que j’ai dévoré en quelques minutes ! Et j’ai souri tout du long, à force de me reconnaître constamment (quoi que, je ne joue pas avec la tronçonneuse…)

Les plus curieux pourront suivre son blog, http://www.guydelisle.com/blog/ mais je ne résiste pas au plaisir de mettre quatre planches, tirées de la première histoire… c’est tellement vécu cette histoire, j’ai presque honte !

Manifestement, Guy renie ses origines canadiennes, et la fée des dents est devenue la petite souris. Personnellement, ça aura été le cheminement inverse, avec mes enfants… ils ne parlent plus que de la fée…

Les images ont été trouvée sur https://facebook.com/, et je ne peux qu’encourager tout le monde à lire ce livre en entier pendant les vacances ! Le Guide du Mauvais Père, de Guy Delisle.

Des tablettes… aux blogs ?

 Je viens de finir ‘du scribe au savant‘ d’Yves Gingras, Peter Keating et Camille Limoges. Il m’aura fallu du temps car j’ai l’impression d’avoir de moins en moins de temps pour lire ces temps ci (ou alors des articles ou des rapports qu’il faut évaluer). Pourtant le livre est tout petit quand on y pense. Je veux dire par là qu’on part de la Mésopotamie à l’histoire récente (disons, jusqu’à 1850 environ), en parcourant l’histoire des maths, de la médecine, des sciences naturelles, etc. Forcément, c’est sobre et court, alors quand une section nous intéresse moins, on prend sur soi une page (ou deux maximum), et quand au contraire on se passionne, on reste un peu sur sa faim. J’y ai trouvé une porte ouverte vers plein d’ouvrages même s’il a fallu que je trouve des références par moi-mêmes: à la fin de chaque paragraphe, on attend une référence pour aller plus loin ! C’est un peu ce qui est fait dans le chapitre sur les romains (ce n’est pas le chapitre que j’ai préféré), mais les références sont plus sommaires dans les autres chapitres. J’ai adoré le premier chapitre, qui met en parallèle l’Égypte et de la Mésopotamie, et j’ai vraiment appris plein de choses. J’ai beaucoup aimé l’idée de mettre le scribe (spécialiste de l’écriture et attaché aux inventaires administratifs du royaume) à l’origine de la naissance de la science. Ce qui met un peu l’actuaire à l’origine de la connaissance et du savoir, « actuarius: scribe chargé de la rédaction des procès-verbaux », et j’aime quand on essaye de me raconter une histoire qui me caresse dans le sens du poil. J’ai adoré lire une page (voire deux) sur l’importance de la connaissance des régimes des vents (en fonction des saisons, et des hémisphères) pour les grandes explorations (point dont je n’avais jamais pris conscience, avant de le lire). Ou sur la naissance des universités en Europe (beaucoup moins religieuses que je ne le croyais, mais là encore, à peine deux références…). En plus les schémas sont sobres, et clairs. Ce livre parle du savoir, et de sa transmission (essentiellement en occident, là aussi je suis resté un peu sur ma fin, mai si le livre avait été plus gros, je pense que j’aurais eu peur). J’attends la suite – même si ça ne serait plus réellement un liste d’histoire – qui devrait arriver sur les modes contemporains de transmission du savoir. Avoir un point de vue d’historiens des sciences enrichirait la discussion. Bref, pendant 3 semaines, j’ai appris des choses, tous les jours, et j’avoue qu’on y prend gout !

De la rationalité et de l’esprit calculateur

Sinon un cours billet qui m’a été suggéré ce matin, en écoutant un sportif s’exprimer sur les ondes radios. Quand on parle (dans un papier ou dans un cours) de modélisation du comportement des agents dans des sitations complexes (je pense à de la théorie de la décision dans un environnement incertain, ou de théorie des jeux dynamique), une critique récurrente est que les agents ne peuvent pas être aussi rationnels et calculateurs !

J’ai été très surpris ce matin en entendant ce coureur du tour de France (ou cet entraineur je ne sais plus) qui expliquait avec une certaine forme de détachement qu’il serait possible de grapiller quelques seconde aujourd’hui, mais que ce n’était pas la stratégie car le parcours ne s’y prêtait pas, etc… Cette importance de la stratégie avait été souligné il y a quelque jours avec l’histoire des oreillettes, qui permettaient aux coureurs et aux entraîneurs d’élaborer leur stratégie en temps réel.
Avant-hier soir, j’ai fini un très beau livre “le tour des géants” de Nicolas Debon (chez Dargaud, en vente chez tous les bons libraires, ici, par exemple). A priori je n’ai aucune attirance pour le vélo, mais Nicolas s’en sert de prétexte pour raconter une histoire profondément humaine (exactement comme Jirö Taniguchi dans le sommet des dieux qui raconte une histoire de dépassement de soi, comme le tour des géants, d’ailleurs, sur fond d’alpinisme). En fait, pour ceux qui préfère plus de mots et moins de dessins, cette histoire peut être vue comme la mise en image du récit d’Albert Londres sur le Tour de France*.
Quand on compare avec le tour actuel, ce matin le coureur parlait de “repérages” d’étapes la veille… en 1910, la ville de départ et la ville d’arrivée étaient connues, et entre les deux, il fallait trouver son chemin (avec des épisodes de panneaux intervertis, etc). A côté, les coureurs surmédicalisés actuelement (pour prendre un terme plus neutre) passent pour des enfants de coeur ! Et surtout, ils sont incroyablement calculateurs et rationnels aujourd’hui (un peu comme les élèves qui optimisent leur choix de cours voire leur présence en TD en fonction des notes passées).
Loin de moi l’idée de faire du “c’était mieux avant” mais c’est juste que la comparaison est troublante….

L’idée était surtout d’argumenter un peu sur le fait qu’il n’est pas illégitime de supposer les agents rationnels et très calculateurs !
* la série de reportages a été publiée sous le titre tour de France, tour de souffrance et retrace le tour de France de 1924, alors que Nicolas Debon se situe un peu plus tôt, en 1910. Pour information, en 1910, il y avait 15 étapes pour 4 737 kilomètres, en 1924 15 étapes pour 5 425 kilomètres, et en 2008 (l’an dernier) 21 étapes pour une longueur totale de 3 559,5 kilomètres. En 1910, la vitesse moyenne du vainquer a été de 28,680 km/h, 24,250 km/h en 1924, et en 2008 on était à 40,492 kms/h. Bref, un tour avec des étapes très rapides, alors qu’en 1910, ça courait encore la nuit !