Monthly Review

A (nonexhaustive) list of writings worth reading, discovered in September.

Continue reading Monthly Review

Weapons of Math Destruction: How Big Data Increases Inequality

Weapons of Math Destruction est un livre passionnant, qui, comme le sous-titre l’indique parle de “big data”. Beaucoup de livres parus ces jours-ci parlent de big data. Le point de vue est celui de Cathy, ancienne professeur de mathématiques (après des études à Berkeley, elle a obtenu un doctorat à Harvard et enseigné au MIT lors de son postdoc), qui a travaillé sur les marchés financiers au moment de la crise de 2008 dans un hedge fund, avant de rejoindre RiskMetrics en 2009, comprenant qu’il était important de modéliser les risques financiers. Après avoir côtoyé le mouvement Occupy Wall Street, elle décide reprendre sa vie en main, en devenant Data Scientist. Elle a ainsi dirigé un des cursus de l’école de journalisme de Columbia tout en étant consultante en Data Science.

Son point de vue est particulièrement intéressant, car elle met en avant le lien entre la gestion des risques et le monde qui s’ouvre, autour du big data. Le premier est que les deux ont attiré massivement l’élite des étudiants, la finance entre 1995 et 2010, le monde de la donnée ensuite. Pour les deux, le “vrai monde” semble déconnecté de ce qu’ils manipulent: “the real world, with all its messiness, sits apart“. Ce qui pose la question centrale du livre, qu’est-ce qui sera l’analogue de la crise du crédit dans le monde de la donnée? Et pour Cathy, la réponse est simple. Dans la dystopie que nous promet le Big Data, les inégalités sont augmenter.

Il y a déjà les inégalités du côté des plateformes, avec des compagnies qui finissent par occuper des positions monopolistiques. Comme le note Cathy, il n’y a rien d’incroyablement intelligent dans le fonctionnement de Google, ou Facebook. Ces compagnies sont énormes parce qu’elles ont été là, au bon moment, mais le danger est leur voracité insatiable. Car à l’heure actuelle, la même entreprise gère nos courriers électroniques, nos recherches (de voyage, de musique, etc), nos réseaux sociaux, et peut ainsi évaluer, mais également contrôler notre monde.

Et au delà des plateformes, ce sont surtout les inégalités au sein de la population qui vont exploser. Cathy O’Neil illustre sa thèse à l’aide d’exemples particulièrement bien choisis. Par exemple la publicité ciblée permet à des publicitaires prédateurs d’atteindre de manière encore plus efficace les personnes les plus vulnérables à l’escroquerie. Les algorithmes utilisés par les ressources humaines créent des discriminations pires que celles qui pouvaient déjà exister. Et c’est exactement le même phénomène que l’on observe avec les police prédictive, où l’égalité devant la loi n’a plus de sens dans la réalité quotidienne.

La logique de ces algorithmes prédictifs est simple: les gagnants vont gagner, et les perdants vont perdre. Mais de manière sournoise, car invisible. Il n’y a pas de volonté délibérée et affichée, il n’y a plus forcément de policier raciste, ou de recruteur misogyne. Les inégalités se créent sans que personne ne s’en rende vraiment compte. Considérons une RH qui veuille définir un score de “succès” pour proposer des promotions, peut être basé sur un historique de succès observés dans les années précédentes. Si les données ne contiennent que peu de femmes (car peu avaient, historiquement, des postes à responsabilité) l’algorithme pénalisera les femmes. Et la spirale va commencer. Il y en aura de moins en moins dans la base, et elles seront de facto davantage pénalisées. Le livre foisonne de petits exemples qui illustrent parfaitement son propos, car ce phénomène existe partout. Les programmes visant à réduire la criminalité font en fait augmenter la criminalité dans les régions les plus pauvres. Si les quartiers pauvres ont plus de crimes, il y a aura davantage de policiers, qui feront alors davantage d’arrestation, etc. Les inégalités sont exacerbées, car les modèles manquent de boucles de rétroactions.

Une fois posés tous ces problèmes, on est en attente de solutions. Et le tableau que dresse Cathy n’est pas très réjouissant. On retrouve le phénomène décrit par la loi de Goodhart, “quand une mesure devient un objectif, elle cesse d’être une mesure”. Les plus malins comprennent la logique de l’algorithme, et finissent par pervertir l’évaluation. C’est le cas des évaluations des élèves dans les écoles américaines, où les instituteurs sont incités (par l’algorithme) à tricher pour aider leurs élèves à avoir des bonnes notes, pour faire remonter l’école dans le classement. Mais il n’est pas surprenant qu’il n’y ait pas de recette miracle, car le problème est profond. Comme le note Cathy O’Neil, “the model is optimized for efficiency and profitability, not for justice or the good of the ‘team.’ This is, of course, the nature of capitalism“.

A la lecture du livre, on comprend la logique dans le parcours de Cathy, sa logique de rejoindre Occupy après avoir vécu de l’intérieur la crise du crédit. On y entend un appel à la conscience des Data Scientist. Leur rappelant que la construction d’un “bon” modèle ne doit pas se faire sur des critères statistiques, mais doit aussi tenir compte d’une notion d’équité. Ce qui rejoint les débats que nous avons au sein de la chaire, lorsque nous essayons de réintégrer la notion de mutualisation lorsque les actuaires font de la segmentation tarifaire. Bref, ce livre est indéniablement le livre qu’il convient de lire en cette rentrée.

La prévention est probablement le seul levier sur lequel les assureurs peuvent utiliser les données personnelles

Interview sur le site de l’Institut Louis Bachelier.

Generali France – filiale française de l’assureur italien – lance le programme Vitality à partir du 1er janvier 2017. Ce contrat d’assurance santé prend en compte pour la première fois des informations personnelles (alimentation, poids, mode de vie…) renseignées directement en ligne par l’assuré.

Cette offre d’assurance santé sera proposée aux entreprises qui souhaitent y adhérer, tandis que leurs salariés pourront y souscrire sur la base du volontariat.

À partir des données collectées, le programme Vitality propose des recommandations aux assurés pour améliorer leur bien-être. Les bons comportements seront ensuite récompensés par des cadeaux et des bons d’achat chez les partenaires commerciaux de Generali. Cette démarche permet ainsi de contourner l’interdiction légale de baisser les tarifs des assureurs les plus vertueux.

Alors que ce contrat d’assurance suscite des critiques de la part de consommateurs, Arthur Charpentier, responsable scientifique de l’initiative de recherche « Valorisation et nouveaux usages actuariels de l’information » a répondu à nos questions. Interview.

Generali s’attaque au marché de l’assurance santé collective en se basant pour la première fois sur le comportement, quel est votre sentiment sur ce nouveau produit d’assurance ?

Le lancement d’un produit d’assurance santé, qui analyse les données personnelles, ne constitue pas une surprise en tant que telle. Beaucoup d’observateurs s’y attendaient, car depuis deux ans la plupart des acteurs du secteur sont en réflexion sur ce sujet. Par ailleurs, il faut noter que des produits d’assurance automobile – qui relèvent les données liées à la conduite via un boitier télématique – existent déjà.

Oui, mais l’assurance santé est une problématique assez sensible en France.

Certes, mais il est légitime pour Generali de mettre un pied dans l’assurance santé collective, à travers la collecte de données. C’est un marché très important qui complète le régime de base de la sécurité sociale.

Ce produit d’assurance relativement segmenté remet-il en cause le principe de mutualisation caractérisant le secteur de l’assurance ?

L’assurance est un mécanisme solidaire de transfert des risques entre des assurés et des assureurs, où les conditions dont la prime sont fixées en début de période. Dans ce contexte, la tarification des contrats d’assurance est basée sur une prévision, faite ex-ante, qui ne peut pas être remise en cause durant la durée de vie du contrat (souvent un an).

Toutefois, sur les plans économiques et actuariels, le principe de mutualisation n’est pas « juste », ce qui explique l’apparition d’un début de segmentation sur certains produits d’assurance, en particulier automobile pour les particuliers.

En outre, les assureurs se sont déjà engouffrés dans des brèches en faisant payer davantage les assurances santé des personnes qui portent des lunettes par exemple.

Generali évoque la prévention dans sa communication autour de son nouveau produit. Cet argument est-il pertinent ?

La prévention est probablement le seul levier sur lequel les assureurs peuvent utiliser les données personnelles. C’est sur ce créneau qu’ils ont un coup à jouer, car la prévention confère des gains à l’ensemble de la collectivité (assureurs, assurés, pouvoirs publics). D’autant plus que sur le plan actuariel, le système de prévention est sain et juste.

Néanmoins, certains aspects peuvent être discutables comme encourager la pratique d’un sport : si la pratique sportive réduit les risques cardiovasculaires ou l’obésité, elle augmente les risques de fractures.

D’une manière générale, les assureurs donnent tout de même l’impression de vouloir être intrusif. Qu’en pensez-vous ?

Classiquement, les assureurs utilisent des proxy de variables non observables pour deviner le comportement des assurés, comme l’âge du conducteur principal ou la couleur du véhicule en assurance automobile. Dans le futur, les assureurs voudront certainement utiliser des variables directement liées aux modes de vie (alcool, fatigue…), ce qui est plutôt logique économiquement.

Que se passerait-t-il pour les personnes qui ne souhaiteraient pas divulguer des informations aussi personnelles ?

Les assurés qui communiqueront leurs données personnelles auront des incitations à le faire. Dans le cas de Generali, les assurés, qui prendront des engagements quant à leurs habitudes de vie, obtiendront des cadeaux et des bons d’achat chez des partenaires de l’assureur. Néanmoins, les personnes qui ne voudront pas donner accès à des informations personnelles pourraient être pénalisées, ce qui serait contraire à l’éthique.

Plus globalement, les assurés peuvent-ils craindre pour leur vie privée ?

Il ne faut pas faire preuve de naïveté, les assureurs disposent de beaucoup moins de données personnelles que les banques ou les opérateurs de téléphonie. Sans parler des géants du web comme Facebook. Il n’y aura donc pas davantage de flicage. Par exemple, dans le cas de Generali, les données qu’ils collecteront ont déjà été certainement divulguées par les assurés à d’autres.

En revanche, il reste encore beaucoup d’incertitudes au niveau de la CNIL (Commission nationale de l’informatique et des libertés) qui n’a pas encore clarifié sa politique sur ce sujet. La législation peut ainsi évoluer très rapidement, car c’est un chantier énorme avec beaucoup de parties prenantes. Par conséquent, les assureurs continuent de s’interroger sur la manière d’exploiter le Big Data.

Reprise du cours de Statistique

Le cours de statistique a repris cette semaine. Parmi les références qui peuvent être utiles (certains ouvrages sont disponibles en pdf, mais il semble illégal de pointer vers les pdf)

J’en profite pour mettre en ligne une série d’exercices de proba. Ce sont des QCM, et je n’ai pas mis les réponses. Mais si vous bloquez sur un exercice, dites le moi, on le fera en cours. La semaine prochaine, on prévoira deux heures pour faire quelques exercices.

Histoire et analyse de la blogosphère économique francophone

Ce billet est cosigné avec Thomas Renault, aka @captaineco_fr

Les blogs économiques prennent aujourd’hui une place centrale dans le débat et l’analyse économique, comme le notait Alex Tabarrok. Mais si la blogosphère économique francophone est encore relativement modeste, elle n’en est pas moins active, et pourrait connaître le même succès que les blogs anglophones dans les années à venir.

La genèse de la blogosphère économie

Au début de l’année 2005, Bernard Salanié – alors professeur à l’Université de Columbia (New York) – publiait le premier billet de son blog « L’économie sans tabou », dans la continuité d’un ouvrage éponyme publié l’année précédente. A la même époque, Alexandre Delaigue et Stéphane Ménia – tous deux anciens étudiants de l’Ecole Normale Supérieure de Cachan et respectivement enseignants en école militaire et au secondaire – lançaient un blog “éconoclaste“, avec une vocation de vulgarisation assez proche de celle de Stephen Dubner et Steven Levitt, les auteurs du best-seller Freakonomics.

Ce mouvement en France faisait écho à celui qui se développait aux Etats-Unis, où des économistes de renom comme Bradford DeLong, (« Grasping Reality »), Tyler Cowen (« Marginal Revolution ») ou encore Gary Becker et Richard Posner (« The Becker-Posner blog ») commençaient à bloguer. Pour reprendre les propos de Gary Becker, prix Nobel d’économie, la blogosphère avait alors le pouvoir de remplacer le marché dans l’optimisation du processus de partage de connaissance entre les individus.

Blogging is a major new social, political, and economic phenomenon. It is a fresh and striking exemplification of Friedrich Hayek’s thesis that knowledge is widely distributed among people and that the challenge to society is to create mechanisms for pooling that knowledge. The powerful mechanism that was the focus of Hayek’s work, as as of economists generally, is the price system (the market). The newest mechanism is the « blogosphere »

Continue reading Histoire et analyse de la blogosphère économique francophone