20 ans du Master Mathématiques et applications – Actuariat – à Paris Dauphine

Jeudi, je serais de retour à l’univeristé Paris Dauphine, qui célèbre toute la journée les 20 ans du Master Mathématiques et applications – Actuariat. Dans le cadre de plusieurs exposés sur le changement climatique, je parlerais d’assurance des catastrophes naturelles et de solidarité (les slides sont en ligne). Je suis d’autant plus heureux de participer que j’ai donné mon premier cours précisément dans ce programme, sauf erreur, il y a 20 ans… Il s’agissait d’un cours de séries temporelles (qui était alors commun dans deux programmes, celui d’actuariat, et celui de mathématiques de la décision). Si mes notes de cours (partie 1 et partie 2) traînent toujours en ligne (on continue encore de m’en parler), je me souviens surtout que, comme le cours devait présenter un volet application, et que les vidéoprojecteurs étaient encore rare, j’avais tous les ans des centaines de feuille d’acétate de cellulose, des “transparents” comme on disait, et c’était une galère de les gérer, de les passer dans l’ordre, de les ranger. Je n’ai aucune photo de cette époque, mais j’en ai encore beaucoup de (très bons) souvenirs.

Equité et discrimination en assurance

Mercredi 18 mai, j’interviendrai au séminaire de la chaire PARI, à Paris, dans les locaux de la CCR, pour parler d’équité et de discrimination en assurance… Les slides sont en ligne.

En poursuivant la discussion abordée dans “L’équité de l’apprentissage machine en assurance” (co-écrit avec Laurence Barry), nous présentons un aperçu des problèmes auxquels les actuaires sont confrontés lorsqu’ils traitent de la discrimination. Depuis le début de leur histoire, les assureurs sont connus pour utiliser des données pour classifier et tarifer les risques. En tant que tels, ils ont été confrontés très tôt au problème de l’équité et de la discrimination associées aux données. Cette question devient de plus en plus importante avec l’accès à des données plus granulaires et comportementales, et évolue pour refléter les technologies et les préoccupations sociétales actuelles. En examinant les débats antérieurs sur la discrimination, nous montrons que certains préjugés algorithmiques sont une version renouvelée de préjugés plus anciens, tandis que d’autres semblent inverser l’ordre précédent. Paradoxalement, alors que la pratique de l’assurance n’a pas profondément changé et que la plupart de ces biais ne sont pas nouveaux, l’ère de l’apprentissage automatique ébranle encore profondément la conception de l’équité en matière d’assurance. (Cette présentation s’appuiera également sur un rapport qui sera bientôt publié par l’Institut Louis Bachelier).

Report des voix entre les deux tours aux élections présidentielles en France

Allez, on va profiter des élections présidentielles, à deux tours, en France, pour jouer un peu, maintenant que les données commencent à être disponibles. On peut avoir les données par département (une centaine) ou par commune (36000)

# département
loc_dpt_1 = "https://www.data.gouv.fr/fr/datasets/r/312b99d0-27a7-429e-be8a-b930975545e9"
loc_dpt_2 = "https://www.data.gouv.fr/fr/datasets/r/c7b72e78-5e78-4976-995f-30533f0a35d3"
# commune
loc_com_1 = "https://www.data.gouv.fr/fr/datasets/r/54782507-e795-4f9d-aa70-ed06feba22e3"
loc_com_2 = "https://www.data.gouv.fr/fr/datasets/r/1601b027-48d1-42b1-96f1-b0fb49f55aa3"
download.file(loc_dpt_1,"dpt1.csv")
download.file(loc_dpt_2,"dpt2.csv")
d1 = read.csv("dpt1.csv")
d2 = read.csv("dpt2.csv")
download.file(loc_com_1,"com1.csv")
download.file(loc_com_2,"com2.csv")
c1 = read.csv("com1.csv")
c2 = read.csv("com2.csv")

Commençons par les départements. On peut récupérer les pourcentages de voix obtenus par les différents candidats, au premier tour, et regarder les pourcentages obtenus par Marine Le Pen. Par exemple, on peut regarder, département par département, le score de Marine Le Pen au premier et au second tour, pour vérifier que le report des voix s’opère bien

D1 = d1[d1$cand_nom=="LE PEN",c("dep_code","cand_rapport_inscrits","cand_rapport_exprim")]
D2 = d2[,c("CodeDépartement","LE.PEN.ins","LE.PEN.exp")]
names(D1) = c("dep_code","ins1","exp1")
names(D2) = c("dep_code","ins2","exp2")
D = merge(D1,D2)
par(mfrow=c(1,2))
plot(D$ins1,D$ins2,xlab="inscrits (%), premier tour",ylab="inscrits (%), second tour",col=colr2[1])
plot(D$exp1,D$exp2,xlab="exprimés (%), premier tour",ylab="exprimés (%), second tour",col=colr2[2],main="Le Pen / Le Pen",cex.main=1.1)

Comme on pouvait s’y attendre, on a une belle droite de régression, avec les nombres de voix obtenus, relativement aux inscrits, en bleu, et aux exprimés, à droite. Pour Emmanuel Macron au premier et Marine Le Pen au second tour, on a une belle corrélation négative, mais moins prononcée qu’auparavant. Autrement dit, un département qui votait peu Macron au premier tour a beaucoup voté Le Pen au second

Mais là, on parlait des deux candidats qui se sont maintenus. Si on regarde l’autre candidat de l’extrême droite, les reports sont assez étranges… après, les taux étaient “relativement” faibles au premier tour pour Erik Zemmour.

Pour le candidat en tête à gauche, on a une corrélation négative, mais sur les votes exprimées, on observera des outliers en haut à droite, avec manifestement un vote d’opposition au président sortant dans certains départements

Pour le candidat écologiste, la corrélation est elle encore plus clair

autrement dit, quand on a voté écologiste au premier tour, on avait peu tendance à voter Le Pen (ou disons les départements où on votait fortement écologiste n’ont pas voté Le Pen au second #ecologicalfallacy, etc).

Mais on peut faire le même exercice par commune. Mon seul soucis a été que les codes communes dans les deux bases étaient différents, donc j’ai utilisé les noms des communes, ce que je n’aime pas faire (avec les accents, les tirets, etc, la fusion peut être assez mauvaises… mais là ça marche bien). Je me suis ensuite limité aux grosses communes, de plus de 10000 inscrits,

C1 = c1[c1$cand_nom=="LE PEN",c("commune_name","cand_rapport_inscrits","cand_rapport_exprim","votants_nb")]
C2 = c2[,c("Commune","LE.PEN.ins","LE.PEN.exp")]
names(C1) = c("com_code","ins1","exp1","taille")
names(C2) = c("com_code","ins2","exp2")
D = merge(C1,C2)
D = D[D$taille>5000,]
par(mfrow=c(1,2))
plot(D$ins1,D$ins2,xlab="inscrits (%), premier tour",ylab="inscrits (%), second tour",col=colr2[1])
plot(D$exp1,D$exp2,xlab="exprimés (%), premier tour",ylab="exprimés (%), second tour",col=colr2[2],main="Le Pen / Le Pen",cex.main=1.1)

On peut alors faire le même exercice, avec Le Pen au premier et second tour

ou Macron au premier, Le Pen au second

On observe des beaux nuages, sur la gauche, respectivement en haut et en bas… Beaucoup de communes qui avaient peu voté pour Le Pen semblent avoir eu peur, et on massivement voté au second pour elle. Alors que ce n’est pas trop le cas pour celles où Le Pen avait obtenu beaucoup de voix. Et pour Macron, c’est en bas à gauche, autrement dit, beaucoup de communes qui n’ont pas voté Macron au premier tour n’ont pas pour autant voté Le Pen au second. Pour ceux que ça amuse, les codes sont disponibles pour regarder qui sont ces communes dans les coins.

Pour Zemmour, c’est assez confus, j’avoue, le personnage est déroutant (ou dégoutant ? comme le suggérait le correcteur automatique)

ou alors Jean Luc Mélanchon

ou la relativement franche corrélation des écologistes, qui semblent résolument aller en sens inverse avec le vote d’extrême droite…

 

Pareto models for top incomes and wealth

Our article, Pareto models for top incomes and wealth, writen with Emmanuel Flachaire, just got published in the Special Issue of the The Journal of Economic Inequality, on “Finding the Upper Tail”.

Top incomes are often related to Pareto distribution. To date, economists have mostly used Pareto Type I distribution to model the upper tail of income and wealth distribution. It is a parametric distribution, with interesting properties, that can be easily linked to economic theory. In this paper, we first show that modeling top incomes with Pareto Type I distribution can lead to biased estimation of inequality, even with millions of observations. Then, we show that the Generalized Pareto distribution and, even more, the Extended Pareto distribution, are much less sensitive to the choice of the threshold. Thus, they can provide more reliable results. We discuss different types of bias that could be encountered in empirical studies and, we provide some guidance for practice. To illustrate, two applications are investigated, on the distribution of income in South Africa in 2012 and on the distribution of wealth in the United States in 2013.

Défi tête rasée (petite note personnelle)

Un message rapide pour dire que le 8 mai, j’accompagne ma fille pour un défi tête rasée. L’objectif est de coller 1000$ (pour soutenir les enfants atteints du cancer, notamment en aidant la recherche, en améliorant l’accueil en milieu hospitalier, ainsi que l’accompagnement et le soutien affectif dès le diagnostic) d’ici le 8 mai, et en échange on se rase la tête. Ma fille s’était inscrite, pour collecter de l’argent, et j’ai proposé de m’associer à son projet !

Modéliser la contagion

Deux ans après le début de la pandémie COVID-19, due au virus SARS-CoV-2, nous voilà tous devenus (pseudo)-experts en modèles de contagion. Mais au delà des maladies, ces modèles basés sur des réseaux d’interactions entre personnes sont aussi couramment utilisés pour décrire la propagation d’un virus informatique, de normes sociales, d’une idée ou d’une rumeur dans une société, ou d’une crise économique, comme le rappelle Kucharski (2020).

La propagation d’une maladie infectieuse, comme la grippe, est modélisée, au niveau individuel, par le fait qu’un individu porteur de la maladie peut la transmettre à un individu sain lors d’un contact physique. Au niveau d’une région ou d’un pays, l’agrégation se modélise en tenant compte de la dynamique de ces contacts, en tenant compte du fait que chaque individu est potentiellement en contact avec des centaines ou des milliers d’autres. Mais cette approche est un peu trop simpliste, car une épidémie ne ressemblera pas nécessairement à une autre, observée et étudiée par le passé.

Les maladies infectieuses

Le mot « grippe », issu du vieux francique (variante de grip, ou grif), désigne en français l’infection virale des voies respiratoires associée au « virus influenza » (on retrouve le nom « influenza » en Italie, ou en Angleterre). Le mot latin « influentia » signifie « couler dans », car au Moyen-Âge, on croyait que le fluide immatériel émis par les étoiles affectait les humains. La grippe italienne faisait alors référence à toute épidémie de maladies supposées être influencée par les étoiles. C’est vers 1750, suite à une épidémie qui traversa l’Europe que le mot italien fut adopté par les anglais. Pour poursuivre la digression linguistique, tenir certaines communautés pour responsables des épidémies n’est pas un phénomène nouveau. Au XVIe siècle, les Anglais pensaient que la syphilis venait de France et l’ont appelé « French pox », tout comme les Allemands qui parlaient de « Französische Krankheit », tout comme les Espagnols, « el mal Francés » . Les Français, croyant qu’elle venait de Naples, l’appelaient la « maladie napolitaine », suite à une épidémie en 1495 à Naples, probablement apportée par des marins espagnols de l’équipage de Christophe Colomb. Au Pays-Bas, le «  Spaanse pokken » (autrement dit la « variole espagnole ») sera d’ailleurs utilisé, comme le rappelle Frith (2012). L’expression tchèque «  uherská nemoc » parle de maladie Hongroise, en Russie, c’était la maladie polonaise, « польская болезнь », en Pologne, elle était turque, et en Turquie et en Grèce, elle était chrétienne, etc. Plus récemment, souvenons nous que nous faisons encore référence à la pandémie de grippe de 1918,, qui a tué des dizaines de millions de personnes dans le monde, comme à la « grippe espagnole ». Si Kucharski (2020) rappelle que si en Espagne elle était appelée « gripe francesa » (la « grippe française »), c’est surtout parce qu’en Allemagne, en Angleterre et en France, les autorité ont étouffé les informations sur la maladie, de peur qu’elles ne sapent le moral des troupes, ce qui a longtemps laissé croire que l’Espagne comptait beaucoup plus de cas que les autres pays Européens.

Mais plus que la grippe, c’est surtout le paludisme (ou malaria) qui a permis le développement des premières modèles de contagion. Etymologiquement, « malaria » vient de l’Italien médiéval « mala aria », le mauvais air. Il a fallu attendre la fin du XIXème siècle pour identifier un parasite appelé Plasmodium, découvert tout d’abord par Alphonse Laveran mais surtout Ronald Ross (les deux ayant obtenu un prix Nobel pour ces travaux au début du XXème siècle), relié aux moustiques. Le géographe britannique Richard Burton a noté qu’en Somalie, on disait souvent que les piqûres de moustiques provoquaient des fièvres mortelles. Les médecins britanniques avaient plusieurs siècles de retard sur les médecins chinois, car dès le quatrième siècle (de notre ère), Ge Hong avait trouvé des plantes qui pouvait réduire les fièvres (des extraits de cette plante constituent aujourd’hui la base des traitements modernes contre le paludisme). Et si on remonte encore dans le temps, le médecin romain Quintus Serenus Sammonicus, avait proposé un autre remède : les personnes qui voulaient guérir devaient écrire le mot « abracadabra » sur un morceau de papier, de lier le papier, de l’envelopper dans du lin et de le porter comme un talisman autour du cou pendant neuf jours (après quoi ils devraient le jeter par-dessus l’épaule dans une rivière coulant vers l’est, comme le demande le Liber Medicinalis).

Les modèles de contagion

Les modèles mathématiques comme deux de Ronald Ross ont souvent eu la réputation d’être compliqués, mais ils présentaient l’avantage d’être des vrais « modèles » de la réalité. Car la santé publique est bien différente de la simple modélisation biologique. Car si une agence de santé veut comprendre dans quelle mesure sa stratégie de contrôle des maladies a été efficace, elle ne peut pas revenir en arrière et refaire la même épidémie sans modèle. Seul un modèle permet d’avoir un contre-factuel. Il écrivait ains, en 1911, « epidemiology is in fact a mathematical subject (…) and fewer absurd mistakes would be made regarding it (for example, those regarding malaria) if more attention were given to the mathematical study of it ». Mais ce sont surtout les travaux de William Kermack et Anderson McKendrick, dans les années 1920, qui ont révolutionné l’épidémiologie. Contrairement aux bio-statisticiens, comme Karl Pearson qui utilisait des statistiques et une analyse simplement descriptive, ils ont proposé d’utiliser des méthodes mécanistes, permettant de comprendre le processus de transmission. C’est ainsi qu’ils développèrent le modèle compartimental SIR, dont l’évolution se fait sur la base d’équations différentielles. Cette approche permit d’avoir un modèle simple, expliquant les grandes tendance dans l’évolution d’une épidémie. Par exemple, le concept d’immunité collective deviendra populaire plusieurs décennies plus tard, lorsqu’on se rendit compte qu’il peut être un outil important pour contrôler des maladies. En effet, pendant une épidémie, les gens quittent naturellement le groupe des susceptibles S au fur et à mesure qu’ils sont infectés, et se déplacent dans le groupe I. Après avoir été malade, elles passent dans le groupe des personnes guéries, noté R (pour « recovered »). La vaccination (connue depuis le début du XIXème siècle) permet ainsi que passer directement de S à R. La théorie de l’immunité de groupe garantie que la propagation d’une maladie contagieuse peut être enrayée dans une population si une proportion suffisamment importante d’individus se trouve dans la classe R (de l’ordre de 90% pour la rougeole, 95% pour la coqueluche et 85% pour la variole). Comme le notait Fine (1993), selon le modèle SIR, les épidémies ont besoin de trois éléments pour prendre leur essor : un agent pathogène suffisamment infectieux, de nombreuses interactions entre différentes personnes et une proportion suffisante de la population qui est sensible. Près du seuil critique de l’immunité collective, un petit changement dans l’un de ces facteurs peut faire la différence entre une poignée de cas et une épidémie majeure.

Dans les années 1950, George MacDonald a amélioré le modèle de Ross, toujours dans le contexte de la compréhension de la malaria, mais c’est surtout Klaus Dietz qui a popularisé le « nombre de reproduction », noté R0. R0 représente le nombre de nouvelles infections que l’on s’attend à ce qu’une personne infectieuse typique génère en moyenne. Cette grandeur, propre à chaque agent pathogène, nous indique si nous devons nous attendre à une épidémie importante ou non. Si R0 est inférieur à un, chaque personne infectieuse générera en moyenne moins d’une infection supplémentaire, et on peut donc s’attendre à ce que le nombre de cas diminue avec le temps. En revanche, si R0 est supérieur à un, le niveau d’infection augmentera en moyenne, créant ainsi le potentiel d’une grande épidémie. Certaines maladies ont un R0 relativement faible. Pour la grippe pandémique, R0 se situe généralement autour de 1 à 2, ce qui correspond au niveau d’Ebola pendant les premiers stades de l’épidémie de 2013-16 en Afrique de l’Ouest. En moyenne, chaque cas d’Ebola a transmis le virus à une ou deux autres personnes. D’autres infections peuvent se propager plus facilement. Le virus du SRAS, qui a provoqué des épidémies en Asie en 2003, avait un R0 compris entre 2 et 3. La variole, qui reste la seule infection humaine éradiquée, avait un R0 compris entre 4 et 6, alors qu’un seul cas de rougeole peut générer plus de 20 nouvelles infections en moyenne (et donc possède un R0 de l’ordre de 20, comme le note Guerra et al. (2003)). Ce paramètre indique la vitesse à laquelle l’épidémie va se développer, comme nous l’avions montré dans Charpentier & Barry (2020). En effet, avec un R0 de 2, nous attendons 2^5=32 nouveaux cas à la cinquième génération de l’épidémie. Si R0 était de 3 au lieu de 3, nous nous attendrions à 3^5=243 nouveaux cas à la même date. Ce paramètre est aussi lié au seuil de l’immunité de groupe, qui est de 1-1/R0, autrement dit, si R0 est de l’ordre de 20 (comme cela peut être le cas pour la rougeole) il faut vacciner 19 personnes sur 20, soit plus de 95 % de la population, pour arrêter les épidémies. On peut noter qu’il existe quatre facteurs qui influencent la valeur de R0 : la durée pendant laquelle une personne est infectieuse ; le nombre moyen d’occasions qu’elle a de propager l’infection chaque jour où elle est infectieuse ; la probabilité qu’une occasion entraîne une transmission ; et la sensibilité moyenne de la population. On a alors une relation de la forme :

R = Durée × Opportunités × Probabilité de transmission × Susceptibilité.

Plus récemment, on a vu surgir de modèle de type Pareto pour décrire l’évolution des pandémies, suite au regain d’intérêt pour la discipline avec le VIH dans les années 80 et 90. Woolhouse et al. (1997) parlèrent ainsi de « règle des 20/80 », 20 % des cas étaient responsables d’environ 80 % de la transmission. Quelques années plus tard, on verra arriver la notion de « superspreading », certains cas engendrant un nombre très important de transmissions. De manière étonnant, on peut retrouver ces idées (entre les lignes) chez Ronald Ross, qui été allé beaucoup plus loin dans la modélisation de la contagion d’éléments pathogènes, en introduisant une « théorie des événements » pour décrire comment le nombre de personnes touchées par une maladie peut évoluer dans le temps. Plus particulièrement, il a suggéré qu’il y avait deux principaux types d’événements. Le premier type affecte les personnes de manière indépendante : si un événement vous arrive, il n’augmente ou ne diminue généralement pas les chances qu’il arrive à quelqu’un d’autre par la suite. C’est le cas des maladies non infectieuses, ou des accidents comme on peut les modéliser en actuariat, lorsque l’on suppose l’indépendance. Les événements indépendants sont un point de départ naturel pour modéliser, mais les choses deviennent plus intéressantes lorsque les événements sont contagieux. Ross appelle ces types d’événements des « événements dépendants », car ce qui arrive à une personne dépend du nombre d’autres personnes touchées. Le type d’événement le plus simple est celui où les personnes affectées transmettent la maladie à d’autres, et où une fois affectées, les personnes le restent.

Dans la dynamique SIR, cela se traduit par le faite que la variation du nombre d’infecté dI(t)/dt est proportionnel au produit de I(t), le nombre d’infecté, et de S(t), le nombre de personnes susceptibles. Au début, le nombre de personnes touchées croît de manière exponentielle, le nombre de nouveaux cas augmentant de plus en plus vite au fil du temps, mais au bout d’un certain temps, le nombre de susceptibles devient faible, la croissance ralentit et se stabilise. C’est le modèle logistique de Pierre François Verhulst dont nous parlions dans Charpentier (2022), avec une « courbe en forme de S », tel que Rogers (1983) l’appellera pour décrire la diffusion de l’innovation, avec un regard de sociologue. Pour Everett Rogers, quatre types de personnes différentes sont responsables de la croissance d’un produit : l’adoption initiale provient des « innovateurs », suivis des «  adopteurs précoces », puis de la majorité de la population, et enfin des « retardataires ». On commence à le voir, les modèles de contagion vont pouvoir expliquer toutes sortes de comportements.

L’économie et les crises

Au milieu des années 1990, on a commencé à parler de « contagion financière » pour décrire la propagation des problèmes économiques d’un pays à l’autre, comme lors de la crise financière asiatique pour reprendre l’analyse de Allen & Gale (1999). Mais ce sont surtout deux évènements qui ont marqué les marchés. Le premier a été la faillite de fonds comme le LTCM Long Term Capital Management – qui a persuadé les banques centrales qu’elles devaient comprendre l’enchevêtrement des échanges financiers. Ainsi, en mai 2006, la Banque Fédérale de New York a organisé une conférence pour discuter du « risque systémique » et des phénomènes de contagion. Elle voulait identifier les facteurs susceptibles d’affecter la stabilité du réseau financier, en particulier les ondes de choc indirectes qui se sont propagées sur d’autres marchés. Car en ayant beaucoup prêté à LTCM, de nombreuses banques se sont retrouvées elles aussi en danger. Mais surtout, l’essor des produits financiers complexes comme les CDO, les «  collateralized debt obligations » a fait prendre conscience des mécanismes de contagions sur les marchés du crédit. Comme le rappelle Laurent & Gregory (2004), la corrélation est loin d’être constante, et augmente dans les queues de distributions (le fameux « corrélation smile »). Tavakoli (2007) affirmait ainsi « in the credit markets, we want to blame correlation or correlation smiles as correlation laughs at our efforts to model it (…) correlation trading has spread through the psyche of the financial markets like a highly infectious thought virus ». Au cours de l’été 2008, malgré les nombreux avertissements, la chute des prix de logements, sur lesquels étaient adossés les crédits hypothécaires a provoqué une crise sans précédant.

Comme le proposait Peckham (2013), inspiré par May, Levin & Sugihara (2008), on peut revoir de nombreuses crises financières et économiques à l’aide de modèles de contagions. Les courbes de prix, montrant la hausse des actifs financiers et le krach qui s’ensuit ressemblait à la hausse et la baisse typiques des cas dans une épidémie de rougeole, ou d’une autre infection. La principale différence lorsqu’une épidémie de maladie infectieuse augmente, c’est une mauvaise nouvelle, et lorsqu’elle diminue, c’est une bonne nouvelle. En revanche, on considère généralement que la hausse des prix financiers est une bonne nouvelle et que leur chute est une mauvaise nouvelle. Et si la hausse des prix était pas toujours un bon signe ? Le soucis est qu’identifier de telles « bulles spéculatives » peut être complexe. En effet, les investisseurs peuvent exercer un effet de levier sur leurs transactions, en empruntant de l’argent pour couvrir des investissements supplémentaires. Il est alors difficile d’estimer la phase de la bulle dans laquelle nous nous trouvons. Néanmoins, il semble parfois possible de repérer les signaux d’une croissance insoutenable. Lorsque la bulle Internet s’est développée à la fin des années 1990, une justification courante de la hausse des prix traduisait simplement le fait que le trafic Internet doublait tous les 100 jours. Il semblait justifié que des entreprises soient évaluées à plusieurs centaines de milliards de dollars et les investisseurs injectaient sans cesse de l’argent dans des fournisseurs d’accès à Internet, sur la base de cette croissance exponentielle (on peut penser à WorldCom, par exemple). Mais si on repense au modèle SIR, cette augmentation du nombre d’utilisateurs se traduit par une diminution importante du nombre de personnes sensibles.

Pour Andrew Hadane, économiste en chef de la Banque d’Angleterre, quand on compare les pandémie et les crises financières « similarities are striking ». Mais dans le cas d’une maladie infectieuse, on peut se laver les mains plus souvent ou réduire ses interactions sociales. Dans le domaine financier, les banques peuvent se cacher en accumulant de l’argent plutôt que de risquer de prêter à d’autres institutions. Mais lorsque les banques thésaurisent de l’argent, cela peut amplifier les problèmes, comme cela s’est produit avec le « resserrement du crédit » à l’approche de la crise de 2008. Et penser le sytème bancaire sur la base d’un réseau d’inter-connections a permis de mieux comprendre les contagions, comme l’a montrée Soramäki et al. (2007). Dans un réseau dit « assortatif », les individus très connectés sont principalement liés à d’autres personnes très connectées. Il en résulte une épidémie qui se propage rapidement à travers ces groupes d’individus à haut risque, mais qui peine à atteindre les autres parties du réseau, moins connectées, au bord. À l’inverse, un réseau « désassorti » est celui où les personnes à haut risque sont principalement liées à des personnes à faible risque. L’infection se propage alors plus lentement au début, mais conduit à une épidémie globale plus importante. Et le réseau bancaire s’est avéré être désassorti. Une grande banque comme Lehman Brothers pouvait donc propager largement la contagion. Comme Haldane & May (2011) l’ont souligné, lorsque Lehman Brothers a fait faillite, elle avait des relations commerciales avec plus d’un million de contreparties. « It was entangled in this mesh of exposures – derivatives and cash – and no one had the faintest idea quite who owed what to whom ». En 2009, c’est Warren Buffett qui mettait en garde contre le « frightening web of mutual dependence », filant la métaphore en s’inspirant du VIH, « it’s not just whom you sleep with, but also whom they are sleeping with ». Lorsqu’une banque prête de l’argent à une autre, elle crée un lien tangible entre les deux : si l’emprunteur fait faillite, le prêteur perd son argent. En théorie, nous pourrions retracer ce réseau pour comprendre le risque d’épidémie, tout comme les chercheurs ont pu le faire avec les maladies sexuellement transmissibles. La différence est que dans le monde financier, les banques ont longtemps chercher à se diversifier pour réduire leur risque global. En détenant un éventail important d’investissements, la banque semble y gagner en stabilité. Mais lorsque plusieurs banques investissent dans le même actif, cela crée une voie de transmission potentielle entre elles. Si une crise survient et qu’une banque commence à vendre ses actifs, cela affectera toutes les autres entreprises qui détiennent ces investissements. Plus les grandes banques diversifient leurs investissements, plus les possibilités de contagion partagée sont nombreuses. Arinaminpathy, Kapadia, et May, (2012) ont ainsi montré que, lorsqu’une crise financière survient, la diversification peut déstabiliser le réseau. Et les crises financières récentes ont clairement montré que le « too big to fail » n’était pas une grille de lecture, l’important étant « too central to fail ».

Et le risque cyber ?

Le 12 mai 2017, un logiciel appelé WannaCry a commencé à demander des rançons à des milliers d’utilisateurs d’ordinateurs. Il a d’abord bloqué l’accès des utilisateurs à leurs fichiers, puis a affiché un message leur indiquant qu’ils avaient trois jours pour transférer 300 dollars en bitcoins sur un compte anonyme. Si les utilisateurs refusaient de payer, leurs fichiers seraient définitivement verrouillés. Et lorsqu’il a touché les ordinateurs du service national de santé britannique, le NHS, il a entraîné l’annulation de milliers de rendez-vous. En l’espace de quelques jours, plus 200,000 ordinateurs dans une centaine de pays ont été touchés, ce qui a entraîné des dommages estimés à quelques milliard de dollars. On peut commencer par constater que contrairement aux infections biologiques, qui peuvent prendre des jours ou des semaines pour se développer, ces infections peuvent survenir sur des échelles de temps beaucoup plus rapides, en quelques heures. Les épidémies Mirai et WannaCry doublaient de volume toutes les 80 minutes.

Le premier virus informatique à se propager en dehors d’un réseau de laboratoire est né en février 1982. Appelé « Elk Cloner », créé par Rich Skrenta, lycéen de 15 ans en Pennsylvanie, s’est propagé lorsque les gens ont échangé des jeux entre ordinateurs. Comme les ordinateurs n’étaient pas connectés en réseau, les virus informatiques ressemblaient beaucoup aux infections biologiques, en se propageant sur des disquettes. Même s’il a touché l’ordinateur d’un ami de Rich travaillant pour la marine américaine, le virus n’a pas beaucoup circulé en dehors d’un cercle d’amis. Et ce virus était relativement inoffensif (Leyden (2012) raconte qu’il se contentait d’afficher à l’écran un court poème), les virus ont rapidement évolué. Dès 1984, une distinction a été opérée entre les virus et les vers, les « worms ». Ces derniers pouvaient se multiplier et se propager sans s’accrocher à d’autres programmes. En 1988, le « Morris Worm », créé par Robert Morris, étudiant à Cornell, s’est rapidement propagé sur ARPANET, l’ancêtre d’Internet. Robert Morris a affirmé que le ver était censé se transmettre silencieusement, dans le but d’estimer la taille du réseau. Malheureusement, une mutation, une petite modification de son code, allait rapidement causer de gros problèmes. À l’origine, Morris avait initialement codé son ver de telle sorte que lorsqu’il atteignait un nouvel ordinateur, il commençait par vérifier si la machine était déjà infectée (afin d’éviter d’installer plusieurs vers). Cette approche permettait aux utilisateurs de bloquer facilement le ver, en le vaccinant : en imitant une infection, il était possible de se protéger. Pour contourner ce problème, Morris a fait en sorte que le ver se duplique parfois même si la machine était déjà infectée. Mais il a sous-estimé l’effet que cela aurait, de nombreuses machines contaminées devenant inutilisables. Le ver a, au final touché 6000 ordinateurs (soit 10% de l’internet de l’époque).

Moins d’une journée après le début de l’épidémie Mirai en août 2016, près de 65 000 appareils avaient été infectés. À son apogée, plus d’un demi-million de machines ont été infectée, avant de voir sa taille diminuer au début de 2017. Comme pour le ver de Morris, ses créateurs ne s’attendaient pas à ce que l’épidémie devienne aussi incontrôlable. Lorsque le FBI a retracé ses origines, il a découvert qu’il avait commencé avec un étudiant de 21 ans, Paras Jha et deux de ses amis, qui avait créé une « attaque par déni de service distribué » (DDoS) dans Minecraft, permettant de ralentir la connexion des autres joueurs. Mais rapidement, le virus a quitté Minecraft. Le 30 septembre 2016, le code source de Mirai a été publié sur un forum Internet. Il s’agit d’une tactique courante utilisée par les pirates informatiques, car si le code est accessible au public, il est plus difficile pour les autorités d’épingler ses créateurs. La force de Mirai et WannaCry est qu’ils étaient très efficaces pour trouver des machines vulnérables. A titre de comparaison, la rougeole, l’une des infections humaines les plus contagieuses, il est admis que dans une population susceptible, une personne atteinte de rougeole infectera 0,1 autre personne par heure en moyenne (sur la base d’un R0 de l’ordre de 20 et une infectiosité de 8 jours). Les plus anciens se souviennent peut être des messages électroniques dont l’objet était « ILOVEYOU », en mai 2000. Le message contenait un ver informatique, déguisé en fichier texte contenant une lettre d’amour. Une fois ouvert, le ver se mettait à corrompre les fichiers de l’ordinateur de la personne concernée et s’envoyait à toutes les personnes figurant dans son carnet d’adresses. Il s’est largement répandu, faisant tomber le système de messagerie de plusieurs organisations, dont le Parlement britannique. Et étrangement, ce ver est resté très longtemps présent dans des ordinateurs du monde entiers, au lieu de disparaître, comme on aurait du s’y attendre avec un virus biologique. Alessandro Vespignani et Romualdo Pastor-Satorras ont montré que si les virus informatiques ne se comportaient pas comme des épidémies biologiques, c’était probablement à cause de la structure du réseau internet. En raison de l’énorme variabilité du nombre de liens entre les ordinateurs, même des infections apparemment faibles peuvent survivre. Un ordinateur n’est jamais à plus de quelques pas d’un serveur fortement connecté, qui peut propager l’infection à grande échelle, agissant alors comme un « superspreader ». Aussi, le 28 février 2017, lorsqu’Amazon Web Services (AWS) a déconnecté plusieurs de ses serveurs, des milliers de personnes ont eu des soucis, en grande partie à cause des objets connectés (des ampoules, des portes) qui ont cessé de fonctionner. Pareil lorsque Facebook a annoncé que des millions de ses utilisateurs avaient été affectés par une faille de sécurité, le 28 septembre 2018. Comme de nombreuses personnes utilisent leur compte Facebook pour se connecter à d’autres sites web, de telles attaques peuvent avoir des conséquences que les utilisateurs ne pouvaient l’imaginer.

La similarité avec les virus biologiques peut aller encore plus loin car les logiciels malveillants peuvent évoluer avec le temps et devenir plus difficiles à détecter. Plutôt que de s’installer dans un équilibre équilibré, l’écosystème des virus informatiques et des logiciels antivirus se déplacerait continuellement, comme le montrent les théories biologiques de l’évolution et l’approche génétiques des maladies. Une façon courante de se protéger contre les logiciels malveillants consiste à demander aux logiciels antivirus de rechercher les menaces connues. En général, cela implique la recherche de segments de code familiers ; une fois qu’une menace est reconnue, elle peut être neutralisée. Le système immunitaire humain fonctionne de manière relativement similaire. Mais l’évolution (on parlera aussi de mutation) peut venir entraver ce processus, les agents pathogènes qui semblaient familiers changeant d’apparence pour échapper à la détection. C’est le cas de la grippe, par exemple, avec à la surface du virus une paire de protéines appelées (hémagglutinine HA et neuraminidase NA). L’HA permet au virus de s’accrocher aux cellules hôtes, tandis que la NA contribue à la libération de nouvelles particules virales par les cellules infectées. Les protéines peuvent prendre plusieurs formes différentes, et les différents types de grippe – comme H1N1, H3N2, H5N1, etc. Les épidémies de grippe hivernale sont principalement causées par les virus H1N1 et H3N2, et ces virus évoluent progressivement au cours de leur circulation, ce qui entraîne une modification de la forme de ces protéines. Notre système immunitaire ne reconnaît plus le virus muté comme une menace, d’où les épidémies annuelles de grippe. Ce type de comportement a été observé sur des virus informatiques.

La contagion et les fake news…

Kucharski (2020) montre que les contagions sont partout dès lors qu’il y a des regroupements humains (mais aussi chez les animaux). C’est le cas du bâillement, des démangeaisons, ou d’un fou rire. Ces réactions sociales en chaîne peuvent se propager sur des échelles de temps très rapides. Mais bien souvent, comprendre la contagion est complexe. Aimez-vous une certaine activité parce que votre ami l’aime, ou êtes-vous amis parce que vous aimez tous les deux cette activité ? Les sociologues ont parlé de « reflection problem », une explication pouvant en refléter une autre, comme le disais Manski (1993). Nos amitiés et nos comportements seront souvent corrélés, mais il peut être très difficile de montrer que qu’il y a une contagion, qui semble refléter un mécanisme causal fort. Et comprendre comme des informations se partagent dans un réseau est important est important pour décrypter la contagion de rumeurs et d’idées conspirationnistes dont les conséquences peuvent être dramatiques.

Allen, F., & Gale, D. (1999). The Asian crisis and the process of financial contagion. Journal of Financial Regulation and Compliance.
Arinaminpathy, N., Kapadia, S., & May, R. M. (2012). Size and complexity in model financial systems. Proceedings of the National Academy of Sciences, 109(45), 18338-18343.
Buffett W. (2009) Letter to the Shareholders of Berkshire Hathaway Inc., 27 February 2009.
Charpentier, A. (2019). Les réseaux pour réinventer l’assurance? Risques, 117, 95-99
Charpentier, A. & Barry, L. (2020). Concilier risques collectifs et décisions individuelles. Risques, 123, 122-128
Charpentier, A. (2022). Le tabou de l’exponentielle. Risques,129, 129-134.
Fine, P. E. (1993). Herd immunity: history, theory, practice. Epidemiologic reviews, 15(2), 265-302.
Frith, J. (2012). Syphilis-its early history and treatment until penicillin, and the debate on its origins. Journal of Military and Veterans Health, 20(4), 49-58.
Guerra, F. M., Bolotin, S., Lim, G., Heffernan, J., Deeks, S. L., Li, Y., & Crowcroft, N. S. (2017). The basic reproduction number (R0) of measles: a systematic review. The Lancet Infectious Diseases, 17(12).
Haldane A. (2009) Rethinking the Financial Network, Bank of England, 28 April 2009.
Haldane A. & May R.M. (2011) The birds and the bees, and the big banks, Financial Times, 20 February 2011.
Kucharski, A. (2020). The Rules of Contagion: Why Things Spread–And Why They Stop. Basic Books
Laurent, J. P., & Gregory, J. (2004). In the core of correlation. Risk, 17(10), 87-91.
Leyden J. (2012) The 30-year-old prank that became the first computer virus, The Register, 14 December 2012.
Manski C. (1993) Identification of Endogenous Social Effects: The Reflection Problem. Review of Economic Studies, 60(3), 531-542.
May, R, Levin, S.A and Sugihara, G. (2008) Complex systems: Ecology for bankers. Nature, 451: 893-895.
Pastor-Satorras R. and Vespignani A. (2001) Epidemic Spreading in Scale-Free Networks, Physical Review Letters, 86(14), 3200.
Peckham, R. (2013) Economies of contagion: financial crisis and pandemic, Economy and Society, 42:2, 226-248
Rogers E.M. (1983) Diffusion of Innovations. Collier Macmillan.
Ross, R. (1911). The mathematics of malaria. British Medical Journal, 1(2626), 1023.
Soramäki, K., Bech, M. L., Arnold, J., Glass, R. J., & Beyeler, W. E. (2007). The topology of interbank payment flows. Physica A: Statistical Mechanics and its Applications, 379(1), 317-333
Tavakoli J. (2007) Comments on SEC Proposed Rules and Oversight of NRSROs, Letter to Securities and Exchange Commission, 13 Février 2007.
Woolhouse, M. E., Dye, C., Etard, J. F., Smith, T., Charlwood, J. D., Garnett, G. P. & Anderson, R. M. (1997). Heterogeneities in the transmission of infectious agents: implications for the design of control programs. Proceedings of the National Academy of Sciences, 94(1), 338-342

Journée COVEA sur l’équité en assurance

Jeudi, je profitais de ma semaine parisienne pour participer à une journée organisée par COVEA sur le théme de l’IA et de confiance, et sur l’éthique et l’équité en assurance . Mes slides sont en ligne. Par rapport à la première intervention (en janvier dernier) j’ai pu parler de contrefactuel, de suivi des modèles, et d’interprétations et d’explicabilité

C’est la première fois que je me retrouve également croqué par un dessinateur (Stéphane de Mouzon) lors d’une intervention de ce genre (sans être un exposé de séminaire, c’était technique).

Sinon, quelques photos de l’évènement,

(merci David Cortes pour les photos)

Du “Fichier des Victimes Indemnisées” à DataJust (et inversement)

Alors que je préparais un exposé sur la décision d’aller ou pas au tribunal, dans le cas d’accident de la route (pour une victime), j’ai voulu faire une digression autour de DataJust, en lien avec ce que j’ai pu voir en travaillant sur notre article, sur la base des données du Fichier des Victimes Indemnisées, mis en place dans le cadre de la loi Badinter, en 1985, car ça permet d’avoir une perspective intéressante, il me semble.

En commençant par la fin, DataJust, née du le décret nº 2020-
356 du 27 mars 2020 portant création d’un traitement automatisé de données à caractère personnel a été publié au Journal officiel du 29 mars 2020. L’article 1er du décret du 27 mars 2020 énonce que le ministre de la Justice « est autorisé à mettre en œuvre, pour
une durée de deux ans, un traitement automatisé de données à caractère personnel, dénommé « DataJust », ayant pour finalité le
développement d’un algorithme ». Un « algorithme »… le (gros) mot est lâché.  Car autant être clair: comme le rappellent Eugénie Petitprez, et Rodolphe Bigot (dans standard humain ou standardisation
algorithmique de l’évaluation du dommage corporel ?) « la Justice n’a pas la culture de la donnée, ni les réels moyens des ambitions qui lui sont prêtées. S’il n’y a pas de culture de la donnée, c’est parce que depuis toujours la Justice fonctionne fondamentalement à l’encontre de la donnée ». On ne pourrait être difficilement plus clair. Mais les deux premiers articles donnaient des informations intéressantes. Le premier article revient sur les finalités de cet « algorithme » qui sera créé : il doit « servir à : 1 º La réalisation d’évaluations rétrospectives et prospectives des politiques publiques en matière de responsabilité civile ou administrative ; 2º L’élaboration d’un référentiel indicatif d’indemnisation des préjudices corporels (…) ». Mais cet « algorithme » n’est pas tout, car un « algorithme » n’est rien sans données pour apprendre (dans la version moderne de l’apprentissage). Et le second article évoque les données utilisées. Plus précisément, dans les données, figureront « 2º les éléments d’identification des personnes physiques suivants : la date de naissance, le genre, le lien de parenté avec les victimes et le lieu de résidence ; 3º Les données et informations relatives aux préjudices subis, notamment : – la nature et l’ampleur des atteintes à l’intégrité, à la dignité et à l’intimité subies, en particulier la description et la localisation des lésions, les durées d’hospitalisation, les préjudices d’agrément, esthétique, d’établissement, d’impréparation ou sexuel, les souffrances physiques et morales endurées, le déficit fonctionnel, ainsi que le préjudice d’accompagnement et d’affection des proches de la victime directe ; – les différents types de dépenses de santé (notamment frais médicaux, paramédicaux, pharmaceutiques et d’hospitalisation) et d’aménagement (notamment frais de logement, d’équipement et de véhicule adaptés) ; – le coût et la durée d’intervention des personnes amenées à remplacer ou suppléer les victimes dans leurs activités professionnelles ou parentales durant leur période d’incapacité ; – les types et l’ampleur des besoins de la victime en assistance par tierce personne ; – les préjudices scolaires, universitaires ou de formation subis par la victime directe ; – l’état antérieur de la victime, ses prédispositions pathologiques et autres antécédents médicaux ; 4 º Les données relatives à la vie professionnelle et à la situation financière, notamment la profession, le statut, les perspectives d’évolution et droits à la retraite, le montant des gains et pertes de gains professionnels des victimes, ainsi que des responsables ou personnes tenues à réparation ; 5º Les avis des médecins et experts ayant examiné la victime et le montant de leurs honoraires ; 6º Les données relatives à des infractions et condamnations pénales ; 7º Les données relatives à des fautes civiles ; 8º Le numéro des décisions de justice. (….) ». Je vais m’arrêter là mais il y a beaucoup d’information.

En lisant un peu des articles de presse, de juristes (on pourra lire Le raisonnement par algorithme : le fantasme du juge-robot, par exemple de Frédéric Rouvière, ou Le droit isométrique : un nouveau paradigme juridique né de la justice prédictive, de Louis Larret-Chahine) il y a beaucoup de fantasmes autour de de l’intelligence artificielle, des « algorithmes », etc. Ce qui me frappe le plus, c’est que dans un cas très particulier ces données existent (plus ou moins) : c’est le cas des dommages corporels subits par les victimes d’accident de la circulation lors d’accidents automobiles

Il existait auparavant des banques de données des décisions des différentes juridictions, mais rien sur les règlements contractuels, c’est à dire, pour faire simple, lorsque l’assureur offre une indemnité à la victime (et que cette dernière l’accepte). Pour rendre comparables les montants, la loi (qui date de plus de 35 ans) a créé le “fichier national des personnes indemnisées“, où doivent figurer les montants d’indemnités résultant tant des décisions de justices que des transactions avec les assureurs. Cette obligation d’information a été inscrite dans la lettre de la loi. L’article 26 de la loi du 5 juillet 1985 (c’est la petite phrase de l’article L.211-23 du Code des Assurances), « sous le contrôle de l’autorité publique, une publication périodique rend compte des indemnités fixées par les jugements et les transactions ». Et depuis 1989, cette base est accessible (à l’époque, par…. Minitel – 3615 AGRIA). Comme le montre l’extrait que j’indique, il ne s’agit aucunement de garantir un niveau d’indemnisation à la victime, mais seulement de lui assurer la disponibilité de l’information, afin qu’elle puisse juger par elle-même de la valeur des règlements qui lui sont proposés. Je renvoie vers l’accident corporel de la circulation, entre transactionnel et juridictionnel de Evelyne Serverin, Boris Bertin, Simy Elbaz et Sophie Julliot pour un survol passionnant (le rapport date de 1997) !

Dans l’exposé que je donnerai lundi midi, on reviendra sur l’utilisation de ces données, car elles sont riches. Mais complexes à analyser. Un point intéressant, c’est qu’il y a un enregistrement par victime (et non pas par accident). Et pour chaque victime, on a le montant de l’indemnité perçue. Pour un règlement contractuel, c’est le montant offert par l’assureur, et pour un jugement, c’est le montant ordonné par le juge (le montant proposé par l’assureur est alors inconnu). Pour un économètre, c’est un joli problème, quand on essaye de comprendre qui décide d’aller au tribunal. Mais les conclusions de notre étude ont surtout souligné l’incroyable variabilité des indemnités perçues par les victimes. Y compris ceteris paribus sic stantibus. Et compte tenu du nombre d’information à disposition, cela signifie que l’on peut regarder à âge de la victime donné, à genre donné, à lieu de résidence donné, à gravité de l’accident donné (niveau d’IPP, nombre de jours d’hospitalisation, etc). Si cet « algorithme » est simplement un barème, une grille indicative d’indemnisation, j’imagine que l’idée est louable. Si notre modélisation donne des niveaux obtenus au tribunal et après négociation avec l’assureur très proches, la variabilité quand on compare aux montants réellement observés est colossale ! Dans notre étude, on observe une personne qui aurait eu un accident en 1996, dans la région d’Aix-en-Provence, passager, d’un peu plus de 50 ans, qui a passé un peu moins de 2 ans à l’hôpital. Alors que nos modèles prédisent un dommage corporel de l’ordre de 65,000 euros, elle a touché presque 100,000 euros (au tribunal). Un homme dans la région de Rennes, un peu moins de 50 ans, qui a passé moins de 2 ans à l’hôpital aurait du toucher selon nos modèles de l’ordre de 130,000 euros, et il a accepté les 100,000 euros proposés par l’assureur. Et ce ne sont que deux exemples pris au hasard.

La variabilité observé pour des victimes « semblables » (le fameux ceteris paribus sic stantibus) rend mal à l’aise, et laisse à penser qu’un barême national serait bénéfique à tous et à toutes (je ne parlerais pas ici des différences entre les hommes et les femmes que nous observons, là encore des victimes « semblables » … ou de la différence entre les lieux des accidents, en particulier entre Aix-Marseille et Rennes). Avoir des données pour mieux comprendre comment sont indemnisées les victimes d’accidents corporels est essentiel pour avoir un minimum de justice. Et DataJust n’apporte finalement rien de plus que ce que proposait la loi Badinter (tant que l’« algorithme » reste un modèle de régression – même si ici, on est dans cas de données dépendantes limitées pour reprendre la terminologie de Madalla (1983), qui restent des modèles classiques d’économétrie, mais qui pourraient ressembler à de la magie noire de l’intelligence artificielle à un juriste éloigné des techniques statistiques de base).

Bref, j’étais étonné de voir autant de plumes s’élever contre DataJust, surtout quand on voit que des choses très proches existent depuis 35 ans, avec des finalités louables

En l’occurrence, notre étude montre que les cours donnent des indemnités très différentes, et c’est problématique. La culture de la donnée, et des modèles, est indispensable si on veut un minimum de transparence et d’équité. C’est qu’évoque le retrait de DataJust, ou la fausse défaite des barèmes de Vincent Rivollier, Manon Viglino et Christophe Quézel-Ambrunaz.

Mais cela suppose d’avoir des historiques de données importants (dans notre cas, avec seulement 20 ans de données, on a du mal à avoir des estimations robustes, en grande partie à cause de la très grande variabilité des montants), et des données fiables, et bien renseignées. Car ensuite l’interprétation devient complexe: lorsque nous avions présenté nos résultats il y a quelques années, on nous avait fait remarqué que si les montants ne sont pas « semblables » alors que les victimes le sont, c’est peut-être qu’elles ne sont pas aussi « semblables » qu’elles semblent l’être. En particulier, les informations relativement subjectives (que je dirais sorties d’un « algorithme » si je voulais être taquin) comme le niveau d’I.P.P. – Incapacité Permanente Partielle – n’est peut être pas attribué de la même manière à tout le monde. Au lieu de monter sur ses grands chevaux quand on parle d’ « algorithme », il serait intéressant d’écouter les personnes qui font de l’économie de la justice, ou de statistique de la justice. Et je suis content, parce que je vais les rencontrer cette semaine lors de mon passage à Paris ! À suivre donc…

An Open Lab-Notebook Experiment

Search OpenEdition Search

You will be redirected to OpenEdition Search