All posts by Arthur Charpentier

Arthur Charpentier, professor in Montréal, in Actuarial Science. Former professor-assistant at ENSAE Paristech, associate professor at Ecole Polytechnique and assistant professor in Economics at Université de Rennes 1.  Graduated from ENSAE, Master in Mathematical Economics (Paris Dauphine), PhD in Mathematics (KU Leuven), and Fellow of the French Institute of Actuaries.
Academe

“Éloge du bug” de Marcello Vitalli-Rosati

Leave a comment

Courte note de lecture de “Éloge du bug. Être libre à l’époque du numérique” de Marcello Vitalli-Rosati, paru en mai dernier chez Zones.

Ce petit livre, Éloge du Bug, de Marcello Vitalli-Rosati, parle du numérique, et de l’importance que tous ces outils digitaux ont pris dans nos vies, sans qu’on prenne le temps d’y réfléchir. Comme le dit la conclusion, le but de ce livre est “de vous faire perdre du temps”, ce temps nécessaire à la réflexion. Plus que prendre de la hauteur sur le sujet, Marcello Vitalli-Rosati nous propose de faire un pas de côté, et de nous interroger sur nos pratiques. Il nous force à réfléchir à ce qu’Evgeny Morozov appelait le “solutionnisme technologique”, cette une approche selon laquelle “tous les besoins sociaux sont, de fait, transformables de façon unique, claire et non ambiguë en « problèmes » qui peuvent ensuite être résolus par de bons algorithmes.”

Le point de départ est cette omniprésence du numérique dans nos vies. “Il fut un temps où, dans nos sociétés, c’était l’Église qui garantissait l’identité des citoyenn⸱es avec les registres de paroisse dans lesquels étaient inscrits les noms de baptêmes des personnes; aujourd’hui, c’est à Apple et à Google que revient cette tâche. Avec la pandémie de la Covid-19, et à la mise en place du passeport vaccinal, le fait de ne pas avoir de smartphone est devenu encore plus problématique qu’avant”. Marcello Vitalli-Rosati se propose en quelques courts chapitres de discuter quatre concepts importants, avec le recul d’un universitaire rigoureux, mais prenant le parti de faire des parallèles avec des œuvres connues.

Pour parler de “bugs”, La Métamorphose de Franz Kafka permet de montrer comment l’injonction au fonctionnement (un “bug” étant un “dis-fonctionnement”) cache en réalité des valeurs qui sont données pour acquises. “En tant qu’époque, le numérique est indéniablement caractérisé par un mode de fonctionnement capitaliste. Pour être plus précis : une multiplicité de caractéristiques que l’on a l’habitude d’attribuer « au numérique » sont, en réalité, des caractéristiques qui fondent le monde capitaliste depuis ses débuts et qu’on peut retrouver déjà dans les descriptions que Karl Marx en donnait dans Le Capital.” On veut des outils qui fonctionnent. “Le but de ce fonctionnement – ça fonctionne pour faire quoi ? – n’est même pas explicité, car il est évident.” Une technologie fonctionne quand elle accélère un processus ; elle ne fonctionne pas quand elle ne l’accélère pas assez. Cette réflexion sur le temps est passionnante, rappelant les travaux d’Hartmut Rosa qui rappellent que les développement technologique des moyens de transport n’a jamais réduit le temps consacré aux transports, mais il a permis d’aller plus loin dans le même temps. “Au lieu d’employer cinq minutes à parcourir 5 kilomètres, nous dépensons toujours la même heure que nous aurions dépensée à pied, mais pour parcourir 60 kilomètres.” On pense alors aussi à Jean-Baptiste Fressoz qui montre qu’il n’y a jamais eu de transition énergétique, et qu’avec l’arrivée de nouvelles sources d’énergie, notre consommation ne fait qu’augmenter. Le parallèle avec les automobiles est fascinant, non seulement en tant que symbole de la société capitaliste du XXème siècle, mais aussi de part les changements induits dans les réflexions sur l’espace et le temps. La voiture, qui a changé ce qui est proche et ce qui est loin, répond précisément à cet impératif de fonctionnalité. Avec les téléphones cellulaires (Marcello Vitalli-Rosati utilise le terme “smartphone”), on va plus loin, un téléphone qui “fonctionne bien” signifiant simplement qu’elles rendent toujours joignables les personnes qui en possèdent. Le courriel, qui pouvait attendre quelques heures avant qu’on daigne y répondre, est aujourd’hui dépassé, on préfère aujourd’hui les applications de communication synchrone. Quel est le sens de cette “efficacité à tout prix”? Comprendre un “bug”, c’est comprendre les relations entre les humains et les machines, entre les concepteurs et les utilisateurs, c’est comprendre pourquoi une fonctionnalité attendue par un utilisateur, ou le concepteur dis-fonctionne. Marcello Vitalli-Rosati évoque trois types de “bugs”: l’outil est cassé (un outil fonctionne et, ensuite, arrête de fonctionner pour une raison quelconque, “l’outil est donc initialement fonctionnel, il fait ce qu’il doit faire, mais quelque chose ne va pas comme prévu et c’est là que tout s’arrête.”), l’outil est trop complexe (l’outil fonctionne très bien, mais il ne fait pas ce qu’on croit qu’il doit faire: dans ce cas l’outil peut devenir fonctionnel à condition que nous changions notre modèle mental), ou l’outil est inutile (l’outil fonctionne mais il fait des choses qui ne correspondent pas à l’impératif fonctionnel). Le second type est clairement le plus intéressant car il force à s’interroger sur ce qui nous semble, inconsciemment “naturel.” On pense aussi à Pekka Himanen et Steven Levy sur les hackers, et leurs détournements d’outils technologiques à d’autres fins. La réflexion est poursuivie plus loin dans l’ouvrage, avec la fameuse expression “it’s not a bug, it’s a feature” qui force à s’interroger sur les intentions des créateurs, mais qui rappelle aussi que des utilisateurs ont demandé que des bugs ne soient pas corrigés, leur fonctionnalité pouvant s’avérer très utile.

Cette question d’intuition, de simplicité, de ce qui serait “naturel” est repris dans le second chapitre, qui s’appuie sur l’histoire de la lampe merveilleuse d’Aladdin (rajoutée récemment dans les Contes de Mille et une nuits), qui exauce le moindre de nos désirs, posant la question du conte: qui est le maître et qui est le serviteur? Marcello Vitalli-Rosati nous rappelle que les requêtes d’Aladdin révèlent un manque total de réflexion et de volonté. Et plus tard, il laisse le génie décider pour lui, ne souhaitant faire aucun choix (n’est pas ce que l’on demande de plus en plus, et qui montre qu’un outil est fonctionnel). Ce parallèle entre les téléphones cellulaires et la lampe merveilleuse est lumineux, et nous éclaire sur notre relation à la technologie. Il remet d’ailleurs largement en cause la question de la neutralité, la fameuse loi de Kranzberg (énoncée voilà plus de quarante ans) rappelant que “la technologie n’est ni bonne ni mauvaise ; elle n’est pas non plus neutre.” Assez naturellement, la question de la “transparence” se pose, rappelant l’éloge du carburateur de Matthew Crawford, “soulevez le capot de certaines voitures (surtout si elles sont de marque allemande) et, en lieu et place du moteur, vous verrez apparaître quelque chose qui ressemble à l’espèce d’obélisque lisse et rutilant qui fascine tellement les anthropoïdes au début du film de Stanley Kubrick 2001, l’Odyssée de l’espace.”

Le troisième chapitre aborde la question de la matérialité et de l’immatérialité (la fameuse “digitalisation”) en partant du chef d’œuvre de Sergio Leone, Il était une fois dans l’Ouest. On n’est pas loin du premier chapitre de Kate Crawford dans son Atlas, qui nous rappelle la matérialité du “nuage” qui stocke nos données (le terme est loin d’être neutre). Pour Marcello Vitalli-Rosati, “la rhétorique de l’immatérialité n’est qu’une ruse qui permet de cacher la valeur et le sens réel des choses, pour qu’une minorité de personnes puisse finalement exploiter cette valeur.” C’est ce que Morton, le malveillant propriétaire de la ligne de chemin de fer, veut faire croire à Jill dans le film de Sergio Leone, “ce n’est pas la terre qui a une valeur, c’est son idée d’y construire une gare.” On retrouve ici les réflexions sur la valeur des données. Marcello Vitalli-Rosati s’interroge aussi tout au long du livre sur les biens communs, les jardins privés, en nous apportant ses réflexions d’universitaire, mais en le faisant avec des exemples qui nous parlent à tous, et qui ouvre nombre de questions sur ce qui serait “naturel” et “normal”.

Crawford, K. (2023). Contre-atlas de l’intelligence artificielle: les coûts politiques, sociaux et environnementaux de l’IA. Zulma.

Crawford, M. (2026) Éloge du carburateur, La Découverte.

Fressoz, J. B. (2024). Sans transition: une nouvelle histoire de l’énergie. Seuil.

Kranzberg, M. (1986). Technology and history:” Kranzberg’s laws”. Technology and culture, 27(3), 544-560.

Levy, S. (2013). L’Éthique des hackers. Globe Editions.

Morozov, E. (2013). To save everything, click here: The folly of technological solutionism. PublicAffairs.

Pekka, H. (2001). L’Éthique hacker et l’esprit de l’ère de l’information. Exils

Rosa H. (2012). Aliénation et accélération : vers une théorie critique de la modernité tardive. La Découverte

Vitali-Rosati, Marcello (2024) Éloge du bug. Être libre à l’époque du numérique. Éditions Zones. Papier • HTML • PDF

Seminar

Algorithmic fairness with optimal transport: quantifying counterfactual fairness and mitigating group fairness

Leave a comment

This Friday, I will be in Laval University, in Québec, to give a talk at the Statlab annual day.

In this talk, we present two complementary approaches to addressing fairness in algorithmic decision-making, regarding individual and group fairness. First, we use Wasserstein barycenters to obtain (strong Demographic Parity) with one or multiple sensitive features. Our method provides a closed-form solution for the optimal, sequentially fair predictor, enabling possible interpretation of correlations between sensitive attributes. Then, we introduce a novel method that links two existing counterfactual approaches: causal graph-based adaptations (Plečko and Meinshausen, 2020) and optimal transport (De Lara et al., 2024). By extending “Knothe’s rearrangement” (Bonnotte, 2013) and “triangular transport” (Zech and Marzouk, 2022) to probabilistic graphical models, we propose a new group framework, termed sequential transport, which we apply to the problem of individual fairness. Theoretical foundations are established, followed by numerical demonstrations on synthetic and real datasets.

Slides are available online.

Research

SCOR Project Newsletter #2

1 Comment

The second newsletter, related to the SCOR research project is now available. It is a brief summary of the second six months block, from April till the end of September (the first one is available here).

As explained, over the past six months, we have had several interns, including Noé Bosc-Haddad, Florent Crouzet, Julien Siharath, Ana María Patrón Piñerez and Cassandra Mussard, the visit of Laurence Barry and Fei Huang, Philipp Ratz and Samuel Stocksieker defended their PhD, François Hu finished his postdoctoral fellowship, while Marouane Il Idrissi and Arsene Zotsa just arrived, Agathe Fernandes Machado and Olivier Côté (co-supervised with Ewen Gallic and Marie-Pier Côté) finished their PhD courses and are now 100% on their research… We wrote papers, gave talks… Thank you to all those who have supported us, and continue to support us. At least two more years to work on insurance and predictive models, fairness, calibration, discrimination, trust, explainability, interpretability, market equilibria, competition, generative models, and so much more… We’ve still got a lot of work to do, and plenty of enthusiasm!

Academe

C’est la rentrée… des chaires parisiennes

Leave a comment

Quelques nouvelles de France, avec la rentrée de deux programmes de recherche, avec l’inauguration d’un nouveau cycle de recherche pour la Chaire PARI

Après cinq années de travaux consacrés à l’impact des big data sur le secteur de l’assurance, la chaire PARI va continuer à mettre à profit les compétences pluridisciplinaires de ses chercheurs associés (sociologie, épistémologie, histoire, actuariat…) pour questionner l’implication des assureurs dans la gestion des catastrophes. Le programme de recherche 2024-2027 est en ligne sur le site de la https://www.chaire-pari.fr/.

Sinon, la semaine prochaine, c’est la conférence inaugurale de la Chaire Actions, sur Paris

Là encore, beaucoup de belles choses prévues, on en reparlera !

Academe

Risques, big data, réputation… au château de Cerisy, l’assurance face aux défis de son époque

Leave a comment

Article d’Esther Attias sur le colloque de la semaine dernière à Cerisy, dans le dernier numéro de Challenges

Au château de Cerisy-la-Salle, dans la Manche, chercheurs et professionnels de l’assurance se sont réunis pour croiser le fer autour du thème « l’assurance au défi des ruptures ». Récit d’un colloque de haute volée dans un lieu hors du temps [à suivre]

(photos empruntées à Sandrine Lemery et Michael Donio)

Academe, Students

Summer School in Warszawa

Leave a comment

In a couple of days, I will be in Warszawa for a Summer School, to give a short course on Insurance, biases, discrimination and fairness, invited by Łukasz Delong. Slides are now available.

This course will provide a state-of-the-art, on fairness and discrimination, in the context of insurance pricing (and more
generally, predictive models). As explained by Avraham et al. (2014) “insurance companies are in the business of discrimination. Insurers attempt to segregate insureds into separate risk pools based on the differences in their risk profiles, first, so that different premiums can be charged to the different groups based on their differing risks and, second, to incentivize risk reduction by insureds. This is why we let insurers discriminate. There are limits, however, to the types of discrimination that are permissible for insurers. But what exactly are those limits and how are they justified“. First, we will come back to the specificities of predictive models in insurance. We will come back to the different places where a potential discrimination can intervene, by insisting on the possible biases in the data, in the models. We will present in particular the regulations in Europe and North America. In a second step, we will see how to quantify a possible discrimination, insisting on the main measures of “group-fairness”, before discussing the individual approach, in particular in relation with the causal approaches. Indeed, the central question of discrimination is “would the price have been different if this person had been a man instead of a woman“. We will see how to build a counterfactual allowing to quantify a possible discrimination. Finally, we will see how to correct a discrimination, insisting on the in-processing (throught penalized models) and post-processing approaches (using optimal transport). This course will be based on the recent textbook, Charpentier (2024) Insurance, biases, discrimination and fairness. Springer.

Conferences

Colloque, au Centre Culturel International de Cerisy, en France

Leave a comment

Je serai pour les 6 prochains jours au Centre Culturel International de Cerisy, pour un colloque sur “l’assurance face à ses ruptures“. Au programme (13/9) histoire de l’assurance, (14/9) la financiarisation, (15/9) les données massives, (16/9) le changement climatique et (17/9) le rôle de l’État. Je ferais une intervention dimanche matin, sur le thème Certitudes collective et incertitudes individuelles, les données massives changent-elles la donne ?

Dans cette intervention, nous commencerons par un détour historique et sociologique en revenant sur les travaux d’Émile Durkheim et Max Weber. Ces chercheurs ont montré que bien que les actions individuelles puissent être imprévisibles, les comportements collectifs suivent des schémas réguliers. En agrégeant les actions individuelles, nous observons des régularités au sein de groupes plus larges, une idée illustrée par la prédictibilité du suicide dans le contexte des données massives. Ensuite, nous aborderons les réflexions de Herbert Simon et sa théorie de la rationalité limitée, suggérant que malgré les limites cognitives des individus, les rendant individuellement imprévisibles, des modèles prévisibles émergent dans la prise de décision globale. Nous explorerons ensuite des questions épistémologiques en discutant l’interprétation fréquentiste des probabilités, laquelle requiert la répétition pour être quantifiée, et la difficulté d’associer une probabilité à un événement unique. La réponse bayésienne, qui interprète les probabilités comme des croyances ou des scores, complique la relation avec l’équité actuarielle. Nous questionnerons la calibration des modèles et l’interprétation des scores à travers des exemples simples, tels que “avoir 70% de chances qu’une opération militaire réussisse” ou “avoir 70% de chances de pluie entre 14 et 15 heures”. Enfin, nous conclurons en prenant en compte le caractère temporel de la prévision: prévoir un accident 15 minutes avant qu’il ne survienne n’est pas équivalent à le prévoir un an à l’avance.

Les slides sont en ligne. Sinon Le Monde, quotidien français, publiait un portrait des colloques (organisés depuis 1952) cet été, il y a un mois,

Seminar

“Mathematical Foundations of AI” day at the Sorbonne center for artificial intelligence

Leave a comment

On Thursday 12th, I will attend the Mathematical Foundations of AI day, organized by the DATAIA Institute and SCAI (Sorbonne Center for Artificial Intelligence), in association with several scientific societies (namely, the Fondation Mathématique Jacques Hadamard (FMJH), the Fondation Sciences Mathématiques de Paris-FSMP, the MALIA group of the Société Française de Statistique and the Société Savante Francophone d’Apprentissage Machine (SSFAM)).

Slides are now online.

In this talk, we present two complementary approaches to addressing fairness in algorithmic decision-making through the lens of counterfactual reasoning and optimal transport, both in individual and group fairness. First, we introduce a novel method that links two existing counterfactual approaches: causal graph-based adaptations (Plečko and Meinshausen, 2020) and optimal transport (De Lara et al., 2024). By extending “Knothe’s rearrangement” (Bonnotte, 2013) and “triangular transport” (Zech and Marzouk, 2022) to probabilistic graphical models, we propose a new group framework, termed sequential transport, which we apply to the problem of individual fairness. Theoretical foundations are established, followed by numerical demonstrations on synthetic and real datasets. Building on this, we extend the discussion to algorithmic fairness in the presence of multiple sensitive attributes. While traditional fairness frameworks focus on eliminating bias with respect to a single sensitive variable, their effectiveness diminishes with multiple sensitive characteristics. To address this, we propose a sequential fairness framework based on multi-marginal Wasserstein barycenters, generalizing Strong Demographic Parity to handle multiple sensitive features. Our method provides a closed-form solution for the optimal, sequentially fair predictor, enabling interpretation of correlations between sensitive attributes. Furthermore, we introduce an approximate fairness framework that balances risk and unfairness, allowing for prioritization of fairness across specific attributes. Both approaches are supported by comprehensive numerical experiments on synthetic and real-world datasets, showcasing the practical efficacy of these methods in promoting fair decision-making. Together, they provide a robust framework for addressing fairness in complex, multi-attribute settings while preserving interpretability and flexibility.

References are given below

  1. we will discuss further counterfactual fairness, initiated in Optimal Transport for Counterfactual Estimation: A Method for Causal Inference, and the more recent paper Sequential Conditional Transport on Probabilistic Graphs for Interpretable Counterfactual Fairness 
  2. we will discuss Wasserstein barycenters with multiple sensistive attributes, A Sequentially Fair Mechanism for Multiple Sensitive Attributes

[added on Sept 13th] Thanks (on the right) for this nice picture with .

Conferences, Trip

European Actuarial Journal Conference (in Lisbon)

Leave a comment

Next week, I will be at the European Actuarial Journal Conference, at the Lisbon School of Economics and Business, EAJ’24.

I will give a talk on calibration of actuarial models, based on our recent paper with Agathe Fernandes Machado, Emmanuel Flachaire, Ewen Gallic and François Hu, mainly “Probabilistic Scores of Classifiers, Calibration is not Enough” (as well as recent work on recalibration). Slides are available.

In binary classification tasks, accurate representation of probabilistic predictions is essential for various real-world applications such as predicting payment defaults or assessing medical risks. The model must then be well-calibrated to ensure alignment between predicted probabilities and actual outcomes. However, when score heterogeneity deviates from the underlying data probability distribution, traditional calibration metrics lose reliability, failing to align score distribution with actual probabilities. In this study, we highlight approaches that prioritize optimizing the alignment between predicted scores and true probability distributions over minimizing traditional performance or calibration metrics. When employing tree-based models such as Random Forest and XGBoost, our analysis emphasizes the flexibility these models offer in tuning hyperparameters to minimize the Kullback-Leibler (KL) divergence between predicted and true distributions. Through extensive empirical analysis across 10 UCI datasets and simulations, we demonstrate that optimizing tree-based models based on KL divergence yields superior alignment between predicted scores and actual probabilities without significant performance loss. In real-world scenarios, the reference probability is determined a priori as a Beta distribution estimated through maximum likelihood. Conversely, minimizing traditional calibration metrics may lead to suboptimal results, characterized by notable performance declines and inferior KL values. Our findings reveal limitations in traditional calibration metrics, which could undermine the reliability of predictive models for critical decision-making.

Books

C’est la rentrée du Manuel d’Assurance

Leave a comment

Il y a deux ans, le Manuel d’Assurance sortait (avec un peu de retard, et nous rations la rentrée universitaire). Le livre a été adopté comme ouvrage de référence dans plusieurs formations en assurance, ce dont nous sommes assez fier…

La semaine prochaine, on organise notre réunion de rentrée avec Gilles et Patrick pour voir quels chapitres ajouter… À suivre donc.

Students

Internships, Spring and Summer 2025

Leave a comment

The platform Mitacs Globalink Research Internships is now open, for next Spring, and next Summer.

On the page https://www.mitacs.ca/our-programs/globalink-research-internship-students/ there is a “Apply now!“. In the “project” folder, there is a form to fill. Just type “charpentier” under Faculty Last Name

Then you will see three propositions,

Projets will be co-supervised with postdoctoral fellows and students from the research team. Please feel free to apply, if you are eligible.

Academe

Szkoła Nauk Aktuarialnych

Leave a comment

Kolejna edycja Szkoły Aktuarialnej, organizowanej wspólnie przez Polskie Stowarzyszenie Aktuariuszy oraz Wydział Nauk Ekonomicznych Uniwersytetu Warszawskiego, planowana jest w dniach:

  • 16-17 września: Komponent ryzyka w bilansie ekonomicznym. Porównanie MCEV, Solvency II i IFRS 17, Arkadiusz Kramza, Witold Czechowski (wykład w języku polskim)
  • 18-19 września: Ubezpieczenia, uprzedzenia, dyskryminacja i sprawiedliwość, prof. Arthur Charpentier (wykład w języku angielskim)

Szczegółowy program Szkoły można znaleźć online. Kurs będzie oparty na niedawno opublikowanej książce Insurance, Biases, Discrimination and Fairness.