Category Archives: Academe
Revue d’Economie Politique
With Emmanuel Flachaire, we have been asked to be the invited editors of a special issue of a French journal, the Revue d’Économie Politique. The volume will be out soon, the introduction is below…
Insurance analytics: prediction, explainability and fairness
This article was written jointly with Kjersti Aas (Norwegian Computing Center & Norwegian University of Science and Technology), Fei Huang (University of New South Wales) and Ronald Richman (Old Mutual Insure & University of the Witwatersrand), for the introduction of a special issue of the Annals of Actuarial Science.
.The expanding application of advanced analytics in insurance has generated numerous opportunities, such as more accurate predictive modelling powered by Machine Learning and Artificial Intelligence (AI) methods, the utilization of novel and unstructured datasets, and the automation of key operations. Significant advances in these areas are being made through novel applications and adaptations of predictive modelling techniques for insurance purposes, while, concurrently, rapid advances in machine learning methods are being made outside of the insurance sector. However, , these innovations also bring substantial challenges, particularly around the transparency, explanation, and fairness of complex algorithmic models and the economic and societal impacts of their adoption in decision-making. As insurance is a highly regulated industry, models may be required by regulators to be explainable, in order to enable analysis of the basis for decision making. Due to the societal importance of insurance, significant attention is being paid to ensuring that insurance models do not discriminate unfairly. In this special issue, we feature papers that explore key issues in insurance analytics, focusing on prediction, explainability, and fairness.
Continue reading Insurance analytics: prediction, explainability and fairness
Arriving in Vancouver, and some news from AAAI’25
While Agathe just arrived in Vancouver for the Thirty-Eighth Annual Conference on Neural Information Processing Systems (also known as NeurIPS 2024), we just got the news that our paper Sequential Conditional Transport on Probabilistic Graphs for Interpretable Counterfactual Fairness was accepted at the 39th Annual AAAI Conference on Artificial Intelligence
Post-Calibration Techniques: Balancing Calibration and Score Distribution Alignment (NeurIPS’24)
Agathe Fernandes Machado will soon be on her way to Vancouver. She will attend the Thirty-Eighth Annual Conference on Neural Information Processing Systems (also known as NeurIPS 2024), to present a short paper on Post-Calibration Techniques: Balancing Calibration and Score Distribution Alignment
A binary scoring classifier can appear well-calibrated according to standard calibration metrics, even when the distribution of scores does not align with the distribution of the true events. In this paper, we investigate the impact of post-processing calibration on the score distribution (sometimes named “recalibration”). Using simulated data, where the true probability is known, followed by real-world datasets with prior knowledge on event distributions, we compare the performance of an XGBoost model before and after applying calibration techniques. The results show that while applying methods such as Platt scaling, Beta calibration, or isotonic regression can improve the model’s calibration, they may also lead to an increase in the divergence between the score distribution and the underlying event probability distribution.
Actuarial ethics and the future of the profession, in the European Actuary
The European Actuary no 40 is out !
Julien Trufin, on “Predictive Modeling and Balance Property through Autocalibration”
This Thursday, Julien Trufin will be giving a talk at the CANSSI SSC Seminar, live from Montréal
Machine learning techniques provide actuaries with predictors exhibiting high correlation with claim frequencies and severities. However, these predictors generally fail to achieve financial equilibrium and thus do not qualify as pure premiums. Autocalibration effectively addresses this issue since it ensures that every group of policyholders paying the same premium is on average self-financing. This talk proposes to look at recent results concerning autocalibration. In particular, we present a new characterization of autocalibration which enables us to identify whether a predictor is autocalibrated or not, we study a method (called balance correction) for obtaining an autocalibrated predictor from any regression model, we highlight the effect of balance correction on resulting pure premiums, and finally we go through some performance criteria that are particularly relevant for autocalibrated predictors.
Julien is actually with us the entiere week.
Les algorithmes et la bureaucratie
La semaine dernière, j’assistais à une série d’exposés sur les algorithmes, l’IA, les inégalités, les injustices, etc, et j’avais l’impression que beaucoup de monde se trompait de combat, en mettant beaucoup de choses “sur le dos des algorithmes”… Je vais en profiter pour ressortir un article que j’avais écrit voilà quelques années… “L’intelligence artificielle dilue-t-elle la responsabilité ?”
On essaie de nous faire croire que l’intelligence artificielle est une révolution. Et s’il n’en était rien ? Ne peut-on pas voir tout simplement la logique d’un processus qui remonte au moins aux cinquante dernières années ? La bureaucratie nous a poussés à mettre en place dans tous les domaines de la vie quotidienne des procédures simples, permettant à tout le monde de se dégager de toute responsabilité, de ne plus avoir à faire preuve d’intelligence. Les algorithmes font peur ; on se demande où se trouve l’« humain » dans ces procédures décisionnelles… Et s’il avait déjà disparu depuis bien longtemps ?
CASdatasets 1.2.0
Nearly ten years ago, Chrisophe Dutang and I launched a curated collection of datasets featured in Computational Actuarial Science with R, bundled in the CASdatasets R package. Now, this package offers an extensive range of actuarial datasets, serving as a vital resource for students, educators, and researchers alike. We’re excited to unveil version 1.2.0, which includes new vignettes created this summer with Ewen Gallic and Julien Siharath. Explore the latest additions at
https://dutangc.github.io/CASdatasets/index.html
and feel free to contribute with your own applications of these datasets! Observe that a DOI has been assigned to the package:
“Éloge du bug” de Marcello Vitalli-Rosati
Courte note de lecture de “Éloge du bug. Être libre à l’époque du numérique” de Marcello Vitalli-Rosati, paru en mai dernier chez Zones.
Ce petit livre, Éloge du Bug, de Marcello Vitalli-Rosati, parle du numérique, et de l’importance que tous ces outils digitaux ont pris dans nos vies, sans qu’on prenne le temps d’y réfléchir. Comme le dit la conclusion, le but de ce livre est “de vous faire perdre du temps”, ce temps nécessaire à la réflexion. Plus que prendre de la hauteur sur le sujet, Marcello Vitalli-Rosati nous propose de faire un pas de côté, et de nous interroger sur nos pratiques. Il nous force à réfléchir à ce qu’Evgeny Morozov appelait le “solutionnisme technologique”, cette une approche selon laquelle “tous les besoins sociaux sont, de fait, transformables de façon unique, claire et non ambiguë en « problèmes » qui peuvent ensuite être résolus par de bons algorithmes.”
Le point de départ est cette omniprésence du numérique dans nos vies. “Il fut un temps où, dans nos sociétés, c’était l’Église qui garantissait l’identité des citoyenn⸱es avec les registres de paroisse dans lesquels étaient inscrits les noms de baptêmes des personnes; aujourd’hui, c’est à Apple et à Google que revient cette tâche. Avec la pandémie de la Covid-19, et à la mise en place du passeport vaccinal, le fait de ne pas avoir de smartphone est devenu encore plus problématique qu’avant”. Marcello Vitalli-Rosati se propose en quelques courts chapitres de discuter quatre concepts importants, avec le recul d’un universitaire rigoureux, mais prenant le parti de faire des parallèles avec des œuvres connues.
Pour parler de “bugs”, La Métamorphose de Franz Kafka permet de montrer comment l’injonction au fonctionnement (un “bug” étant un “dis-fonctionnement”) cache en réalité des valeurs qui sont données pour acquises. “En tant qu’époque, le numérique est indéniablement caractérisé par un mode de fonctionnement capitaliste. Pour être plus précis : une multiplicité de caractéristiques que l’on a l’habitude d’attribuer « au numérique » sont, en réalité, des caractéristiques qui fondent le monde capitaliste depuis ses débuts et qu’on peut retrouver déjà dans les descriptions que Karl Marx en donnait dans Le Capital.” On veut des outils qui fonctionnent. “Le but de ce fonctionnement – ça fonctionne pour faire quoi ? – n’est même pas explicité, car il est évident.” Une technologie fonctionne quand elle accélère un processus ; elle ne fonctionne pas quand elle ne l’accélère pas assez. Cette réflexion sur le temps est passionnante, rappelant les travaux d’Hartmut Rosa qui rappellent que les développement technologique des moyens de transport n’a jamais réduit le temps consacré aux transports, mais il a permis d’aller plus loin dans le même temps. “Au lieu d’employer cinq minutes à parcourir 5 kilomètres, nous dépensons toujours la même heure que nous aurions dépensée à pied, mais pour parcourir 60 kilomètres.” On pense alors aussi à Jean-Baptiste Fressoz qui montre qu’il n’y a jamais eu de transition énergétique, et qu’avec l’arrivée de nouvelles sources d’énergie, notre consommation ne fait qu’augmenter. Le parallèle avec les automobiles est fascinant, non seulement en tant que symbole de la société capitaliste du XXème siècle, mais aussi de part les changements induits dans les réflexions sur l’espace et le temps. La voiture, qui a changé ce qui est proche et ce qui est loin, répond précisément à cet impératif de fonctionnalité. Avec les téléphones cellulaires (Marcello Vitalli-Rosati utilise le terme “smartphone”), on va plus loin, un téléphone qui “fonctionne bien” signifiant simplement qu’elles rendent toujours joignables les personnes qui en possèdent. Le courriel, qui pouvait attendre quelques heures avant qu’on daigne y répondre, est aujourd’hui dépassé, on préfère aujourd’hui les applications de communication synchrone. Quel est le sens de cette “efficacité à tout prix”? Comprendre un “bug”, c’est comprendre les relations entre les humains et les machines, entre les concepteurs et les utilisateurs, c’est comprendre pourquoi une fonctionnalité attendue par un utilisateur, ou le concepteur dis-fonctionne. Marcello Vitalli-Rosati évoque trois types de “bugs”: l’outil est cassé (un outil fonctionne et, ensuite, arrête de fonctionner pour une raison quelconque, “l’outil est donc initialement fonctionnel, il fait ce qu’il doit faire, mais quelque chose ne va pas comme prévu et c’est là que tout s’arrête.”), l’outil est trop complexe (l’outil fonctionne très bien, mais il ne fait pas ce qu’on croit qu’il doit faire: dans ce cas l’outil peut devenir fonctionnel à condition que nous changions notre modèle mental), ou l’outil est inutile (l’outil fonctionne mais il fait des choses qui ne correspondent pas à l’impératif fonctionnel). Le second type est clairement le plus intéressant car il force à s’interroger sur ce qui nous semble, inconsciemment “naturel.” On pense aussi à Pekka Himanen et Steven Levy sur les hackers, et leurs détournements d’outils technologiques à d’autres fins. La réflexion est poursuivie plus loin dans l’ouvrage, avec la fameuse expression “it’s not a bug, it’s a feature” qui force à s’interroger sur les intentions des créateurs, mais qui rappelle aussi que des utilisateurs ont demandé que des bugs ne soient pas corrigés, leur fonctionnalité pouvant s’avérer très utile.
Cette question d’intuition, de simplicité, de ce qui serait “naturel” est repris dans le second chapitre, qui s’appuie sur l’histoire de la lampe merveilleuse d’Aladdin (rajoutée récemment dans les Contes de Mille et une nuits), qui exauce le moindre de nos désirs, posant la question du conte: qui est le maître et qui est le serviteur? Marcello Vitalli-Rosati nous rappelle que les requêtes d’Aladdin révèlent un manque total de réflexion et de volonté. Et plus tard, il laisse le génie décider pour lui, ne souhaitant faire aucun choix (n’est pas ce que l’on demande de plus en plus, et qui montre qu’un outil est fonctionnel). Ce parallèle entre les téléphones cellulaires et la lampe merveilleuse est lumineux, et nous éclaire sur notre relation à la technologie. Il remet d’ailleurs largement en cause la question de la neutralité, la fameuse loi de Kranzberg (énoncée voilà plus de quarante ans) rappelant que “la technologie n’est ni bonne ni mauvaise ; elle n’est pas non plus neutre.” Assez naturellement, la question de la “transparence” se pose, rappelant l’éloge du carburateur de Matthew Crawford, “soulevez le capot de certaines voitures (surtout si elles sont de marque allemande) et, en lieu et place du moteur, vous verrez apparaître quelque chose qui ressemble à l’espèce d’obélisque lisse et rutilant qui fascine tellement les anthropoïdes au début du film de Stanley Kubrick 2001, l’Odyssée de l’espace.”
Le troisième chapitre aborde la question de la matérialité et de l’immatérialité (la fameuse “digitalisation”) en partant du chef d’œuvre de Sergio Leone, Il était une fois dans l’Ouest. On n’est pas loin du premier chapitre de Kate Crawford dans son Atlas, qui nous rappelle la matérialité du “nuage” qui stocke nos données (le terme est loin d’être neutre). Pour Marcello Vitalli-Rosati, “la rhétorique de l’immatérialité n’est qu’une ruse qui permet de cacher la valeur et le sens réel des choses, pour qu’une minorité de personnes puisse finalement exploiter cette valeur.” C’est ce que Morton, le malveillant propriétaire de la ligne de chemin de fer, veut faire croire à Jill dans le film de Sergio Leone, “ce n’est pas la terre qui a une valeur, c’est son idée d’y construire une gare.” On retrouve ici les réflexions sur la valeur des données. Marcello Vitalli-Rosati s’interroge aussi tout au long du livre sur les biens communs, les jardins privés, en nous apportant ses réflexions d’universitaire, mais en le faisant avec des exemples qui nous parlent à tous, et qui ouvre nombre de questions sur ce qui serait “naturel” et “normal”.
Crawford, K. (2023). Contre-atlas de l’intelligence artificielle: les coûts politiques, sociaux et environnementaux de l’IA. Zulma.
Crawford, M. (2026) Éloge du carburateur, La Découverte.
Fressoz, J. B. (2024). Sans transition: une nouvelle histoire de l’énergie. Seuil.
Kranzberg, M. (1986). Technology and history:” Kranzberg’s laws”. Technology and culture, 27(3), 544-560.
Levy, S. (2013). L’Éthique des hackers. Globe Editions.
Morozov, E. (2013). To save everything, click here: The folly of technological solutionism. PublicAffairs.
Pekka, H. (2001). L’Éthique hacker et l’esprit de l’ère de l’information. Exils
Rosa H. (2012). Aliénation et accélération : vers une théorie critique de la modernité tardive. La Découverte
Vitali-Rosati, Marcello (2024) Éloge du bug. Être libre à l’époque du numérique. Éditions Zones. Papier • HTML • PDF
C’est la rentrée… des chaires parisiennes
Quelques nouvelles de France, avec la rentrée de deux programmes de recherche, avec l’inauguration d’un nouveau cycle de recherche pour la Chaire PARI
Risques, big data, réputation… au château de Cerisy, l’assurance face aux défis de son époque
Article d’Esther Attias sur le colloque de la semaine dernière à Cerisy, dans le dernier numéro de Challenges
Au château de Cerisy-la-Salle, dans la Manche, chercheurs et professionnels de l’assurance se sont réunis pour croiser le fer autour du thème « l’assurance au défi des ruptures ». Récit d’un colloque de haute volée dans un lieu hors du temps [à suivre]
(photos empruntées à Sandrine Lemery et Michael Donio)
SCOR-UQAM Annual Report
Just after arriving in Warsaw, I had a zoom meeting with the SCOR Foundation for Science to present our annual report (#1) for the SCOR research project. The report is available online, and the second newsletter will be uploaded soon.
Summer School in Warszawa
In a couple of days, I will be in Warszawa (Warsaw) for a Summer School, to give a short course on Insurance, biases, discrimination and fairness, invited by Łukasz Delong. Slides are now available.
This course will provide a state-of-the-art, on fairness and discrimination, in the context of insurance pricing (and more
generally, predictive models). As explained by Avraham et al. (2014) “insurance companies are in the business of discrimination. Insurers attempt to segregate insureds into separate risk pools based on the differences in their risk profiles, first, so that different premiums can be charged to the different groups based on their differing risks and, second, to incentivize risk reduction by insureds. This is why we let insurers discriminate. There are limits, however, to the types of discrimination that are permissible for insurers. But what exactly are those limits and how are they justified“. First, we will come back to the specificities of predictive models in insurance. We will come back to the different places where a potential discrimination can intervene, by insisting on the possible biases in the data, in the models. We will present in particular the regulations in Europe and North America. In a second step, we will see how to quantify a possible discrimination, insisting on the main measures of “group-fairness”, before discussing the individual approach, in particular in relation with the causal approaches. Indeed, the central question of discrimination is “would the price have been different if this person had been a man instead of a woman“. We will see how to build a counterfactual allowing to quantify a possible discrimination. Finally, we will see how to correct a discrimination, insisting on the in-processing (throught penalized models) and post-processing approaches (using optimal transport). This course will be based on the recent textbook, Charpentier (2024) Insurance, biases, discrimination and fairness. Springer.
Internships, Spring and Summer 2025
The platform Mitacs Globalink Research Internships is now open, for next Spring, and next Summer.
On the page https://www.mitacs.ca/our-programs/globalink-research-internship-students/ there is a “Apply now!“. In the “project” folder, there is a form to fill. Just type “charpentier” under Faculty Last Name
Then you will see three propositions,
- 45277 “interpretability of black box predictive models“,
- 45286 “combining decision trees and regression models“
- 46665 “causal models for machine learning“
Projets will be co-supervised with postdoctoral fellows and students from the research team. Please feel free to apply, if you are eligible.