Here is Alyssa Gambone (Reserving Actuary at Riverstone International US)’s post on Linkedin
It’s time for one of my rare insurance related posts, though this one isn’t entirely off theme of my normal content. The CAS recently published a paper entitled ‘A Scalable toolbox for exposing indirect discrimination in insurance rates‘ by Olivier Côté, Marie-Pier Côté, and Arthur Charpentier that makes an incredibly important point as the actuarial profession goes deeper and deeper into machine learning and AI. “In an unrealistic extreme, oracle insurers — capable of perfectly predicting both amount and timing of insurance claims — might charge each policyholder precisely their discounted future claim amount, questioning the very concept of insurance risk transfer.” I’m a big believer that in service of the “most accurate” rates (what the paper calls “actuarial fairness”, which is incredibly damning of our profession), we have lost our purpose, which is to ensure a wide ranging ability of society to take normal risks like driving a car, owning a home, or starting a business. Society is better when insurance is available and affordable, not when it is precisely accurate for the smallest groups possible. In service of the capitalistic goal of maximizing profits at all costs, we have found out that the costs might be our industry’s societal purpose and reason to exist. “As data granularity increases, so does the potential for actuarial justification in perpetuating [historic and socioeconomic] disparities.” Shame on our profession if it does.
There will be much more work published soon on those topics… Meanwhile, here was our abstract,
Let’s start with a truism. In ordinary life, just as in economic life, we have to make decisions without ever knowing everything. Every decision involves some uncertainty, and therefore some risk. Some risks are small, manageable, and we barely notice them anymore. Others can have financial consequences large enough that we would rather transfer them to a third party, by paying a premium so that an insurer will bear them for us. That is, at bottom, one of the most concrete functions of insurance. But an equally interesting question arises when that transfer becomes impossible, or at least impossible at a reasonable price. That is what we call uninsurability. We already encounter it with certain natural risks, when losses become too correlated, too massive, too difficult to mutualize, as I discussed in Insurers and AI, a systemic risk and in Insuring AI. New risks? New models?. And apologies for using this umbrella term, “AI,” which I do not like very much, but I need to simplify a little or I would never finish this post…
Another looming problem is that large insurers have become wary of underwriting policies that cover companies against AI risk.
(Thanks to @flomaraninchi and @ugo for pointing it out to me.) I have the feeling that it is important to understand exactly what this means. If major insurers are becoming reluctant to cover AI-related uses, this is probably not just one more market anecdote, nor simply another legal precaution. It is a signal. An important signal for anyone who builds predictive models, or who is interested in uncertainty and ambiguity, because insurers do not need to be prophets to become cautious. Perhaps that is what risk culture is. It is enough for them to conclude that they do not understand the risk well enough, that they cannot observe it properly, that they cannot reconstruct the chain of responsibility behind it, or that they doubt they can carry it at a sustainable price. In other words, if insurers are stepping back, that should force us to ask whether AI is really under control. What we are dealing with here are very classical questions in the economics of information, imperfect measurement, misaligned incentives, and insufficient proof, much more than a simple dispute about the current level of the technology.
Allez, commençons par une banalité, en notant que dans la vie ordinaire, comme dans la vie économique, il faut décider sans jamais tout savoir. Toute décision engage une part d’incertitude, donc une part de risque. Certains risques sont petits, absorbables, et on n’y prête même plus attention. D’autres peuvent avoir des conséquences financières telles qu’on préfère les transférer à un tiers, en payant une prime pour qu’un assureur les prenne à sa charge. C’est, au fond, une des fonctions les plus concrètes de l’assurance. Mais une question au moins aussi intéressante surgit lorsque ce transfert devient impossible, ou du moins impossible à un prix raisonnable. C’est ce qu’on appelle “inassurabilité”, que l’on rencontre déjà face à certains risques naturels, lorsque les pertes deviennent trop corrélées, trop massives, trop difficiles à mutualiser, comme je l’évoquais dans Assureurs et IA, un risque systémique et dans Assurer l’IA. Nouveaux risques ? Nouveaux modèles ?. Et désolé d’utiliser ce terme parapluie, “IA”, que je n’aime pas trop, mais je vais simplifier un peu sinon je ne finirais jamais ce billet…
Another looming problem is that large insurers have become wary of underwriting policies that cover companies against AI risk.
(merci @flomaraninchi et @ugo de me l’avoir pointé) et j’ai l’impression qu’il est important de bien comprendre ce que ça signifie… Si de grands assureurs deviennent réticents à couvrir les usages de l’IA, ce n’est peut être pas simplement une de ces nombreuses anecdotes venant du marché, ni une précaution juridique de plus, c’est probablement un signal. Un signal important quand on fait des modèles prédictifs, qu’on s’intéresse à l’incertitude et à l’ambiguïté, parce que bien souvent, un assureur n’a pas besoin d’être prophète pour devenir méfiant. C’est peut être ce qui s’appelle la culture du risque… Il lui suffit d’estimer qu’il ne comprend pas suffisamment le risque, qu’il ne peut pas l’observer correctement, qu’il ne sait pas en reconstruire la chaîne de responsabilité, ou qu’il doute de pouvoir le porter à un prix soutenable. Autrement dit, si on voit les assureurs reculer, ça devrait nous obliger à nous demander si l’IA est réellement maîtrisée. On touche ici à des questions très classiques d’économie de l’information, de mesure imparfaite, d’incitations mal alignées et de preuve insuffisante, bien plus qu’à une simple querelle sur le niveau actuel de la technologie.
This workshop aims to provide a focused forum, where global risk and insurance research and the Korean insurance industry can exchange ideas and discuss the practical implications of emerging risks and technologies. The program will feature leading scholars and industry experts discussing key topics shaping the future of insurance, including:
• AI Revolution and Cyber Risks
• Climate Change and Extreme Weather Events
• Insurance Data Science and Market Innovations
The workshop will be held at FKI Tower (Diamond Hall) in the heart of Seoul’s financial district. It will include academic presentations, industry panel discussions, and networking opportunities designed to foster collaboration between researchers and practitioners. The website of the workshop for registration (note that registration is free but space is limited) is now online.
Calibration is a conditional property that depends on the information retained by a predictor. We develop decomposition identities for arbitrary proper losses that make this dependence explicit. At any information level \mathcal{A}, the expected loss of an \mathcal{A}-measurable predictor splits into a proper-regret (reliability) term and a conditional entropy (residual uncertainty) term. For nested levels \mathcal{A}\subset\mathcal{B}, a chain decomposition quantifies the information gain from \mathcal{A}to \mathcal{B}. Applied to classification with features \boldsymbol{X}and score S=s(\boldsymbol{X}), this yields a three-term identity: miscalibration, a {\em grouping} term measuring information loss from \boldsymbol{X} to {S}, and irreducible uncertainty at the feature level. We leverage the framework to analyze post-hoc recalibration, aggregation of calibrated models, and stagewise/boosting constructions, with explicit forms for Brier and log-loss.
We propose sequential transport (ST), a distributional framework for mediation analysis that combines optimal transport (OT) with a mediator directed acyclic graph (DAG). Instead of relying on cross-world counterfactual assumptions, ST constructs unit-level mediator counterfactuals by minimally transporting each mediator, either marginally or conditionally, toward its distribution under an alternative treatment while preserving the causal dependencies encoded by the DAG. For numerical mediators, ST uses monotone (conditional) OT maps based on conditional CDF/quantile estimators; for categorical mediators, it extends naturally via simplex-based transport. We establish consistency of the estimated transport maps and of the induced unit-level decompositions into mutatis mutandis direct and indirect effects under standard regularity and support conditions. When the treatment is randomized or ignorable (possibly conditional on covariates), these decompositions admit a causal interpretation; otherwise, they provide a principled distributional attribution of differences between groups aligned with the mediator structure. Gaussian examples show that ST recovers classical mediation formulas, while additional simulations confirm good performance in nonlinear and mixed-type settings. An application to the COMPAS dataset illustrates how ST yields deterministic, DAG-consistent counterfactual mediators and a fine-grained mediator-level attribution of disparities.
J’ai grandi en Europe, en France, dans un monde où l’adresse semblait aller de soi. Une maison était d’abord située sur une rue, puis placée dans la rue par un numéro. En ville, on apprenait très tôt à se repérer avec ce qu’on pourrait appeler la grammaire ordinaire de l’espace urbain : les numéros montent depuis le début de la voie, les pairs sont d’un côté, les impairs de l’autre, et l’ordre croissant suit en général une logique d’éloignement du centre. Pour aller du 56 dans une rue au 72, on sait qu’il faudra longer 16 maisons (ou immeubles) entre les deux. Dans les zones plus rurales, j’ai aussi connu une autre logique, moins intuitive au premier abord mais finalement très parlante : celle où le numéro ne dit plus seulement le rang d’une maison, mais une distance. Le 72 est maintenant 16 mètres plus loin, autrement dit, c’est peut être la maison à côté. Les guides français d’adressage parlent ainsi d’une numérotation métrique où le numéro correspond à la distance, en mètres, entre le début de la voie et l’habitation, avec un « point zéro » qui peut être la mairie ou l’église du village (comme le rappelle le Guide pratique pour un bon adressage des communes de Charente). Continue reading La géométrie de la ville, les lignes et les pôlygones→
en m’inspirant du titre de l’article de Benoît Hopquin publié par Le Monde, il y a 5 ans, jour pour jour.
J’étais à Hiroshima l’automne dernier. C’est un lieu saturé d’images, trop connu, que l’on connait avant même d’y être allé. Le dôme apparaît une dizaine de fois dans Gen d’Hiroshima ou Gen aux pieds nus, tel qu’il vient d’être nommé dans la nouvelle édition paru l’an dernier (reprenant le titre original Hadashi no Gen, はだしのゲン), et le voir en vrai fait remonter plein de souvenirs de lecture.
Il y a aussi les photographies des lendemains du 6 août 1945 dans mes livres d’histoires. Hiroshima appartient à ce petit nombre de catastrophes que tout le monde croit avoir déjà vues. Et pourtant, l’essentiel de la catastrophe nucléaire n’a justement rien de visible. Ce que l’on voit à Hiroshima, c’est la destruction. Au sens littéral, on peut penser à ce couple, désintégré, dont il reste juste la silhouette sur un mur. Hormis le dôme, l’essentiel échappe au regard. Et au delà de la destruction, c’est aussi la contamination, l’incertitude, le temps long pour ses victimes. Janet Farrell Brodie le rappelle très bien dans Radiation Secrecy and Censorship after Hiroshima and Nagasaki. Dès après le bombardement, les autorités américaines ont travaillé à censurer, contenir, déformer l’information sur les effets radiologiques, autrement dit à rendre moins visible ce qui, de toute façon, ne se voyait pas directement. Continue reading Fukushima : 15 ans après, réflexions sur une inévitable catastrophe→
Que celui qui n’a jamais pesté contre ces CV académiques lus au poids, à coups de nombre de publications, d’étudiants supervisés, de conférences invitées et de montants cumulés de subvention de recherche, me jette la première pierre. Heureusement, nous dit on, une solution arrive pour mettre fin à cette comptabilité et remettre du sens, le CV narratif, aussi appelé CV descriptif. On va maintenant regarder les trajectoires, les contributions invisibles, l’encadrement, l’ouverture des données, l’impact réel. Et pour faire ça, on nous propose un objet simple, très simple, remplacer le CV liste de course par un CV narratif. Et quand je dis très simple, je n’exagère pas. Voilà le modèle de CV des trois organismes sur le site du CRSNG, au Canada,
En fin de semaine dernière, L’Argus de l’Assurance titrait sur une estimation de la “crue centennale de la Seine”
Je voulais revenir dessus avec un (court) billet parce que j’ai toujours du mal à comprendre ce qu’une telle estimation veut (vraiment) dire. Au risque de me répéter (je le disais dans Catastrophes naturelles, catastrophes évitables ou imprévisibles ?) et c’est largement discuté dans Flood Risk Assessment and Management, le risque d’inondation (comme toutes les catastrophes naturelles) doit être compris comme le résultat d’interactions entre l’humain et la nature. Ça semble trivial à force de le répéter, mais son sens profond, c’est que si l’aléa est en partie coproduit (urbanisation, endiguements, réservoirs, règles de gestion), alors l’idée d’une période de retour de 100 ans ne peut pas être vue comme une constante de la nature, puisque c’est forcément un produit de nos choix. Continue reading Crue centennale de la Seine à 42 milliards d’euros ?→
Il y a plusieurs mois, j’avais profité d’un voyage en France pour acheter le petit tract, De la démocratie en pandémie de Barbara Stiegler. J’aimais l’énergie du texte, la colère contre tous ceux qui déclaraient tranquillement qu’en temps de crise, la démocratie serait un luxe. Et j’aimais aussi l’idée que la démocratie ne se réduit pas à un culte des droits individuels, mais qu’elle se joue dans la vie sociale, dans les espaces publics, dans une forme de participation qui recréer de la confiance et du collectif. Et je souviens avoir décroché, sur la fin, parce que je n’y croyais plus. Ce n’était pas un désaccord sur le diagnostic politique, mais sur la mécanique, sur cette enthousiasme face aux assemblées populaires. Parce que, très concrètement, la prise de décision collective, telle qu’on la raconte parfois, ressemble à une scène écrite par, et pour, des gens qui aiment parler. Parler bien, parler longtemps. Ceux qui maîtrisent la rhétorique, et qui y prennent plaisir. Et moi, je n’ai pas ce plaisir. Mais alors pas du tout. Enfin non, c’est bien sûr plus compliqué que ça. Dans un cadre professionnel, quand on me demande de parler sur quelque chose que je maîtrise parfaitement (parce que c’est mon boulot), je peux parler pendant des heures. Mais quand on me demande mon avis sur d’autres sujets, c’est toujours beaucoup plus compliqué. Je doute constamment de la valeur (et de la pertinence) de mon avis, je le trouve rarement assez clair, je le vois souvent sous trop d’angles à la fois. Ça donne une parole hésitante, prudente, souvent décallée. Je suis très très lent. Les Grecs parleraient de l’épochè (ἐποχή), cette manière de suspendre son jugement, d’attendre avant de se positionner, de vérifier ce qu’on croit savoir, et de se demander si notre grain de sel a une quelconque valeur. Le problème, c’est que l’épochè marche assez mal dans une assemblée. Ce blog est peut-être justement un moyen de faire du tri dans mes pensées, et de poser un peu les choses…
Avec Agathe Fernandes Machado, Olivier Côté et François Hu, on a mis en ligne un papier, Federated Measurement of Demographic Disparities from Quantile Sketches. Le point de départ est assez simple. On peut imaginer qu’un modèle de score (mesurant un risque de récidive, une probabilité de réadmission à l’hôpital, un score de crédit…) soit déployé dans plusieurs institutions : hôpitaux, tribunaux, banques, assureurs. Chacun collecte ses données, utilise un modèle, et conserve jalousement ses bases. Parfois par obligation légale (RGPD, secret médical), parfois par contraintes techniques, parfois par réticence organisationnelle. Le problème, c’est qu’un régulateur veut savoir si le score est discriminatoire, sans jamais centraliser les données brutes. En fait, c’est assez réaliste comme situation, beaucoup d’objectifs de justice algorithmique étant définis au niveau de la population, et pas localement. Les régulateurs et les directions conformité demandent : “Est-ce que le système, globalement, traite de la même façon les groupes protégés ?” Pas : “Chaque institution, isolément, a-t-elle l’air correcte ?” On montre dans notre article que des audits locaux peuvent être rassurants tout en étant trompeurs, parce que l’injustice peut naître précisément de ce que l’on ne voit pas en restant silo par silo. Et la bonne nouvelle, c’est qu’on peut estimer l’inéquité globale avec une communication très limitée, en demandant à chaque silo seulement des comptages et quelques quantiles de ses scores.
Dans le papier, on identifie deux sources majeures de décalage entre l’audit local et l’audit global.
Les effets de composition : une “version fairness” du paradoxe de Simpson. Même si chaque silo semble traiter les groupes de manière similaire, la répartition des groupes entre silos peut être très différente. Un groupe peut être sur-représenté dans certains hôpitaux, certains tribunaux, certaines zones géographiques… Et si ces silos n’ont pas le même profil de scores (parce que les populations, les pratiques ou les contextes diffèrent), alors l’agrégation peut créer un écart global qui n’apparaît nulle part localement.
L’hétérogénéité inter-silos : la “stratification cachée” Deux silos peuvent produire des scores d’allure différente (distribution plus “optimiste”, plus “pessimiste”, plus dispersée…), même au sein d’un même groupe sensible. Localement, chacun peut avoir des métriques acceptables. Mais une fois les données mises bout à bout, ces différences deviennent visibles et peuvent amplifier une disparité entre groupes. Dans les domaines sensibles (santé, justice pénale), cette hétérogénéité est courante : pratiques de codage, accès aux soins, critères de triage, politiques locales…
D’un point de vue pratique, on propose un protocole d’audit en un seul aller-retour : chaque silo envoie, pour chaque groupe sensible le nombre d’individus dans ce groupe (un simple comptage), k quantiles du score (par exemple k = 25, 50 ou 100), sur une grille commune. Et c’est tout. Pas de scores individuels, pas de features, pas d’exemples. Ce genre de résumé est déjà produit par de nombreux systèmes de monitoring via des quantile sketches utilisés pour suivre des distributions. À partir de ces quantiles, le serveur peut reconstruire une approximation des distributions globales par groupe, puis calculer la disparité populationnelle. Théoriquement, l’erreur due à la discrétisation décroît comme 1/k : plus on envoie de quantiles, plus la courbe reconstruite est fine. Et on montre sur des données réelles que quelques dizaines suffisent.
En bonus, on propose aussi une méthode permettant de comprendre, si on mesure un écart, pourquoi il apparaît. On obtient en particulier une décomposition de type ANOVA qui sépare : une part due aux effets de mélange / composition (le “Simpson fairness”), une part due à la vraie hétérogénéité inter-silos (différences structurelles de score), et un terme d’interaction qui peut amplifier ou compenser (mais reste contrôlé).
Bref, on montre qu’en environnement fédéré, l’équité populationnelle n’est pas la moyenne de l’équité locale. Elle dépend des mélanges, des flux, des biais d’affectation et des variations inter-silos. Donc la bonne question n’est pas “chaque silo est-il juste ?”, mais “le système fédéré, en tant que mécanisme de production de scores, est-il juste au niveau population ?” La bonne nouvelle, c’est qu’on peut répondre à cette question sans centraliser les données, en ne partageant qu’une poignée de quantiles et des comptes, en une seule communication.
For a few months now, I have been trying to write a post about greenwashing. And of course it takes time, because I tend to get lost in all kinds of details… and this time was no exception. For now, I want to lay the groundwork by describing the ecosystem that allows greenwashing to exist—and to thrive.
My starting point will be LinkedIn, because LinkedIn is a stage on which people display professional respectability. And I admit it: I sometimes linger on LinkedIn, often to stay informed by following a few actors in the insurance world. I wrote a post two months ago, Bridging the Risk Perception Gap?, explaining that for my research topics it is almost indispensable.
Of course, I know it is a theater: an unsettling mirror, a mirror world in the sense Naomi Klein discusses in Doppelganger. You see endless posts with the intellectual depth of motivational posters, but sometimes (and that is what makes the game so frustrating) you also see an interesting chart that looks serious—yet almost never a solid source explaining how it was produced. For instance, I see graphs like this one, which interests me for professional reasons and triggers a thousand questions.
Fig. 1. Fictional chart created for illustration purposes, inspired by a chart seen on LinkedIn. No source provided.
At best, the post will mention a source—a source that points to another document produced by an agency with a strange status, which points to a note, which points to an “observatory”. And in the end, you no longer know what you are supposed to take away, except the feeling that somewhere there exists an expertise that produced some kind of analysis.
I learn that Japanese people drive three times less than Americans. But is that mileage per driver, or per vehicle? Does it account for the fact that Japanese households tend to have one car per household, while Americans tend to have one car per person? In short: it raises a thousand questions, but it rarely points to a thousand paths toward answers. Often it stops there—and you have to do the research yourself to find primary sources.
About a decade ago, André Spicer published a great book, Business Bullshit, which helps make sense of LinkedIn posts: the confident, consensus-driven tone; the way statements are produced with an astonishing indifference to whether they are true, falsifiable, or even well-defined. Spicer emphasizes that bullshit is not simply lying. It is, above all, a loosened relationship to truth—because the objective is not to describe the world, but to produce an organizational effect.
In my post La société du bullshit three years ago, I talked about LLM “bullshit”. But with a bit of distance, it looks like a form of corporate bullshit that we find precisely on platforms like LinkedIn. The aim is to inspire trust, coordination, adherence. Many journalists and scholars have described this. More recently, Cory Doctorow gave a name to something many of us felt without formalizing it: enshittification.
“Enshittification” describes the dynamic by which platforms, after attracting users, gradually reorganize their rules and interfaces to serve partners first, then advertisers, then their own rent extraction—until the experience degrades for everyone. It is a multi-stage story we have all lived through. And LinkedIn is a perfect example. It is not a place where you “read content”; it is a machine that selects what circulates, rewards quick reactions, makes recycling profitable, and penalizes long, sourced arguments. Still, sometimes you find an idea—an argument you can reuse in a paper to get a sense of what “the market wants” (which matters in my field, insurance).
What worries me most is that I now see cases where real life starts to resemble LinkedIn. I find myself in meetings with people whose legitimacy is rather hazy—not so much to present study results they actually produced (as in academia), but to deliver a kind of verbose, empty logorrhea.
On one side, there is bullshit talk in the organizational sense: not necessarily false, but calibrated to produce trust and buy-in without paying the cost of proof. On the other, an enshittified informational environment in which the circulation of documents, labels, slides, and “summaries” makes scientific research harder to see, slower to access, and less attention-profitable—hence easier to marginalize, even when everyone claims to “follow the science”.
For someone who spends almost all their time reading academic papers, it would be almost funny—if it were not bleak and worrying. A serious paper (as it would be written by a serious gentleman, or by a mushroom, as the Little Prince might say) often begins by properly defining the objects of discussion. And that takes time. Then, when there are data, you have to talk about selection bias, justify a causal reading of a correlation, add a thousand precautions. Clearly, it “wastes time” (on details).
The ecosystem I am describing sells the exact opposite. It sells clarity. It sells speed. It sells conclusions ready to be heard by people who want to make decisions quickly. And it creates immense noise pollution. Noise does not prevent science from existing, but it makes it less visible, less audible. And sometimes, more insidiously, it replaces it—not with anti-science, but with decor science. Science cited as a credibility accessory, without the demand for proof surviving the format.
I mentioned it (very briefly) the other day in my post L’écosystème du bruit et la fabrique de l’autorité, but I genuinely loved Naomi Klein’s book Doppelganger. It opens with a striking anecdote: during the 2020–2021 pandemic, she was repeatedly mistaken for Naomi Wolf, to the point of being blamed for statements made by “the other Naomi”. From there, she asks a set of unsettling questions about identity.
In We are not Alone! (At least, Most of us aren’t), co-written with Baptiste Coulmont, we wondered about the probability of having a strict namesake (same first name and last name). In Doppelganger, the confusion is “only” about the first name. I devoured the book. Klein starts from a sociological intuition and turns it into a narrative. The more everyday life is digitized, the more identity becomes an interface: traces, authentication procedures, and the idea that access itself functions as proof. She describes, very concretely, the anxiety of realizing that after a hack, someone who “seems to be you” is flooding your friends with messages. And she insists on the fragility of this construction: one compromised account, or a deepfake, can bring it down in an instant.