All posts by Arthur Charpentier

Arthur Charpentier, professor in Montréal, in Actuarial Science. Former professor-assistant at ENSAE Paristech, associate professor at Ecole Polytechnique and assistant professor in Economics at Université de Rennes 1.  Graduated from ENSAE, Master in Mathematical Economics (Paris Dauphine), PhD in Mathematics (KU Leuven), and Fellow of the French Institute of Actuaries.

Insurers and AI, a systemic risk

In Insurers retreat from AI cover as risk of multibillion-dollar claims mounts, the Financial Times reported at the end of this week that several major insurers (AIG, Great American, and WR Berkley) are seeking to introduce explicit exclusions for risks related to artificial intelligence, particularly concerning the use of agents and language models. The reasons put forward are straightforward: potential losses related to AI could reach several hundreds of millions of dollars, or even more. But above all, the danger lies less in the severity of any individual claim than in the possibility of correlated, massive, simultaneous losses, impossible to mutualize. As Aon summarizes in one sentence:

“What [the industry] can’t afford is if an AI provider makes a mistake that ends up as a 1,000 or 10,000 losses.”

The issue is far less about the severity of a particular incident than about the simultaneity of thousands of identical incidents. In other words, we are dealing with the very definition of systemic risk. To understand this, it is useful to place the phenomenon within the broader framework of complex systems, accidents in high-reliability organizations, and system-wide risk mechanisms as studied for several decades in finance and insurance.

AI as an interconnected network: a breeding ground for contagion

The literature on systemic risk teaches us that it is not the absolute size of institutions that determines their vulnerability, but the structure of their interconnections. Prasanna Gai highlights that financial systems exhibit what he calls a “robust-yet-fragile” dynamic: they withstand countless shocks yet may collapse abruptly when a specific shock travels through the right channels. He reminds us that:

“The system may be robust to most shocks, but when problems strike the effects may be catastrophic.”

A local error can turn into a global catastrophe as soon as it reaches the network’s “vulnerable cluster.” The simulations he presents show that the more interconnected a network is, the faster an error can spread. A minimal change in connectivity or capitalization can shift the entire system from a stable to a critical state, a true “phase transition.” As Gai puts it:

“An initial error can spread through the entire vulnerable cluster.”

In this context, generative AI displays all the characteristics of a system highly conducive to contagion. When an AI provider deploys a faulty update, introduces an error in a model’s parameters, or suffers a cybersecurity vulnerability, it is not isolated users who are affected but thousands, because they rely on the same infrastructure. Each client depends not only on its own usage but on the integrity of a global model, where even the smallest modification instantly reproduces identical behaviour across all users. This is exactly the kind of rapid, synchronized contagion insurers now fear: propagation that is not slow or progressive, but immediate, simultaneous, and homogeneous.

Why insurers fear correlated losses

Insurability has historically depended on a fundamental condition: the law of large numbers. As Hufeld, Koijen, and Thimann remind us in The Economics, Regulation, and Systemic Risk of Insurance:

“The risk must obey the law of large numbers.”

Events must be independent, or sufficiently heterogeneous, for losses to offset each other statistically. Yet cyber-risks already fail to meet this condition, as Biener et al. showed in 2015:

“Cyber losses are highly interrelated and characterized by severe information asymmetries.”

Cyber insurance is already structurally fragile, facing simultaneous, large-scale, difficult-to-attribute incidents. Generative AI only reinforces this structure, creating an environment where errors are not merely frequent but potentially identical and simultaneous. The examples cited by the Financial Times (an Air Canada chatbot binding the airline to a fare, a Google module defaming a small business, a $25 million deepfake fraud against Arup, or an autonomous agent producing pricing or diagnostic errors at scale) highlight how extremely reproducible such incidents are. A single defect, update, or vulnerability can affect an entire sector all at once.

This homogeneity of losses is toxic for insurance. As actuarial literature reminds us, when losses become correlated, mutualization collapses mechanically. By design, insurance cannot absorb risks whose very structure pushes toward aggregation.

AI, cybersecurity, and “normal accidents”: when complexity makes error inevitable

Clearfield and Tilcsik, in Meltdown, show that in complex systems, failures are not anomalies: they are inevitable. Surprises emerge from interactions, and small errors amplify as they propagate through tightly coupled networks. Their argument corresponds exactly to what insurers fear: the error of an autonomous model is not an isolated human mistake, but a systemic mechanism liable to replicate everywhere.

“In wicked environments, error signals are ambiguous, interactions are complex, and systems become vulnerable to surprises.”

Generative AI models fit this description perfectly: structural opacity, non-deterministic behaviour, dependence on a handful of global providers, and the lack of separation between uses create a system in which local failures become systemic. The technological dependence concentrated among a few actors amplifies this dynamic further. When a single model is deployed in legal, medical, financial, and industrial contexts, an error propagating through that model can contaminate every domain simultaneously. AI is thus less a tool than an interconnected ecosystem, a fully-fledged complex system.

Why AI creates a new kind of systemic risk for insurance

Traditionally, insurance has been considered less vulnerable to systemic risk than banking, because insurers exhibit far lower interconnectedness. This is the consensus highlighted by Hufeld, Koijen, and Thimann:

“The insurance industry is not subject to systemic risk, in particular due to its significantly lower interconnectedness.”

But this assumption relies on a hidden premise: that the risks insured must themselves remain independent. With AI, that premise collapses. For the first time, an insured risk (cyber, errors & omissions, software-related damages) becomes structurally interconnected. A single provider, a single model, a single update, or a single vulnerability can trigger thousands of simultaneous losses. Interconnectedness is no longer a property of the insurance market, it is a property of the risk itself. Acharya, Pedersen, Philippon, and Richardson define a risk as systemic when it can generate a simultaneous “capital shortfall” across multiple institutions:

“Even if liabilities are not runnable, a firm can contribute to systemic risk through its contribution to the aggregate capital shortfall.”

In a world where thousands of losses linked to the same AI error could occur at once, this definition becomes sharply relevant. AI introduces a form of aggregated, correlated, non-diversifiable risk. It is no longer a volatile risk, but a structurally synchronized one — insurers’ worst-case scenario.

What the “big systemic events” of AI might look like

Several scenarios illustrate how AI-driven systemic risk might unfold. Imagine a faulty update to an LLM used across the financial sector: a model deployed in two thousand banks simultaneously misinterprets a regulatory rule. The consequences (non-compliance, sanctions, lawsuits, customer withdrawals, class actions) would be immediate and perfectly synchronized. An autonomous legal agent could also generate systematic hallucinations, producing false legal citations or flawed reasoning. If deployed across several hundred companies, that error would instantly become collective. Beyond these operational scenarios lies a subtler phenomenon: the breakdown of interpretability. When models produce signals that seem plausible but remain opaque, both humans and machines tend to attribute excessive meaning to them. A weak signal — a slight increase in churn score, a small rise in a risk indicator — may be interpreted as a real behavioural shift, though it may merely be a statistical artifact, dataset bias, or latent drift.

These misinterpretations can create feedback loops, turning noise into a real shock: emergency decisions, pricing changes, adjustments to dependent models. Clearfield and Tilcsik describe this as a self-fulfilling prophecy. In Gai’s terminology, an initial noise finds its way into the vulnerable cluster and triggers a cascade:

“With positive probability, a random initial default at one bank can lead to the spread of default across the entire vulnerable portion of the financial system (…) Contagion breaks out when shocks strike any bank in, or adjacent to, the giant vulnerable cluster and spread across the entire cluster.”

For insurers, such risk (intrinsic to the system’s functioning) becomes impossible to mutualize.

The Tesla case study

The book The Tesla Files offers a striking illustration of these dynamics. It reveals an organization where extremely concentrated critical functions make any incident capable of propagating system-wide. A single administrator holds global access; thousands of employees have elevated privileges; and the whistleblower describes an absence of monitoring despite massive data extractions. In such a context, an incident does not remain local, it compromises the entire organization.

“The stream of data expands to include customers, business partners, and a wide array of individuals and companies with ties to Tesla.”

Tesla aggregates not only its own data but also data from customers, partners, governments, subcontractors, and regulators — creating dependency structures extremely similar to pre-2008 financial networks. The authors show that Tesla minimizes some risk indicators (recording only crashes involving airbag deployment), sometimes disables Autopilot just before impact (obscuring responsibility), or refuses to transmit data to regulators. Four elements appear: information asymmetry, opaque accountability, centralized incident handling, and extreme software homogeneity.

Autopilot crashes in Europe are handled by a single team, and thousands of customer complaints exist regarding phantom braking or sudden acceleration. When an entire fleet relies on a single software model updated simultaneously, a defect can produce a massive correlated shock. This is exactly the scenario insurers now fear for generative AI systems.

Tesla thus serves as a concrete example: a system where software homogeneity creates such aggregation risk that a single error can become a “big systemic event.”

AI Liability: a legal blind spot in an asymmetric market

To these operational risks we must add a final dimension: legal responsibility. “AI liability” )the question of who is responsible when AI causes harm) is today one of the least explored and most explosive issues. The Financial Times rightly notes:

“Nobody knows who’s liable if things go wrong.”

In practice, AI providers’ contracts include drastic limitations of liability, exclusions of performance guarantees, and clauses transferring almost all risk to the user. Because demand is nearly inelastic (there are often no viable alternatives to the major models), providers can impose their terms unilaterally, creating a significant contractual asymmetry.

This asymmetry becomes critical in regulated sectors, where firms are required to control their models: banks, insurers, and hospitals must comply with strict requirements for operational and model-risk management, even though the models they use are opaque, external, and unaudited. The Tesla Files shows that even technologically advanced companies can lose control of their own systems, making some regulatory obligations nearly impossible to fulfill. The financial sector thus faces a profound contradiction: it is legally responsible for tools over which it has no meaningful control — not the design, not the training data, not the governance, not the behaviour. Firms cannot contest provider errors nor obtain compensation when a model fails.

This situation creates a triple gap: a regulatory gap (firms cannot meet their obligations), a contractual gap (all responsibility lies with the user), and an insurance gap (insurers are withdrawing from the field). The result is a legal systemic risk, characterized by diffuse responsibility, concentrated dependency, and profoundly inefficient allocation of risk.

References

Assureurs et IA, un risque systémique

Dans Insurers retreat from AI cover as risk of multibillion-dollar claims mounts, le Financial Times rapportait cette fin de semaine que plusieurs grands assureurs (AIG, Great American ou encore WR Berkley) cherchent à introduire des exclusions explicites pour les risques liés à l’intelligence artificielle, notamment concernant les usages d’agents et de modèles de langage. Les motifs avancés sont limpides : les pertes potentielles liées à l’IA pourraient atteindre des montants de plusieurs centaines de millions, voire davantage. Mais surtout, le danger ne réside pas tant dans l’ampleur d’un sinistre isolé que dans la possibilité de pertes corrélées, massives, simultanées, impossibles à mutualiser. Comme le résume Aon dans une phrase,

“What [the industry] can’t afford is if an AI provider makes a mistake that ends up as a 1,000 or 10,000 losses.” (« Ce que l’industrie ne peut se permettre, ce n’est pas une perte de 400 ou 500 millions pour une entreprise, mais une erreur d’un fournisseur d’IA qui se traduit par mille ou dix mille sinistres. »)

L’enjeu porte bien moins sur la gravité d’un incident donné que sur la simultanéité de milliers d’incidents identiques. Autrement dit, nous avons affaire à la définition même d’un risque systémique. Pour le comprendre, il est utile de replacer ce phénomène dans le cadre plus large des systèmes complexes, des accidents dans les organisations à haute fiabilité, et des mécanismes de risque systémique tels qu’ils sont étudiés depuis plusieurs décennies dans la finance et l’assurance.

L’IA comme réseau interconnecté : un terrain idéal pour la contagion

La littérature sur le risque systémique enseigne que ce n’est pas la taille absolue des institutions qui détermine leur vulnérabilité, mais la structure de leurs interconnexions. Prasanna Gai souligne ainsi que les systèmes financiers présentent une dynamique qu’il qualifie de « robust-yet-fragile » : ils résistent à d’innombrables chocs, mais peuvent s’effondrer brutalement lorsqu’un choc particulier circule par les bons canaux. Il rappelle que

“The system may be robust to most shocks, but when problems strike the effects may be catastrophic.” (« Le système paraît robuste à la plupart des chocs, mais lorsqu’ils se produisent, les effets peuvent être catastrophiques. »)

Une erreur locale peut se transformer en catastrophe globale dès lors qu’elle atteint le « cluster vulnérable » du réseau. Les simulations qu’il présente montrent que plus un réseau est interconnecté, plus une erreur peut s’y propager rapidement. Un changement minime de connectivité ou de capitalisation peut faire basculer l’ensemble du système d’un état stable à un état critique, une véritable « phase transition ». Comme le résume Gai,

“An initial error can spread through the entire vulnerable cluster.” (« Une erreur initiale peut se propager à l’ensemble du cluster vulnérable. »)

Dans ce cadre, l’IA générative présente toutes les caractéristiques d’un système hautement propice à la contagion. Lorsqu’un fournisseur d’IA déploie une mise à jour défectueuse, commet une erreur dans les poids d’un modèle ou subit une vulnérabilité de cybersécurité, ce ne sont pas des utilisateurs isolés qui sont affectés mais des milliers, car ils partagent les mêmes infrastructures. Chaque client ne dépend pas seulement de son propre usage, mais de l’intégrité d’un modèle global, dont la moindre modification reproduit instantanément un comportement identique chez tous ses utilisateurs. C’est exactement le type de contagion fulgurante que les assureurs redoutent aujourd’hui : une propagation non pas lente et progressive, mais immédiate, simultanée, homogène.

Pourquoi l’assurance redoute les pertes corrélées

L’assurabilité repose historiquement sur une condition essentielle : la loi des grands nombres. Comme le rappellent Hufeld, Koijen et Thimann  dans The Economics, Regulation, and Systemic Risk of Insurance,

“The risk must obey the law of large numbers.” (« Le risque doit obéir à la loi des grands nombres. »)

Les événements doivent être indépendants, ou suffisamment hétérogènes, pour que les pertes se compensent statistiquement. Or les cyber-risques ne respectent déjà pas cette condition, comme l’ont montré Biener et al. dès 2015 :

“Cyber losses are highly interrelated and characterized by severe information asymmetries.” (« Les pertes cyber sont hautement corrélées et caractérisées par de sévères asymétries d’information. »)

L’assurance cyber est déjà structurellement fragile, car elle fait face à des risques simultanés, massifs, et difficilement attribuables. L’IA générative ne fait que renforcer cette structure, en créant un environnement où les erreurs ne sont pas seulement fréquentes, mais potentiellement identiques et simultanées. Les exemples cités par le Financial Times (un chatbot d’Air Canada qui engage automatiquement la compagnie, un module de Google qui diffame une PME, une fraude par deepfake coûtant 25 millions de dollars à Arup, ou encore un agent autonome qui génère des erreurs de prix ou de diagnostic en série) illustrent la reproductibilité extrême de ces incidents. Un même défaut, une même mise à jour, une même vulnérabilité peut affecter tout un secteur d’un seul coup. Cette homogénéité des sinistres est délétère pour l’assurance. Comme le rappelle la littérature actuarielle, lorsque les pertes deviennent corrélées, la mutualisation s’effondre mécaniquement. L’assurance, par construction, ne peut absorber des risques dont la structure pousse naturellement à l’agrégation.

IA, cybersécurité et “accidents normaux” : quand la complexité rend l’erreur inévitable

Clearfield et Tilcsik, dans Meltdown, montrent que dans les systèmes complexes, les défaillances ne sont pas des anomalies : elles sont inévitables. Les surprises émergent des interactions multiples, et de petites erreurs peuvent rapidement s’amplifier lorsqu’elles circulent dans des réseaux étroitement couplés. Leur thèse correspond exactement à ce que redoutent les assureurs : l’erreur d’un modèle autonome n’est pas une bourde humaine isolée, mais un mécanisme systémique susceptible de se répliquer partout. En s’appuyant sur des cas variés (Fukushima, accidents ferroviaires, aviation, cybersécurité) les auteurs montrent que certains environnements sont « wicked », c’est-à-dire des environnements où les signaux d’erreur sont ambigus, les interactions complexes et les systèmes vulnérables à des surprises brutales.

“In wicked environments, error signals are ambiguous, interactions are complex, and systems become vulnerable to surprises.” (« Dans les environnements wicked, les signaux d’erreur sont ambigus, les interactions complexes, et les systèmes deviennent vulnérables aux surprises. »)

Les modèles d’IA générative incarnent parfaitement cette description : leur opacité structurelle, leur comportement non déterministe, leur dépendance à quelques fournisseurs globaux et l’absence de cloisonnement entre leurs usages créent un système dont les défaillances locales deviennent immédiatement systémiques. La concentration de dépendances technologiques entre quelques acteurs amplifie encore cette dynamique. Lorsqu’un modèle est utilisé dans des contextes juridiques, médicaux, financiers, industriels, une erreur qui y apparaît peut contaminer simultanément tous ces domaines. De ce point de vue, l’IA est déjà moins un outil qu’un écosystème interconnecté, un véritable système complexe au sens fort.

Pourquoi l’IA crée un risque systémique inédit pour l’assurance

Traditionnellement, l’assurance est considérée comme moins vulnérable au risque systémique que la banque, en raison de l’interconnexion nettement plus faible entre assureurs. C’est le consensus rappelé par Hufeld, Koijen et Thimann :

“The insurance industry is not subject to systemic risk, in particular due to its significantly lower interconnectedness.” (« L’industrie de l’assurance n’est pas sujette au risque systémique, notamment du fait de sa faible interconnexion. »)

Mais cette affirmation repose sur une hypothèse implicite : les risques assurés doivent eux-mêmes rester indépendants. Avec l’IA, cette hypothèse s’effondre. Pour la première fois, un risque assuré (cyber, erreurs et omissions, dommages causés par des systèmes logiciels) devient structurellement interconnecté. Un seul fournisseur, un seul modèle, une seule mise à jour ou une seule vulnérabilité peuvent provoquer des milliers de sinistres simultanés. L’interconnexion n’est plus une propriété du marché de l’assurance : elle est une propriété du risque lui-même.

Acharya, Pedersen, Philippon et Richardson définissent un risque comme systémique lorsqu’il peut provoquer une situation de « capital shortfall » simultanée dans de nombreuses institutions. Ils notent que

“Even if liabilities are not runnable, a firm can contribute to systemic risk through its contribution to the aggregate capital shortfall.” (« Même si les passifs ne sont pas sujets aux runs, un assureur peut contribuer au risque systémique par sa contribution au capital shortfall agrégé. »)

Dans un monde où des milliers de sinistres liés à une même erreur d’IA pourraient survenir en même temps, cette notion prend un relief particulier. L’IA introduit ainsi une forme de risque agrégé, corrélé, non diversifiable. Ce n’est plus un risque volatil mais un risque structuralement synchronisé, ce qui constitue la hantise des assureurs.

Ce que pourraient être les “big systemic events” de l’IA

Dans un tel contexte, plusieurs scénarios illustrent comment un risque systémique lié à l’IA pourrait se matérialiser. Imaginons, par exemple, une mise à jour défaillante d’un LLM utilisé dans la finance : un modèle déployé dans deux mille banques commet simultanément une erreur d’interprétation réglementaire. Les conséquences seraient immédiates (mauvaise conformité, sanctions, litiges, retraits, actions collectives) et parfaitement synchrones .Un agent juridique autonome pourrait produire des hallucinations systématiques, générant de fausses citations juridiques ou de faux raisonnements. Si cet agent était déployé dans plusieurs centaines d’entreprises, l’erreur deviendrait immédiatement collective.

À ces scénarios opérationnels s’ajoute un phénomène plus subtil : la rupture d’interprétabilité. Lorsque les modèles produisent des signaux plausibles mais opaques, humains comme machines sont tentés de leur attribuer un sens excessif. Un signal faible (une légère hausse de score dans un modèle de résiliation, un changement ténu dans un score de risque) peut être interprété comme un mouvement réel, alors qu’il ne s’agit que d’un artefact statistique, d’un biais de dataset ou d’un drift latent. Ces interprétations erronées peuvent déclencher des rétroactions en chaîne, transformant un bruit en choc réel : décisions d’urgence, modifications de politiques tarifaires, ajustements de modèles secondaires. Clearfield et Tilcsik décrivent ce mécanisme d’emballement comme une prophétie autoréalisatrice. Dans le langage de Gai, un bruit initial trouve soudain un chemin vers le « cluster vulnérable » et déclenche une cascade ,

With positive probability, a random initial default at one bank can lead to the spread of default across the entire vulnerable portion of the financial system (…) Contagion breaks out when shocks strike any bank in, or adjacent to, the giant vulnerable cluster and spread across the entire cluster.” (« Avec une probabilité positive, un défaut initial aléatoire dans une banque peut entraîner la propagation du défaut à l’ensemble de la portion vulnérable du système financier (…) La contagion éclate lorsque des chocs touchent une banque située dans — ou à proximité immédiate de — l’immense cluster vulnérable, et qu’ils se propagent à travers l’ensemble de ce cluster. »)

Pour les assureurs, un tel risque, intrinsèque au fonctionnement même du système, devient impossible à mutualiser.

Le cas d’école de Tesla

Le livre The Tesla Files fournit une illustration frappante de ces dynamiques. On y découvre une organisation où une concentration extrême des fonctions critiques rend tout incident susceptible de se propager à grande échelle. Un seul administrateur peut disposer d’un accès global, des milliers d’employés détiennent des privilèges élevés, et le lanceur d’alerte décrit l’absence de monitoring interne malgré des téléchargements massifs. Une faille, dans un tel contexte, ne touche pas une partie isolée du système : elle compromet l’ensemble. Du point de vue systémique, Tesla fonctionne comme un graphe extrêmement connecté, sans cloisonnements internes, dans lequel la connectivité moyenne est anormalement élevée. Les auteurs rappellent que Tesla ne manipule pas seulement ses propres données, mais agrège celles de clients, partenaires, gouvernements, sous-traitants et organismes de régulation. Ils écrivent :

“The stream of data expands to include customers, business partners, and a wide array of individuals and companies with ties to Tesla.” (« Le flux de données s’étend aux clients, partenaires commerciaux, et à une vaste gamme d’individus et d’entreprises liés à Tesla. »)

Cette interconnexion massive crée des dépendances multiples, très proches de celles observées dans les systèmes bancaires avant 2008. Les auteurs montrent également que Tesla minimise certains indicateurs de risque (en n’enregistrant que les crashs impliquant un airbag, par exemple), désactive parfois l’Autopilot juste avant impact, créant une ambiguïté sur les responsabilités, ou refuse de transmettre des données aux régulateurs. Quatre éléments clefs apparaissent : des asymétries d’information, une opacité des responsabilités, une gestion centralisée des incidents et une homogénéité logicielle extrême. On découvre également que les crashs Autopilot en Europe sont traités par une seule équipe, et qu’il existe des milliers de plaintes clients pour freinages intempestifs ou accélérations fantômes. Lorsque l’ensemble de la flotte repose sur un même modèle logiciel, mis à jour simultanément, une erreur peut provoquer un choc corrélé massif. C’est précisément ce que redoutent aujourd’hui les assureurs pour les IA génératives. Tesla apparaît ainsi comme un précédent concret : un système où l’homogénéité logicielle crée un risque d’agrégation tel qu’une simple erreur peut devenir un “big systemic event”.

AI Liability : un angle mort juridique dans un marché asymétrique

À ces risques opérationnels s’ajoute un dernier élément : la responsabilité juridique. L’« AI liability », c’est-à-dire la question de savoir qui est responsable lorsque l’IA cause un dommage, est aujourd’hui l’un des sujets les moins traités, et les plus explosifs. Le Financial Times note à juste titre que

“Nobody knows who’s liable if things go wrong.” (« Personne ne sait qui est responsable lorsque quelque chose tourne mal. »)

Dans la pratique, les contrats proposés par les fournisseurs d’IA incluent des limitations drastiques de responsabilité, des exclusions de garantie de performance et des clauses transférant quasi intégralement le risque à l’utilisateur. Comme la demande est quasi inélastique (il n’existe souvent pas d’alternative crédible aux grands modèles), les fournisseurs peuvent imposer unilatéralement leurs termes, créant une asymétrie contractuelle majeure. Cette asymétrie devient critique dans les secteurs régulés, où les entreprises sont tenues de maîtriser leurs modèles : banques, assureurs, hôpitaux doivent respecter des obligations strictes de gestion du risque opérationnel ou du risque modèle, alors même que les modèles auxquels ils recourent sont opaques, externalisés et non audités. Les révélations de The Tesla Files montrent que même des entreprises très technologiques peuvent perdre le contrôle de leurs propres systèmes, rendant certaines obligations réglementaires inapplicables en pratique. Le secteur financier se retrouve ainsi dans une contradiction profonde : juridiquement responsable d’outils dont il ne maîtrise ni la conception, ni les données d’entraînement, ni la gouvernance, ni le comportement, il ne peut ni contester les erreurs des fournisseurs, ni obtenir réparation lorsqu’un modèle commet une faute. Cette situation crée un triple gouffre : un gouffre réglementaire, puisque les entreprises ne peuvent satisfaire leurs obligations ; un gouffre contractuel, puisque toute la responsabilité repose sur l’utilisateur ; et un gouffre assurantiel, puisque les assureurs se retirent progressivement de ce champ. Le résultat est un risque systémique juridique, caractérisé par une responsabilité diffuse, une dépendance concentrée et une allocation du risque profondément inefficiente.

Références

 

Assurer pour s’émanciper : le mutualisme noir américain

Dans From Mutual Aid to the Welfare State, Fraternal Societies and Social Services, 1890-1967, David Beito revient (entre autres) sur l’histoire du mutualisme afro-américain, et raconte des histoires passionnantes dans l’histoire de la protection sociale (et peu connue, il me semble). Entre la fin du XVIIIᵉ siècle et les années 1930, les Afro-Américains édifièrent un système complet d’assurance maladie, funéraire et de soutien économique. Ce système, né dans un contexte de discrimination et d’exclusion des protections commerciales et publiques (dont j’avais déjà un peu parlé), fut pour eux un instrument de dignité, une stratégie d’autonomie, et un moyen d’organiser collectivement la lutte contre la pauvreté. Loin d’être marginales, ces institutions couvrirent des centaines de milliers de personnes et donnèrent naissance à des banques, des hôpitaux, des journaux et des coopératives. Leur trajectoire montre comment l’assurance peut devenir une forme d’auto-gouvernement, conçue par et pour une communauté.

Un contexte d’exclusion et d’innovation assurantielle

Les premières organisations fraternelles noires apparaissent dès les années 1780. Le cas fondateur est celui de la franc-maçonnerie noire de Prince Hall, initiée en 1775 à Boston par une loge britannique et ensuite refusée de reconnaissance par les loges blanches américaines. La création de la Prince Hall Grand Lodge en 1791 marqua le début d’un vaste réseau d’entraide, d’assistance funéraire et de recommandation professionnelle. Les sources indiquent que ces loges regroupaient « the cream of black intellectual, social, political, and economic leadership », incluant des personnalités comme Absalom Jones ou Richard Allen. Ces premières institutions émergent parce que les Afro-Américains sont largement exclus des assurances commerciales et des sociétés fraternelles blanches. Dès le XIXᵉ siècle, ils mettent donc en place leurs propres structures d’assurance maladie, de soutien financier et d’aide funéraire. Ces associations reposent sur une régulation morale stricte : ainsi, les sociétés surveillaient étroitement la conduite des membres et pouvaient expulser pour inconduite, soulignant que l’assurance était indissociable d’un cadre communautaire et disciplinaire.

L’âge d’or (1880–1910) : l’assurance comme architecture communautaire

Entre 1880 et 1910, les sociétés fraternelles noires connaissent un développement spectaculaire. Elles deviennent alors le principal véhicule d’assurance funéraire et maladie pour la population noire. Les travaux rassemblés par David Beito dans From Mutual Aid to the Welfare State montrent une grande diversité d’organisations : Grand United Order of Odd Fellows, Colored Knights of Pythias, Mosaic Templars of America, True Reformers ou encore l’Independent Order of St. Luke. Beaucoup sont présentés dans des ouvrages dédiés, comme l’histoire détaillée des True Reformers par Fahey (dans The Black Lodge in White America), ou celle des Odd Fellows par Brooks (dans The Official History and Manual of the Grand United Order of Odd Fellows in America). La dimension sanitaire constituait un pilier essentiel. À la Nouvelle-Orléans, par exemple, des benevolent societies opérées par des Afro-Américains géraient de véritables dispositifs de soins et d’assistance médicale. Des témoignages montrent que des membres venaient parfois « avec leurs bagages » dans les cliniques fraternelles, faute d’être acceptés dans les hôpitaux publics ou privés (“…came to stay with their baggage…”). Ce rôle proto-hospitalier souligne que l’assurance fraternelle noire structurait un véritable filet de sécurité dans un environnement institutionnel hostile.

Maggie Lena Walker : l’assurance comme instrument d’autonomie économique

Parmi les grandes figures du mutualisme noir, Maggie L. Walker, dirigeante de l’Independent Order of St. Luke, occupe une place intéressante. Les sources confirment son rôle fondateur dans la professionnalisation et l’expansion de cette société, et son insistance sur la nécessité de contrôler collectivement l’épargne noire. Dans un discours, elle exhortait les membres à ne pas « mettre leur argent dans les banques blanches » (“…she urged members not to put their money in white banks… thinking of the future of their children”), insistant sur les conséquences politiques à long terme pour les enfants de la communauté. En 1903, elle fonde la St. Luke Penny Savings Bank, première banque américaine dirigée par une femme afro-américaine. L’institution survivra à l’Ordre lui-même et deviendra, sous le nom de Consolidated Bank and Trust, l’une des principales banques noires du XXᵉ siècle. En 1998 encore, elle figurait parmi les dix plus grandes banques noires du pays avec plus de 100 millions de dollars d’actifs (“…in 1998 the Consolidated Bank and Trust Company was still the largest black-owned bank with over $100 million in assets.”). L’assurance, dans ce cas, sert autant de protection financière que de base institutionnelle pour bâtir un réseau bancaire, une classe moyenne noire et une capacité d’action politique autonome.

Les True Reformers : une architecture assurantielle et économique complète

Les True Reformers ou Grand United Order of True Reformers, constituent un exemple d’État-providence communautaire (si on s’autorise l’expression). Leur histoire, décrite en détails par Fahey, dans The Black Lodge in White America, montre une organisation cumulant assurance vie, maladie, banques, coopératives, journaux et même une colonie agricole. Les sources indiquent que leur modèle associatif reposait sur des cotisations régulières, un réseau d’agences locales, et une gestion combinant discipline financière et solidarité collective. Leur importance historique est largement reconnue comme « the best account » des assurances fraternelles noires. Leur succès dans les années 1880-1910 illustre l’existence d’une culture assurantielle profondément ancrée dans les communautés noires, qui substituèrent leurs propres structures mutualistes et financières à des institutions publiques ou privées qui leur étaient souvent fermées.

L’assurance comme discipline, dignité et protection contre la pauvreté

Dans Social Functions and Economic Aspects of Health Insurance, William Rushing va plus loin, rappelant que les sociétés fraternelles noires proposaient bien plus qu’un produit assurantiel. Elles offraient un véritable bouclier social dans une époque dépourvue d’assurance-chômage, d’assurance maladie publique ou de salaire minimum. Les textes de l’époque soulignent que pour leurs promoteurs, l’assurance fraternelle était « better than charity », car elle permettait de maintenir les individus « above charity », c’est-à-dire à l’abri de la dépendance et de l’humiliation associées à l’assistance publique ou philanthropique blanche. Ces organisations délivraient des allocations funéraires, des aides financières en cas de maladie, des services d’hébergement temporaire, des emplois par recommandation, ainsi que des conseils juridiques et éducatifs. Elles enseignaient aussi les « habits of thrift and economy », essentiels dans un contexte où l’accès au crédit ou à l’épargne était extrêmement restreint pour les Afro-Américains.

Déclin, continuités et héritages

À partir des années 1910, plusieurs facteurs affaiblissent progressivement ces institutions : durcissement des réglementations assurantielles, montée des compagnies commerciales, apparition d’un embryon d’État-providence fédéral et pressions économiques et politiques sur les organisations noires indépendantes. Mais il semble que l’héritage institutionnel demeure. Certaines organisations survivent sous forme de banques ou de fondations, tandis que leur culture de prévoyance et d’autonomie influence durablement la tradition politique afro-américaine. Le mutualisme noir américain démontre que l’assurance, loin d’être un simple mécanisme actuariel, peut devenir un outil de lutte politique et de construction institutionnelle. Dans un contexte d’exclusion, les Afro-Américains ont créé un système assurantiel complet, reposant sur la solidarité, la discipline communautaire et des ambitions économiques structurées. Ces sociétés ont transformé le risque en un instrument de dignité et d’autonomie, inventant une protection sociale « par le bas » qui mérite toute sa place dans l’histoire de l’assurance et du welfare.

Decomposing Direct and Indirect Biases in Linear Models under Demographic Parity Constraint

Our paper “Decomposing Direct and Indirect Biases in Linear Models under Demographic Parity Constraint“, with Bertille Tierny and François Hu is now online on ArXiv.

Linear models are widely used in high-stakes decision-making due to their simplicity and interpretability. Yet when fairness constraints such as demographic parity are introduced, their effects on model coefficients, and thus on how predictive bias is distributed across features, remain opaque. Existing approaches on linear models often rely on strong and unrealistic assumptions, or overlook the explicit role of the sensitive attribute, limiting their practical utility for fairness assessment. We extend the work of (Chzhen and Schreuder, 2022) and (Fukuchi and Sakuma, 2023) by proposing a post-processing framework that can be applied on top of any linear model to decompose the resulting bias into direct (sensitive-attribute) and indirect (correlated-features) components. Our method analytically characterizes how demographic parity reshapes each model coefficient, including those of both sensitive and non-sensitive features. This enables a transparent, feature-level interpretation of fairness interventions and reveals how bias may persist or shift through correlated variables. Our framework requires no retraining and provides actionable insights for model auditing and mitigation. Experiments on both synthetic and real-world datasets demonstrate that our method captures fairness dynamics missed by prior work, offering a practical and interpretable tool for responsible deployment of linear models.

On sera à Singapour pour le présenter fin janvier, à AAAI 2026, 40th Annual AAAI Conference on Artificial Intelligence.

Exposé Chaire PARI, les trois piliers de l’équité en tarification

Mercredi matin (en France), après-midi (à Kyoto), nuit (à Montréal), je vais donner un exposé pour le séminaire mensuel de la chaire PARI, intitulé Un cadre de gouvernance à trois piliers pour une tarification équitable de l’assurance. J’y présenterais notre récent travail, publié justement par la Chaire PARI (document de travail 37), et également associé à un rapport publié par la Casualty Actuarial Society aux États-Unis (et présenté la semaine dernière par Olivier), A Scalable toolbox for exposing indirect discrimination in insurance rates”. Les slides sont en ligne.

Disentangled Deep Smoothed Bootstrap for Fair Imbalanced Regression

Our paper, Disentangled Deep Smoothed Bootstrap for Fair Imbalanced Regression, with Samuel Stocksieker and Denys Pommeret has been published in Procedia Computer Science

Imbalanced distribution learning is a common and significant challenge in predictive modeling, often reducing the performance of standard algorithms. Although various approaches address this issue, most are tailored to classification problems, with a limited focus on regression. This paper introduces a novel method to improve learning on tabular data within the Imbalanced Regression (IR) framework, which is a critical problem. We propose using Variational Autoencoders (VAEs) to model and define a latent representation of data distributions. However, VAEs can be inefficient with imbalanced data like other standard approaches. To address this, we develop an innovative data generation method that combines a disentangled VAE with a Smoothed Bootstrap applied in the latent space. We evaluate the efficiency of this method through numerical comparisons with competitors on benchmark datasets for IR.

KurtHGR: A Neural Maximal Correlation for Tabular Datasets

Our paper, KurtHGR: A Neural Maximal Correlation for Tabular Datasets, with Samuel Stocksieker and Denys Pommeret has been published in Procedia Computer Science

The study of dependencies between variables is a fundamental pillar of machine learning, influencing areas as diverse as feature selection, fairness, dimensionality reduction, and multimodal learning. Among nonlinear correlation measures, the Hirschfeld-Gebelein-Rényi (HGR) maximal correlation stands out for its universality and remarkable theoretical properties. Defined as the maximum achievable correlation between nonlinear transformations of two random variables, it provides an intrinsic quantification of statistical dependence, regardless of their marginal distributions. However, despite its theoretical potential, its practical adoption still faces several challenges. In this paper, we present a new approach called KurtHGR, dedicated to the estimation of the bivariate nonlinear correlation matrix of a set of variables. We show that this solution is effective in detecting nonlinear correlations, robust to noise, and computationally efficient, thanks to a neural architecture specifically designed for this purpose. We evaluate its performance through numerical illustrations and feature selection experiments, where we demonstrate that KurtHGR empirically outperforms state-of-the-art approaches.

GCKE 2025, Osaka, Annual Global Congress of Knowledge Economy

This week, I will attend the 10th Annual Global Congress of Knowledge Economy, in Osaka (大阪). On Wednesday morning, I will chair the GCKE04 session, Economic Governance & Sustainable Development. I will also give a talk on “Fairness and Insurance: Disentangling Illegitimate and Indirect Discriminations” (slides are available). It is based on recent work with Oliver and Marie-Pier Côté.

CAS 2025 Annual Meeting, in Austin, Texas

This morning, Olivier Côté was invited to speak for one hour at the “CS-44 – Operationalizing Fairness in Actuarial Pricing: From Principle to Practice” session, at the CAS 2025 Annual Meeting, in Austin, Texas (US).

Fairness metrics often lack actuarial relevance and are expressed in abstract units, obscuring real-world consequences. For actuaries to intervene, proxy effects and unfair biases must be quantified in insurance-relevant terms: dollars and people. This session will present new research from the CAS Race and Insurance Pricing series, focusing on the unique challenge of establishing fairness in actuarial pricing. We argue that actuarial fairness, solidarity, and causality form the three dimensions of fairness in insurance. These give rise to a five-point spectrum of pricing benchmarks, each reflecting distinct fairness goals and trade-offs. We quantify the monetary impact of unfairness at both the policyholder and segment levels through a large-scale Québec auto insurance case study.

Et si les cyclistes avaient raison de ne pas s’arrêter aux stops ?

l y a quelques mois, dans un billet intitulé “Could there be incentives to cycle through a red light?” je revenais sur la manière dont les usagers de la route arbitrent, souvent inconsciemment, entre risque, confort et efficacité. Nous y notions que certaines “infractions” ne relèvent pas de la délinquance mais d’une adaptation pragmatique à des règles parfois mal calibrées. L’exemple du cycliste qui ne s’arrête pas tout à fait à un stop illustre à mon avis cette tension entre la norme et le bon sens. Dans mon précédant billet, je posais une question rhétorique, partant de la scène (familière à certains il me semble) : un cycliste approche d’un panneau, ralentit, regarde à gauche puis à droite, et poursuit sa route sans poser le pied à terre. Les chroniqueurs d’émissions de télé s’indigneraient ( “encore un cycliste qui se croit tout permis”) et je posais la question de la rationalité dans cette pratique. Ce que je ne savais pas lorsque j’avais écrit à l’époque est que, dans certains États américains, ce comportement n’a rien d’une infraction. Il est même… prévu par la loi.

Le cas de l’Idaho, et la loi de 1982

Tout commence en 1982, dans un État rural que rien ne destinait à devenir un laboratoire de mobilité durable : l’Idaho. Cette année-là, l’assemblée locale adopte une réforme du code de la route (article §49-720) autorisant les cyclistes à traiter un panneau “Stop” comme un “Cédez-le-passage”. Concrètement, il faut ralentir, vérifier qu’aucun véhicule n’arrive, et si c’est le cas, le cycliste peut traverser sans arrêt complet. La même loi permet aussi, aux feux rouges, de marquer un bref arrêt puis de repartir si la voie est libre, ou de tourner à droite sans attendre le feu vert (cette dernière règle existant aussi pour les automobiles). Autrement dit, ce qui était jusqu’alors considéré comme une désobéissance devient la norme.

Depuis, la règle a fait des émules, puisque l’Oregon et Washington l’ont adoptée en 2020, le Colorado en 2022, le Minnesota en 2023, et même le District de Columbia l’a intégrée en 2022. Dans ces États, on ne contraint plus le cycliste à se comporter comme une voiture lente ; on reconnaît la spécificité de son mode de déplacement.

Le stop, un non-sens énergétique

S’arrêter à chaque panneau n’a rien d’anodin quand on avance à la seule force de ses jambes. D’un point de vue purement physique, le vélo est une machine à haut rendement : la puissance musculaire se transforme en énergie cinétique, et chaque arrêt dissipe cette énergie sous forme de chaleur dans les freins… et de fatigue dans le corps. Redémarrer, c’est produire à nouveau l’énergie perdue, un effort souvent disproportionné pour un gain nul.

Le physicien Joel Fajans, de l’Université de Californie à Berkeley, a montré qu’un cycliste dépense jusqu’à cinq fois plus d’énergie sur un parcours ponctué de stops rapprochés que sur une voie fluide. Ce constat est bien connu pour quiconque a déjà tenté de pédaler en ville l’hiver : chaque relance impose une montée en puissance cardiaque, une accumulation d’acide lactique et un refroidissement brutal au vent. On brûle des calories, certes, mais aussi une bonne part du plaisir de rouler.

Ce coût énergétique, et le découragement qu’il engendre, se traduisent paradoxalement par moins de cyclistes, donc moins de sécurité collective. L’urbaniste Jason N. Meggs, dans une étude publiée en 2010 à Berkeley (Bicycle Safety and Choice: Compounded Public Cobenefits of the Idaho Law), a observé qu’en Idaho, l’année suivant la réforme, le nombre de blessures de cyclistes avait diminué de presque 15 %. En autorisant des traversées plus naturelles, la loi aurait réduit le temps d’exposition dans les intersections et accru la fluidité du trafic.

Meggs évoque aussi le phénomène de “Safety in Numbers” décrit par Peter Jacobsen (en 2003) : plus les cyclistes sont nombreux, plus ils deviennent visibles et attendus, ce qui diminue mécaniquement les collisions. Autrement dit, en permettant de pédaler plus efficacement, la loi d’Idaho a aussi contribué à rendre la pratique plus sûre.

Quand la norme ne colle plus au réel

Les cyclistes, pourtant, n’ont pas attendu le législateur pour s’adapter. Dans une étude observationnelle à Seattle (publiée en 2015), Catherine  Silva a observé plus de 2 600 passages à des intersections : seuls 19 % des cyclistes s’arrêtaient complètement à un stop, 55 % ralentissaient avant de passer, et environ un quart franchissaient sans arrêt. Aucun de ces comportements n’a été associé à une hausse des accidents.

De même, en 2013, Brandon Whyte (Université de l’Illinois) a comparé les accidents entre Boise (Idaho) et Champaign-Urbana (Illinois). Résultat : pas de différence significative dans la gravité des collisions aux stops, mais moins de blessures graves aux intersections à feux dans la ville où la loi était appliquée. Plus récemment, une évaluation nationale menée par la National Highway Traffic Safety Administration (Jackson et al., 2024) sur huit États et le District de Columbia a confirmé ces résultats : aucune hausse des accidents ou des blessures, et souvent une baisse légère mais mesurable des collisions aux intersections.

Le constat me semble clair : le comportement “Idaho Stop” ne crée pas de danger supplémentaire. Ce que la loi interdit encore dans la plupart des pays correspond tout simplement à une pratique sûre, rationnelle et universelle. Pourtant, la résistance demeure forte. Dans une enquête menée en 2021–2022 auprès d’experts et du grand public, Rhonda Kae Young et ses collègues ont montré que la majorité des cyclistes perçoivent ces lois comme bénéfiques ou neutres, tandis que les forces de l’ordre y sont très opposées. Beaucoup de policiers estiment qu’elles “brouillent la lisibilité” du code. Les cyclistes, eux, y voient la simple légalisation de comportements déjà observés.

C’est toute l’ambiguïté du droit routier moderne : il a été conçu à l’ère de la voiture, pour uniformiser les comportements et discipliner la vitesse. Le vélo, lui, repose sur un autre régime de mouvement, plus lent, plus réactif, plus sensoriel. Le forcer à adopter les mêmes règles, c’est nier sa logique propre.

Légaliser le réel plutôt que punir l’évident

La loi “Idaho Stop” invite à une question plus large : et si légaliser un comportement réel plutôt que le punir renforçait la sécurité ?
Nos sociétés développées tendent à multiplier les interdits : amendes pour dépassement minime, feux “grillés” à vide, arrêts “incomplets” filmés par caméra. On sanctionne la déviation plus que le danger. Cette inflation punitive entretient la fiction d’une obéissance parfaite, alors que la sécurité effective dépend souvent de la capacité d’adaptation des usagers. Or les études sur les lois “Stop-as-Yield” racontent une histoire inverse : plus on fait confiance aux individus, plus leurs comportements sont sûrs. Les cyclistes, libérés d’une règle inadaptée, se concentrent mieux sur leur environnement et réduisent les risques réels. La peur de la sanction est remplacée par une attention partagée.

Ce glissement (de la contrainte vers la confiance) illustre une philosophie du droit plus pragmatique : reconnaître que les normes les plus efficaces sont celles qui épousent la réalité des pratiques. Dans le cas de l’Idaho, légaliser ce que tout le monde faisait déjà n’a pas provoqué le chaos. Cela a simplement mis le droit en phase avec la vie. Et c’est peut-être là la leçon la plus universelle de cette expérience américaine : la route est un espace social, pas une simple grille de règles. L’ordre y naît moins de la peur du gendarme que de la responsabilité réciproque. Dans bien des domaines, de la mobilité à la fiscalité, on gagnerait à s’en souvenir, non ?

Rérérences

Arrow, K. J. (1963). Uncertainty and the Welfare Economics of Medical Care. American Economic Review, 53(5), 941–973.

Caldwell, J., & Yanocha, D. (2016). Is it Time to Reexamine Your Bike Code? A Review of Cycling Policies in Illinois Municipalities. Illinois Municipal Policy Journal, 1(1), 109–121.

Fajans, J. (2000). Steering in bicycles and motorcycles. American Journal of Physics, 68(7), 654-659.

Jackson, C. et al. (2024). Bicyclist Stop-as-Yield Law Analysis. National Highway Traffic Safety Administration (DOT HS 813 528).

Jacobsen, P. L. (2003). Safety in Numbers: More Walkers and Bicyclists, Safer Walking and Bicycling. Injury Prevention, 9, 205–209.

Meggs, J. N. (2010). Bicycle Safety and Choice: Compounded Public Cobenefits of the Idaho Law. UC Berkeley, TRB Paper #10-2560.

Silva, C. M. C. (2015). Bicyclists’ Stopping Behaviors: An Observational Study of Bicyclists’ Patterns and Practices. University of Washington.

Whyte, B. (2013). The Idaho Stop Law and the Severity of Bicycle Crashes: A Comparative Study. University of Illinois at Urbana-Champaign.

Young, R. K. et al. (2024). Characterization of Expert and Public Perceptions of Bicycle Rolling Stop Laws. Transportation Research Record, 2678(10), 634–647.

2025 CAS (Casualty Actuarial Science) Canada Connection

In less than a month, Olivier Côté will attend the  CAS Canada Connection, in Toronto.  He will speak in a session Operationalizing Fairness in Actuarial Pricing: From Principle to Practice

Fairness metrics often lack actuarial relevance and are expressed in abstract units, obscuring real-world consequences. For actuaries to intervene, proxy effects and unfair biases must be quantified in insurance-relevant terms: dollars and people. This session will present new research from the CAS Race and Insurance Pricing series, focusing on the unique challenge of establishing fairness in actuarial pricing. We argue that actuarial fairness, solidarity, and causality form the three dimensions of fairness in insurance. These give rise to a five-point spectrum of pricing benchmarks, each reflecting distinct fairness goals and trade-offs. We quantify the monetary impact of unfairness at both the policyholder and segment levels through a large-scale Québec auto insurance case study.

Learning objectives are (1) Describe three dimensions of fairness in insurance pricing: actuarial fairness, solidarity, and causality (2) Translate these dimensions of fairness into a spectrum of five pricing benchmarks (3) Diagnose and quantify potential unfairness at both individual and segment levels using actuarially meaningful metrics.

It will be based on our recent paper, A Scalable toolbox for exposing indirect discrimination in insurance rates”.