Tag Archives: Financial Times

Quand l’assurance se défait, la crise silencieuse de l’indemnisation

J’avoue que j’aime ces articles (de presse quotidienne) qui, sans en avoir l’air, racontent beaucoup plus qu’une série d’anecdotes et de parcours de vies individuels. Comme celui qu’a publié le Financial Times le 22 novembre 2025, consacré à la hausse spectaculaire des refus d’indemnisation dans l’assurance habitation au Royaume-Uni. Il raconte des vies bouleversées par des sinistres apparemment banals (un dégât des eaux, un choc électrique, une infiltration) mais surtout il dévoile, presque malgré lui, les tensions profondes de système assurantiel.

Avant même d’entrer dans ces histoires, il faut rappeler une chose simple mais fondamentale : l’assurance est la vente d’une promesse. Une promesse d’indemnisation future, formulée aujourd’hui, contre une prime payée immédiatement. Tout le marché de l’assurance repose sur ce principe paradoxal : l’assureur encaisse d’abord, et ne délivre la prestation que beaucoup plus tard, si un événement malheureux (mais anticipé) survient. Je renvoie à notre Manuel d’assurance pour ceux qui se sentent un peu loin de ces sujets. Mais pour résumer rapidement et simplement, le contrat d’assurance est un dispositif juridique et économique qui engage l’assureur sur des garanties précisément définies, qui « fixent les conditions de garantie, en particulier les franchises et exclusions ». L’assurance n’est pas un bien que l’on consomme immédiatement ; c’est un engagement irréversible de réparer un dommage futur. Comme tout engagement irréversible, il ne vaut que si celui qui le prend (ici l’assureur) est jugé crédible. Cette crédibilité n’est pas accessoire : elle est la condition d’existence même du marché. Si les clients cessent d’y croire, le produit s’effondre. On insiste à plusieurs endroits sur ce point, sur la « dimension sociale et sociétale de l’assurance », expliquant qu’elle dépend in fine « de la performance et de l’éthique des assureurs » dans la tenue de leurs engagements et la gestion des sinistres . Je vais insister un peu lourdement, parce qu’on aurait tort de lire cette phrase comme une remarque générale : l’assurance n’a pas d’autre fondation solide que la confiance. Quand cette confiance vacille (parce que les contrats deviennent illisibles, les garanties incertaines, les refus fréquents) alors la promesse elle-même se fragilise. Et tout le marché avec.

Mais revenons à notre article, Why are so many home insurance claims being rejected?. Il s’ouvre avec Jacopo, un économiste installé à Hackney, qui vient à casser une assiette de frustration devant ses enfants. Depuis plus de deux ans, sa famille vit dans un appartement humide, les murs ouverts et les déshumidificateurs bourdonnant en permanence, à la suite d’une fuite d’eau que son assureur, n’a toujours pas correctement prise en charge. L’assureur a d’abord refusé de reloger la famille, puis s’est ravisée ; entre-temps, les dégâts se sont aggravés, et l’assureur n’offre qu’un règlement très en deçà du montant estimé par son propre expert. Un peu plus loin un certain Ray raconte l’incendie de sa maison frappée par la foudre ; là encore, l’assureur change d’avis en cours de route et refuse finalement de reconstruire, imposant un règlement en cash, malgré une clause contractuelle qui semblait pourtant garantir le droit à une reconstruction à l’identique.

Ces histoires sont dramatiques, mais ce qui importe surtout, c’est qu’elles ne semblent plus extraordinaires, ou exceptionnelles. Selon la Financial Conduct Authority, les assureurs britanniques n’ont indemnisé que 71 % des sinistres habitation en 2024, un pourcentage en baisse continue depuis 2022. Une chute d’autant plus notable que le taux d’indemnisation dépasse les 90 % dans l’assurance automobile. Le contraste peut étonner… pourquoi ce qui fonctionne encore relativement bien pour les voitures se délite-t-il pour les logements ? L’article du Financial Times offre une série d’explications techniques (inflation des coûts de construction, multiplication des sinistres dus au climat, complexité des sinistres liés à l’habitat) mais en filigrane, j’ai l’impression d’y lire une tout autre histoire.

C’est celle d’une friction organisée, d’une complexité qui, au lieu d’être un accident malheureux, ressemble parfois à un mécanisme de filtrage. Plusieurs assurés cités dans l’article le disent ouvertement : ils ont eu l’impression que les obstacles n’étaient pas regrettables, mais intentionnels. L’un d’eux affirme « They bank on people rolling over and giving up. » L’Association des assureurs britanniques rejette cette idée, mais un analyste du secteur, interrogé par le Financial Times, la confirme : les assurés obtiennent souvent satisfaction uniquement lorsqu’ils poussent leur dossier jusqu’à l’Ombudsman (l’institution de médiation indépendante chargée de résoudre les litiges entre les consommateurs et les entreprises, entre les assurés et les assureurs), un stade auquel peu de gens parviennent. Entre-temps, beaucoup renoncent, absorbant de fait une part des pertes que l’assurance aurait dû couvrir. Beaucoup d’actuaires parlent d’élasticité aux prix, mais je pense que ça va plus loin… Dans le livre de Jed Frees, Regression Modeling with Actuarial and Financial Applications (ouvrage de référence dans la plupart des formations d’actuariat, dans le monde entier), il y a un jeu de données, simulées (Automobile Bodily Injury Claims Simulated, AutoBIsim) sur lequel on voit que quand un assuré est représenté par un avocat (variable ‘ATTORNEY=1’) le montant de l’indemnité augmente (‘LOSS’). Je ne sais pas le sens réel de la relation causale, mais oui, les assureurs lisent ce genre de signaux…

Ce processus, Mary Douglas l’avait théorisé il y a trente ans. Dans Risk and Blame, elle explique que les discours sur le risque servent toujours à assigner des responsabilités, à désigner qui est « fautif ». Lorsque l’Association des assureurs affirme, dans l’article, que les clients confondent assurance habitation et contrat de maintenance, elle ne fait pas qu’expliquer un malentendu : elle déplace subtilement la responsabilité du problème. Si le sinistre n’est pas indemnisé, ce n’est pas parce que l’assurance ne remplit plus sa promesse sociale, mais parce que l’assuré n’a pas « bien compris » son contrat. Douglas écrivait que danger et risque sont des catégories « culturellement conditionnées » : ils servent de support à des jugements moraux. On en a ici une série d’exemples.

À cette lecture anthropologique peut s’ajouter celle d’Ulrich Beck (dans Risikogesellschaft), dont la notion d’« irresponsabilité organisée » semble décrire parfaitement les situations rapportées dans le Financial Times. Dans la société du risque, écrivait Beck, les dangers sont produits par la modernité elle-même (changement climatique, infrastructures vieillissantes, complexité technologique) et les institutions inventent des mécanismes permettant à chacun de se défausser, ou du moins de diluer sa responsabilité. Le cas de l’assurance habitation britannique illustré par cet article correspond presque trait pour trait à cette idée : les experts délégués renvoient la responsabilité aux gestionnaires, les gestionnaires aux sous-traitants, les sous-traitants à des contraintes de procédure, et ainsi de suite. Au bout de la chaîne, l’assuré parle, comme le dit Jacopo, avec des administrateurs qui « ne sont pas proches du décideur ». La dilution est totale, et c’est précisément elle qui permet au refus d’indemnisation de se maintenir, sans que personne ne soit considéré comme directement fautif. J’en avais parlé il y a quelques temps (presque huit ans) dans un article que j’avais intitulé Les machines, les procédures, et la fuite de la responsabilité.

François Ewald, de son côté, a montré dans L’Etat providence que l’assurance n’est pas seulement une technologie de gestion des risques mais une véritable infrastructure morale du monde moderne : elle a rendu possible l’État social en socialisant les pertes, en neutralisant les aléas individuels. L’assurance n’était pas simplement un produit ; elle était une promesse de stabilité. Ce que révèle l’article, c’est la fragilisation de cette promesse. Quand une maison frappée par la foudre n’est pas forcément reconstruite ; quand un dégât des eaux immobilise une famille deux ans dans un appartement insalubre ; quand les refus augmentent alors que les sinistres eux-mêmes s’intensifient ; alors c’est un pilier de la pacification sociale assurantielle qui vacille. On assiste à un phénomène paradoxal : plus les risques climatiques et matériels augmentent, plus les assureurs resserrent les conditions d’indemnisation, au point que l’assurance semble parfois fonctionner à l’envers de sa logique historique.

C’est aussi ce que suggère Tom Baker lorsqu’il analyse l’assurance comme une forme de gouvernance privée, dans Insurance Law and Policy. Chaque sinistre est un moment de régulation : les décisions d’indemniser ou non, de reconstruire ou de régler en cash, de missionner tel expert plutôt qu’un autre, produisent des normes implicites. Ils définissent, silencieusement, ce que la société considère comme une perte « acceptable », « normale », ou « trop coûteuse ». À travers ces micro-décisions, l’assurance établit des frontières entre ceux qui méritent réparation et ceux dont la perte, au fond, restera privée.

Enfin, une dimension sociale traverse tout l’article du Financial Times. Les personnes les plus vulnérables sont aussi celles qui ont le moins de temps, de capital culturel ou de ressources émotionnelles pour traverser un processus de réclamation labyrinthique. L’un des assurés cités explique qu’il n’a obtenu une réponse que lorsqu’il s’est mis à utiliser des termes techniques comme « subrogation ». Ça en dit long : l’accès effectif au droit passe par la maîtrise du langage et des codes du monde assurantiel. Ceux qui ne les possèdent pas (et ils sont nombreux) subissent davantage la violence morale du système. Là encore, la sociologie du droit et des inégalités montre que ce genre de frictions administratives est un puissant amplificateur d’injustice sociale.

L’article du Financial Times ne prétend pas théoriser tout cela. Mais il met en lumière, avec précision (une précision presque involontaire ?), ce que deviennent nos institutions assurantielles dans un monde où les risques se déchaînent : elles ne se contentent plus de mutualiser, elles trient ; elles ne se contentent plus de protéger, elles sélectionnent ; elles ne redistribuent plus seulement des pertes, elles redistribuent aussi les capacités d’y résister. L’assurance habitation, jadis présenté comme un instrument de stabilité, semble glisser vers un rôle plus ambigu, où la protection n’est plus garantie mais négociée, parfois âprement, au cas par cas.

Peut-être est-ce là un signe parmi d’autres d’un basculement plus profond : un monde où les risques croissants ne trouvent plus de mécanismes institutionnels capables de les absorber, et où la promesse assurantielle, pilier discret de nos vies matérielles, commence à se fissurer. Dans ce monde-là, j’ai l’impression que l’article du Financial Times n’est pas qu’un simple reportage, c’est une alerte.

Insurers and AI, a systemic risk

In Insurers retreat from AI cover as risk of multibillion-dollar claims mounts, the Financial Times reported at the end of this week that several major insurers (AIG, Great American, and WR Berkley) are seeking to introduce explicit exclusions for risks related to artificial intelligence, particularly concerning the use of agents and language models. The reasons put forward are straightforward: potential losses related to AI could reach several hundreds of millions of dollars, or even more. But above all, the danger lies less in the severity of any individual claim than in the possibility of correlated, massive, simultaneous losses, impossible to mutualize. As Aon summarizes in one sentence:

“What [the industry] can’t afford is if an AI provider makes a mistake that ends up as a 1,000 or 10,000 losses.”

The issue is far less about the severity of a particular incident than about the simultaneity of thousands of identical incidents. In other words, we are dealing with the very definition of systemic risk. To understand this, it is useful to place the phenomenon within the broader framework of complex systems, accidents in high-reliability organizations, and system-wide risk mechanisms as studied for several decades in finance and insurance.

AI as an interconnected network: a breeding ground for contagion

The literature on systemic risk teaches us that it is not the absolute size of institutions that determines their vulnerability, but the structure of their interconnections. Prasanna Gai highlights that financial systems exhibit what he calls a “robust-yet-fragile” dynamic: they withstand countless shocks yet may collapse abruptly when a specific shock travels through the right channels. He reminds us that:

“The system may be robust to most shocks, but when problems strike the effects may be catastrophic.”

A local error can turn into a global catastrophe as soon as it reaches the network’s “vulnerable cluster.” The simulations he presents show that the more interconnected a network is, the faster an error can spread. A minimal change in connectivity or capitalization can shift the entire system from a stable to a critical state, a true “phase transition.” As Gai puts it:

“An initial error can spread through the entire vulnerable cluster.”

In this context, generative AI displays all the characteristics of a system highly conducive to contagion. When an AI provider deploys a faulty update, introduces an error in a model’s parameters, or suffers a cybersecurity vulnerability, it is not isolated users who are affected but thousands, because they rely on the same infrastructure. Each client depends not only on its own usage but on the integrity of a global model, where even the smallest modification instantly reproduces identical behaviour across all users. This is exactly the kind of rapid, synchronized contagion insurers now fear: propagation that is not slow or progressive, but immediate, simultaneous, and homogeneous.

Why insurers fear correlated losses

Insurability has historically depended on a fundamental condition: the law of large numbers. As Hufeld, Koijen, and Thimann remind us in The Economics, Regulation, and Systemic Risk of Insurance:

“The risk must obey the law of large numbers.”

Events must be independent, or sufficiently heterogeneous, for losses to offset each other statistically. Yet cyber-risks already fail to meet this condition, as Biener et al. showed in 2015:

“Cyber losses are highly interrelated and characterized by severe information asymmetries.”

Cyber insurance is already structurally fragile, facing simultaneous, large-scale, difficult-to-attribute incidents. Generative AI only reinforces this structure, creating an environment where errors are not merely frequent but potentially identical and simultaneous. The examples cited by the Financial Times (an Air Canada chatbot binding the airline to a fare, a Google module defaming a small business, a $25 million deepfake fraud against Arup, or an autonomous agent producing pricing or diagnostic errors at scale) highlight how extremely reproducible such incidents are. A single defect, update, or vulnerability can affect an entire sector all at once.

This homogeneity of losses is toxic for insurance. As actuarial literature reminds us, when losses become correlated, mutualization collapses mechanically. By design, insurance cannot absorb risks whose very structure pushes toward aggregation.

AI, cybersecurity, and “normal accidents”: when complexity makes error inevitable

Clearfield and Tilcsik, in Meltdown, show that in complex systems, failures are not anomalies: they are inevitable. Surprises emerge from interactions, and small errors amplify as they propagate through tightly coupled networks. Their argument corresponds exactly to what insurers fear: the error of an autonomous model is not an isolated human mistake, but a systemic mechanism liable to replicate everywhere.

“In wicked environments, error signals are ambiguous, interactions are complex, and systems become vulnerable to surprises.”

Generative AI models fit this description perfectly: structural opacity, non-deterministic behaviour, dependence on a handful of global providers, and the lack of separation between uses create a system in which local failures become systemic. The technological dependence concentrated among a few actors amplifies this dynamic further. When a single model is deployed in legal, medical, financial, and industrial contexts, an error propagating through that model can contaminate every domain simultaneously. AI is thus less a tool than an interconnected ecosystem, a fully-fledged complex system.

Why AI creates a new kind of systemic risk for insurance

Traditionally, insurance has been considered less vulnerable to systemic risk than banking, because insurers exhibit far lower interconnectedness. This is the consensus highlighted by Hufeld, Koijen, and Thimann:

“The insurance industry is not subject to systemic risk, in particular due to its significantly lower interconnectedness.”

But this assumption relies on a hidden premise: that the risks insured must themselves remain independent. With AI, that premise collapses. For the first time, an insured risk (cyber, errors & omissions, software-related damages) becomes structurally interconnected. A single provider, a single model, a single update, or a single vulnerability can trigger thousands of simultaneous losses. Interconnectedness is no longer a property of the insurance market, it is a property of the risk itself. Acharya, Pedersen, Philippon, and Richardson define a risk as systemic when it can generate a simultaneous “capital shortfall” across multiple institutions:

“Even if liabilities are not runnable, a firm can contribute to systemic risk through its contribution to the aggregate capital shortfall.”

In a world where thousands of losses linked to the same AI error could occur at once, this definition becomes sharply relevant. AI introduces a form of aggregated, correlated, non-diversifiable risk. It is no longer a volatile risk, but a structurally synchronized one — insurers’ worst-case scenario.

What the “big systemic events” of AI might look like

Several scenarios illustrate how AI-driven systemic risk might unfold. Imagine a faulty update to an LLM used across the financial sector: a model deployed in two thousand banks simultaneously misinterprets a regulatory rule. The consequences (non-compliance, sanctions, lawsuits, customer withdrawals, class actions) would be immediate and perfectly synchronized. An autonomous legal agent could also generate systematic hallucinations, producing false legal citations or flawed reasoning. If deployed across several hundred companies, that error would instantly become collective. Beyond these operational scenarios lies a subtler phenomenon: the breakdown of interpretability. When models produce signals that seem plausible but remain opaque, both humans and machines tend to attribute excessive meaning to them. A weak signal — a slight increase in churn score, a small rise in a risk indicator — may be interpreted as a real behavioural shift, though it may merely be a statistical artifact, dataset bias, or latent drift.

These misinterpretations can create feedback loops, turning noise into a real shock: emergency decisions, pricing changes, adjustments to dependent models. Clearfield and Tilcsik describe this as a self-fulfilling prophecy. In Gai’s terminology, an initial noise finds its way into the vulnerable cluster and triggers a cascade:

“With positive probability, a random initial default at one bank can lead to the spread of default across the entire vulnerable portion of the financial system (…) Contagion breaks out when shocks strike any bank in, or adjacent to, the giant vulnerable cluster and spread across the entire cluster.”

For insurers, such risk (intrinsic to the system’s functioning) becomes impossible to mutualize.

The Tesla case study

The book The Tesla Files offers a striking illustration of these dynamics. It reveals an organization where extremely concentrated critical functions make any incident capable of propagating system-wide. A single administrator holds global access; thousands of employees have elevated privileges; and the whistleblower describes an absence of monitoring despite massive data extractions. In such a context, an incident does not remain local, it compromises the entire organization.

“The stream of data expands to include customers, business partners, and a wide array of individuals and companies with ties to Tesla.”

Tesla aggregates not only its own data but also data from customers, partners, governments, subcontractors, and regulators — creating dependency structures extremely similar to pre-2008 financial networks. The authors show that Tesla minimizes some risk indicators (recording only crashes involving airbag deployment), sometimes disables Autopilot just before impact (obscuring responsibility), or refuses to transmit data to regulators. Four elements appear: information asymmetry, opaque accountability, centralized incident handling, and extreme software homogeneity.

Autopilot crashes in Europe are handled by a single team, and thousands of customer complaints exist regarding phantom braking or sudden acceleration. When an entire fleet relies on a single software model updated simultaneously, a defect can produce a massive correlated shock. This is exactly the scenario insurers now fear for generative AI systems.

Tesla thus serves as a concrete example: a system where software homogeneity creates such aggregation risk that a single error can become a “big systemic event.”

AI Liability: a legal blind spot in an asymmetric market

To these operational risks we must add a final dimension: legal responsibility. “AI liability” )the question of who is responsible when AI causes harm) is today one of the least explored and most explosive issues. The Financial Times rightly notes:

“Nobody knows who’s liable if things go wrong.”

In practice, AI providers’ contracts include drastic limitations of liability, exclusions of performance guarantees, and clauses transferring almost all risk to the user. Because demand is nearly inelastic (there are often no viable alternatives to the major models), providers can impose their terms unilaterally, creating a significant contractual asymmetry.

This asymmetry becomes critical in regulated sectors, where firms are required to control their models: banks, insurers, and hospitals must comply with strict requirements for operational and model-risk management, even though the models they use are opaque, external, and unaudited. The Tesla Files shows that even technologically advanced companies can lose control of their own systems, making some regulatory obligations nearly impossible to fulfill. The financial sector thus faces a profound contradiction: it is legally responsible for tools over which it has no meaningful control — not the design, not the training data, not the governance, not the behaviour. Firms cannot contest provider errors nor obtain compensation when a model fails.

This situation creates a triple gap: a regulatory gap (firms cannot meet their obligations), a contractual gap (all responsibility lies with the user), and an insurance gap (insurers are withdrawing from the field). The result is a legal systemic risk, characterized by diffuse responsibility, concentrated dependency, and profoundly inefficient allocation of risk.

References

Assureurs et IA, un risque systémique

Dans Insurers retreat from AI cover as risk of multibillion-dollar claims mounts, le Financial Times rapportait cette fin de semaine que plusieurs grands assureurs (AIG, Great American ou encore WR Berkley) cherchent à introduire des exclusions explicites pour les risques liés à l’intelligence artificielle, notamment concernant les usages d’agents et de modèles de langage. Les motifs avancés sont limpides : les pertes potentielles liées à l’IA pourraient atteindre des montants de plusieurs centaines de millions, voire davantage. Mais surtout, le danger ne réside pas tant dans l’ampleur d’un sinistre isolé que dans la possibilité de pertes corrélées, massives, simultanées, impossibles à mutualiser. Comme le résume Aon dans une phrase,

“What [the industry] can’t afford is if an AI provider makes a mistake that ends up as a 1,000 or 10,000 losses.” (« Ce que l’industrie ne peut se permettre, ce n’est pas une perte de 400 ou 500 millions pour une entreprise, mais une erreur d’un fournisseur d’IA qui se traduit par mille ou dix mille sinistres. »)

L’enjeu porte bien moins sur la gravité d’un incident donné que sur la simultanéité de milliers d’incidents identiques. Autrement dit, nous avons affaire à la définition même d’un risque systémique. Pour le comprendre, il est utile de replacer ce phénomène dans le cadre plus large des systèmes complexes, des accidents dans les organisations à haute fiabilité, et des mécanismes de risque systémique tels qu’ils sont étudiés depuis plusieurs décennies dans la finance et l’assurance.

L’IA comme réseau interconnecté : un terrain idéal pour la contagion

La littérature sur le risque systémique enseigne que ce n’est pas la taille absolue des institutions qui détermine leur vulnérabilité, mais la structure de leurs interconnexions. Prasanna Gai souligne ainsi que les systèmes financiers présentent une dynamique qu’il qualifie de « robust-yet-fragile » : ils résistent à d’innombrables chocs, mais peuvent s’effondrer brutalement lorsqu’un choc particulier circule par les bons canaux. Il rappelle que

“The system may be robust to most shocks, but when problems strike the effects may be catastrophic.” (« Le système paraît robuste à la plupart des chocs, mais lorsqu’ils se produisent, les effets peuvent être catastrophiques. »)

Une erreur locale peut se transformer en catastrophe globale dès lors qu’elle atteint le « cluster vulnérable » du réseau. Les simulations qu’il présente montrent que plus un réseau est interconnecté, plus une erreur peut s’y propager rapidement. Un changement minime de connectivité ou de capitalisation peut faire basculer l’ensemble du système d’un état stable à un état critique, une véritable « phase transition ». Comme le résume Gai,

“An initial error can spread through the entire vulnerable cluster.” (« Une erreur initiale peut se propager à l’ensemble du cluster vulnérable. »)

Dans ce cadre, l’IA générative présente toutes les caractéristiques d’un système hautement propice à la contagion. Lorsqu’un fournisseur d’IA déploie une mise à jour défectueuse, commet une erreur dans les poids d’un modèle ou subit une vulnérabilité de cybersécurité, ce ne sont pas des utilisateurs isolés qui sont affectés mais des milliers, car ils partagent les mêmes infrastructures. Chaque client ne dépend pas seulement de son propre usage, mais de l’intégrité d’un modèle global, dont la moindre modification reproduit instantanément un comportement identique chez tous ses utilisateurs. C’est exactement le type de contagion fulgurante que les assureurs redoutent aujourd’hui : une propagation non pas lente et progressive, mais immédiate, simultanée, homogène.

Pourquoi l’assurance redoute les pertes corrélées

L’assurabilité repose historiquement sur une condition essentielle : la loi des grands nombres. Comme le rappellent Hufeld, Koijen et Thimann  dans The Economics, Regulation, and Systemic Risk of Insurance,

“The risk must obey the law of large numbers.” (« Le risque doit obéir à la loi des grands nombres. »)

Les événements doivent être indépendants, ou suffisamment hétérogènes, pour que les pertes se compensent statistiquement. Or les cyber-risques ne respectent déjà pas cette condition, comme l’ont montré Biener et al. dès 2015 :

“Cyber losses are highly interrelated and characterized by severe information asymmetries.” (« Les pertes cyber sont hautement corrélées et caractérisées par de sévères asymétries d’information. »)

L’assurance cyber est déjà structurellement fragile, car elle fait face à des risques simultanés, massifs, et difficilement attribuables. L’IA générative ne fait que renforcer cette structure, en créant un environnement où les erreurs ne sont pas seulement fréquentes, mais potentiellement identiques et simultanées. Les exemples cités par le Financial Times (un chatbot d’Air Canada qui engage automatiquement la compagnie, un module de Google qui diffame une PME, une fraude par deepfake coûtant 25 millions de dollars à Arup, ou encore un agent autonome qui génère des erreurs de prix ou de diagnostic en série) illustrent la reproductibilité extrême de ces incidents. Un même défaut, une même mise à jour, une même vulnérabilité peut affecter tout un secteur d’un seul coup. Cette homogénéité des sinistres est délétère pour l’assurance. Comme le rappelle la littérature actuarielle, lorsque les pertes deviennent corrélées, la mutualisation s’effondre mécaniquement. L’assurance, par construction, ne peut absorber des risques dont la structure pousse naturellement à l’agrégation.

IA, cybersécurité et “accidents normaux” : quand la complexité rend l’erreur inévitable

Clearfield et Tilcsik, dans Meltdown, montrent que dans les systèmes complexes, les défaillances ne sont pas des anomalies : elles sont inévitables. Les surprises émergent des interactions multiples, et de petites erreurs peuvent rapidement s’amplifier lorsqu’elles circulent dans des réseaux étroitement couplés. Leur thèse correspond exactement à ce que redoutent les assureurs : l’erreur d’un modèle autonome n’est pas une bourde humaine isolée, mais un mécanisme systémique susceptible de se répliquer partout. En s’appuyant sur des cas variés (Fukushima, accidents ferroviaires, aviation, cybersécurité) les auteurs montrent que certains environnements sont « wicked », c’est-à-dire des environnements où les signaux d’erreur sont ambigus, les interactions complexes et les systèmes vulnérables à des surprises brutales.

“In wicked environments, error signals are ambiguous, interactions are complex, and systems become vulnerable to surprises.” (« Dans les environnements wicked, les signaux d’erreur sont ambigus, les interactions complexes, et les systèmes deviennent vulnérables aux surprises. »)

Les modèles d’IA générative incarnent parfaitement cette description : leur opacité structurelle, leur comportement non déterministe, leur dépendance à quelques fournisseurs globaux et l’absence de cloisonnement entre leurs usages créent un système dont les défaillances locales deviennent immédiatement systémiques. La concentration de dépendances technologiques entre quelques acteurs amplifie encore cette dynamique. Lorsqu’un modèle est utilisé dans des contextes juridiques, médicaux, financiers, industriels, une erreur qui y apparaît peut contaminer simultanément tous ces domaines. De ce point de vue, l’IA est déjà moins un outil qu’un écosystème interconnecté, un véritable système complexe au sens fort.

Pourquoi l’IA crée un risque systémique inédit pour l’assurance

Traditionnellement, l’assurance est considérée comme moins vulnérable au risque systémique que la banque, en raison de l’interconnexion nettement plus faible entre assureurs. C’est le consensus rappelé par Hufeld, Koijen et Thimann :

“The insurance industry is not subject to systemic risk, in particular due to its significantly lower interconnectedness.” (« L’industrie de l’assurance n’est pas sujette au risque systémique, notamment du fait de sa faible interconnexion. »)

Mais cette affirmation repose sur une hypothèse implicite : les risques assurés doivent eux-mêmes rester indépendants. Avec l’IA, cette hypothèse s’effondre. Pour la première fois, un risque assuré (cyber, erreurs et omissions, dommages causés par des systèmes logiciels) devient structurellement interconnecté. Un seul fournisseur, un seul modèle, une seule mise à jour ou une seule vulnérabilité peuvent provoquer des milliers de sinistres simultanés. L’interconnexion n’est plus une propriété du marché de l’assurance : elle est une propriété du risque lui-même.

Acharya, Pedersen, Philippon et Richardson définissent un risque comme systémique lorsqu’il peut provoquer une situation de « capital shortfall » simultanée dans de nombreuses institutions. Ils notent que

“Even if liabilities are not runnable, a firm can contribute to systemic risk through its contribution to the aggregate capital shortfall.” (« Même si les passifs ne sont pas sujets aux runs, un assureur peut contribuer au risque systémique par sa contribution au capital shortfall agrégé. »)

Dans un monde où des milliers de sinistres liés à une même erreur d’IA pourraient survenir en même temps, cette notion prend un relief particulier. L’IA introduit ainsi une forme de risque agrégé, corrélé, non diversifiable. Ce n’est plus un risque volatil mais un risque structuralement synchronisé, ce qui constitue la hantise des assureurs.

Ce que pourraient être les “big systemic events” de l’IA

Dans un tel contexte, plusieurs scénarios illustrent comment un risque systémique lié à l’IA pourrait se matérialiser. Imaginons, par exemple, une mise à jour défaillante d’un LLM utilisé dans la finance : un modèle déployé dans deux mille banques commet simultanément une erreur d’interprétation réglementaire. Les conséquences seraient immédiates (mauvaise conformité, sanctions, litiges, retraits, actions collectives) et parfaitement synchrones .Un agent juridique autonome pourrait produire des hallucinations systématiques, générant de fausses citations juridiques ou de faux raisonnements. Si cet agent était déployé dans plusieurs centaines d’entreprises, l’erreur deviendrait immédiatement collective.

À ces scénarios opérationnels s’ajoute un phénomène plus subtil : la rupture d’interprétabilité. Lorsque les modèles produisent des signaux plausibles mais opaques, humains comme machines sont tentés de leur attribuer un sens excessif. Un signal faible (une légère hausse de score dans un modèle de résiliation, un changement ténu dans un score de risque) peut être interprété comme un mouvement réel, alors qu’il ne s’agit que d’un artefact statistique, d’un biais de dataset ou d’un drift latent. Ces interprétations erronées peuvent déclencher des rétroactions en chaîne, transformant un bruit en choc réel : décisions d’urgence, modifications de politiques tarifaires, ajustements de modèles secondaires. Clearfield et Tilcsik décrivent ce mécanisme d’emballement comme une prophétie autoréalisatrice. Dans le langage de Gai, un bruit initial trouve soudain un chemin vers le « cluster vulnérable » et déclenche une cascade ,

With positive probability, a random initial default at one bank can lead to the spread of default across the entire vulnerable portion of the financial system (…) Contagion breaks out when shocks strike any bank in, or adjacent to, the giant vulnerable cluster and spread across the entire cluster.” (« Avec une probabilité positive, un défaut initial aléatoire dans une banque peut entraîner la propagation du défaut à l’ensemble de la portion vulnérable du système financier (…) La contagion éclate lorsque des chocs touchent une banque située dans — ou à proximité immédiate de — l’immense cluster vulnérable, et qu’ils se propagent à travers l’ensemble de ce cluster. »)

Pour les assureurs, un tel risque, intrinsèque au fonctionnement même du système, devient impossible à mutualiser.

Le cas d’école de Tesla

Le livre The Tesla Files fournit une illustration frappante de ces dynamiques. On y découvre une organisation où une concentration extrême des fonctions critiques rend tout incident susceptible de se propager à grande échelle. Un seul administrateur peut disposer d’un accès global, des milliers d’employés détiennent des privilèges élevés, et le lanceur d’alerte décrit l’absence de monitoring interne malgré des téléchargements massifs. Une faille, dans un tel contexte, ne touche pas une partie isolée du système : elle compromet l’ensemble. Du point de vue systémique, Tesla fonctionne comme un graphe extrêmement connecté, sans cloisonnements internes, dans lequel la connectivité moyenne est anormalement élevée. Les auteurs rappellent que Tesla ne manipule pas seulement ses propres données, mais agrège celles de clients, partenaires, gouvernements, sous-traitants et organismes de régulation. Ils écrivent :

“The stream of data expands to include customers, business partners, and a wide array of individuals and companies with ties to Tesla.” (« Le flux de données s’étend aux clients, partenaires commerciaux, et à une vaste gamme d’individus et d’entreprises liés à Tesla. »)

Cette interconnexion massive crée des dépendances multiples, très proches de celles observées dans les systèmes bancaires avant 2008. Les auteurs montrent également que Tesla minimise certains indicateurs de risque (en n’enregistrant que les crashs impliquant un airbag, par exemple), désactive parfois l’Autopilot juste avant impact, créant une ambiguïté sur les responsabilités, ou refuse de transmettre des données aux régulateurs. Quatre éléments clefs apparaissent : des asymétries d’information, une opacité des responsabilités, une gestion centralisée des incidents et une homogénéité logicielle extrême. On découvre également que les crashs Autopilot en Europe sont traités par une seule équipe, et qu’il existe des milliers de plaintes clients pour freinages intempestifs ou accélérations fantômes. Lorsque l’ensemble de la flotte repose sur un même modèle logiciel, mis à jour simultanément, une erreur peut provoquer un choc corrélé massif. C’est précisément ce que redoutent aujourd’hui les assureurs pour les IA génératives. Tesla apparaît ainsi comme un précédent concret : un système où l’homogénéité logicielle crée un risque d’agrégation tel qu’une simple erreur peut devenir un “big systemic event”.

AI Liability : un angle mort juridique dans un marché asymétrique

À ces risques opérationnels s’ajoute un dernier élément : la responsabilité juridique. L’« AI liability », c’est-à-dire la question de savoir qui est responsable lorsque l’IA cause un dommage, est aujourd’hui l’un des sujets les moins traités, et les plus explosifs. Le Financial Times note à juste titre que

“Nobody knows who’s liable if things go wrong.” (« Personne ne sait qui est responsable lorsque quelque chose tourne mal. »)

Dans la pratique, les contrats proposés par les fournisseurs d’IA incluent des limitations drastiques de responsabilité, des exclusions de garantie de performance et des clauses transférant quasi intégralement le risque à l’utilisateur. Comme la demande est quasi inélastique (il n’existe souvent pas d’alternative crédible aux grands modèles), les fournisseurs peuvent imposer unilatéralement leurs termes, créant une asymétrie contractuelle majeure. Cette asymétrie devient critique dans les secteurs régulés, où les entreprises sont tenues de maîtriser leurs modèles : banques, assureurs, hôpitaux doivent respecter des obligations strictes de gestion du risque opérationnel ou du risque modèle, alors même que les modèles auxquels ils recourent sont opaques, externalisés et non audités. Les révélations de The Tesla Files montrent que même des entreprises très technologiques peuvent perdre le contrôle de leurs propres systèmes, rendant certaines obligations réglementaires inapplicables en pratique. Le secteur financier se retrouve ainsi dans une contradiction profonde : juridiquement responsable d’outils dont il ne maîtrise ni la conception, ni les données d’entraînement, ni la gouvernance, ni le comportement, il ne peut ni contester les erreurs des fournisseurs, ni obtenir réparation lorsqu’un modèle commet une faute. Cette situation crée un triple gouffre : un gouffre réglementaire, puisque les entreprises ne peuvent satisfaire leurs obligations ; un gouffre contractuel, puisque toute la responsabilité repose sur l’utilisateur ; et un gouffre assurantiel, puisque les assureurs se retirent progressivement de ce champ. Le résultat est un risque systémique juridique, caractérisé par une responsabilité diffuse, une dépendance concentrée et une allocation du risque profondément inefficiente.

Références