Dans Insurers retreat from AI cover as risk of multibillion-dollar claims mounts, le Financial Times rapportait cette fin de semaine que plusieurs grands assureurs (AIG, Great American ou encore WR Berkley) cherchent à introduire des exclusions explicites pour les risques liés à l’intelligence artificielle, notamment concernant les usages d’agents et de modèles de langage. Les motifs avancés sont limpides : les pertes potentielles liées à l’IA pourraient atteindre des montants de plusieurs centaines de millions, voire davantage. Mais surtout, le danger ne réside pas tant dans l’ampleur d’un sinistre isolé que dans la possibilité de pertes corrélées, massives, simultanées, impossibles à mutualiser. Comme le résume Aon dans une phrase,
“What [the industry] can’t afford is if an AI provider makes a mistake that ends up as a 1,000 or 10,000 losses.” (« Ce que l’industrie ne peut se permettre, ce n’est pas une perte de 400 ou 500 millions pour une entreprise, mais une erreur d’un fournisseur d’IA qui se traduit par mille ou dix mille sinistres. »)
L’enjeu porte bien moins sur la gravité d’un incident donné que sur la simultanéité de milliers d’incidents identiques. Autrement dit, nous avons affaire à la définition même d’un risque systémique. Pour le comprendre, il est utile de replacer ce phénomène dans le cadre plus large des systèmes complexes, des accidents dans les organisations à haute fiabilité, et des mécanismes de risque systémique tels qu’ils sont étudiés depuis plusieurs décennies dans la finance et l’assurance.
L’IA comme réseau interconnecté : un terrain idéal pour la contagion
La littérature sur le risque systémique enseigne que ce n’est pas la taille absolue des institutions qui détermine leur vulnérabilité, mais la structure de leurs interconnexions. Prasanna Gai souligne ainsi que les systèmes financiers présentent une dynamique qu’il qualifie de « robust-yet-fragile » : ils résistent à d’innombrables chocs, mais peuvent s’effondrer brutalement lorsqu’un choc particulier circule par les bons canaux. Il rappelle que
“The system may be robust to most shocks, but when problems strike the effects may be catastrophic.” (« Le système paraît robuste à la plupart des chocs, mais lorsqu’ils se produisent, les effets peuvent être catastrophiques. »)
Une erreur locale peut se transformer en catastrophe globale dès lors qu’elle atteint le « cluster vulnérable » du réseau. Les simulations qu’il présente montrent que plus un réseau est interconnecté, plus une erreur peut s’y propager rapidement. Un changement minime de connectivité ou de capitalisation peut faire basculer l’ensemble du système d’un état stable à un état critique, une véritable « phase transition ». Comme le résume Gai,
“An initial error can spread through the entire vulnerable cluster.” (« Une erreur initiale peut se propager à l’ensemble du cluster vulnérable. »)
Dans ce cadre, l’IA générative présente toutes les caractéristiques d’un système hautement propice à la contagion. Lorsqu’un fournisseur d’IA déploie une mise à jour défectueuse, commet une erreur dans les poids d’un modèle ou subit une vulnérabilité de cybersécurité, ce ne sont pas des utilisateurs isolés qui sont affectés mais des milliers, car ils partagent les mêmes infrastructures. Chaque client ne dépend pas seulement de son propre usage, mais de l’intégrité d’un modèle global, dont la moindre modification reproduit instantanément un comportement identique chez tous ses utilisateurs. C’est exactement le type de contagion fulgurante que les assureurs redoutent aujourd’hui : une propagation non pas lente et progressive, mais immédiate, simultanée, homogène.
Pourquoi l’assurance redoute les pertes corrélées
L’assurabilité repose historiquement sur une condition essentielle : la loi des grands nombres. Comme le rappellent Hufeld, Koijen et Thimann dans The Economics, Regulation, and Systemic Risk of Insurance,
“The risk must obey the law of large numbers.” (« Le risque doit obéir à la loi des grands nombres. »)
Les événements doivent être indépendants, ou suffisamment hétérogènes, pour que les pertes se compensent statistiquement. Or les cyber-risques ne respectent déjà pas cette condition, comme l’ont montré Biener et al. dès 2015 :
“Cyber losses are highly interrelated and characterized by severe information asymmetries.” (« Les pertes cyber sont hautement corrélées et caractérisées par de sévères asymétries d’information. »)
L’assurance cyber est déjà structurellement fragile, car elle fait face à des risques simultanés, massifs, et difficilement attribuables. L’IA générative ne fait que renforcer cette structure, en créant un environnement où les erreurs ne sont pas seulement fréquentes, mais potentiellement identiques et simultanées. Les exemples cités par le Financial Times (un chatbot d’Air Canada qui engage automatiquement la compagnie, un module de Google qui diffame une PME, une fraude par deepfake coûtant 25 millions de dollars à Arup, ou encore un agent autonome qui génère des erreurs de prix ou de diagnostic en série) illustrent la reproductibilité extrême de ces incidents. Un même défaut, une même mise à jour, une même vulnérabilité peut affecter tout un secteur d’un seul coup. Cette homogénéité des sinistres est délétère pour l’assurance. Comme le rappelle la littérature actuarielle, lorsque les pertes deviennent corrélées, la mutualisation s’effondre mécaniquement. L’assurance, par construction, ne peut absorber des risques dont la structure pousse naturellement à l’agrégation.
IA, cybersécurité et “accidents normaux” : quand la complexité rend l’erreur inévitable
Clearfield et Tilcsik, dans Meltdown, montrent que dans les systèmes complexes, les défaillances ne sont pas des anomalies : elles sont inévitables. Les surprises émergent des interactions multiples, et de petites erreurs peuvent rapidement s’amplifier lorsqu’elles circulent dans des réseaux étroitement couplés. Leur thèse correspond exactement à ce que redoutent les assureurs : l’erreur d’un modèle autonome n’est pas une bourde humaine isolée, mais un mécanisme systémique susceptible de se répliquer partout. En s’appuyant sur des cas variés (Fukushima, accidents ferroviaires, aviation, cybersécurité) les auteurs montrent que certains environnements sont « wicked », c’est-à-dire des environnements où les signaux d’erreur sont ambigus, les interactions complexes et les systèmes vulnérables à des surprises brutales.
“In wicked environments, error signals are ambiguous, interactions are complex, and systems become vulnerable to surprises.” (« Dans les environnements wicked, les signaux d’erreur sont ambigus, les interactions complexes, et les systèmes deviennent vulnérables aux surprises. »)
Les modèles d’IA générative incarnent parfaitement cette description : leur opacité structurelle, leur comportement non déterministe, leur dépendance à quelques fournisseurs globaux et l’absence de cloisonnement entre leurs usages créent un système dont les défaillances locales deviennent immédiatement systémiques. La concentration de dépendances technologiques entre quelques acteurs amplifie encore cette dynamique. Lorsqu’un modèle est utilisé dans des contextes juridiques, médicaux, financiers, industriels, une erreur qui y apparaît peut contaminer simultanément tous ces domaines. De ce point de vue, l’IA est déjà moins un outil qu’un écosystème interconnecté, un véritable système complexe au sens fort.
Pourquoi l’IA crée un risque systémique inédit pour l’assurance
Traditionnellement, l’assurance est considérée comme moins vulnérable au risque systémique que la banque, en raison de l’interconnexion nettement plus faible entre assureurs. C’est le consensus rappelé par Hufeld, Koijen et Thimann :
“The insurance industry is not subject to systemic risk, in particular due to its significantly lower interconnectedness.” (« L’industrie de l’assurance n’est pas sujette au risque systémique, notamment du fait de sa faible interconnexion. »)
Mais cette affirmation repose sur une hypothèse implicite : les risques assurés doivent eux-mêmes rester indépendants. Avec l’IA, cette hypothèse s’effondre. Pour la première fois, un risque assuré (cyber, erreurs et omissions, dommages causés par des systèmes logiciels) devient structurellement interconnecté. Un seul fournisseur, un seul modèle, une seule mise à jour ou une seule vulnérabilité peuvent provoquer des milliers de sinistres simultanés. L’interconnexion n’est plus une propriété du marché de l’assurance : elle est une propriété du risque lui-même.
Acharya, Pedersen, Philippon et Richardson définissent un risque comme systémique lorsqu’il peut provoquer une situation de « capital shortfall » simultanée dans de nombreuses institutions. Ils notent que
“Even if liabilities are not runnable, a firm can contribute to systemic risk through its contribution to the aggregate capital shortfall.” (« Même si les passifs ne sont pas sujets aux runs, un assureur peut contribuer au risque systémique par sa contribution au capital shortfall agrégé. »)
Dans un monde où des milliers de sinistres liés à une même erreur d’IA pourraient survenir en même temps, cette notion prend un relief particulier. L’IA introduit ainsi une forme de risque agrégé, corrélé, non diversifiable. Ce n’est plus un risque volatil mais un risque structuralement synchronisé, ce qui constitue la hantise des assureurs.
Ce que pourraient être les “big systemic events” de l’IA
Dans un tel contexte, plusieurs scénarios illustrent comment un risque systémique lié à l’IA pourrait se matérialiser. Imaginons, par exemple, une mise à jour défaillante d’un LLM utilisé dans la finance : un modèle déployé dans deux mille banques commet simultanément une erreur d’interprétation réglementaire. Les conséquences seraient immédiates (mauvaise conformité, sanctions, litiges, retraits, actions collectives) et parfaitement synchrones .Un agent juridique autonome pourrait produire des hallucinations systématiques, générant de fausses citations juridiques ou de faux raisonnements. Si cet agent était déployé dans plusieurs centaines d’entreprises, l’erreur deviendrait immédiatement collective.
À ces scénarios opérationnels s’ajoute un phénomène plus subtil : la rupture d’interprétabilité. Lorsque les modèles produisent des signaux plausibles mais opaques, humains comme machines sont tentés de leur attribuer un sens excessif. Un signal faible (une légère hausse de score dans un modèle de résiliation, un changement ténu dans un score de risque) peut être interprété comme un mouvement réel, alors qu’il ne s’agit que d’un artefact statistique, d’un biais de dataset ou d’un drift latent. Ces interprétations erronées peuvent déclencher des rétroactions en chaîne, transformant un bruit en choc réel : décisions d’urgence, modifications de politiques tarifaires, ajustements de modèles secondaires. Clearfield et Tilcsik décrivent ce mécanisme d’emballement comme une prophétie autoréalisatrice. Dans le langage de Gai, un bruit initial trouve soudain un chemin vers le « cluster vulnérable » et déclenche une cascade ,
“With positive probability, a random initial default at one bank can lead to the spread of default across the entire vulnerable portion of the financial system (…) Contagion breaks out when shocks strike any bank in, or adjacent to, the giant vulnerable cluster and spread across the entire cluster.” (« Avec une probabilité positive, un défaut initial aléatoire dans une banque peut entraîner la propagation du défaut à l’ensemble de la portion vulnérable du système financier (…) La contagion éclate lorsque des chocs touchent une banque située dans — ou à proximité immédiate de — l’immense cluster vulnérable, et qu’ils se propagent à travers l’ensemble de ce cluster. »)
Pour les assureurs, un tel risque, intrinsèque au fonctionnement même du système, devient impossible à mutualiser.
Le cas d’école de Tesla
Le livre The Tesla Files fournit une illustration frappante de ces dynamiques. On y découvre une organisation où une concentration extrême des fonctions critiques rend tout incident susceptible de se propager à grande échelle. Un seul administrateur peut disposer d’un accès global, des milliers d’employés détiennent des privilèges élevés, et le lanceur d’alerte décrit l’absence de monitoring interne malgré des téléchargements massifs. Une faille, dans un tel contexte, ne touche pas une partie isolée du système : elle compromet l’ensemble. Du point de vue systémique, Tesla fonctionne comme un graphe extrêmement connecté, sans cloisonnements internes, dans lequel la connectivité moyenne est anormalement élevée. Les auteurs rappellent que Tesla ne manipule pas seulement ses propres données, mais agrège celles de clients, partenaires, gouvernements, sous-traitants et organismes de régulation. Ils écrivent :
“The stream of data expands to include customers, business partners, and a wide array of individuals and companies with ties to Tesla.” (« Le flux de données s’étend aux clients, partenaires commerciaux, et à une vaste gamme d’individus et d’entreprises liés à Tesla. »)
Cette interconnexion massive crée des dépendances multiples, très proches de celles observées dans les systèmes bancaires avant 2008. Les auteurs montrent également que Tesla minimise certains indicateurs de risque (en n’enregistrant que les crashs impliquant un airbag, par exemple), désactive parfois l’Autopilot juste avant impact, créant une ambiguïté sur les responsabilités, ou refuse de transmettre des données aux régulateurs. Quatre éléments clefs apparaissent : des asymétries d’information, une opacité des responsabilités, une gestion centralisée des incidents et une homogénéité logicielle extrême. On découvre également que les crashs Autopilot en Europe sont traités par une seule équipe, et qu’il existe des milliers de plaintes clients pour freinages intempestifs ou accélérations fantômes. Lorsque l’ensemble de la flotte repose sur un même modèle logiciel, mis à jour simultanément, une erreur peut provoquer un choc corrélé massif. C’est précisément ce que redoutent aujourd’hui les assureurs pour les IA génératives. Tesla apparaît ainsi comme un précédent concret : un système où l’homogénéité logicielle crée un risque d’agrégation tel qu’une simple erreur peut devenir un “big systemic event”.
AI Liability : un angle mort juridique dans un marché asymétrique
À ces risques opérationnels s’ajoute un dernier élément : la responsabilité juridique. L’« AI liability », c’est-à-dire la question de savoir qui est responsable lorsque l’IA cause un dommage, est aujourd’hui l’un des sujets les moins traités, et les plus explosifs. Le Financial Times note à juste titre que
“Nobody knows who’s liable if things go wrong.” (« Personne ne sait qui est responsable lorsque quelque chose tourne mal. »)
Dans la pratique, les contrats proposés par les fournisseurs d’IA incluent des limitations drastiques de responsabilité, des exclusions de garantie de performance et des clauses transférant quasi intégralement le risque à l’utilisateur. Comme la demande est quasi inélastique (il n’existe souvent pas d’alternative crédible aux grands modèles), les fournisseurs peuvent imposer unilatéralement leurs termes, créant une asymétrie contractuelle majeure. Cette asymétrie devient critique dans les secteurs régulés, où les entreprises sont tenues de maîtriser leurs modèles : banques, assureurs, hôpitaux doivent respecter des obligations strictes de gestion du risque opérationnel ou du risque modèle, alors même que les modèles auxquels ils recourent sont opaques, externalisés et non audités. Les révélations de The Tesla Files montrent que même des entreprises très technologiques peuvent perdre le contrôle de leurs propres systèmes, rendant certaines obligations réglementaires inapplicables en pratique. Le secteur financier se retrouve ainsi dans une contradiction profonde : juridiquement responsable d’outils dont il ne maîtrise ni la conception, ni les données d’entraînement, ni la gouvernance, ni le comportement, il ne peut ni contester les erreurs des fournisseurs, ni obtenir réparation lorsqu’un modèle commet une faute. Cette situation crée un triple gouffre : un gouffre réglementaire, puisque les entreprises ne peuvent satisfaire leurs obligations ; un gouffre contractuel, puisque toute la responsabilité repose sur l’utilisateur ; et un gouffre assurantiel, puisque les assureurs se retirent progressivement de ce champ. Le résultat est un risque systémique juridique, caractérisé par une responsabilité diffuse, une dépendance concentrée et une allocation du risque profondément inefficiente.
Références
- Acharya V., Pedersen L., Philippon T., Richardson M. (2016). Measuring Systemic Risk. Review of Financial Studies,
Vol. 30, No. 1, 2–47. - Biener C., Eling M., Wirfs J. (2015). Insurability of Cyber Risk. The Geneva Papers on Risk and Insurance, Volume 40, 131–158
- Clearfield C., Tilcsik A. (2018). Meltdown: Why Our Systems Fail and What We Can Do About It. Penguin Press.
- Gai P. (2013). Systemic Risk: The Dynamics of Modern Financial Systems. Oxford University Press
- Gai, Prasanna; Kapadia, Sujit (2010) Contagion in Financial Networks. Proceedings of the Royal Society A, Vol. 466, 2401–2323
- Harris, Lee; Criddle, Cristina (2025) Insurers retreat from AI cover as risk of multibillion-dollar claims mounts. Financial Times, 23 November 2025.
- Hufeld F., Koijen R., Thimann C. (eds.) (2016). The Economics, Regulation, and Systemic Risk of Insurance. Oxford University Press
- Iwersen S., Verfürden M. (2025). The Tesla Files. Steerforth Press, Hanover (NH)