Assurer l’IA. Nouveaux risques ? Nouveaux modèles ?

Récemment, Lukasz Szpruch, Agni Orfanoudaki, Carsten Maple, Matthew Wicker, Yoshua Bengio, Kwok-Yan Lam et Marcin Detyniecki ont mis en ligne un article Insuring AI: Incentivising Safe and Secure Deployment of AI Workflows, que j’ai récemment découvert, et qui me donne l’occasion de compléter mon article mis en ligne le mois dernier, Assureurs et IA, un risque systémique. L’article part d’un constat que beaucoup partagent : l’IA se diffuse partout, et avec elle des risques difficiles à mesurer, parfois déjà présents mais “silencieux” dans les polices d’assurance existantes. Les auteurs plaident pour une assurance dédiée (AI assurance) et une gouvernance. Ils insistent aussi sur (i) l’absence de données historiques, (ii) la dynamique des modèles, (iii) les risques d’accumulation/corrélation, et concluent à un « paradigm shift » de la tarification, de l’expérience passée vers des données a priori de performance et d’évaluation. Mon propos ici est simple (et non polémique) : ce diagnostic est utile, mais il laisse un angle mort important. Une grande partie de ces difficultés n’est pas vraiment nouvelle pour l’assurance. Elles ont structuré, depuis des décennies, la littérature scientifique sur l’assurabilité, l’accumulation, la modélisation de catastrophes, l’incertitude (épistémique vs aléatoire), l’asymétrie d’information et même la question des biais et de la discrimination. Autrement dit : il y a bien des nouveautés (vitesse, échelle, dépendances technologiques, mises à jour), mais la boîte à outils méthodologique, développée depuis plus d’une centaine d’années, n’est pas dépassée. Si j’osais, je dirais qu’elle est précisément faite pour traiter des risques mal observés, instables, et socialement sensibles, à condition d’être prolongée par des contrats bien écrits.

Des risques « silencieux » et des incitations à reconstruire

Le papier Insuring AI rappelle que nombre de risques liés à l’IA sont déjà présents dans les portefeuilles des assureurs, sans être clairement inclus ou exclus, donc non tarifés et non gérés (ce que l’on appelle “silent coverage”). Et il propose une logique d’assurance dédiée, avec déclencheurs paramétriques, tarification à l’usage, bonus-malus, etc. Il insiste aussi sur un point central : sans responsabilité financière, l’audit, la certification, la conformité risquent de devenir des exercices de cases à cocher ; l’assureur, lui, paie et a donc intérêt à exiger des preuves robustes. Cette intuition est très proche de ce que l’assurance connaît depuis longtemps : l’assurance n’est pas seulement un prix, c’est un ensemble de dispositif d’incitations (prévention, contrôle, exclusions, franchises, clauses, surveillance). Là où je nuance, c’est que présenter cela comme un territoire quasi vierge conduit facilement à sous-estimer le fait que la recherche scientifique en assurance (ce qu’on pourrait appeler la « science actuarielle ») a déjà construit, depuis longtemps, tout un ensemble  pour traiter (i) l’incertitude profonde, (ii) la dépendance/corrélation, (iii) l’opacité du risque et (iv) l’asymétrie d’information.

Le « paradigm shift »…

La conclusion de Insuring AI avant une limite,

« underwriting must transition from relying on past claim statistics to focusing on a priori performance and assurance data »

Si on entend par là que la science actuarielle, c’est simplement extrapoler des sinistres passés, alors oui, c’est limitant. Et je ne peux qu’être d’accord, c’est ce que je disais, un peu maladroitement, dans From Contemplative to Predictive Modeling, expliquant que l’actuariat trop souvent “contemplatif”, c’est-à-dire fondé sur l’idée que le futur ressemblera au passé. J’expliquais que dès que l’environnement n’est plus stationnaire (climat, marchés, technologies), l’hypothèse implicite “rebus sic stantibus” devient fragile : l’actuariat doit basculer vers de véritables modèles prédictifs, capables d’intégrer des informations ex ante, de l’expertise, et des mécanismes d’actualisation. Mon autre point était “data can’t talk without a model”, ce qui voulait dire que passer à des signaux a priori ne signifie pas “faire parler des métriques”, mais les relier à un modèle économique (ou assurantiel). Et que la pratique actuarielle devait relire la science actuarielle, qui proposait des éléments de réponses. Sur les catastrophes naturelles, hormis dans quelques marchés très particulier (on peut penser à la Californie) l’industrie tarife et gère depuis longtemps avec des modèles a priori (hazard/vulnerability/financial modules), précisément parce que l’historique est incomplet, non stationnaire, et que les extrêmes dominent. Et la littérature scientifique insiste sur la distinction entre incertitude aléatoire (variabilité intrinsèque) et épistémique (ce qu’on ne sait pas, modèle, paramètres), et sur la nécessité de documenter ces incertitudes. En tarification, la théorie de la crédibilité est exactement une réponse au manque de données propres à un risque : on combine information spécifique et information collective via un poids. Je renvoie à l’ouvrage de Hans Bühlmann et Alois Gisler pour les maths, ou à des ouvrages de statistique Bayésienne (comme j’en parlais dans Bayesian Wizardry for Muggles, il y a presque 12 ans, ou plus récemment dans une présentation grand public, le chapitre 6 de The Theory That Would Not Die rapppelle les liens très forts entre la statistique Bayésienne et la science actuarielle).

Mon point c’est que basculer vers des signaux a priori (tests, red teaming, métriques, stress tests) ressemble moins à une “rupture” qu’à une reformulation moderne de pratiques connues (ingénierie du risque, cat models, crédibilité, validation, marges de prudence). Le vrai enjeu n’est pas “l’actuariat est dépassé”, mais : quels signaux retenir, comment les auditer, comment les relier à une sévérité économique, et comment les inscrire dans le contrat.

Assurabilité et accumulation

Insuring AI insiste aussi (à juste titre) sur les pertes corrélées et l’accumulation : un même modèle (ou une même dépendance technologique) déployé partout peut générer des sinistres simultanés. Il ajoute même, point sensible, que l’accumulation cyber montre des limites :

« traditional actuarial techniques struggle to capture »

ces expositions systémiques. Pourtant, l’accumulation est un thème historique de la théorie de l’assurabilité. Baruch Berliner, dans Limits of Insurability of Risks (en 1982) souligne que la limitation des pertes simultanées est “very severe” et que des pertes simultanées “devastating” peuvent atteindre l’industrie. Ce que cette littérature plus économique apporte à la discussion, c’est une manière d’organiser les questions . Quelles conditions rendent un risque assurable… et à quel prix ? À quel moment bascule-t-on vers du non-assurable, ou seulement assurable via limitations, sous-limites, exclusions, coassurance, réassurance, cat bonds, etc. ? Comment penser la solvabilité quand la dépendance (copules, corrélation de queues, scénarios) domine la diversification ? Et, très concrètement : si les fondations technologiques créent une “accumulation” de dépendances, alors la réponse n’est pas d’abandonner la science actuarielle, c’est peut être de mobiliser la boîte à outils “accumulation / capital / solvabilité / réassurance”, et de l’articuler à des métriques techniques auditables.

Incertitude : aléatoire vs épistémique, validation, backtesting…

Le papier Insuring AI parle d’opacité, de distribution shift, d’instabilité, de RAG mis à jour, de versions d’API qui bougent : tout cela décrit une incertitude en partie épistémique (ce qu’on ne sait pas, et ce qui change). Or la modélisation de catastrophes, par exemple Catastrophe Modeling: A New Approach to Managing Risk de Partricia Grossi et Howard Kunreuther, insiste explicitement sur le fait que les deux sources d’incertitude (aléatoire/épistémique) doivent être distinguées, et que l’“incertitude structurelle et paramétrique du modèle” est une réalité avec laquelle on vit. Côté gestion des risques quantitatifs, Alex McNeil, Rudiger Frey et Paul Embrechts rappellent aussi l’importance de comprendre la dépendance “dans les extrêmes” (queues), et pas seulement en moyenne. Et sur la validation, le backtesting est présenté comme “un outil important” pour évaluer si un modèle de risque capture correctement les pertes. Pour revenir à Insuring AI, si la tarification repose sur des “assurance data”, alors on retombe sur des questions très actuarielles : quelle métrique est stable, manipulable (à la loi de Goodhart) ? quelle calibration, quelles marges, quel capital ? quel dispositif de backtesting “en production”, sur des populations qui changent ? Ces questions ne sont ni purement ML, ni purement actuarielles : elles sont à l’interface, et la science actuarielle a de l’avance sur la formalisation économique et prudentielle.

Asymétries d’information : le contrat au centre

Enfin, Insuring AI consacre un passage à l’asymétrie d’information : les développeurs/opérateurs en savent plus que l’assureur, d’où sélection adverse ; et l’accès complet aux données/modèles est souvent impossible. La théorie économique de l’assurance traite précisément ce type de situation. Dans Economics of insurance, de Karl Borch, on lit que l’assureur

« can observe the care taken only by paying a verification cost »

et que des coûts élevés de contrôle peuvent rendre certains risques non assurables en pratique. Il me semble que c’est précisément le sujet important : le nerf de la guerre sera l’écriture des contrats, car c’est elle qui transforme une incertitude technique en un objet économique assurable.

Éléments contractuels

Sans prétendre être exhaustif, une police IA sérieuse devrait explicitement donner une définition du sinistre (erreur mesurable ? dommage tiers ? non-conformité à un standard ? et sur quelle fenêtre temporelle), un périmètre technique (versions, dépendances (modèle, RAG/index, prompts, outils), et régime de changement, quand une mise à jour “requalifie” le risque), les obligations de l’assuré (monitoring, journalisation, incident response, red teaming périodique, conservation des preuves), parler de clauses d’audit, trouver une technique pour gérer l’accumulation (limites par dépendance commune, sous-limites par fournisseur/architecture, clauses “systemic event”), trouver un mécanismes d’ajustement  (bonus-malus, tarification à l’usage, ou déclencheurs paramétriques, comme Limits of Insurability of Risks l’évoquait déjà). J’ai l’impression que c’est juste reconnaître que l’assurance fonctionne bien quand les incitations et la preuve sont contractées, et que cela, la science actuarielle (avec le droit des contrats) le défend depuis toujours.

Biais, discrimination, équité

Après, pour revenir sur un sujet que je connais bien, Insuring AI  semble présenter les biais comme une nouveauté importée par le ML. Or il me semble que l’assurance discute depuis longtemps la segmentation, les proxys, et la tension entre mutualisation et personnalisation. C’est un peu ce que j’essaye d’expliquer dans Insurance, Biases, Discrimination and Fairness, en insistant sur le fait que les techniques modernes et les données massives rendent la discrimination plus difficile à détecter. Avec Laurence Barry, on a aussi réfléchi sur les questions de segmentations extrêmes, expliquant que si on tarife un assuré sur des signaux de performance ultra-granulaires, on va vite faire face à des enjeux de gouvernance, de conformité, et de légitimité sociale. Bref, là encore, plutôt que de découvrir un continent, on pourrait relire une littérature (mathématique, économique, juridique, ce que j’appelle “science actuarielle”) qui structure déjà la question.

Clairement, en lisant Insuring AI, je vois que nous avons les mêmes craintes, et il met des mots sur des notions que je n’ai fait qu’effleurer (dynamique des workflows, assurance artefacts, monitoring, accumulation). Mais le “paradigm shift” annoncé n’implique pas que la science actuarielle soit dépassée : l’assurance sait déjà tarifer avec peu d’historique (cat models), combiner a priori et expérience (crédibilité), et traiter l’accumulation (assurabilité). De plus, le vrai “risque” n’est pas seulement statistique, c’est surtout un problème d’asymétrie d’information et d’aléa moral, et donc le contrat et la preuve deviennent centraux. Enfin, les enjeux de biais et d’équité ne sont pas un anecdotique : ils font déjà partie de la science actuarielle moderne. Heureusement, Insuring AI semble appeler explicitement à une collaboration large, et je ne peux qu’être d’accord !


OpenEdition suggests that you cite this post as follows:
Arthur Charpentier (December 16, 2025). Assurer l’IA. Nouveaux risques ? Nouveaux modèles ? Freakonometrics. Retrieved January 13, 2026 from https://doi.org/10.58079/15cya


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.