Tag Archives: IA

Assureurs et IA, un risque systémique

Dans Insurers retreat from AI cover as risk of multibillion-dollar claims mounts, le Financial Times rapportait cette fin de semaine que plusieurs grands assureurs (AIG, Great American ou encore WR Berkley) cherchent à introduire des exclusions explicites pour les risques liés à l’intelligence artificielle, notamment concernant les usages d’agents et de modèles de langage. Les motifs avancés sont limpides : les pertes potentielles liées à l’IA pourraient atteindre des montants de plusieurs centaines de millions, voire davantage. Mais surtout, le danger ne réside pas tant dans l’ampleur d’un sinistre isolé que dans la possibilité de pertes corrélées, massives, simultanées, impossibles à mutualiser. Comme le résume Aon dans une phrase,

“What [the industry] can’t afford is if an AI provider makes a mistake that ends up as a 1,000 or 10,000 losses.” (« Ce que l’industrie ne peut se permettre, ce n’est pas une perte de 400 ou 500 millions pour une entreprise, mais une erreur d’un fournisseur d’IA qui se traduit par mille ou dix mille sinistres. »)

L’enjeu porte bien moins sur la gravité d’un incident donné que sur la simultanéité de milliers d’incidents identiques. Autrement dit, nous avons affaire à la définition même d’un risque systémique. Pour le comprendre, il est utile de replacer ce phénomène dans le cadre plus large des systèmes complexes, des accidents dans les organisations à haute fiabilité, et des mécanismes de risque systémique tels qu’ils sont étudiés depuis plusieurs décennies dans la finance et l’assurance.

L’IA comme réseau interconnecté : un terrain idéal pour la contagion

La littérature sur le risque systémique enseigne que ce n’est pas la taille absolue des institutions qui détermine leur vulnérabilité, mais la structure de leurs interconnexions. Prasanna Gai souligne ainsi que les systèmes financiers présentent une dynamique qu’il qualifie de « robust-yet-fragile » : ils résistent à d’innombrables chocs, mais peuvent s’effondrer brutalement lorsqu’un choc particulier circule par les bons canaux. Il rappelle que

“The system may be robust to most shocks, but when problems strike the effects may be catastrophic.” (« Le système paraît robuste à la plupart des chocs, mais lorsqu’ils se produisent, les effets peuvent être catastrophiques. »)

Une erreur locale peut se transformer en catastrophe globale dès lors qu’elle atteint le « cluster vulnérable » du réseau. Les simulations qu’il présente montrent que plus un réseau est interconnecté, plus une erreur peut s’y propager rapidement. Un changement minime de connectivité ou de capitalisation peut faire basculer l’ensemble du système d’un état stable à un état critique, une véritable « phase transition ». Comme le résume Gai,

“An initial error can spread through the entire vulnerable cluster.” (« Une erreur initiale peut se propager à l’ensemble du cluster vulnérable. »)

Dans ce cadre, l’IA générative présente toutes les caractéristiques d’un système hautement propice à la contagion. Lorsqu’un fournisseur d’IA déploie une mise à jour défectueuse, commet une erreur dans les poids d’un modèle ou subit une vulnérabilité de cybersécurité, ce ne sont pas des utilisateurs isolés qui sont affectés mais des milliers, car ils partagent les mêmes infrastructures. Chaque client ne dépend pas seulement de son propre usage, mais de l’intégrité d’un modèle global, dont la moindre modification reproduit instantanément un comportement identique chez tous ses utilisateurs. C’est exactement le type de contagion fulgurante que les assureurs redoutent aujourd’hui : une propagation non pas lente et progressive, mais immédiate, simultanée, homogène.

Pourquoi l’assurance redoute les pertes corrélées

L’assurabilité repose historiquement sur une condition essentielle : la loi des grands nombres. Comme le rappellent Hufeld, Koijen et Thimann  dans The Economics, Regulation, and Systemic Risk of Insurance,

“The risk must obey the law of large numbers.” (« Le risque doit obéir à la loi des grands nombres. »)

Les événements doivent être indépendants, ou suffisamment hétérogènes, pour que les pertes se compensent statistiquement. Or les cyber-risques ne respectent déjà pas cette condition, comme l’ont montré Biener et al. dès 2015 :

“Cyber losses are highly interrelated and characterized by severe information asymmetries.” (« Les pertes cyber sont hautement corrélées et caractérisées par de sévères asymétries d’information. »)

L’assurance cyber est déjà structurellement fragile, car elle fait face à des risques simultanés, massifs, et difficilement attribuables. L’IA générative ne fait que renforcer cette structure, en créant un environnement où les erreurs ne sont pas seulement fréquentes, mais potentiellement identiques et simultanées. Les exemples cités par le Financial Times (un chatbot d’Air Canada qui engage automatiquement la compagnie, un module de Google qui diffame une PME, une fraude par deepfake coûtant 25 millions de dollars à Arup, ou encore un agent autonome qui génère des erreurs de prix ou de diagnostic en série) illustrent la reproductibilité extrême de ces incidents. Un même défaut, une même mise à jour, une même vulnérabilité peut affecter tout un secteur d’un seul coup. Cette homogénéité des sinistres est délétère pour l’assurance. Comme le rappelle la littérature actuarielle, lorsque les pertes deviennent corrélées, la mutualisation s’effondre mécaniquement. L’assurance, par construction, ne peut absorber des risques dont la structure pousse naturellement à l’agrégation.

IA, cybersécurité et “accidents normaux” : quand la complexité rend l’erreur inévitable

Clearfield et Tilcsik, dans Meltdown, montrent que dans les systèmes complexes, les défaillances ne sont pas des anomalies : elles sont inévitables. Les surprises émergent des interactions multiples, et de petites erreurs peuvent rapidement s’amplifier lorsqu’elles circulent dans des réseaux étroitement couplés. Leur thèse correspond exactement à ce que redoutent les assureurs : l’erreur d’un modèle autonome n’est pas une bourde humaine isolée, mais un mécanisme systémique susceptible de se répliquer partout. En s’appuyant sur des cas variés (Fukushima, accidents ferroviaires, aviation, cybersécurité) les auteurs montrent que certains environnements sont « wicked », c’est-à-dire des environnements où les signaux d’erreur sont ambigus, les interactions complexes et les systèmes vulnérables à des surprises brutales.

“In wicked environments, error signals are ambiguous, interactions are complex, and systems become vulnerable to surprises.” (« Dans les environnements wicked, les signaux d’erreur sont ambigus, les interactions complexes, et les systèmes deviennent vulnérables aux surprises. »)

Les modèles d’IA générative incarnent parfaitement cette description : leur opacité structurelle, leur comportement non déterministe, leur dépendance à quelques fournisseurs globaux et l’absence de cloisonnement entre leurs usages créent un système dont les défaillances locales deviennent immédiatement systémiques. La concentration de dépendances technologiques entre quelques acteurs amplifie encore cette dynamique. Lorsqu’un modèle est utilisé dans des contextes juridiques, médicaux, financiers, industriels, une erreur qui y apparaît peut contaminer simultanément tous ces domaines. De ce point de vue, l’IA est déjà moins un outil qu’un écosystème interconnecté, un véritable système complexe au sens fort.

Pourquoi l’IA crée un risque systémique inédit pour l’assurance

Traditionnellement, l’assurance est considérée comme moins vulnérable au risque systémique que la banque, en raison de l’interconnexion nettement plus faible entre assureurs. C’est le consensus rappelé par Hufeld, Koijen et Thimann :

“The insurance industry is not subject to systemic risk, in particular due to its significantly lower interconnectedness.” (« L’industrie de l’assurance n’est pas sujette au risque systémique, notamment du fait de sa faible interconnexion. »)

Mais cette affirmation repose sur une hypothèse implicite : les risques assurés doivent eux-mêmes rester indépendants. Avec l’IA, cette hypothèse s’effondre. Pour la première fois, un risque assuré (cyber, erreurs et omissions, dommages causés par des systèmes logiciels) devient structurellement interconnecté. Un seul fournisseur, un seul modèle, une seule mise à jour ou une seule vulnérabilité peuvent provoquer des milliers de sinistres simultanés. L’interconnexion n’est plus une propriété du marché de l’assurance : elle est une propriété du risque lui-même.

Acharya, Pedersen, Philippon et Richardson définissent un risque comme systémique lorsqu’il peut provoquer une situation de « capital shortfall » simultanée dans de nombreuses institutions. Ils notent que

“Even if liabilities are not runnable, a firm can contribute to systemic risk through its contribution to the aggregate capital shortfall.” (« Même si les passifs ne sont pas sujets aux runs, un assureur peut contribuer au risque systémique par sa contribution au capital shortfall agrégé. »)

Dans un monde où des milliers de sinistres liés à une même erreur d’IA pourraient survenir en même temps, cette notion prend un relief particulier. L’IA introduit ainsi une forme de risque agrégé, corrélé, non diversifiable. Ce n’est plus un risque volatil mais un risque structuralement synchronisé, ce qui constitue la hantise des assureurs.

Ce que pourraient être les “big systemic events” de l’IA

Dans un tel contexte, plusieurs scénarios illustrent comment un risque systémique lié à l’IA pourrait se matérialiser. Imaginons, par exemple, une mise à jour défaillante d’un LLM utilisé dans la finance : un modèle déployé dans deux mille banques commet simultanément une erreur d’interprétation réglementaire. Les conséquences seraient immédiates (mauvaise conformité, sanctions, litiges, retraits, actions collectives) et parfaitement synchrones .Un agent juridique autonome pourrait produire des hallucinations systématiques, générant de fausses citations juridiques ou de faux raisonnements. Si cet agent était déployé dans plusieurs centaines d’entreprises, l’erreur deviendrait immédiatement collective.

À ces scénarios opérationnels s’ajoute un phénomène plus subtil : la rupture d’interprétabilité. Lorsque les modèles produisent des signaux plausibles mais opaques, humains comme machines sont tentés de leur attribuer un sens excessif. Un signal faible (une légère hausse de score dans un modèle de résiliation, un changement ténu dans un score de risque) peut être interprété comme un mouvement réel, alors qu’il ne s’agit que d’un artefact statistique, d’un biais de dataset ou d’un drift latent. Ces interprétations erronées peuvent déclencher des rétroactions en chaîne, transformant un bruit en choc réel : décisions d’urgence, modifications de politiques tarifaires, ajustements de modèles secondaires. Clearfield et Tilcsik décrivent ce mécanisme d’emballement comme une prophétie autoréalisatrice. Dans le langage de Gai, un bruit initial trouve soudain un chemin vers le « cluster vulnérable » et déclenche une cascade ,

With positive probability, a random initial default at one bank can lead to the spread of default across the entire vulnerable portion of the financial system (…) Contagion breaks out when shocks strike any bank in, or adjacent to, the giant vulnerable cluster and spread across the entire cluster.” (« Avec une probabilité positive, un défaut initial aléatoire dans une banque peut entraîner la propagation du défaut à l’ensemble de la portion vulnérable du système financier (…) La contagion éclate lorsque des chocs touchent une banque située dans — ou à proximité immédiate de — l’immense cluster vulnérable, et qu’ils se propagent à travers l’ensemble de ce cluster. »)

Pour les assureurs, un tel risque, intrinsèque au fonctionnement même du système, devient impossible à mutualiser.

Le cas d’école de Tesla

Le livre The Tesla Files fournit une illustration frappante de ces dynamiques. On y découvre une organisation où une concentration extrême des fonctions critiques rend tout incident susceptible de se propager à grande échelle. Un seul administrateur peut disposer d’un accès global, des milliers d’employés détiennent des privilèges élevés, et le lanceur d’alerte décrit l’absence de monitoring interne malgré des téléchargements massifs. Une faille, dans un tel contexte, ne touche pas une partie isolée du système : elle compromet l’ensemble. Du point de vue systémique, Tesla fonctionne comme un graphe extrêmement connecté, sans cloisonnements internes, dans lequel la connectivité moyenne est anormalement élevée. Les auteurs rappellent que Tesla ne manipule pas seulement ses propres données, mais agrège celles de clients, partenaires, gouvernements, sous-traitants et organismes de régulation. Ils écrivent :

“The stream of data expands to include customers, business partners, and a wide array of individuals and companies with ties to Tesla.” (« Le flux de données s’étend aux clients, partenaires commerciaux, et à une vaste gamme d’individus et d’entreprises liés à Tesla. »)

Cette interconnexion massive crée des dépendances multiples, très proches de celles observées dans les systèmes bancaires avant 2008. Les auteurs montrent également que Tesla minimise certains indicateurs de risque (en n’enregistrant que les crashs impliquant un airbag, par exemple), désactive parfois l’Autopilot juste avant impact, créant une ambiguïté sur les responsabilités, ou refuse de transmettre des données aux régulateurs. Quatre éléments clefs apparaissent : des asymétries d’information, une opacité des responsabilités, une gestion centralisée des incidents et une homogénéité logicielle extrême. On découvre également que les crashs Autopilot en Europe sont traités par une seule équipe, et qu’il existe des milliers de plaintes clients pour freinages intempestifs ou accélérations fantômes. Lorsque l’ensemble de la flotte repose sur un même modèle logiciel, mis à jour simultanément, une erreur peut provoquer un choc corrélé massif. C’est précisément ce que redoutent aujourd’hui les assureurs pour les IA génératives. Tesla apparaît ainsi comme un précédent concret : un système où l’homogénéité logicielle crée un risque d’agrégation tel qu’une simple erreur peut devenir un “big systemic event”.

AI Liability : un angle mort juridique dans un marché asymétrique

À ces risques opérationnels s’ajoute un dernier élément : la responsabilité juridique. L’« AI liability », c’est-à-dire la question de savoir qui est responsable lorsque l’IA cause un dommage, est aujourd’hui l’un des sujets les moins traités, et les plus explosifs. Le Financial Times note à juste titre que

“Nobody knows who’s liable if things go wrong.” (« Personne ne sait qui est responsable lorsque quelque chose tourne mal. »)

Dans la pratique, les contrats proposés par les fournisseurs d’IA incluent des limitations drastiques de responsabilité, des exclusions de garantie de performance et des clauses transférant quasi intégralement le risque à l’utilisateur. Comme la demande est quasi inélastique (il n’existe souvent pas d’alternative crédible aux grands modèles), les fournisseurs peuvent imposer unilatéralement leurs termes, créant une asymétrie contractuelle majeure. Cette asymétrie devient critique dans les secteurs régulés, où les entreprises sont tenues de maîtriser leurs modèles : banques, assureurs, hôpitaux doivent respecter des obligations strictes de gestion du risque opérationnel ou du risque modèle, alors même que les modèles auxquels ils recourent sont opaques, externalisés et non audités. Les révélations de The Tesla Files montrent que même des entreprises très technologiques peuvent perdre le contrôle de leurs propres systèmes, rendant certaines obligations réglementaires inapplicables en pratique. Le secteur financier se retrouve ainsi dans une contradiction profonde : juridiquement responsable d’outils dont il ne maîtrise ni la conception, ni les données d’entraînement, ni la gouvernance, ni le comportement, il ne peut ni contester les erreurs des fournisseurs, ni obtenir réparation lorsqu’un modèle commet une faute. Cette situation crée un triple gouffre : un gouffre réglementaire, puisque les entreprises ne peuvent satisfaire leurs obligations ; un gouffre contractuel, puisque toute la responsabilité repose sur l’utilisateur ; et un gouffre assurantiel, puisque les assureurs se retirent progressivement de ce champ. Le résultat est un risque systémique juridique, caractérisé par une responsabilité diffuse, une dépendance concentrée et une allocation du risque profondément inefficiente.

Références

 

Les algorithmes et la bureaucratie

La semaine dernière, j’assistais à une série d’exposés sur les algorithmes, l’IA, les inégalités, les injustices, etc, et j’avais l’impression que beaucoup de monde se trompait de combat, en mettant beaucoup de choses “sur le dos des algorithmes”… Je vais en profiter pour ressortir un article que j’avais écrit voilà quelques années… “L’intelligence artificielle dilue-t-elle la responsabilité ?

On essaie de nous faire croire que l’intelligence artificielle est une révolution. Et s’il n’en était rien ? Ne peut-on pas voir tout simplement la logique d’un processus qui remonte au moins aux cinquante dernières années ? La bureaucratie nous a poussés à mettre en place dans tous les domaines de la vie quotidienne des procédures simples, permettant à tout le monde de se dégager de toute responsabilité, de ne plus avoir à faire preuve d’intelligence. Les algorithmes font peur ; on se demande où se trouve l’« humain » dans ces procédures décisionnelles… Et s’il avait déjà disparu depuis bien longtemps ?

à suivre…

“Mathematical Foundations of AI” day at the Sorbonne center for artificial intelligence

On Thursday 12th, I will attend the Mathematical Foundations of AI day, organized by the DATAIA Institute and SCAI (Sorbonne Center for Artificial Intelligence), in association with several scientific societies (namely, the Fondation Mathématique Jacques Hadamard (FMJH), the Fondation Sciences Mathématiques de Paris-FSMP, the MALIA group of the Société Française de Statistique and the Société Savante Francophone d’Apprentissage Machine (SSFAM)).

Slides are now online.

In this talk, we present two complementary approaches to addressing fairness in algorithmic decision-making through the lens of counterfactual reasoning and optimal transport, both in individual and group fairness. First, we introduce a novel method that links two existing counterfactual approaches: causal graph-based adaptations (Plečko and Meinshausen, 2020) and optimal transport (De Lara et al., 2024). By extending “Knothe’s rearrangement” (Bonnotte, 2013) and “triangular transport” (Zech and Marzouk, 2022) to probabilistic graphical models, we propose a new group framework, termed sequential transport, which we apply to the problem of individual fairness. Theoretical foundations are established, followed by numerical demonstrations on synthetic and real datasets. Building on this, we extend the discussion to algorithmic fairness in the presence of multiple sensitive attributes. While traditional fairness frameworks focus on eliminating bias with respect to a single sensitive variable, their effectiveness diminishes with multiple sensitive characteristics. To address this, we propose a sequential fairness framework based on multi-marginal Wasserstein barycenters, generalizing Strong Demographic Parity to handle multiple sensitive features. Our method provides a closed-form solution for the optimal, sequentially fair predictor, enabling interpretation of correlations between sensitive attributes. Furthermore, we introduce an approximate fairness framework that balances risk and unfairness, allowing for prioritization of fairness across specific attributes. Both approaches are supported by comprehensive numerical experiments on synthetic and real-world datasets, showcasing the practical efficacy of these methods in promoting fair decision-making. Together, they provide a robust framework for addressing fairness in complex, multi-attribute settings while preserving interpretability and flexibility.

References are given below

  1. we will discuss further counterfactual fairness, initiated in Optimal Transport for Counterfactual Estimation: A Method for Causal Inference, and the more recent paper Sequential Conditional Transport on Probabilistic Graphs for Interpretable Counterfactual Fairness 
  2. we will discuss Wasserstein barycenters with multiple sensistive attributes, A Sequentially Fair Mechanism for Multiple Sensitive Attributes

[added on Sept 13th] Thanks (on the right) for this nice picture with .

Intelligence artificielle et blanchiment d’argent

Vendredi prochain, je dois intervenir dans une conférence (en ligne) organisée à Nîmes en France. Comme j’ai (presque) fini de préparer mes slides, j’en profite pour mettre en ligne un court billet, pour remettre un peu d’ordre dans mes idées, et mes notes. J’ai tout écrit en français parce que j’ai l’impression que les juristes en France sont plus à l’aise en français.

Comme souvent, quand on me parle d’intelligence artificielle, je me sens un peu perdu, mais j’ai l’impression que le but est de disperser un peu le brouillard et la fumée. Il y a trente ans, il y avait déjà des discussions sur l’utilisation d’outils technologiques dans le contexte du blanchiment (“money laundering“)

L’an passé, McKinsey affirmait que l’apprentissage machine changerait la donne, dans la guerre contre le blanchiment,

avec quelques idées intéressantes,

Intelligence artificielle

Pour commencer, je me disais que je pourrais présenter quelques termes classiques, poser un peu le cadre général,

En apprentissage non-supervisé, on cherche des “outliers“, des transactions “anormales”

Mais en grande dimension, définir la “normalité” est compliqué (cf deux anciens billets, ici et ).

Plus classiquement, en analyse de fraude, mais aussi en analyse de blanchiment, on utilise des données labellisées, et on utilise des techniques  d’apprentissage “supervisé”. On utilise des données où des transactions sont classées comme “frauduleuse”, ou pas.

Dans l’espace des informations permettant de classer, on cherche à identifier des régions, pour les transactions qui seront prédites comme “frauduleuse” ou pas. Avec une approche probabiliste, la probabilité d’être “frauduleuse” sera élevée,

Bien entendu, on peut se tromper. Soit en laissant passer une transaction frauduleuse, soit en mettant de la suspicion sur des personnes qui ont effectué une transaction comme “frauduleuse”

En changeant le seuil à partir duquel on classe une observation comme “frauduleuse”, on peut baisser un type d’erreur (mais le prix à payer sera qu’on augmente l’autre type).

Une autre spécificité est qu’a priori, les données sont largement déséquilibrées, avec très peu d’observations réellement frauduleuses. Dans ces conditions, il est difficile d’avoir un modèle, la plupart des signaux étant jugés comme trop faibles.

Je parlerais aussi un peu des “scores” de transaction frauduleuse (j’évoquais auparavant une “probabilité” d’être frauduleuse)

On peut aussi mentionner que de nombreuses approches sont basées sur des arbres de décision.

On peut ensuite vraiment parler de “apprentissage machine”, avec des modèles a priori plus complexes, pouvant capturer des non-linéarités, des interactions, etc

Quand on a peu de données labellisées, l’apprentissage actif permet d’aider à chercher quelles transactions labellisées, pour améliorer la précision de notre classifieur. Car on dispose de milliers, de millions de données non labellisées (ce sont les petits points gris ci-dessous).

L’idée est d’aller chercher des observations dans la zone d’indécision

On va labelliser quelques observations supplémentaire, et estimer de nouveau le modèle

On peut aussi lisser, ce qui fera gagner en robustesse, et parfois aussi en interprétabilité

On peut aussi apprendre d’autres modèles. Par exemple, on peut avoir de l’expérience partagée par une autre banque, peut être dans un autre pays. Un peu d’ajustements seront nécessaires, mais ça peut être un point de départ (je mettrais en ligne, d’ici l’été, quelques billets sur l’apprentissage par transfert)

Je peux aussi parler d’apprentissage antagoniste, où on pourrait être tenté d’attaquer l’algorithme d’apprentissage, pour changer la prédiction (je parlais de l’exemple des autruches la semaine passée)

Un autre aspect important est l’explicabilité. D’un côté, on veut un modèle simple à comprendre, facile à auditer. Mais de l’autre, s’il est trop simple, les fraudeurs pourront assez facilement passer au travers des mailles du filet.

Pour résumer, on retrouvera souvent ces concepts, quand on s’interroge sur l’intelligence artificielle,

Maintenant que j’ai un peu rappelait ce que cachait le terme vague “intelligence artificielle”, revenons à nos moutons…

Blanchiment d’argent

On peut passer à la deuxième partie, et les spécificités en lien avec le blanchiment d’argent. Tout d’abord, si j’ai l’habitude de travailler un peu sur la fraude, le blanchiment est un problème sensiblement différent. En particulier, les incitations pour les banques de stopper le blanchiment sont relativement faibles…

Mais on trouve aussi des doutes du côté du régulateur. Comme le note l’EBA (European Banking Authorities), le jour où les banques bloqueront toutes les transactions frauduleuses, cela signifie que les truands auront trouvé une parade, et plus aucun contrôle (ou surveillance) ne sera possible. C’est un argument assez classique en économie de biens illicites.

Si on revient sur la définition (ici légale), on voit que ça parle de transferts d’argents dont on ne peut remonter à la source. Assez logiquement, on va voir l’utilisation de réseaux, connectant les membres (et les institutions)

C’est l’analyse de relations qui permet d’identifier les transactions frauduleuses, et les personnes qui les lient

Il y a aussi de l’analyse de données textuelles, permettant de voir des relations qui ne sont pas matérialisées forcément par des transferts monétaires. C’est lié à la recherche de noms (de personnes ou d’entreprises) dans divers documents (presse ou réseaux sociaux). Mais les données textuelles, c’est compliqué

Juste pour le plaisir, je remets quelques titres de presse où l’extraction de relation et d’information est compliquée (y compris pour un être humain parfaitement anglophone).

Plusieurs articles mentionnent aussi l’analyse de sentiments, c’est à dire associer une connotation positive ou négative à une phrase ou un document.

Et pour conclure, je peux mentionner un petit soucis qui est que les données utilisées ici sont très largement en lien avec des informations personnelles, privées, voire sensibles. Mais dans la plupart des pays, la recherche d’activités frauduleuses autorise le traitement de ces données (Bertrand, Maxwell & Vamparys (2021) rentre davantage dans l’analyse)

Je mets quelques références pour conclure, mais voilà, en 30 minutes, on aura le temps de faire un survol rapide, et introductif, pour des juristes,

Intelligence artificielle et individualisation des garanties en assurance: échec ou retard à l’allumage ?

Avec , on vient de finaliser un article, paru dans les documents de travail de la chaire PARI, sur le thème “Intelligence artificielle et individualisation des garanties en assurance: échec ou retard à l’allumage ?

Derrière l’engouement suscité par l’utilisation de l’intelligence artificielle dans le secteur de l’assurance se cache une réalité plus nuancée. Prenons par exemple l’assurance automobile et l’assurance santé. Les tentatives d’usage de l’intelligence artificielle à des fins de tarification n’y ont pour le moment pas engendré le « changement de paradigme » pourtant annoncé. Pourquoi ? Plusieurs raisons peuvent être invoquées, qui vont des fondamentaux de l’assurance au choix assumé de certains assureurs de ne pas toucher à la mutualisation des risques, dans un contexte marqué par deux tendances opposées : la recherche par les consommateurs de services et produits toujours plus personnalisés et le refus sociétal de solutions qui laisseraient certains individus au bord du chemin de l’assurabilité.

(pour tenir compte des contraintes esthétiques des documents de travail de la chaire (“illustration d’un peintre flamand”), rien de très exotique, et donc merci à l’alchimiste de Jan Havickszoon Steen)

Probabilités prédictives, pour 100% actuaires, et 100% data science

Ce jeudi, je participe (virtuellement) à un atelier sur les probabilités prédictives à la journée 100% actuaires, et 100% data science, de l’Institut des Actuaires, en France, avec Nicolas Marescaux et Florence Picard.

L’évènement n’étant pas offert en mode “hybride” je serais présent via une courte vidéo, qui sera transmise lors de l’atelier.

Je vais reprendre graphiquement un point que j’évoque régulièrement, à savoir la variabilité fondamentale qui existe lorsqu’on modéliser des évènements binaires, y compris si la vraie probabilité est connue. Dans un modèle Gaussien, si Y\sim\mathcal{N}(\mu,\sigma^2), même en connaissant (parfaitement) la moyenne \mu, Y-\mu est une variable, aléatoire, Y-\mu\sim\mathcal{N}(0,\sigma^2) qui peut avoir une petite variance, si \sigma est faible. Et dans un modèle de régression Y|X=x\sim\mathcal{N}(\mu_x,\sigma_0^2) avec \sigma_0^2\leq \sigma^2. Mais dans les GLM, avec les modèles de classification ou de Poisson, la variance ne diminue pas : si Y|X=x\sim\mathcal{B}(p_x), et la variance sera p_x(1-p_x) qui restera toujours non-nulle quand p_x\in(0,1).

L’autre point est que si on a une loi de Bernoulli, p ne peut être vraiment connu que si on a beaucoup d’observations, c’est la loi des grands nombres, sinon on a de la variabilité. Sur la figure ci-dessous, j’ai plusieurs niveaux de probabilité p, et je trace à gauche l’intervalle de “confiance” pour la fréquence, quand on n=100 observations, avec en bas la distribution de la fréquence. Par exemple, si p=15\%, avec une centaine d’observations, la fréquence a 90% de chances d’être entre 10\% et 20\%. Autrement dit, prédire une probabilité d’avoir un accident de 15.723\% n’a pas trop de sens. Au centre, le regarde la distribution de \overline{y}_n-p, et on voit qu’il reste une part non négligeable de variance. À droite, c’est la variation relative (\overline{y}_n-p)/p, qui varie en sens inverse par rapport à la variation absolue : si p est faible (disons 2\%), on s’écarte peu en valeur absolue (\pm 2\%) mais il n’est pas impossible (y compris avec n=100 observations) d’observer 2 fois trop de 1).

Regarder \overline{y}_n-p, c’est supposer qu’on peut connaître la vraie probabilité, et qu’on l’utilise : \overline{y} c’est la charge moyenne par années, et p, c’est la prime pure (annuelle). Donc \overline{y}_n-p, c’est la perte annuelle. Mais au lieu d’utiliser p, on peut imaginer qu’on mutualiser : par exemple ci-dessous, si p\in[0\%;4\%] on utilise la valeur moyenne (soit 2\%). On voit qu’on rajoute de la variabilité sur la distribution des pertes individuelle, d’autant plus qu’il y a peu de classes.

On en reparlera…

Statistique bayésienne, data sciences et nouveaux risques

En cette rentrée, l’Institut des Actuaires lance un cycle de conférences sur le thème Statistique bayésienne, data sciences et nouveaux risques. Comme ils m’ont fait le plaisir et l’honneur d’introduire ce cycle, je ferais un exposé introductif jeudi 22 septembre, en fin d’après midi. Mes slides sont en ligne (je déconseille de les imprimer, j’ai mis des animations qui s’étalent sur plusieurs slides, je conseille plutôt cette version).

Montréal AI Symposium 2022

In about ten days (Saturday afternoon), I will be presenting a poster on fairness, discrimination and insurance at the Montréal AI Symposium, based on our joint paper The Fairness of Machine Learning in Insurance: New Rags for an Old Man?, written with Laurence Barry. Since the paper was quite literary, I used material from the document Insurance: Discrimination, Biases & Fairness to get more a visual poster. Additional information will come while discussing…

This is a poster used at the conference

Journée COVEA sur l’équité en assurance

Jeudi, je profitais de ma semaine parisienne pour participer à une journée organisée par COVEA sur le théme de l’IA et de confiance, et sur l’éthique et l’équité en assurance . Mes slides sont en ligne. Par rapport à la première intervention (en janvier dernier) j’ai pu parler de contrefactuel, de suivi des modèles, et d’interprétations et d’explicabilité

C’est la première fois que je me retrouve également croqué par un dessinateur (Stéphane de Mouzon) lors d’une intervention de ce genre (sans être un exposé de séminaire, c’était technique).

Sinon, quelques photos de l’évènement,

(merci David Cortes pour les photos)

INF7100 – Initiation à la science des données et à l’intelligence artificielle

Cette été, le cours INF7100 Initiation à la science des données et à l’intelligence artificielle – devrait être offert pour la première fois. Le premier cours aura lien le mardi 28 avril, et on le donnera conjointement avec Marie-Jean Meurs (du département d’informatique) et Jean-Hugues Roy (de l’école des médias). J’essayerai de mettre en ligne des informations au fur et à mesure…

 

Quelle responsabilité pour les algorithmes ?

Il y a quelques semaines, avec Rodolphe Bigot, maître de conférences à l’Université de Picardie Jules Verne, on avait commencé une réflexion sur le thème “Repenser la responsabilité, et la causalité“, et voici la suite…

Historiquement, les algorithmes se contentaient de fournir une aide à la décision, laissant à un être humain le rôle de prendre la décision, mais des expériences sont en cours, avec des systèmes autonomes, prenant des décisions, que ce soit les systèmes de conduite de voiture, ou les algorithmes de justice prédictive, comme le montre Huss et al. (2018). Cette autonomie, qui signifie fondamentalement la « faculté d’agir librement » désigne aussi l’idée « de se gouverner par ses propres lois ». Mais quelle est la responsabilité du décisionnaire dans le cas d’une prédiction qui entrainerait un préjudice ?

Continue reading Quelle responsabilité pour les algorithmes ?