Assurance, IA, biais et équité

Pour compléter mon exposé auprès de l’Association des Masters d’Actuariat, je vais poster un billet, qui reprend les slides de mon intervention, avec un peu du discours qui va avec. Tout d’abord, mille excuses, mais les slides sont en anglais. Et ce que je raconte est très librement basé sur des travaux récents qu’on a pu mener, avec pas mal de monde, dont Laurence Barry (de la chaire PARI), Marie-Pier Côté (professeure à l’université Laval, à Québec), Olivier Côté (doctorant que je co-supervise avec Marie-Pier), Agathe Fernandes Machado (doctorante à l’UQAM), Ewen Gallic, (maître de conférences, à Marseille), François Hu (ancien stagiaire postdoctoral et aujourd’hui consultant en France), Philipp Ratz (ancien stagiaire postdoctoral et aujourd’hui consultant en Suisse), ainsi qu’Ana Patron Pinerez (ancienne stagiaire qui venait de Colombie) et Mulah Moriah (doctorant en France, que j’ai suivi pendant son mémoire de fin de maîtrise).

C’est inspiré de quelques années de travail, synthétisé l’an passé dans un livre, publié en anglais, sous le titre Insurance, Biases, Discrimination and Fairness. Et avant de se lancer, une petite mise en garde: je vais faire tenir en 45 minutes ce que je peux aussi raconter dans un cours de 9 à 12 heures. Donc forcément, ça passe par quelques raccourcis, et probablement quelques imprécisions. Je n’aurais pas le temps de définir proprement tous les concepts dont je pourrais avoir besoin, et j’en suis désolé.

On peut maintenant commencer. Tout d’abord, je vais parler d’un terme qui n’est pas dans le titre, c’est la notion de “discrimination“. La discrimination c’est traiter des groupes différents de manière différente. Les groupes dont on parle ici sont liés à ce qu’on appelle des attributs protégés, comme l’origine ethnique, ou le genre. Et dans ce deux cas, la discrimination s’appelle soit du racisme, soit du sexisme. Le point important quand on parle de discrimination, c’est qu’elle est condamnée, qu’elle soit directe ou pas. La discrimination indirecte, non intentionnelle, est condamnable. Et elle va m’intéresser ici parce qu’elle dit qu’un algorithme de tarification peut être raciste sans aucune mauvaise intention de la part de son concepteur. On peut d’ailleurs penser ici à la loi de Kranzberg, qui dit qu’une « La technologie n’est ni bonne ni mauvaise, et ce n’est pas pour autant qu’elle est neutre ». Une conséquence immédiate, on en reparlera, c’est que pour avoir la neutralité (ou l’absence de discrimination), il faudra souvent le demander (et donc le formuler, mathématiquement). Et pour conclure cette première entre en matière, je me permets de rappeler la définition donnée par le dictionnaire Merriam-Webster, à savoir que la discrimination, c’est  “the act, practice, or an instance of discriminating categorically rather than individually“. J’aime bien cette définition, parce que, mine de rien… ça remet en cause directement le travail de l’actuaire !

Pour définir ce qu’est un actuaire, ou l’actuariat, je ne suis pas allé voir les associations actuarielles, mais plutôt un très joli livre publié par Frederick Schauer, Profiles, Probabilities, and Stereotypes. Et qui le dit très clairement: un raisonnement actuariel, c’est un raisonnement basé sur des groupes ou des catégories, et non pas basé sur des informations individuelles. Autrement dit, on a un problème, parce que le but de l’actuaire, c’est de discriminer.

Et bien souvent, il le sait. Quand un actuaire fait un modèle classiquement, il va faire une régression. Quand on met le genre (je vais supposer ici le genre comme binaire, pour simplifier un peu l’exemple) comme variable prédictive, la valeur du paramètre, et son degré de significativité permettent effectivement de savoir si une prédiction est discriminatoire sur la base du genre. On a même une interprétation directe du paramètre, puisque, dans l’approche classique d’interprétation, ceteris paribus, on nous dit que, toutes choses étant égales par ailleurs, si la personne n’était pas une femme mais un homme, la prédiction sera \beta_3 de plus. Pour un modèle linéaire. Pour un modèle de Poisson, plus utile en actuariat, par exemple pour modéliser la fréquence de sinistres, on a une interprétation relative puisqu’on a un modèle multiplicatif. Dans mon exemple ici \beta_3\sim 0.2 signifie que, toutes choses étant égales par ailleurs, si la personne n’était pas une femme mais un homme, la prédiction sera 20% plus grande pour les hommes que pour les femmes. Si on aime les interprétations  ceteris paribus, on peut voir ici explicitement la discrimination dans un modèle.

Mais c’est en réalité encore plus sournois. Car en 2025, bon nombre d’actuaires (ou de dirigeants) trouvent les modèles de régressions un peu trop simplistes. On veut du “big data” et de “l’intelligence artificielle“. Autrement dit, le big data c’est que peut être qu’on va éviter de collecter des attributs sensibles, pour des principes généreux de confiance, et protection, etc, mais par contre, on va collecter beaucoup beaucoup de données… qui potentiellement permettent de prédire avec une très haute précision un attribut sensible. Aux États-Unis, le RAND a proposé le modèle BISG (Bayesian Improved Surname Geocoding) qui propose de prédire l’origine ethnique sur la base du code postal, du nom et du prénom de la personne. Et l’IA, c’est le fait qu’on utilise des modèles opaques, dit “boîtes noires” dont on ne sait pas trop pourquoi elles renvoient tel ou tel chiffre. On n’a plus le coefficient de régression qui avait une interprétation assez simple (oui, trop simple, mais bon…)

Parce que l’apprentissage machine, c’est juste de l’optimisation, on cherche le meilleur modèle prédictif (peut être avec une petite contrainte de pénalisation pour éviter des modèles trop complexes qui potentiellement donneraient en plus beaucoup de variabilité d’une année sur l’autre). Mais dans ce cas, même si je sais que le genre de l’assuré était dans les données, comme information prédictive, comment comprendre son impact ? Il existe des techniques, par exemple les “partial dependence plot” mais qui souffrent de nombreux problèmes, dès lors qu’on peut interpréter l’impact d’une variable qui est parfois très corrélée à d’autres (comme ça arrive toujours en vrai). Sans aller trop loin, on reste en plus sur une analyse de corrélation, et on n’est même pas certain qu’une variable soit une variable causale de la sinistralité (ce qui devrait la rendre légitime comme variable tarifaire, non ?) Un autre point est qu’il est souvent difficile d’avoir des garanties théoriques sur les sorties d’un tel modèle (mais on en reparlera).

On va parler ici du problème le plus simple, c’est la tarification. La tarification, c’est (en simplifiant un peu), l’analyse de la survenance de sinistres pour les personnes qui sont dans le portefeuille. Mais on le sait, il y a un biais important, à la souscription. Certaines personnes ont décidé de ne pas souscrire de contrat chez nous. D’autres ont été rejetées par les équipes de souscription. Mais c’est souvent plus compliqué à voir. En tous cas, on ne le voit pas quand on est un actuaire dans une compagnie, qui travaille juste sur son portefeuille. Un exemple connu de problème de souscription est le “redlining“, qui a été une technique pour refuser certains assurés (ou crédits) dans des zones géographiques (“don’t write the business“). Mais ces zones étaient aussi des zones avec une forte présence de personnes “racisées” et donc ce zone devenait automatiquement raciste…

C’est peut être l’occasion pour faire un détour pour parler d’un concept important en actuariat, qu’on appelle “équité actuarielle” (ou “actuarial fairness“). En fait, le terme a été introduit par Kenneth Arrow au début des années 1960. Et, “long story short” comme on dit, on voit que cette équité a davantage à voir avec une notion d’efficacité, au sens économique. Une prime sera “actuariellement juste” si elle est l’espérance mathématique de la perte. C’est en fait la justification économique du concept de “prime pure”. Et on peut, on doit même segmenter en fonction du risque. Si quelqu’un a 20% de chance de perdre 1000, la prime “actuariellement juste” sera de 200, mais elle sera de 100 pour une personne pour qui la probabilité est de 10%. C’est donc économiquement juste de chercher à segmenter le portefeuille…

Cette idée, on la retrouve dans les premières tables de mortalités, où on va distinguer les hommes et les femmes. En assurance dommage, le livre Eating Smoke revient sur la segmentation en assurance habitation, aux États-Unis, en lien avec les incendies. Dans le livre, je reviens longuement sur le cas de l’assurance automobile (je peux renvoyer aussi aux slides de l’école d’été à Varsovie, 82-96). L’idée est de constituer des catégories formelles d’assurés, des “classes de risques”

Le risque fondamental de chaque assuré est inconnu, les classes sont estimées, sur la base d’information observée, et déclarées. Et dès les années 70, la question de l’équité se pose. En particulier, on commence à modéliser la solidarité de redistribution au sein des classes tarifaires, qui sont parfois relativement hétérogènes

Bref, une prime “actuariellement juste” signifie qu’on l’a estimée en cherchant l’espérance mathématique du risque (encore une fois, on n’observe pas le facteur de risque). Et ça tombe bien, parce qu’estimer des espérances, on sait faire ! Mais ça veut aussi dire qu’il n’existe pas de “vrai prix” ou de “prix fondamental” en assurance. Le prix d’un contrat d’assurance n’a de sens qu’au sein d’un portefeuille. Et il est alors légitime qu’une même personne se voit proposer des prix différents par deux compagnies, qui ont des données et des modèles différents. Ce sujet me fascine depuis 10 ans, mais ce n’est pas l’objet de l’exposé de ce soir…

Quand on pense “espérance” on pense “régression” et “moindres carrés”, mais en assurance, on a une difficulté supplémentaire : on ne cherche pas à modéliser un variable binaire y\in\{0,1\} désignant la survenance ou pas d’un accident, et son espérance, c’est la probabilité que le risque survienne. C’est un faux problème de “classifieur” car en classification, on cherche à bien prédire la classe. Ici, on cherche à bien prédire la probabilité. Et le souci, c’est qu’il est difficile de savoir si \widehat{y} est une “bonne” prévision quand \widehat{y} désigne une probabilité, et pas la classe…

En fait, cette question est profonde et compliquée. On peut relire “The theory of probability” qui est, non pas un livre de maths, mais un livre de philosophie (le sous-titre étant “an inquiry into the logical and mathematical foundations of the calculus of probability“) et qui pose la question simple : que signifie une probabilité pour un évènement qui ne surviendra qu’une fois. Si on me prédit 1% de chances de mourir en 2025, et que je meurs effectivement, est-ce que le modèle était bon ? Que je meurs, ou pas, la question reste entière… le point étant qu’avec un évènement qui ne survient qu’une fois, l’interprétation fréquentiste des probabilités perd tout son sens. Ce qui n’est pas sans faire écho à des discussions épistémologiques sur l’individualisation des primes d’assurance.

En fait, si on souhaite malgré tout avoir une interprétation fréquentiste des probabilités, il faut les regrouper, dans des groupes assez fins pour être homogènes, et assez grands pour avoir une notion de fréquence. Il convient alors de s’intéresser non plus à la précision (ou “accuracy”) mais à la calibration des modèles prédictifs. L’idée de la calibration est assez naturelle (j’ai repris l’exemple, qui date de 2019, dans “calibration: the Achilles heel of predictive analytics“). Si on considère toutes les observations pour qui on a prédit \widehat{y}_i\approx 20%, on devrait avoir environ 20% de 1 parmi les y_i associés, ce qui donne la caractérisation suivante

Cette question est proche d’une vieille question classique en météo, sur le sens à donner à l’information “il y a 80% de chances d’avoir de la pluie aujourd’hui”. Cette propriété de calibration est d’autant plus importante que les actuaires donnent du sens à la probabilité d’avoir un accident, puisque la probabilité est directement reliée au prix (c’est l’idée d’Arrow de prime actuarielle). Et malheureusement cette propriété n’est aucunement naturelle en apprentissage machine (alors qu’elle l’est davantage avec les modèles linéaires généralisés, cette propriété étant proche de la condition du premier ordre obtenue dans les équations de vraisemblance)

Dans les GLM, la première condition du premier ordre (quand on dérive la log-vraisemblance par rapport à \beta_0) nous dit que la somme des prédictions coïncide avec la somme des observations (quand on a le lien canonique). C’est la propriété de balance, globale, qui s’interprète en actuariat en disant que la somme de ce qu’on collecte (la somme des prédictions) égale la somme de ce qu’on paye (la somme des observations). La propriété de calibration est une propriété de balance locale.

Mais quittons un instant la modélisation pour revenir à notre question de fond, sur la discrimination. Comme on le disait, l’actuariat est problématique, parce qu’historiquement les actuaires ont toujours eu l’habitude de raisonner par groupe. Dans les années 90, un jugement aux Pays Bas allait même plus loin, en affirmant que ce n’est pas parce qu’en moyenne, les femmes vivent plus longtemps que les hommes qu’on peut pénaliser individuellement un individu. Donc la pratique actuarielle est discriminatoire, et injuste.

En fait, c’est lié à un problème assez fondamental de l’assurance, comme le dit Ronen Avraham dans le premier paragraphe du Handbook of the Ethics of Discrimination dédié à l’assurance. L’assurance c’est compliqué. Sans aucune mauvaise intension (la plupart du temps), les actuaires font de la discrimination par proxy parce qu’ils cherchent des variables corrélées au risque, comme variables tarifaires. Discriminer sur la base du risque, c’est légitime (et économiquement demandé), discriminer sur la base d’attributs protégés, c’est illégal, mais toutes les variables sont souvent corrélées. Bref, la non-discrimination sur la base d’un attribut protégé, on l’aura rarement sans le demander explicitement. Et bien souvent, ça viendra avec un prix (en terme de précision, mais comme je l’ai dit – allez, je le redis – je ne pense pas que viser à tout prix à une sorte de précision fasse le moindre sens, en assurance).

Pour explicitement demander à ne pas discriminer, il faut formaliser a minima, et être capable de quantifier une discrimination.  Et force est de constater que c’est loin d’être un problème si nouveau…Gary Becker, économiste qui avait obtenu le prix Nobel il y a un peu plus de 30 ans avait défendu une thèse, en 1957 intitulée The Economics of racial discrimination (le terme “racial” a disparu lors de la publication quelques mois plus tard). Plusieurs ouvrages de statistique des années 70 et 80 abordent la question de prouver une discrimination… Et pourtant, la littérature scientifique s’est ré-emparé de la question voilà une quinzaine d’années, en particulier en informatique, pour décrire une notion intéressante, appelée “discrimination algorithmique“.

Pour formaliser, commençons par la discrimination distributionnelle, par groupe. Pour faire simple, on a un modèle \widehat{m} supposé modéliser une variable d’intérêt y, et on a deux types de variables, \boldsymbol{x}, des variables autorisées, légitimes, et un attribut protégé, qu’on notera s. Et pour faire simple, on va supposer que s est binaire. Comme souvent en assurance y est binaire, prenant les valeurs \{0,1\} (survie/décès, accident/pas accident, rachat/pas rachat, etc), on va supposer que s prend des valeurs A ou B.

Le premier soucis auquel on va faire face, c’est qu’on a classiquement au moins trois définitions de l’équité (ou de non-discrimination) d’une décision, ou d’un modèle. Je laisse lire, mais ce sont essentiellement des propriétés d’indépendance, entre la prédiction \widehat{y} et la sensible s pour la parité démographique, ou d’indépendance conditionnelle pour les deux autres. Dans le premier cas, on demande l’indépendance entre la prédiction \widehat{y} et la sensible s, conditionnellement à y (ce qui correspondra à un taux de vrais et de faux positifs), ou bien l’indépendance entre y et la sensible s, conditionnellement à la prédiction \widehat{y}. Dans ce dernier cas, étudier y conditionnellement à la prédiction \widehat{y}, ça rappelle la calibration dont on parlait un peu plus tôt

Et cette multiplicité des définitions va poser soucis. Un exemple bien connu sur la discrimination algorithmique est l’étude parue dans Propublica, intitulée Machine Bias. Cette étude se penche sur un algorithme prédictif utilisé dans un contexte judiciaire (on parle d’ailleurs de “justice actuarielle“, tiens tiens), avec un algorithme appelé “COMPAS” (Correctional Offender Management Profiling for Alternative Sanctions) qui propose un score de récidive, calculé pour des personnes qui demandent une libération anticipé. Or cet algorithme serait raciste. L’étude de Propublica le montre clairement (et les données et les analyses sont d’ailleurs en ligne) : parmi les personnes qui n’ont pas récidivé, le taux de mauvaise classification (personnes classées à haut risque) est beaucoup plus élevé chez les personnes noires (42%) que chez les personnes blanches (22%) donc l’algorithme est raciste. On le voit, le concept retenu ici est celui appelé “égalité des côtes”

Et la réponse des modélisateurs qui vendent le modèle est que non, l’algorithme n’est pas raciste. Parmi les personnes à haut risque, la proportion de personnes qui n’ont pas récidivé est presque la même chez les blancs (40%) que chez les noirs (35%). Donc l’algorithme n’est pas raciste…

Avec les mêmes chiffres, on peut avoir des lectures différentes, ce qui est gênant si on veut une discussion sereine ensuite… Un autre souci est que la plupart des études regardent des classifieurs, des résultats de décisions. Il s’avère que c’est facile d’avoir des décisions équitables quand on a des scores différents (par exemple pour octroyer un crédit)  : on change le seuil !

Mais en actuariat, en particulier en tarification, on l’a déjà dit, mais la classe importe peu, ce qui est important, c’est le score. On va alors avoir une notion plus forte de parité démographique, demandant l’égalité de la distribution des scores. On peut demander une égalité en moyenne des scores, mais c’est souvent insuffisant. Et pour quantifier une égalité entre des distributions, il faut des métriques sur les distributions. On peut penser à des métriques de type Kullback Liebler, classique en statistique, mais la plus intéressante est la métrique de Wasserstein, basée sur du transport optimal. Je ne vais pas rentrer ici dans le détail (il y a plein de documents sur ce blog sur le sujet), mais pour faire simple, on va se demander si les niveaux de quantiles coïncident, pour toutes les probabilités. On a la courbe rouge en bas qui permettra de voir s’il y a une différence entre les distributions des scores. Par exemple, ici, on voit qu’un score de 0.6 dans le groupe A (qui est un score médian) correspondrait à un score de 0.4 dans le groupe B (associé aussi à un seuil de probabilité de 50%). Comme 0.6 et 0.4 sont bien différents, on rejettera l’hypothèse d’équité, ou de non-discrimination…

Mais le point intéressant avec cette métrique, c’est qu’on peut construire un score intermédiaire, en prenant le barycentre. La personne du groupe A qui se voyait attribuer un score de 0.6 se verra attribuer un score “neutre” de 0.5, tout comme la personne du groupe B qui avait un score de 0.4. 0.5 étant le barycentre entre les deux médianes. Avec cette approche, on peut faire disparaître, ex-post, la discrimination induite par un modèle prédictif.

On le voit, pour avoir un modèle neutre, on doit discriminer. La personne du groupe A, en vert, verra son score baisser, alors que la personne du groupe B, en jaune, verra son score augmenter. En fait, c’est un problème philosophique là encore qui se pose… Comme le disait un juge de la Cour Suprême aux États-Unis, pour être juste et traiter les gens de manière égale, il faut les traiter différemment. L’autre vision étant celle qui va à l’encontre de cette “discrimination positive”, qui dit que si on ne veut pas discriminer, on arrête de discriminer.

Pour l’anecdote, cette dernière vision est revenue récemment au devant de la scène la semaine dernière, lors du premier décret de Donald Trump qui affirme qu’il faut mettre fin à cette discrimination positive. Cette vision est radicalement opposée à celle que l’on continue à voir en Europe, par exemple (ou au Canada, pour l’instant).

L’heure tourne, et je voulais juste mentionner quelques points importants avant de finir. Par exemple, je parlais de neutralité par rapport à un attribut sensible, avec des indépendances, ou des espérances… mais je n’ai jamais vraiment dit sous quelles probabilités ces calculs devaient être faits. Implicitement, on restait sous la probabilité \mathbb{P}, c’est à dire par rapport aux données du portefeuille. Mais si le portefeuille est très biaisé, cette propriété ne veut pas dire grand chose… Peut être que le régulateur voudrait que les mesures soient faites par rapport à \mathbb{Q}, la distribution de la population toute entière ? On peut imaginer un marché, où deux assureurs se partagent la population, attirant respectivement les individus de type s valant A ou B. Avec des primes très différentes. Chacun pourrait sembler équitable en regardant son propre portefeuille (si un attribut protégé n’est pas observé, on peut difficilement rejeter l’hypothèse d’équité), mais avoir un marché, globalement très discriminé.

Un autre point c’est que supprimer la variable discriminatoire n’est jamais une bonne idée. En fait, l’idée c’est que le but d’un algorithme d’apprentissage c’est simplement de reproduire ce qui s’observe dans les données. S’il existe une différence de sinistralité entre les hommes et les femmes, le modèle reproduira cette différence. On peut faire le test: dans l’exemple ci-dessous, on a des vraies données en responsabilité civile automobile, en France, et la fréquence annuelle moyenne de sinistre est de 8% pour les femmes, 9% pour les hommes (oui, j’arrondis). On le sait parce qu’on a le genre dans la base.  Mais on peut faire des régressions logistiques, sans variables (mais on a alors le modèle “nul” avec un modèle juste, puisque la prédiction est la valeur moyenne globale). Puis on ajoute les variables, une puis l’autre. Mais sans jamais mettre le sexe. En mettant une dizaine de variables, et en regardant la moyenne des prédictions pour les hommes, et pour les femmes, on a répliqué la différence. Ça ne veut pas dire qu’on peut prédire le sexe, juste que le modèle tente de coller au mieux aux données, par construction.

Si on poursuit le parallèle philosophique, on pourrait penser au problème “is-ought“, de Hume, avec une différence entre ce qui “est” (la différence dans sinistralité entre les hommes et les femmes), et ce qu’on “voudrait” (de l’équité, et donc une absence de différence). C’est (je pense) la différence entre ce qui est normal parce que c’est ce qu’on a observé, historiquement dans les données, et la norme, au sens éthique. Il n’y a aucune raison pour que les deux coïncident.

La solution classique à ce problème de changement de mesure, c’est peut être de corriger le biais, en pondérant les données. On parlera alors d’approche “pre-processing”. On peut aussi faire une distorsion des prédictions, comme on l’a vu auparavant, on parlera alors d’approche “post-processing”. On peut aussi considérer une approche “in-processing” où on ajoute une contrainte d’équité dans l’algorithme d’optimisation.

Pour l’instant, on a seulement parlé d’approche par groupe, mais en pratique, les assurés sont peut être davantage intéressé par une approche dite individuelle, où on se demande, pour un individu avec des caractéristiques \boldsymbol{x}, et un attribut sensible s valant A ce qu’aurait été la décision, ou le prix, si l’attribut sensible avait été B. On reconnait ici une question contrefactuelle, le troisième et dernier niveau dans l’échelle de la causalité de Judea Pearl (page 6 du Book of Why). Conceptuellement, la difficulté est de savoir si, en changeant l’attribut sensible, on peut continuer à utiliser les mêmes \boldsymbol{x}. Par exemple, le contrefactuel d’un homme faisant 1 mètre 90 n’est probablement pas une femme mesurant 1 mètre 90.

Un autre exemple qu’on avait regardé concerne les hospitalisations, et en particulier, les césariennes lors d’accouchements aux États-Unis, en comparant les proportions pour les mères noires et les mères blanches. Les femmes noires ont davantage de chance d’avoir une césarienne. Mais cette différence est-elle justifiée, ou justifiable ? En fait, la probabilité d’avoir une césarienne dépend entre autres, du poids du bébé. Or les femmes noires et les femmes blanches n’ont pas des bébés de poids identiques. La courbe de transport optimale est (presque) une droit parallèle à la première bissectrice. En gros, le bébé d’une mère noire fait 200g de moins qu’un bébé de mère blanche.

Au lieu de raisonner à poids de bébé fixé, on raisonne de manière relative, en regardant le niveau de quantile. Et dans cet exemple, on peut voir que les femmes noires ont toujours plus de chances d’avoir une césarienne.

Une autre question importante est de savoir quoi faire quand la variable sensible n’est pas collectée. C’est un problème en Europe, avec le RGPD. Pour l’anecdote, la question a été posée au Colorado, où le régulateur a demandé aux assureurs de prouver que leurs tarifs n’étaient pas racistes. Ce à quoi les assureurs ont répondu qu’ils n’en savaient rien, car ils ne collectaient pas l’information. Et le régulateur a demandé aux assureurs de prédire l’origine ethnique des assurés, sur la base du code postal, du prénom et du nom de l’assuré. Et de tester si l’algorithme est raciste. Si on oublie un instant le prénom et le nom, on est juste en train de dire qu’on va utiliser les proportions des différentes origines ethniques dans le quartier.

L’utilisation de données agrégées est un problème bien connu. On parle de paradoxe écologique, l’exemple le plus connu était peut être le paradoxe de Simpson. Pour illustrer, on peut reprendre l’exemple bien connu des admissions aux études graduées à Berkeley,

Pour faire simple (on peut reprendre le tableau de l’étude originale) le taux d’admission des hommes est de 44% contre 35% pour les femmes, donc les femmes sont victimes de discrimination. Mais si on regarde master par master, on peut voir que les femmes ont souvent un taux d’admission plus important que les hommes,

Formellement, on peut avoir des taux différents entre les hommes et les femmes, mais quand on conditionne par le programme, l’ordre s’inverse. Il n’y a rien d’étonnant ici, c’est juste que l’interprétation est étonnante, ou déroutante

On voit surtout qu’en omettant une variable, on peut se tromper sur le sens de l’effet. Ici, le souci est que le choix du programme, le genre de la personne qui applique, et les taux d’admissions sont corrélés (les femmes appliquant aux programmes les plus sélectifs). Ce biais de la variable omise est bien connu en économétrie, et peut complètement changer l’interprétation du sens de la discrimination.

Un exemple du paradoxe de Simpson en assurance est observable sur des données de mortalité. Si on prend une personne au Costa Rica au hasard dans la population, elle a 8‰ chance de mourir dans l’année, 9‰  en Suède. Doit-on en déduire qu’on a moins de chances de mourir au Costa Rica qu’en Suède ? Pas sûr, surtout si on regarde les forces de mortalité : à n’importe quel âge, une personne a moins de chance de décéder dans l’année en Suède qu’au Costa Rica. Le souci est que les pyramides des âges sont très différentes entre les deux pays. Une personne prise au hasard au Costa Rica a des chances d’être jeune, avec une probabilité de décès faible. En Suède, elle sera probablement beaucoup plus âgée.

C’est fondamentalement une histoire de corrélation, ce qui rend le problème difficile à comprendre. De nombreux articles dans la presse montrent que les assureurs sont racistes parce que les primes d’assurance dans les zones géographiques avec une plus forte proportion de personnes racisées. Je ne dis pas que c’est faux, je dis juste que la preuve formelle reste à faire.

Un petit dernier ? Coluche disait dans un de ses sketches

Dieu a dit : il y aura des hommes blancs, il y aura des hommes noirs, il y aura des hommes grands, il y aura des hommes petits, il y aura des hommes beaux et il y aura des hommes moches, et tous seront égaux ; mais ça sera pas facile… Et puis il a ajouté : il y en aura même qui seront noirs, petits et moches et pour eux, ce sera très dur !

Et effectivement, dans la vie, il y a souvent plusieurs variables sensibles. Et parfois, corriger une discrimination suivant un critère risque de l’augmenter sur une autre.

Au delà des maths, il reste un problème assez profond, c’est que lorsqu’un actuaire construit un modèle, il se raconte une histoire. Le mythe de l’actuaire, c’est qu’il ferait parler les chiffres, mais rien n’est plus faux. L’actuaire se doit d’expliquer et d’interpréter correctement ses modèles,

Je vais arrêter là parce que je crois que j’ai qu’une heure, mais toutes ces questions restent importantes, et à creuser…

Une petite pensée pour toutes celles et tous ceux avec qui j’ai pu travailler ces derniers mois et ces dernières années, autour de questions vraiment passionnantes…

(et je mentionne le courriel de François pour ceux qui chercheraient des stages)


OpenEdition suggests that you cite this post as follows:
Arthur Charpentier (February 6, 2025). Assurance, IA, biais et équité. Freakonometrics. Retrieved March 18, 2025 from https://doi.org/10.58079/139zy


One thought on “Assurance, IA, biais et équité”

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.