“Le décision ne peut pas être raciste puisqu’elle a été prise sans aucune information sur l’origine ethnique de la personne.” Ce genre d’affirmation, on l’a tous entendu un jour ou l’autre. Que ce soit sur le racisme, l’âgisme ou le sexisme. Que ce soient des décisions humaines, des modèles ou des algorithmes. Pourtant, la “loi de Kranzberg”1 nous rappelle que la technologie n’est ni bonne ni mauvaise mais, elle n’est pas neutre pour autant. La neutralité risque de ne venir qu’à un certain prix. Et il est peut être temps de revenir sur les grands principes autour de la segmentation et de l’équité, en assurance, pour mieux comprendre de quoi on parle quand on évoque la question de la discrimination.
Figure: Krater représentant Thésée et Procruste, et Thésée tuant le sanglier de Crommyon (source The Miriam and Ira D. Wallach Division of Art, 1862 – 1864)
L’équité actuarielle
Avant de définir l’équité actuarielle, ou “actuarial fairness” comme on dit en anglais, il est important de revenir sur ce qu’est l’assurance. Nous définissons généralement l’assurance comme la contribution financière du plus grand nombre au malheur de quelques-uns. L’assurance est donc, dans son essence, un mécanisme de partage des risques, qui ne peut avoir de sens que collectivement, par mutualisation des risques. Mais, au niveau plus concret, ou légal, de droit des contrats, l’assurance est avant tout un transfert de risque, d’un assuré vers une compagnie d’assurance, puisqu’en échange d’une contribution financière (la prime ou la cotisation), l’assuré achète la promesse d’une indemnisation future, en cas d’évènement malheureux. Et ces deux perspectives sont manifestement à l’origine d’une certaine confusion.
L’équité actuarielle est liée à la seconde dimension, c’est-à-dire le transfert de risque. Elle remonte au 17ème siècle, lorsque les mathématiciens ont introduit la valeur moyenne dans le contexte d’un partage équitable des jeux. En fait, elle remonte à Aristote et au concept de justice dans l’échange, comme le rappellent Antonio José Heras Martínez, David Teira et Pierre-Charles Pradier. C’est pourquoi les annuités, en assurance-vie, depuis Christiaan Huygens ou Jan de Witt, sont calculées sur la base des valeurs espérées des pertes futures, où les probabilités de versement de capital sont calculées sur la base de tables de mortalité. Et il faudra attendre les années 1960 pour que Kenneth Arrow introduise explicitement le terme d’« équité actuarielle », dans le domaine de l’assurance maladie, pour dire que la contribution des assurés doit être égale à la valeur attendue des pertes. Il n’y a aucune connotation morale mais simplement un principe économique, dans cette perspective de transfert de risque, entre les assurés et la compagnie d’assurance. Faire payer plus serait injuste pour les assurés, faire payer moins serait injuste pour la compagnie d’assurance.
Dans l’ensemble, la prime perçue doit donc être égale à la perte payée par les assureurs: il s’agit d’un simple principe d’équilibre (en moyenne).
Mais on peut aussi s’interroger en revenant sur la première dimension, et considérer les problèmes d’équité dans le partage des risques. Une fois que les assureurs savent qu’il doivent collecter une certaine somme pour, en moyenne, indemniser tout le monde, comment a priori décider d’un partage équitable du gâteau entre les assurés. À quelle hauteur chacun doit contribuer ? Où placer le curseur entre une prime moyenne identique, parfaitement solidaire, et une prétendue individualisation des contributions, pour tenir compte des risques individuels.
Discrimination direct, ou indirecte ?
Dans les deux cas, on se place dans une vision économique du problème. Gary Becker, prix Nobel d’économie et pionnier de l’analyse économique des comportements sociaux, s’est penché dans The Economics of Discrimination sur ces questions de discrimination, dans un contexte plus général que celui de l’assurance (principalement le marché du travail). Pour Gary Becker, il existe une forme de discrimination correspondant à une préférence, ou un goût (souvent un dégoût). Les agents peuvent éprouver une désutilité à interagir avec des membres d’un groupe donné (par exemple, minorités ethniques, femmes, etc.). Bien souvent, elle n’a rien de rationnel, et elle est inefficace, économiquement. Un employeur qui refuse d’embaucher une personne compétente parce qu’elle est noire, âgée, ou homosexuelle se retrouvera pénalisé face à des compétiteurs qui ne discriminent pas, par simple antisélection.
Mais il y a une autre forme de discrimination, étudiée plus en détail par Kenneth Arrow et Edmund Phelps, appelée discrimination statistique, et qui repose sur une logique d’information imparfaite et de rationalité. Il s’agit d’un comportement calculé, pas un préjugé. Ici, les agent utilisent alors les caractéristiques moyennes d’un groupe (sexe, origine ethniques, âge…) comme proxy pour prédire certains traits qui les intéressent, productivité pour un employeur, risque pour un actuaire. Cette approche permet de légitimer les contrôles au faciès par la police, appelés aussi “profilage ethnique.” Mathias Risse et Richard Zeckhauser rappellent que dans un cadre utilitariste, basé sur une approche coût-bénéfice, cette approche est pertinente. Une analyse décisionnelle, où les coûts attendus des erreurs (de type I) d’indication erronée sont mis en balance avec les coûts attendus des erreurs (de type II) de non-indication erronée, il est possible d’y voir une rationalité, à court terme tout du moins. En effet, bien souvent, la discrimination statistique n’est pas efficiente2 à long terme. Elle reproduit et renforce les inégalités, créant ainsi une prophétie autoréalisatrice, inefficace pour la société dans son ensemble. Kenneth Arrow et Edmund Phelps ont justifié cette discrimination instrumentale, statistique, que nous pourrions appeler actuarielle, qui part d’un objectif souvent pécuniaire, supposé légitime, supposé indépendant de la discrimination en cause. Elle est justifiée dans un contexte d’incertitude pour Kenneth Arrow, et dans un modèle de rationalité limitée pour Edmund Phelps, mais, en tant que frein à la mobilité sociale, elle est souvent inefficace à long terme.
On retrouve cette idée de discrimination statistique dans le “red-lining” aux États-Unis dans les années 30 où les courtiers immobiliers ne pouvaient pas vendre de crédits dans certaines zones géographiques. Au lieu de regarder bâtiment par bâtiment, on exclut un quartier. Cette approche reposait sur la croyance qu’établir une distinction d’un certain type favorisera, de manière instrumentale, la poursuite d’un objectif indépendant de la discrimination. On peut aussi penser aux pilotes de ligne qui ne peuvent plus piloter au-delà d’un certain âge, l’objet initial étant d’avoir des pilotes ayant une bonne vue. Cet pratique constitue bien sûr une forme de discrimination, car l’objectif de distinguer les bons pilotes des mauvais, traduit par la distinction entre ceux qui voient bien de ceux qui ne voient pas bien passe en pratique par un proxy, une variable corrélée, à savoir l’âge du pilote. Or on le sait, il existe bon nombre de corrélations sans fondement, qualifiées en français de “corrélations fallacieuses”. Qui plus est, le paradoxe de Simpson nous rappelle que les corrélations sont aussi soumises à toutes sortes de biais (biais de sélection, biais de variable omise, etc).
Les biais sont partout
Un biais est généralement caractérisé comme étant un écart systématique par rapport à l’objectivité, qui conduit à des résultats, des décisions ou des perceptions faussés. Les biais peuvent exister dans les données, les algorithmes et le jugement humain. Et ils influencent souvent les résultats de manière involontaire. Les biais de survie, dont nous parlions en 20183 , montrent qu’ils peuvent induire des lectures de données et des décisions à l’opposé de ce qu’il convient de faire. En assurance, les biais de sélection fonctionnent de la même manière, et sont peut-être la forme de biais la plus connue. Ils surviennent lorsqu’un échantillon n’est pas représentatif de la population cible, généralement à cause d’un processus de sélection qui favorise certains groupes d’individus par rapport à d’autres.
Or dans le contexte des données massives et de l’algorithmisation croissante des décisions, ces biais peuvent prendre une forme plus subtile, et plus redoutable encore. Un algorithme de recrutement, par exemple, peut apprendre à éviter les CV de candidates portant des prénoms féminins, simplement parce que les données passées (historiquement biaisées) montrent un taux plus faible de femmes dans certains postes. L’algorithme ne discrimine pas consciemment : il réplique, amplifie et légitime un biais historique, tout en se réclamant de la neutralité mathématique. Ce biais de sélection dans les données se traduit automatiquement par un biais d’apprentissage dans les modèles. Ces biais sont d’autant plus difficiles à identifier qu’ils se logent dans des couches techniques (pondérations, variables latentes, matrices de covariance) souvent inaccessibles aux non-spécialistes. De ce point de vue, la discrimination indirecte devient invisible, systémique, et auto-renforcée. C’est ce que montrent très clairement les analyses des systèmes de justice prédictive ou de notation sociale (“social scoring” étudié par Bernard Harcourt), où des facteurs hautement corrélés à l’origine sociale ou ethnique sont utilisés comme variables prédictives de récidive, de risque de crédit ou de conformité administrative. À nouveau, une logique instrumentale conduit à réintroduire par la technique ce que le droit excluait par principe : la discrimination fondée sur des caractéristiques personnelles protégées.
La catégorie et les stéréotypes
En 1983, la Cour Suprême des États-Unis4 avait souligné que « même une véritable généralisation concernant une catégorie ne peut justifier un traitement fondé sur la catégorie », mettant ainsi en lumière la tension profonde entre savoir statistique et justice individuelle, entre la normalité statistique et la norme éthique, entre ce qui est et ce qui devrait être. Car catégoriser, c’est forcément simplifier. C’est attribuer à un individu les caractéristiques supposées moyennes d’un groupe auquel il est rattaché, parfois arbitrairement, et souvent indépendamment de sa volonté. Cette opération est au cœur de la construction des stéréotypes, qui, bien que parfois basés sur des régularités empiriques, produisent une forme d’injustice épistémique : l’individu est réduit à une variable, nié dans sa singularité. Cette logique s’exacerbe dans les contextes de massification des données, où l’on ne juge plus une personne en tant que telle, mais en tant que membre d’une catégorie prédéfinie, souvent corrélée à des facteurs sensibles (origine, genre, lieu de résidence, etc.).
Ce mécanisme est particulièrement visible dans le domaine de l’assurance et de l’actuariat, où l’analyse du risque repose classiquement sur la segmentation des assurés en groupes homogènes. Le rôle des actuaires est bien souvent de proposer une tarification différenciée selon des critères comme l’âge, le sexe ou le code postal — autant de catégories qui, bien qu’efficaces d’un point de vue actuariel, posent des problèmes éthiques et juridiques dès lors qu’elles servent à justifier des écarts de traitement sans lien direct avec le comportement réel de l’individu. Et bien souvent, d’autres considérations entrent en jeu. Si on peut justifier qu’un jeune conducteur devrait payer trois fois plus cher qu’un autre sa prime d’assurance, uniquement en vertu de son âge (et de l’accidentologie élevée de cette classe d’âge, simplement à cause de son manque d’expérience), doit-on pour autant appliquer une telle surprime ? Au sein de l’Union Européenne, la Cour de Justice a déjà jugé illégal (Test-Achats, 2011) le recours au sexe comme facteur de tarification, au nom du principe d’égalité. Cela montre que le droit, contrairement à la logique actuarielle, ne tolère pas que des généralisations statistiques, fussent-elles fondées, deviennent des critères de traitement différencié, sans démonstration de nécessité et de proportionnalité.
L’équité, ou l’égalité ?
Ce principe d’égalité rigide ne cesse d’interroger, et finit par faire écho à la légende de Procuste (Προκρούστης). Dans la mythologie grecque, Procuste était un brigand qui vivait sur la route entre Athènes et Éleusis. Il invitait les voyageurs à passer la nuit chez lui, leur promettant un lit parfaitement adapté à leur taille. Mais ce lit avait une particularité sinistre : si l’hôte était trop grand, Procuste lui tranchait les jambes ; s’il était trop petit, il l’étirait violemment pour qu’il y rentre. Autrement dit, le voyageur devait s’adapter au lit, et non l’inverse. Cette égalité réduite à une uniformité rigide, où l’on traite tout le monde de la même manière, au mépris des différences individuelles est peut être un peu extrême. Or, en matière de justice, le principe d’égalité ne signifie pas que tous doivent être traités identiquement, mais qu’ils doivent être traités équitablement, c’est-à-dire selon leurs situations, leurs besoins, et parfois leurs vulnérabilités. Comme Frederick Schauer, on aurait presque envie de dire que l’égalité ne consiste pas à traiter de la même manière ceux qui se ressemblent, mais au contraire, ce principe exige peut-être qu’on traite de la même manière ceux qui ne se ressemblent pas. En France, l’égalité d’accès aux installations publiques exige généralement que les personnes soient traitées de la même manière, même si leurs qualifications pour utiliser ces installations varient ; et l’égalité de citoyenneté, qui sous-tend la démocratie, donne à chacun la possibilité de s’exprimer, une personne, une voix.
Si l’égalité correspond à une forme d’uniformité, l’équité serait au contraire basée sur une forte individualisation (certains auteurs parlent de “particularisation”), pour tenir compte des caractéristiques propres de chacune et chacun. Au lieu d’interdire aux pilotes de ligne de piloter au-delà d’un certain âge, une approche individualisante consisterait à tester la vue, l’ouïe et les réflexes de chaque pilote, plutôt que de se fier à l’âge comme indicateur d’une diminution des facultés.
Quels objectifs pour les actuaires ?
Les questions éthiques, et surtout légales, sont importantes quand on commence à s’interroger sur la segmentation, et à la construction de modèles prédictifs. Pourtant, il n’est pas rare d’entendre des actuaires dire que leur unique objectif est l’exactitude ou la précision des prédictions, “accuracy” dirait-on en anglais. Comme les informaticiens qui créent des algorithmes identifiant des chiens et des chats sur des images. Sauf que sur la photo, il y a réellement un chien, et on peut savoir si l’algorithme a mal identifié l’animal. L’actuaire en tarification n’a pas pour but de deviner qui sera sinistré, et qui ne le sera pas. Dans un objectif d’exactitude, son but est d’estimer “aussi précisément que possible” la probabilité qu’un assuré aura un accident dans l’année. Or il est difficile de savoir si l’estimation d’une probabilité individuelle de 8,62142% est correcte, ou pas. Alfred Sauvy le disait, « dans toute statistique, l’inexactitude du nombre est compensée par la précision des décimales ». Aujourd’hui, on peut entendre des actuaires s’interroger le plus sérieusement du monde pour savoir si la probabilité d’accident est de 8,62142% comme le dit une régression logistique, ou de 8,24126% comme le dit un réseau de neurones profond, comme nous l’expliquions avec Laurence Barry et Ewen Gallic.
La définition classique de la probabilité repose sur la loi des grands nombres. On répète plusieurs fois une expérience, et la loi des grands nombres identifie alors la probabilité à la fréquence. Mais comment dans ce cas associer une probabilité à un évènement qui se produira une fois ? Si la probabilité estimée d’avoir un accident est de 8,62% et que l’assuré a eu un accident, s’est-on trompé ? Ne devrait-on pas d’ailleurs aussi s’interroger si l’assuré n’a pas eu d’accident ?
En fait, la réponse a été donnée voilà près de 100 ans par Richard von Mises, « when we speak of the `probability of death’, the exact meaning of this expression can be defined in the following way only. We must not think of an individual, but of a certain class as a whole. A probability of death is attached to the class of men or to another class that can be defined in a similar way. We can say nothing about the probability of death of an individual ». En fait, la seule propriété qui aurait du sens vis-à-vis d’une prédiction, c’est celle utilisée en météorologie pour comprendre ce que “avoir 10% de chance d’avoir de la pluie” signifie. C’est la propriété de calibration des modèles : un modèle est bien calibré si, en prenant toutes les personnes pour lesquelles on a prédit 8,62% de chances d’avoir un accident, effectivement, sur ce sous-groupe, 8,62% ont eu un accident. Cette propriété est en fait une version locale de l’équité actuarielle. Et malheureusement, c’est une propriété pour laquelle on n’a aucune garantie théorique avec la plupart des algorithmes d’apprentissage machine.
Le flou et les incohérences juridiques
En plus de la difficulté de choisir le bon modèle, la bonne prédiction, il est difficile de comprendre ce que veut la législation. Par exemple, la plupart des États américains ont adopté une forme d’interdiction de base contre la discrimination injuste entre individus de même catégorie et exposés essentiellement au même risque, à moins que la limitation ou l’écart repose sur des principes actuariels solides (« where the refusal, limitation, or rate differential is based on sound actuarial principles or is related to actual or reasonably anticipated experience », comme le dit le Code de l’État de New York, section 4224). Et personne ne sait vraiment ce que sont ces principes actuariels solides.
En Europe, l’article 5-1 de la directive 2004/113/CE du Conseil du 13 décembre 2004 a mis en œuvre le principe d’égalité de traitement entre les hommes et les femmes dans l’accès aux biens et services et la fourniture de biens et services. Il dispose que « l’utilisation du sexe comme facteur actuariel dans le calcul des primes et des prestations ne doit pas entraîner de différences dans les primes et les prestations des personnes ». L’article 5-2, cependant, autorisait une dérogation à l’interdiction si l’utilisation du sexe était « fondée sur des données actuarielles et statistiques pertinentes et exactes », un peu comme dans la législation que l’on retrouve dans plusieurs états en Amérique du Nord. Dans l’affaire historique de l’arrêt Test-Achats, de 2011, dont nous parlions auparavant, la Cour de Justice de l’Union européenne a déclaré l’article 5-2 invalide, ce qui signifie que le sexe ne peut plus être pris en compte, même s’il est pertinant d’un point de vue actuariel. Comme la Commission européenne l’a précisé par la suite5) , il reste possible pour les assureurs de proposer des produits d’assurance spécifiques au sexe pour couvrir des risques spécifiques associés au sexe de l’assuré, comme le cancer de la prostate, ou le cancer du sein. En revanche, et pour compliquer encore les choses, cette option est interdite en matière de grossesse et de maternité, compte tenu du mécanisme de solidarité spécifique créé par l’article 5-3.
En fait, un des paradoxes les plus notables du droit contemporain réside dans la tension entre l’exigence de non-discrimination et les interdictions de traitement des données sensibles. En Europe, le Règlement général sur la protection des données (RGPD) interdit en principe le traitement des données révélant l’origine raciale, les opinions politiques, les convictions religieuses ou l’orientation sexuelle (article 9). Cette interdiction vise légitimement à protéger les individus contre les usages abusifs de ces informations. Toutefois, dans le contexte des décisions algorithmiques, cette règle peut devenir contre-productive. En effet, sans accès à ces variables sensibles, il devient impossible de tester si un algorithme prend des décisions discriminatoires fondées — directement ou indirectement — sur ces mêmes catégories. En d’autres termes, l’impossibilité de collecter certaines données rend invisible la discrimination, et empêche les audits algorithmiques efficaces. Ce paradoxe juridique crée un espace de non-droit technique, où l’opacité algorithmique se trouve renforcée par les contraintes de protection des données elles-mêmes.
Cette incohérence juridique est d’autant plus préoccupante qu’elle finit par opposer deux impératifs également fondamentaux : la protection de la vie privée, et la lutte contre les discriminations. L’un empêche de connaître, l’autre exige de savoir. La jurisprudence peine encore à articuler ces deux logiques. Ces incohérences finissent par construire des formes d’irresponsabilité technologique, où les discriminations ne sont pas commises de manière intentionnelle, mais apparaissent comme les sous-produits mécaniques d’un système juridiquement aveugle. Ce flou normatif fragilise la capacité du droit à jouer pleinement son rôle de rempart contre l’injustice systémique dans un contexte de modèles prédictifs de plus en plus complexes.
Le marin Shadock affirmait que “s’il n’y a pas de solution, c’est qu’il n’y a pas de problème”. On peut aussi se dire que s’il n’y a pas de solution, c’est peut être avant tout parce que le problème est mal posé. Les actuaires doivent aujourd’hui naviguer à l’aveugle entre des injonctions techniques, où on leur demande de segmenter davantage tout en cherchant du sens qui ne peut exister que par mutualisation, et entre des injonctions légales, où on leur demande de respecter la vie privée, tout en luttant contre les discriminations.
Aristote. (1990). Éthique à Nicomaque – Livre V (Tricot, Trad.). Vrin. (écrit env. 350 av. J.-C.)
Arrow, K. (1971). The Theory of Discrimination (No. 403). Princeton University, Department of Economics, Industrial Relations Section.
Becker, G. S. (1957). The economics of discrimination. University of Chicago press.
Berman, E. P. (2022). Thinking like an economist: How efficiency replaced equality in US public policy. Princeton University Press
Charpentier, A. (2018). Les modèles prédictifs peuvent-ils être loyaux et justes. Risques, 113, 91-96.
Charpentier, A., Barry, L. & Gallic, E. (2020). Quel avenir pour les probabilités prédictives en assurance ?. Annales des Mines, 2020 (1), 74-77
Charpentier, A. (2024). Insurance, biases, discrimination and fairness. Springer.
Frezal, S., & Barry, L. (2020). Fairness in uncertainty: Some limits and misinterpretations of actuarial fairness. Journal of Business Ethics, 167, 127-136.
Kranzberg, M. (1986). Technology and history:” Kranzberg’s laws”. Technology and Culture, 27(3), 544-560.
Harcourt, B. (2007). Against Prediction: Pro!ling, Policing, and Punishing in an Actuarial Age. University of Chicago Press
Hellman, D. (1998). Two Types of Discrimination: The Familiar and the Forgotten. California Law Review. 86: 315–361.
Hellman, D. (2008). When is Discrimination Wrong? Harvard University Press.
Martínez, A. J. H., Teira, D., & Pradier, P. C. (2016). What was fair in acturial fairness?. halshs: 01400213
Phelps, E. S. (1972). The statistical theory of racism and sexism. The American Economic Review, 62(4), 659-661.
Risse, M. and Zeckhauser, R. (2004). Racial Profiling. Philosophy & Public Affairs. 32: 131–170.
Schauer, F. (2006). Profiles, probabilities, and stereotypes. Harvard University Press.
von Mises, R. (1928). Wahrscheinlichkeit Statistik und Wahrheit. Springer-Verlag.
Winston, K. (1974). On Treating Like Cases Alike. California Law Review. 62: 1–39.
- La loi de Kranzberg, énoncée par l’historien des technologies Melvin Kranzberg en 1986, a été formulée dans un article intitulé “Technology and History: ‘Kranzberg’s Laws'”, publié dans la revue Technology and Culture. Six lois sont proposées, mais la première est la plus connue, rappelant que les effets de la technologie dépendent du contexte social, politique, économique et culturel dans lequel elle est utilisée: “Technology is neither good nor bad; nor is it neutral.” [↩]
- anglicisme qui traduit probablement mieux le terme “efficient” que la traduction “efficace”, au sens utilisé par Elizabeth Popp Berman dans son livre “How efficiency replaced equality”. [↩]
- Abraham Wald a montré que l’analyse des zones endommagées des bombardiers revenant de mission était biaisée, car elle ignorait ceux qui avaient été abattus, et donc ne prenait pas en compte les parties vulnérables des avions. Il a recommandé de renforcer les zones non endommagées, comme les moteurs et la queue, car elles étaient probablement les plus critiques pour la survie des avions. [↩]
- Arizona Governing Comm. v. Norris, 463 U.S. 1073 (1983), “The use of sex-segregated actuarial tables to calculate retirement benefits violates Title VII whether or not the tables reflect an accurate prediction of the longevity of women as a class, for under the statute, “[e]ven a true generalization about [a] class” cannot justify class-based treatment” [↩]
- Lignes directrices sur l’application de la directive 2004/113/CE du Conseil dans le secteur des assurances, à la lumière de l’arrêt de la Cour de justice de l’Union européenne dans l’affaire C-236/09 (Test-Achats [↩]
OpenEdition suggests that you cite this post as follows:
Arthur Charpentier (April 8, 2025). Les paradoxes de la segmentation et de la discrimination en assurance. Freakonometrics. Retrieved April 19, 2025 from https://doi.org/10.58079/13ppu