Tag Archives: discrimination

Publications

Measuring and Mitigating Biases in Motor Insurance Pricing

Leave a comment

Our paper, Measuring and Mitigating Biases in Motor Insurance Pricing, with Mulah Moriah and Franck Vermet, is now available on Arxiv.

The non-life insurance sector operates within a highly competitive and tightly regulated framework, confronting a pivotal juncture in the formulation of pricing strategies. Insurers are compelled to harness a range of statistical methodologies and available data to construct optimal pricing structures that align with the overarching corporate strategy while accommodating the dynamics of market competition. Given the fundamental societal role played by insurance, premium rates are subject to rigorous scrutiny by regulatory authorities. These rates must conform to principles of transparency, explainability, and ethical considerations. Consequently, the act of pricing transcends mere statistical calculations and carries the weight of strategic and societal factors. These multifaceted concerns may drive insurers to establish equitable premiums, taking into account various variables. For instance, regulations mandate the provision of equitable premiums, considering factors such as policyholder gender or mutualist group dynamics in accordance with respective corporate strategies. Age-based premium fairness is also mandated. In certain insurance domains, variables such as the presence of serious illnesses or disabilities are emerging as new dimensions for evaluating fairness. Regardless of the motivating factor prompting an insurer to adopt fairer pricing strategies for a specific variable, the insurer must possess the capability to define, measure, and ultimately mitigate any ethical biases inherent in its pricing practices while upholding standards of consistency and performance. This study seeks to provide a comprehensive set of tools for these endeavors and assess their effectiveness through practical application in the context of automobile insurance.

Seminar

Présentation sur l’équité et la discrimination en assurance, pour Intact

Leave a comment

Demain matin, avec Olivier et Marie-Pier Côté, on sera chez l’assureur Intact pour parler équité et discrimination. Olivier présentera ses travaux récents sur l’utilisation de modèles causaux pour proposer des modèles “équitables” en assurance. Le papier (a fair price to pay: exploiting directed acyclic graphs for fairness in insurance) sera bientôt disponible !

Books

Insurance, biases, discrimination and fairness, v2

Leave a comment

In the Summer 2022, my report Insurance, biaises, discrimination and fairness (v1) was officially uploaded on the website of the Institut Louis Bachelier. I have spent another year to add illustrations and examples, and I sent the manuscript to the publisher at the beginning of the Summer 2023. Because of delays, the book is not out yet, but the publisher allowed me to upload Insurance, biaises, discrimination and fairness v2 of the document. Note that it will be the lecture notes of the doctoral course I will give this Winter at ENSAE, in Paris, France.

The R functions (and package) will be uploaded on https://github.com/freakonometrics/InsurFair soon.

Publications

A Sequentially Fair Mechanism for Multiple Sensitive Attributes

Leave a comment

Our paper, A Sequentially Fair Mechanism for Multiple Sensitive Attributes, with François Hu and Philipp Ratz, is now available on Arxiv,

In the standard use case of Algorithmic Fairness, the goal is to eliminate the relationship between a sensitive variable and a corresponding score. Throughout recent years, the scientific community has developed a host of definitions and tools to solve this task, which work well in many practical applications. However, the applicability and effectivity of these tools and definitions becomes less straightfoward in the case of multiple sensitive attributes. To tackle this issue, we propose a sequential framework, which allows to progressively achieve fairness across a set of sensitive features. We accomplish this by leveraging multi-marginal Wasserstein barycenters, which extends the standard notion of Strong Demographic Parity to the case with multiple sensitive characteristics. This method also provides a closed-form solution for the optimal, sequentially fair predictor, permitting a clear interpretation of inter-sensitive feature correlations. Our approach seamlessly extends to approximate fairness, enveloping a framework accommodating the trade-off between risk and unfairness. This extension permits a targeted prioritization of fairness improvements for a specific attribute within a set of sensitive attributes, allowing for a case specific adaptation. A data-driven estimation procedure for the derived solution is developed, and comprehensive numerical experiments are conducted on both synthetic and real datasets. Our empirical findings decisively underscore the practical efficacy of our post-processing approach in fostering fair decision-making.

Academe, Conferences, Research

Actuarial Science Workshop on 2023 SSC Meeting in Ottawa

Leave a comment

This Sunday, I will be presenting at the Actuarial Science Workshop, a 2023 SSC (Statistical Society of Canada) Annual Meeting in Ottawa. It is organized by Jun Cai (Waterloo), Ben Feng (Waterloo), Emiliano Valdez (University of Connecticut) and Xiaofei Shi (UofT) will also be there. It will be on optimal transport, in the context of fairness and discrimination, in insurance. Slides are now available.
Economics, Publications

Is there discrimination against the poor?

Leave a comment

(With Laurence Barry, we wrote a short article on discrimination against the poor, in French)

In 2013, Martin Hirsch (former director of Emmaüs and Assistance publique – Hôpitaux de Paris) stated “it’s getting expensive to be poor”. This reality was confirmed by a recent study, in France, by the Banque Postale*, which showed that on average, a poor household has to pay 1,500 euros more each year to access the same goods and services as a better-off household, introducing a “double poverty penalty**”. Unfortunately, insurance is not left out: the use of credit scores in many countries reinforces what could be a form of discrimination against the poor. In the United States, where the practice is more common than elsewhere, a commission of inquiry recently tried to explain the link between credit score and claims frequency: is it because, as some insurers argue, people with lower scores are also less careful than others? Or is it because, having less financial means than others, they more naturally ask to be compensated for the losses incurred? And, in this second case, are we not also making them pay twice for their condition?

From excellence to wealth as a virtue

On what criteria do we admire people? For the Greeks, excellence, or arête (ἀρετή), was a major virtue. This excellence went beyond moral excellence: in the Greco-Roman world, the term evoked a form of nobility, recognizable by the beauty, strength, courage, or intelligence of the person. Now this excellence had little to do with wealth: thus Herodotus is astonished that the winners of the Olympian games were content with an olive wreath and a “glorious renown,” peri-bones (περὶ ἀρετῆς). In the Greek ethical vision, especially among the Stoics, a “good life” does not depend on material wealth – a precept pushed to its height by Diogenes who, seeing a child drinking from his hands at the fountain, throws away the bowl he had for all crockery, telling himself that it is again useless wealth.

Greek society is nevertheless a deeply hierarchical society, even if it is organized around values other than material wealth. We can then ask ourselves at what point in Western history wealth became the measure of all things. One thinks then of Max Weber’s theory: the ethics of Protestantism pushes for work and earthly success as a revelation of a divine election to come: the rich of this world would be the chosen of the next. In the same way Adam Smith, taking a critical look at the birth of capitalism in the society of his time, titles a chapter of The Theory of Moral Sentiments (1759) “Of the corruption of our moral feelings occasioned by that disposition to admire the rich and great, and to despise or neglect the poor and lowly.”

Today, the cult of wealth seems to have never been so strong and material success is almost elevated to the rank of virtue. On the other hand, poverty becomes a stigma that is hard to get rid of; but history shows us that this is not natural.

From “good” to “bad” poor

Indeed, the poor have not always been “bad”. As Fulconis & Kikuchi (2017) remind us, the Church has largely contributed to disseminating the image of the “good poor”, as it appears in the Gospels: “happy are you poor, the kingdom of God is yours”; or “God could have made all men rich, but he wanted there to be poor people in this world, so that the rich would have an opportunity to redeem their sins”. Beyond this, the poor is seen as an image of Christ, Jesus having said “whatever you do to the least of these, you will do to me”. Helping the poor, doing a work of mercy, is a means of salvation.

For Saint Thomas Aquinas, charity is thus essential to correct social inequalities by redistributing wealth through almsgiving***. In the Middle Ages, merchants were seen as useful, even virtuous, since they allowed wealth to circulate within the community. Priests played the role of social assistants, helping the sick, the elderly and the disabled. The hospices and xenodochia of the Middle Ages (ξενοδοχεῖον, that “place for strangers,” ξένος) are the symbol of this care of the poor. And quite often, poverty is not limited to material capital, but also social and cultural, to use a more contemporary terminology.

Towards the end of the Middle Ages, the figure of the “bad poor”, the parasitic and dangerous vagabond, appeared. In line with Weber, Todeschini (2021) insists on the increasing value attached to work and social “usefulness”. Brant (1494), the first, begins to denounce these welfare recipients, “some become beggars at an age when, young and strong, and in full health, one could work: why bother”. For Fulconis & Kikichi (2017), this mistrust is reinforced with the great pandemic of the Black Death. Colombi (2020) returns to this turning point, at the end of the Middle Ages, when in the cities, the bourgeois closed their districts with chains, to avoid that “poor and foreigners” settle there. The hygienic theories of the end of the 19th century added the final touch: if fevers and diseases were caused by insalubrity and poor living conditions, then by keeping the poor out, they were protected from disease.

Poor… by choice?

In the words of Mollat (2006) “the poor are those who, permanently or temporarily, find themselves in a situation of weakness, dependence, humiliation, characterized by the deprivation of means, variable according to the times and the societies, of power and social consideration”. Recently, Cortina (2022) proposed the term “aporophobia”, or “pauvrophobia”, to describe a whole set of prejudices that exist towards the poor. The unemployed are said to be welfare recipients and lazy, says Lamy; it is also the famous “where there is a will there is a way”, (which can be found in contemporary expressions such as “those who don’t want to do anything, those who don’t want to work” or “I’ll cross the street and find you a job”). And as is often the case, these prejudices, which stigmatize a group, “the poor”, lead to fear or hatred, generating an important cleavage, and finally a form of discrimination. Cortina’s (2022) “pauvrophobia” is a discrimination against social precariousness, which would be almost more important than “usual” forms of discrimination, such as racism or xenophobia. Cortina ironically notes that rich foreigners are often not rejected.

But these prejudices also turn into accusations. Szalavitz (2017) thus abruptly asks the question, “Why do we think poor people are poor because of their own bad choices?”. The “actor-observer” bias provides one element of an answer: we often think that it is circumstances, which constrain our own choices, but that it is the behavior of others that changes theirs. In other words, others are poor because they made bad choices, but if I am poor, it is because of an unfair system. This bias is also valid for the rich: winners often tend to believe that they got where they are by their own hard work, and that they therefore deserve what they have.

Social science studies show, however, that the poor are rarely poor by choice, and increasing inequality and geographic segregation do not help. The lack of empathy then leads to more polarization, more rejection and, in a vicious circle, even less empathy.

Links between wealth and risk(s)

To discriminate is to distinguish (exclude or prefer) a person because of his/her “personal characteristics”. Can we then speak of discrimination against the poor? Is poverty (like gender or skin color) a personal characteristic? In Quebec, “social condition” (which explicitly includes poverty) is one of the protected variables and therefore prohibited discrimination. This is not the case in France. As Barry & Charpentier (2021) remind us, when actuaries calculate a premium, discrimination directly linked to risk, and provided that the variable is not protected, is generally seen as legitimate. However, it is well known that wealth or social status has a lot to do with risk, whatever it may be. At the global level, Denis Hatzfeld reminds us that “earthquakes are much more deadly in poor countries than in developed countries, which have gradually learned to protect themselves from them. Similarly, Le Hir (2010) states that “A schoolboy is 400 times more likely to die in an earthquake in Kathmandu than in Tokyo”.

This is true for most risks. In France, we find in the deaths due to road accidents 3% of executives and 15% of workers, while they represent nearly 20% of the working population each, according to ONISR (2022). Blanpain (2018) points out that the gap in life expectancy at birth is 13 years between the most affluent and the most modest men. Recently, Allain (2022) noted that the most modest French people, at comparable age and sex, had almost three times more diabetes, twice as much liver or pancreatic disease, 1.6 times more chronic respiratory disease, etc. than the average. Cambois, Laborde and Robine (2008) similarly noted that the number of years of disability for blue-collar workers is also much higher, over a shorter life span on average.

The use of credit scores in insurance

In North America, companies such as Experian, Equifax and TransUnion keep records of the borrowing and repayment activities of all individuals with bank accounts. FICO (Fair Isaac Corporation) offers a formula to convert these records into a score, the credit score. This score is a function of debt and available credit, income and its variations, and history of incidents, bankruptcies or simple delinquencies. It is often seen as an assessment of a person’s creditworthiness, or the likelihood that he or she will repay debts. It is by nature closely related to income (Crowe 2022), making the credit score a robust proxy for wealth. Fourcade and Healy (2013) show that, as a good credit score has become a necessary condition for obtaining credit and maintaining purchasing power, this system has come to create an impenetrable wall between advantaged and disadvantaged classes. In a sense, a bad credit score becomes a self-fulfilling prophecy: people with a bad score (and therefore considered high risk by banks) become dependent on short-term alternatives. This increases the costs of future financing, thus the probability of default (François 2021) but also the probability of not finding a job (this score can be requested by employers****). “Using credit scores to punish the poor exacerbates existing socioeconomic inequalities,” Wang (2018) thus aptly asserts.

As an example, Table 1 compares a few parameters based on people’s credit scores, including the rate obtained for a $150,000 loan over a 30-year horizon, and the average insurance premium charged for car insurance (for a 30-year-old driver, driving 20,000km per year, in the city).

Table 1: Actual price of a $150,000 loan and the amount of a car insurance premium (for comparable coverage and risk profile), based on credit score (ranging from 300 to 850). Source: InCharge Debt Solutions.

Kiviat (2019) has extensively studied the use of credit scores in the pricing of auto insurance in the United States. The US regulator has indeed looked at the proven link between bad credit score and auto risk. What explanation can be given for this correlation? Wouldn’t the score be an indicator of poverty and not a proxy for the driver’s prudence as insurers claim? For if social condition is not a protected variable as it is in Canada, it is still largely associated with skin color, which is a prohibited variable. Discriminating on the basis of credit score could therefore amount to prohibited racial discrimination. By examining the debates around these issues, Kiviat highlights the ethical complexity of using facially neutral variables. And if, as noted above, poor living conditions increase risk in general, it is worth asking whether insurance is not helping to apply the double whammy that Martin Hirsch spoke of to the poor.

References

Allain, S. (2022). Les maladies chroniques touchent plus souvent les personnes modestes et réduisent davantage leur espérance de vie. DREES, 1243
Blanpain, N. (2018). L’espérance de vie par niveau de vie : chez les hommes, 13 ans d’écart entre les plus aisés et les plus modestes. Insee, Insee Première, 1687.
Bourdelais, P. (2001) Les hygiénistes: enjeux, modèles et pratiques. Éditions Belin.
Brant, S. (1494). La Nef des fous (Das Narrenschiff).
Cambois, E., Laborde, C & Robine, J.M. (2008). La “double peine” des ouvriers : plus d’années d’incapacité au sein d’une vie plus courte. Population & Sociétés, n° 441.
Caplovitz, D. (1963). Poor pay more; consumer practices of low-income families. Free Press.
Colombi, D., (2020). Où va l’argent des pauvres. Payot.
Cortina, A. (2022). Aporophobia: Why We Reject the Poor Instead of Helping Them. Princeton University Press.
Crowe, A. (2022). The Relationship Between Income and Credit Score. Credit Sesame Personal Finance and Credit Survey,
Fourcade, M. & Healy, K. (2013). Classification situations: Life-chances in the neoliberal era, Accounting, Organizations and Society, 38 (8): 559–572
François, P. (2021). Catégorisation, individualisation. Retour sur les scores de crédit. Chaire PARI, WP #24.
Fulconis, M. & Kikuchi, C. (2017) Vu du Moyen Âge : du « bon pauvre » au « mauvais pauvre ». The Conversation.
Grossetête, M. (2012) Accidents de la route et inégalités sociales. Les morts, les médias et l’État, Éditions du Croquant.
Kiviat, B. (2019). The moral limits of predictive practices: The case of credit-based insurance scores. American Sociological Review, 84(6), 1134-1158.
Lamy, T. (2022) Assistés, paresseux… pour 50% des Français, les chômeurs sont responsables de leur situation. Capital, décembre 2022
Lauer,J. (2017) Creditworthy: A History of Consumer Surveillance and Financial Identity in America, Columbia University Press.
Le Hir, P. (2010). Catastrophes et pauvreté, la double peine. Le Monde, 22 janvier,
Merton, R. (1968). The Matthew effect in science, Science, vol. CLIX, n° 3810
Mollat, M. (2006). Les pauvres au moyen age (Vol. 11). Éditions Complexe.
ONISR (2022). La sécurité routière en France, bilan de l’accidentalité de l’année 2021. https://bit.ly/3QmuR8H
Pratchett, (1993) Men at Arms, 15ème tome du cycle Discworld, Victor Gollancz Ed.
Smith, A. (1759). La Théorie des sentiments moraux. Presses Universitaires de France, Quadrige.
Szalavitz, M. (2017). Why do we think poor people are poor because of their own bad choices. The Guardian, 5 Juillet
Todeschini, G. (2021) Moyen Âge. La pauvreté a-t-elle un sens ? L’Histoire, février 2021.
Wang, J. (2018), Carceral Capitalism, MIT Press.
Weber, M. (1990 [1904]). L’éthique protestante et l’esprit du capitalisme, Pocket.

* Study entitled “Study of the double poverty penalty in France“, published at the end of 2022 by Action Tank Entreprise & Pauvreté, Boston Consulting Group and the Banque Postale

** This phenomenon, widely studied in the 1960s, see Caplovitz (1963), is known in economics as the “boot theory” (popularized by Pratchett’s novel (1993)), “take boots, for example. A really good pair of leather boots costs fifty dollars. But an affordable pair of boots, which were sort of OK for a season or two and then leaked like hell when the cardboard gave out, cost about ten dollars (…). But the thing was that good boots lasted for years and years.”

*** The notion of redistribution can be contrasted with the “Matthew effect” as defined by Merton (1950). Inspired by a passage from the Gospel according to St. Matthew (which he reverses), he states that “to him who has shall be given, and he shall have plenty; but to him who has not, even that which he has shall be taken away.”

**** This rating practice is actually not new and dates back to the late 19th century: Josh Lauer (2017) shows that as early as 1870, so well before big data or even credit cards, US banks employed assessors to make financial strength reports on people. For Lauer, it is a gigantic surveillance system that was set up at the beginning of the 20th century, leading to the algorithmic credit scores as we know them today (see also François (2021)).

Publications

Y-a-t-il une discrimination contre les pauvres ?

Leave a comment

(Avec Laurence Barry, on a écrit un court article sur la discrimination contre les pauvres)

En 2013, Martin Hirsch affirmait “cela devient cher d’être pauvre”. Cette réalité a été confirmée par une récente étude de la Banque Postale*, qui montrait qu’en moyenne, un ménage pauvre doit payer 1500 euros en plus chaque année pour accéder aux mêmes biens et services qu’un ménage plus aisé, introduisant une “double pénalité** de pauvreté”. Hélas, l’assurance n’est pas en reste : l’utilisation de score de crédit dans de nombreux pays vient en effet renforcer ce qui pourrait s’apparenter à une forme de discrimination des pauvres. Aux États-Unis, où la pratique est plus courante qu’ailleurs, une commission d’enquête a ainsi tenté récemment d’expliquer le lien entre score de crédit et fréquence de sinistres : est-ce parce que, comme l’avancent certains assureurs, les personnes ayant un score plus faible sont aussi moins prudents que les autres ? Ou serait-ce parce que, ayant moins de moyens financiers que d’autres ils demandent plus naturellement à être indemnisés pour les sinistres encourus ? Et, dans ce deuxième cas de figure, n’est-on pas là aussi en train de leur faire payer deux fois leur condition ?

De l’excellence à la richesse comme vertu

Sur quels critères admirent-on les gens ? Pour les Grecs, l’excellence, ou arêté (ἀρετή), était une vertu majeure. Cette excellence allait au-delà de l’excellence morale: dans le monde gréco-romain, le terme évoquait une forme de noblesse, reconnaissable à la beauté, la force, le courage, ou l’intelligence de la personne. Or cette excellence n’avait pas grand-chose à voir avec la richesse : ainsi Hérodote s’étonne-t-il que les vainqueurs des jeux de l’Olympe se contentent d’une couronne d’olivier et d’un « glorieux renom », péri arêtes (περὶ ἀρετῆς). Dans la vision éthique grecque, notamment chez les stoïciens, une « vie bonne » ne dépend pas de la richesse matérielle – précepte poussé à son comble par Diogène qui, voyant un enfant boire dans ses mains à la fontaine, jette l’écuelle qu’il avait pour toute vaisselle, se disant que c’est là-encore une richesse inutile.

La société grecque n’en demeure pas moins une société profondément hiérarchique, même si elle est organisée autour de valeurs autres que la richesse matérielle. On peut alors se demander à quel moment de l’histoire occidentale la richesse est devenue la mesure de toute chose. On pense alors à la théorie de Max Weber : l’éthique du protestantisme pousse au travail et à la réussite terrestre comme révélation d’une élection divine à venir : les riches de ce monde seraient les élus du prochain. De la même manière Adam Smith, portant un regard critique sur la naissance du capitalisme dans la société de son temps, intitule un chapitre de La théorie des sentiments moraux (1759) “De la corruption de nos sentiments moraux occasionnée par cette disposition à admirer les riches et les grands, et à mépriser ou négliger les personnes pauvres et d’humble condition.”

Aujourd’hui, le culte de la richesse semble n’avoir jamais été aussi fort et la réussite matérielle est presque élevée au rang de vertu. En contrepartie, la pauvreté devient un stigmate dont il est difficile de se défaire ; mais l’histoire nous montre que ceci n’a rien de naturel.

Du “bon” au “mauvais” pauvre

En effet, le pauvre n’a pas toujours été “mauvais”. Comme le rappellent Fulconis & Kikichi (2017), l’Église a largement contribué à diffuser l’image du “bon pauvre”, tel qu’elle apparait dans les Evangiles: “heureux vous les pauvres, le royaume de Dieu est à vous” ; ou encore “Dieu aurait pu faire tous les hommes riches, mais il voulut qu’il y ait des pauvres en ce monde, afin que les riches aient une occasion de racheter leurs péchés”. Au-delà de ce faire-valoir, le pauvre est vu comme une image du Christ, Jésus ayant dit “ce que vous ferez au plus petit d’entre les miens, c’est à moi que vous le ferez”. Aider le pauvre, faire œuvre de miséricorde, c’est un moyen de faire son salut.

Pour Saint Thomas d’Aquin, la charité est ainsi essentielle pour corriger les inégalités sociales en redistribuant les richesses par l’aumône***. Au Moyen-Âge, le marchand est vu comme utile, voire vertueux, puisqu’il permet aux richesses de circuler au sein de la communauté. Les prêtres jouent alors le rôle d’assistants sociaux, en aidant les malades, les vieillards, les invalides. Les hospices et les xenodochia du Moyen-Âge (ξενοδοχεῖον, ce “lieu pour étrangers”, ξένος) sont le symbole de cette prise en charge des pauvres. Et bien souvent, la pauvreté ne se limite pas au capital matériel, mais aussi social et culturel, pour reprendre une terminologie plus contemporaine.

Vers la fin du Moyen-Age, la figure du « mauvais pauvre », du vagabond parasite et dangereux, fait son apparition. Dans la lignée de Weber, Todeschini (2021) insiste sur la valeur croissante attachée au travail, et à l’ « utilité » sociale. Brant (1494), le premier, commence à dénoncer ces assistés, “certains se font mendiants à l’âge où, jeune et fort, et en pleine santé on pourrait travailler : pourquoi se fatiguer”. Pour Fulconis & Kikichi (2017), cette défiance se renforce avec la grande pandémie de Peste Noire. Colombi (2020) revient sur ce tournant, à la fin du Moyen-Âge, où dans les villes, les bourgeois ferment leurs quartiers par des chaînes, pour éviter que des “pauvres et étrangers” s’y installent. Les théories hygiénistes de la fin XIXème siècle viendront ajouter la touche finale : si les fièvres et les maladies ont pour cause l’insalubrité et les mauvaises conditions de vie, en écartant les pauvres, on se protège des maladies.

Pauvres… par choix ?

Pour reprendre les termes de Mollat (2006) “le pauvre est celui qui, de façon permanente ou temporaire, se retrouve dans une situation de faiblesse, de dépendance, d’humiliation, caractérisée par la privation de moyens, variables selon les époques et les sociétés, de puissance et de considération sociale”. Récemment, Cortina (2022) proposait le terme “aporophobie”, ou “pauvrophobie”, pour décrire tout un ensemble de préjugés qui existent envers les pauvres. Les chômeurs seraient des assistés et des paresseux, nous dit Lamy ; c’est aussi le fameux “quand on veut on peut”, (que l’on retrouve dans des expressions contemporaines telles que “ceux qui ne veulent rien faire, ceux qui ne veulent pas travailler” ou encore “je traverse la rue et je vous trouve un travail”). Et comme souvent, ces préjugés, qui stigmatisent un groupe, “les pauvres”, conduisent à la peur ou la haine, engendrant un clivage important, et finalement une forme de discrimination. La “pauvrophobie” de Cortina (2022) est une discrimination envers la précarité sociale, qui serait presque plus importante que les formes « usuelles » de discrimination, comme le racisme ou la xénophobie. Cortina note ironiquement que souvent, les étrangers riches ne sont pas rejetés.

Mais ces préjugés tournent aussi en accusation. Szalavitz (2017) pose ainsi abruptement la question : “Pourquoi pensons-nous que les pauvres sont pauvres à cause de leurs propres mauvais choix ?”. Le biais “acteur-observateur” fournit un élément de réponse : nous pensons souvent que ce sont les circonstances, qui contraignent nos propres choix, mais que c’est le comportement des autres qui modifie les leurs. Autrement dit, les autres sont pauvres parce qu’elles ont fait de mauvais choix, mais si je suis pauvre, c’est à cause d’un système injuste. Ce biais est aussi valide pour les riches : les gagnants ont ainsi souvent tendance à croire qu’ils sont arrivés là où ils sont par leur travail seul, et qu’ils méritent donc ce qu’ils ont.

Les études en sciences sociales montrent cependant que les pauvres le sont rarement par choix, et l’augmentation des inégalités et de la ségrégation géographique n’arrange rien. Le manque d’empathie favorise alors une plus grande polarisation, davantage de rejet et, bouclant le cercle vicieux, encore moins d’empathie.

Liens entre richesse et risque(s)

Discriminer, c’est distinguer (exclure ou préférer) une personne en raison de ses “caractéristiques personnelles”. Peut-on alors parler de discrimination contre les pauvres ? La pauvreté (au même titre que le sexe, ou la couleur de peau) est-elle une caractéristique personnelle ? Au Québec, la “condition sociale” (incluant explicitement la pauvreté) fait partie des variables sensibles et donc des discriminations interdites. Ce n’est pas le cas en France. Comme le rappelaient Barry & Charpentier (2021), lorsque les actuaires calculent une prime, les discriminations liées directement au risque, et pour autant que la variable ne soit pas protégée, sont vues en général comme légitimes. Or il est bien connu que la richesse, ou le statut social a beaucoup de lien avec le risque, quel qu’il soit. Au niveau mondial, Denis Hatzfeld rappelle que “les séismes sont beaucoup plus meurtriers dans les pays pauvres que dans les pays développés qui ont appris progressivement à s’en protéger ». De la même manière, Le Hir (2010) affirme que « Un écolier a 400 fois plus de probabilités de mourir dans un tremblement de terre à Katmandou qu’à Tokyo ».

Ce constat se retrouve sur la majorité des risques. En France, on trouve dans les décès dus aux accidents de la route 3% de cadres supérieurs et 15% d’ouvriers, alors qu’ils représentent près de 20% de la population active chacun, selon ONISR (2022). Blanpain (2018) rappelle que l’écart d’espérance de vie à la naissance est de 13 ans entre les hommes les plus aisés et les plus modestes. Récemment, Allain (2022) relevait que les Français les plus modestes, à âge et sexe comparable, avaient presque trois fois plus de diabète, deux fois plus de maladies du foie ou du pancréas, 1,6 fois plus de maladies respiratoires chroniques, etc. que la moyenne. Cambois, Laborde et Robine (2008) notaient de même que le nombre d’années d’incapacité pour les ouvriers est également beaucoup plus élevé, sur une vie plus courte en moyenne.

De l’usage des scores de crédit en assurance

En Amérique du Nord, des compagnies comme Experian, Equifax ou TransUnion tiennent des registres des activités d’emprunt et de remboursement de l’ensemble des personnes titulaires d’un compte bancaire. La société FICO (Fair Isaac Corporation) propose une formule permettant de convertir ces registres en une note, le score de crédit. Ce score est fonction de la dette et du crédit disponible, du revenu et de ses variations, et de l’historique d’incidents, de faillites ou de simples retards. Il est souvent perçu comme une évaluation de la solvabilité d’une personne, ou la probabilité qu’elle rembourse ses dettes. Il est par nature étroitement lié avec le revenu (Crowe 2022), faisant du score de crédit un proxy robuste de la richesse. Fourcade et Healy (2013) montrent que, comme un bon score de crédit est devenu une condition nécessaire pour obtenir un crédit et maintenir son pouvoir d’achat, ce système en est venu à créer un mur infranchissable entre classes favorisées et défavorisées. En un sens, un mauvais score de crédit devient une prophétie auto-réalisatrice : en effet, les personnes ayant un mauvais score (donc considérées comme à haut risque par les banques) deviennent dépendantes d’alternatives à court terme. Ceci augmente les coûts des financements futurs, donc la probabilité de défaut (François 2021) mais aussi celle de ne pas trouver d’emploi (ce score pouvant être demandé par les employeurs****). “L’usage des scores de crédit pour punir les pauvres exacerbe les inégalités socio-économiques existantes », affirme ainsi Wang (2018) avec justesse.

Pour l’exemple, le Tableau 1 compare quelques paramètres en fonction du score de crédit des personnes, notamment le taux obtenu pour un emprunt de 150,000$ sur un horizon de 30 ans, et la prime d’assurance moyenne demandée pour une assurance automobile (pour un conducteur de 30 ans, conduisant 20,000km par an, en ville).

Tableau 1: Prix réel d’un emprunt de 150,000$ et montant d’une prime d’assurance automobile, en fonction du score de crédit (allant de 300 à 850). Source: InCharge Debt Solutions.

Kiviat (2019) a longuement étudié l’usage des scores de crédit dans la tarification de l’assurance automobile aux Etats-Unis. Le régulateur américain s’est en effet penché sur le lien avéré entre mauvais score de crédit et risque automobile. Quelle explication peut-on donner à cette corrélation ? Est-ce que le score ne serait pas un indicateur de pauvreté et non un proxy de la prudence du conducteur comme l’avancent les assureurs ? Car si la condition sociale n’est pas comme au Canada une variable protégée, elle est encore largement associée à la couleur de peau, qui est, elle, une variable interdite. Discriminer en fonction du score de crédit pourrait alors bien se ramener à une discrimination raciale prohibée. L’examen des débats autour de ces questions permet à Kiviat de mettre en évidence la complexité éthique de l’usage de variables facialement neutres. Et si, comme indiqué plus haut, les mauvaises conditions de vie augmentent les risques de façon générale il serait bon de se demander si l’assurance ne contribue pas à appliquer aux pauvres cette double-peine dont parlait Martin Hirsch.

Références

Allain, S. (2022). Les maladies chroniques touchent plus souvent les personnes modestes et réduisent davantage leur espérance de vie. DREES, 1243
Blanpain, N. (2018). L’espérance de vie par niveau de vie : chez les hommes, 13 ans d’écart entre les plus aisés et les plus modestes. Insee, Insee Première, 1687.
Bourdelais, P. (2001) Les hygiénistes: enjeux, modèles et pratiques. Éditions Belin.
Brant, S. (1494). La Nef des fous (Das Narrenschiff).
Cambois, E., Laborde, C & Robine, J.M. (2008). La “double peine” des ouvriers : plus d’années d’incapacité au sein d’une vie plus courte. Population & Sociétés, n° 441.
Caplovitz, D. (1963). Poor pay more; consumer practices of low-income families. Free Press.
Colombi, D., (2020). Où va l’argent des pauvres. Payot.
Cortina, A. (2022). Aporophobia: Why We Reject the Poor Instead of Helping Them. Princeton University Press.
Crowe, A. (2022). The Relationship Between Income and Credit Score. Credit Sesame Personal Finance and Credit Survey,
Fourcade, M. & Healy, K. (2013). Classification situations: Life-chances in the neoliberal era, Accounting, Organizations and Society, 38 (8): 559–572
François, P. (2021). Catégorisation, individualisation. Retour sur les scores de crédit. Chaire PARI, WP #24.
Fulconis, M. & Kikichi, C. (2017) Vu du Moyen Âge : du « bon pauvre » au « mauvais pauvre ». The Conversation.
Grossetête, M. (2012) Accidents de la route et inégalités sociales. Les morts, les médias et l’État, Éditions du Croquant.
Kiviat, B. (2019). The moral limits of predictive practices: The case of credit-based insurance scores. American Sociological Review, 84(6), 1134-1158.
Lamy, T. (2022) Assistés, paresseux… pour 50% des Français, les chômeurs sont responsables de leur situation. Capital, décembre 2022
Lauer,J. (2017) Creditworthy: A History of Consumer Surveillance and Financial Identity in America, Columbia University Press.
Le Hir, P. (2010). Catastrophes et pauvreté, la double peine. Le Monde, 22 janvier,
Merton, R. (1968). The Matthew effect in science, Science, vol. CLIX, n° 3810
Mollat, M. (2006). Les pauvres au moyen age (Vol. 11). Éditions Complexe.
ONISR (2022). La sécurité routière en France, bilan de l’accidentalité de l’année 2021. https://bit.ly/3QmuR8H
Pratchett, (1993) Men at Arms, 15ème tome du cycle Discworld, Victor Gollancz Ed.
Smith, A. (1759). La Théorie des sentiments moraux. Presses Universitaires de France, Quadrige.
Szalavitz, M. (2017). Why do we think poor people are poor because of their own bad choices. The Guardian, 5 Juillet
Todeschini, G. (2021) Moyen Âge. La pauvreté a-t-elle un sens ? L’Histoire, février 2021.
Wang, J. (2018), Carceral Capitalism, MIT Press.
Weber, M. (1990 [1904]). L’éthique protestante et l’esprit du capitalisme, Pocket.

* Étude intitulée “Etude de la double pénalité de pauvreté en France”, publiée fin 2022 par Action Tank Entreprise & Pauvreté, Boston Consulting Group et la Banque Postale

** Ce phénomène, largement étudié dans les années 60, voir Caplovitz (1963), est connu en économie sous le nom de la “théorie des bottes” (popularisée par le roman de Pratchett (1993)), “take boots, for example. A really good pair of leather boots cost fifty dollars. But an affordable pair of boots, which were sort of OK for a season or two and then leaked like hell when the cardboard gave out, cost about ten dollars (…). But the thing was that good boots lasted for years and years.”

*** A la notion de redistribution, on peut opposer « l’effet Matthieu » tel que défini par Merton (1950). Inspiré par un passage de l’Évangile selon saint Matthieu (qu’il renverse), il affirme que « on donnera à celui qui a, et il sera dans l’abondance, mais à celui qui n’a pas, on ôtera même ce qu’il a ».

**** Cette pratique de notation n’est en fait pas nouvelle et date de la fin du XIXe siècle : Josh Lauer (2017) montre en effet que dès 1870, donc bien avant le big data ou même les cartes de crédit, les banques états-uniennes employaient des assesseurs pour établir des rapports de solidité financière sur les personnes. Pour Lauer, c’est un gigantesque système de surveillance qui se met en place dès le début du XXe siècle, pour aboutir aux scores de crédit algorithmiques tels qu’on les connait aujourd’hui (voir aussi François (2021)).

Conferences, Statistics

Quantifying fairness and discrimination in predictive models 

Leave a comment

In about ten days, late in the evening (Montréal time), I will attend the 16th Annual Conference of Thailand Econometric Society (on Machine Learning for Econometrics and Related Topics), at Chiang Mai University (มหาวิทยาลัยเชียงใหม่). I will give a talk (introductionary talk, at 21:30 pm, with the jet lag) on quantifying fairness and discrimination in predictive models (the state-of-the-art paper I will present is online on arXiv) and the slides are now also available (I won’t be able to go to Chiang Mai, unfortunately, and I will be on zoom).

The analysis of discrimination has long interested economists and lawyers. In recent years, the literature in computer science and machine learning has become interested in the subject, offering an interesting re-reading of the topic. These questions are the consequences of numerous criticisms of algorithms used to translate texts or to identify people in images. With the arrival of massive data, and the use of increasingly opaque algorithms, it is not surprising to have discriminatory algorithms, because it has become easy to have a proxy of a sensitive variable, by enriching the data indefinitely. According to Kranzberg (1986), “technology is neither good nor bad, nor is it neutral”, and therefore, “machine learning won’t give you anything like gender neutrality `for free’ that you didn’t explicitely ask for”, as claimed by Kearns et a. (2019). In this article, we will come back to the general context, for predictive models in classification. We will present the main concepts of fairness, called group fairness, based on independence between the sensitive variable and the prediction, possibly conditioned on this or that information. We will finish by going further, by presenting the concepts of individual fairness. Finally, we will see how to correct a potential discrimination, in order to guarantee that a model is more ethical

Seminar

Talk on fairness and “differential pricing” in insurance

Leave a comment

Tomorrow morning, I will give a talk on fairness, “differential pricing” and “price walking” in insurance, at the AXA Chief Actuary Meeting. Slides are available online.

I will get back on two reports published recently (that can be related to the recent EIOPA consultation)

The first one was the report by the Sweedish Finans Inspektionen, Fär lojala försäkringstagare betala mer?

and the study by the Central Bank of Ireland.

They get back on price walking, seen as a discrimination problem,

It found that pricing practices applied by insurance providers could result in unfair outcomes for some consumers in the private car and home insurance markets. These pricing practices include “price walking”, where consumers are charged higher premiums, relative to the expected cost, the longer they remain with an insurance provider. The Report indicates that the CBI considers this practice to be unfair, a point emphasised in the press release accompanying the report. The Report found that long term customers who stayed with the same insurer for 9 years or more, paid on average 14% more on private car insurance and 32% more on home insurance than the equivalent customer renewing for the first time.

They provide interesting graphs, with prices of motor insurance

as well as household insurance,