Tag Archives: proxy

Discrimination par proxy, et les tatouages au Japon

La discrimination par proxy est un sujet qui m’interpelle depuis plusieurs mois maintenant (j’y reviens longuement dans le chapitre Some Examples of Discrimination dans le livre Insurance, Biases, Discrimination and Fairness). Et récemment, j’ai essayé de mieux comprendre l’interdiction des personnes tatouées dans les onsen (温泉) au Japon. Les onsen sont des bains utilisant de l’eau de source naturelle, souvent liés à des ryokan (旅館, des auberges traditionnelles) ou des stations thermales. Beaucoup affichent explicitement des panneaux 「入れ墨お断り」 (« tatouages interdits »).

(刺青・タトゥーのある方の入浴はお断り致します, autrement dit « l’entrée est interdite aux personnes ayant des tatouages »)

Le terme “discrimination par proxy” désigne une forme d’exclusion où l’on n’interdit pas directement l’accès à un groupe cible (par exemple des criminels, des étrangers ou une minorité), mais à un signe extérieur ou une caractéristique perçue comme un substitut de ce groupe. Autrement dit, un critère apparemment neutre sert d’indice indirect pour appliquer une mesure discriminatoire. Comme le rappellent Barocas et Selbst (2016), certains traits « en apparence anodins » fonctionnent comme des substituts de catégories socialement stigmatisées. Schauer (2006) parlera de son côté de « stéréotype ». Il utilise d’ailleurs l’exemple des tatouages dans son introduction

Insurance companies, of course, are not the only ones who operate actuarially. We all do, with far more frequency than most people typically acknowledge (…). We operate actuarially when we associate personal characteristics such as a shaved head, a tattoo, and black clothing with behavioral characteristics, such as racist beliefs and a propensity to violence, that the personal characteristics seem probabilistically but not inexorably to indicate.

Les tatouages comme discrimination par proxy

La notion de proxy discrimination désigne une exclusion basée non pas sur un critère prohibé directement, mais sur un indicateur corrélé à ce critère. Comme le résume Barocas et Selbst (2016), « des traits apparemment neutres peuvent fonctionner comme des substituts pour des catégories protégées » (Big Data’s Disparate Impact). Appliqué aux tatouages, le raisonnement est le suivant : les tatouages en eux-mêmes ne sont pas dangereux, mais ils sont perçus comme le signe d’une appartenance à des groupes criminels.

La littérature académique a montré que les tatouages véhiculent une image sociale négative dans de nombreuses cultures. Steffeck (2014) décrit par exemple la persistance de stéréotypes associant tatouages et marginalité sociale, dans un contexte professionnel. Ainsi, refuser l’entrée aux tatoués n’a pas pour objectif de sanctionner l’art corporel, mais d’exclure des catégories perçues comme indésirables : les criminels, les violents, ou plus largement les « outsiders ». C’est précisément le cœur de la logique de proxy discrimination.

La spécificité japonaise : du tatouage punitif au stigmate social

Le Japon illustre ce mécanisme de manière exacerbée en raison de son histoire particulière avec le tatouage. À l’époque Edo (1603–1868), les autorités pratiquaient l’irezumi-kei (入れ墨刑), une peine qui consistait à tatouer de manière infamante les criminels sur des parties visibles du corps. Cette pratique fit du tatouage un stigmate judiciaire, marquant les individus de manière indélébile.

Sous l’ère Meiji, le tatouage fut interdit (jusqu’en 1948), renforçant son image négative dans la société. Au XXᵉ siècle, les yakuza firent du tatouage intégral (irezumi) un signe d’identité et de loyauté. Dès lors, le tatouage est devenu pour l’opinion publique un symbole quasi exclusif du crime organisé.

Dans ce contexte, l’interdiction des tatouages dans les onsen apparaît comme une stratégie de prévention indirecte : les exploitants refusent non pas les criminels eux-mêmes – ce qui serait difficile à vérifier – mais un signe extérieur fortement associé à la criminalité. Le tatouage devient ainsi un « proxy » pratique pour l’exclusion.

D’autres exclusions : l’exemple des étrangers dans les bains publics

Le cas des tatoués n’est pas isolé : les onsen et sentō (bains publics) ont également pratiqué, à certaines époques, l’exclusion des étrangers (gaijin). Dans les années 1990–2000, plusieurs litiges ont opposé des non-Japonais à des exploitants qui refusaient l’entrée aux personnes « d’apparence étrangère », comme le montre l’affaire d’Otaru (Webster, 2008).

L’argument avancé par certains propriétaires était que les étrangers ne connaissaient pas les règles implicites de politesse ou d’hygiène des bains, et qu’ils risquaient donc de troubler l’harmonie du lieu. Ici encore, il s’agit de discrimination par proxy : être étranger ou avoir une apparence différente était utilisé comme indicateur d’un risque de comportement indésirable, alors même qu’aucune faute n’avait été commise.

La mise en parallèle de ces deux cas – tatoués et étrangers – montre une logique commune : l’exclusion préventive fondée sur un stigmate visible, et non sur des actes effectifs. Comme le souligne Ito (2016), l’espace public japonais reste marqué par une tension entre inclusion universelle et pratiques locales d’exclusion, justifiées au nom de la préservation de l’harmonie sociale.

Quand l’interdiction devient une blague

Pour l’anecdote, il existe d’autres endroits où afficher des tatouages est (explicitement) prohibé. L’autre jour, je suis passé devant une immense salle de pachinko (パチンコ), en plein centre ville de Kyoto, dans une des rues commençantes les plus passantes, avec une affiche interdisant d’avoir des tatouages visibles…

Pour conclure sur une note positive, il faut rappeler que les Japonais savent aussi manier l’autodérision et détourner avec humour la rigidité de ces pancartes d’interdiction. Dans certains quartiers populaires, on trouve des banderoles pastiches annonçant par exemple « ハゲの入店 お断りいたします » (« L’entrée est interdite aux chauves »). Bien entendu, il ne s’agit pas de véritables interdictions, mais de clins d’œil qui parodient les formules trop sérieuses des panneaux officiels comme « tatouages interdits » ou « entrée interdite aux étrangers ». Ces exemples rappellent que, malgré le poids culturel et historique des exclusions réelles, la société japonaise sait aussi les tourner en dérision et jouer avec l’absurde pour faire sourire les passants.

Fairness and discrimination, PhD Course, #7 Sensitive attributes and proxies

In our previous post, we discussed “group fairness“. I might have gone a bit fast, and I decided to add some material about sensistive attributes, and proxies.

Sensitive attributes ?

Almost everywhere, we can find a list of variables that are considered, by law, as sensitive, since they will lead to discrimination. As mentioned earlier, sensitive variable might change with time, and accross regions…

Another issue with black boxes is that it might be hard to assess if they are related to sensitive attribute. In order to extract informations in pictures to classify pictures, or detect pictures, algorithm might use information that could be considered as sensitive. First, recall the popular wolf-husky classifier, that detects snow in the background (since wolf were with snow in the training sample)

This can also be the case for health issues, where classifiers can be influenced by the color of the skin (or possibly some unexpected information)

Racism

The first sensitive attribute is probably the race, that has been discussed in insurance for decaded.

One should keep in mind that race is a social information, and most of the time, it is based on self-identification

This leads to popular maps in the U.S.

Racism is usually related to “colourism” (discrimination based on skin tone)

Is it relevant in the context of insurance, and risk ?

It has been observed that African Americans, in the U.S. were usually asked a higher insurance premium.

Have in mind that discrimination has nothing to do with intention, as mentioned previous. An insurance pricing can be racist, without any intention to be so. An important issue to quantify that problem is actually to observe that variable.

Sexism

Sexism is another popular exemple of discrimination, related to sex, or gender.

Actuaries have been using life tables that are gender related for more than 300 years. And indeed, it seems that women live longer than men.

Ageism

Age is another possible sensitive attribute, but it is more complicated. First, it is not a “club” and second, it is (somehow) clearly related to risk.

In dataset, there can also be selection bias, related to the age. For instance, during the COVID pandemic, triage was based on the age of patients. Treatements and tests can be related to the age of patients. So this bias will probably have an impact on observed risks.

Genetics

Another important sensitive variable is related to “genetic information”.

Such information is usually classified as sensitive everywhere.

To conclude, I wanted to mentioned that several important variables considered as sensitive have not much to do with genetics, but more with a social construction.

Finally, let us discuss proxies that can be related to those sensitive variables.

Names and language

The first one was discussed in the introduction : names contain information about race and ethnical origin,

Text and discussion can also reveal sensitive information.

Pictures

Pictures can also provide information. That was discussed 150 years ago, where researchers tried to identify criminals using solely pictures.

Some insurers have been trying, at some point, to detect diseases on facial pictures. And it possible to reveal informations from pictures. Possibly the age, and the gender.

One can also use satellite pictures, or pictures from Google Street View, such as the wealth in the neighborhood. And possibly sensitive information, such as the presence of an access ramp for disabled people.

Credit Scoring

Credit scoring is also a variable used by insurers, that can be related to variables considered as sensitive

Clearly, a bad credit score will have a big impact not only on mortgages and loans,

but also on insurance rates ! As we explained here, it costs a lot to be poor.

Networks

Finally, insurance can use information related to friends, or family, to assess the risk. And netword data capture a lot of sensitive information.

We will talk a little bit about network, to explain why using your friends risks to assess your own risk might not be a great idea…

It is an extension of th friendship paradox.

Proxies

Finally, we will conclude by showing that removing a sensitive attribute from a training dataset will not mitigate discrimination.