Tag Archives: intelligence artificielle

Conferences

Intelligence artificielle et blanchiment d’argent

Leave a comment

Vendredi prochain, je dois intervenir dans une conférence (en ligne) organisée à Nîmes en France. Comme j’ai (presque) fini de préparer mes slides, j’en profite pour mettre en ligne un court billet, pour remettre un peu d’ordre dans mes idées, et mes notes. J’ai tout écrit en français parce que j’ai l’impression que les juristes en France sont plus à l’aise en français.

Comme souvent, quand on me parle d’intelligence artificielle, je me sens un peu perdu, mais j’ai l’impression que le but est de disperser un peu le brouillard et la fumée. Il y a trente ans, il y avait déjà des discussions sur l’utilisation d’outils technologiques dans le contexte du blanchiment (“money laundering“)

L’an passé, McKinsey affirmait que l’apprentissage machine changerait la donne, dans la guerre contre le blanchiment,

avec quelques idées intéressantes,

Intelligence artificielle

Pour commencer, je me disais que je pourrais présenter quelques termes classiques, poser un peu le cadre général,

En apprentissage non-supervisé, on cherche des “outliers“, des transactions “anormales”

Mais en grande dimension, définir la “normalité” est compliqué (cf deux anciens billets, ici et là).

Plus classiquement, en analyse de fraude, mais aussi en analyse de blanchiment, on utilise des données labellisées, et on utilise des techniques  d’apprentissage “supervisé”. On utilise des données où des transactions sont classées comme “frauduleuse”, ou pas.

Dans l’espace des informations permettant de classer, on cherche à identifier des régions, pour les transactions qui seront prédites comme “frauduleuse” ou pas. Avec une approche probabiliste, la probabilité d’être “frauduleuse” sera élevée,

Bien entendu, on peut se tromper. Soit en laissant passer une transaction frauduleuse, soit en mettant de la suspicion sur des personnes qui ont effectué une transaction comme “frauduleuse”

En changeant le seuil à partir duquel on classe une observation comme “frauduleuse”, on peut baisser un type d’erreur (mais le prix à payer sera qu’on augmente l’autre type).

Une autre spécificité est qu’a priori, les données sont largement déséquilibrées, avec très peu d’observations réellement frauduleuses. Dans ces conditions, il est difficile d’avoir un modèle, la plupart des signaux étant jugés comme trop faibles.

Je parlerais aussi un peu des “scores” de transaction frauduleuse (j’évoquais auparavant une “probabilité” d’être frauduleuse)

On peut aussi mentionner que de nombreuses approches sont basées sur des arbres de décision.

On peut ensuite vraiment parler de “apprentissage machine”, avec des modèles a priori plus complexes, pouvant capturer des non-linéarités, des interactions, etc

Quand on a peu de données labellisées, l’apprentissage actif permet d’aider à chercher quelles transactions labellisées, pour améliorer la précision de notre classifieur. Car on dispose de milliers, de millions de données non labellisées (ce sont les petits points gris ci-dessous).

L’idée est d’aller chercher des observations dans la zone d’indécision

On va labelliser quelques observations supplémentaire, et estimer de nouveau le modèle

On peut aussi lisser, ce qui fera gagner en robustesse, et parfois aussi en interprétabilité

On peut aussi apprendre d’autres modèles. Par exemple, on peut avoir de l’expérience partagée par une autre banque, peut être dans un autre pays. Un peu d’ajustements seront nécessaires, mais ça peut être un point de départ (je mettrais en ligne, d’ici l’été, quelques billets sur l’apprentissage par transfert)

Je peux aussi parler d’apprentissage antagoniste, où on pourrait être tenté d’attaquer l’algorithme d’apprentissage, pour changer la prédiction (je parlais de l’exemple des autruches la semaine passée)

Un autre aspect important est l’explicabilité. D’un côté, on veut un modèle simple à comprendre, facile à auditer. Mais de l’autre, s’il est trop simple, les fraudeurs pourront assez facilement passer au travers des mailles du filet.

Pour résumer, on retrouvera souvent ces concepts, quand on s’interroge sur l’intelligence artificielle,

Maintenant que j’ai un peu rappelait ce que cachait le terme vague “intelligence artificielle”, revenons à nos moutons…

Blanchiment d’argent

On peut passer à la deuxième partie, et les spécificités en lien avec le blanchiment d’argent. Tout d’abord, si j’ai l’habitude de travailler un peu sur la fraude, le blanchiment est un problème sensiblement différent. En particulier, les incitations pour les banques de stopper le blanchiment sont relativement faibles…

Mais on trouve aussi des doutes du côté du régulateur. Comme le note l’EBA (European Banking Authorities), le jour où les banques bloqueront toutes les transactions frauduleuses, cela signifie que les truands auront trouvé une parade, et plus aucun contrôle (ou surveillance) ne sera possible. C’est un argument assez classique en économie de biens illicites.

Si on revient sur la définition (ici légale), on voit que ça parle de transferts d’argents dont on ne peut remonter à la source. Assez logiquement, on va voir l’utilisation de réseaux, connectant les membres (et les institutions)

C’est l’analyse de relations qui permet d’identifier les transactions frauduleuses, et les personnes qui les lient

Il y a aussi de l’analyse de données textuelles, permettant de voir des relations qui ne sont pas matérialisées forcément par des transferts monétaires. C’est lié à la recherche de noms (de personnes ou d’entreprises) dans divers documents (presse ou réseaux sociaux). Mais les données textuelles, c’est compliqué

Juste pour le plaisir, je remets quelques titres de presse où l’extraction de relation et d’information est compliquée (y compris pour un être humain parfaitement anglophone).

Plusieurs articles mentionnent aussi l’analyse de sentiments, c’est à dire associer une connotation positive ou négative à une phrase ou un document.

Et pour conclure, je peux mentionner un petit soucis qui est que les données utilisées ici sont très largement en lien avec des informations personnelles, privées, voire sensibles. Mais dans la plupart des pays, la recherche d’activités frauduleuses autorise le traitement de ces données (Bertrand, Maxwell & Vamparys (2021) rentre davantage dans l’analyse)

Je mets quelques références pour conclure, mais voilà, en 30 minutes, on aura le temps de faire un survol rapide, et introductif, pour des juristes,

Publications

Intelligence artificielle et assurance IARD

Leave a comment

L’intelligence artificielle pose de nombreux défis, tant technologiques qu’éthiques, voire philosophiques. Les problèmes les plus souvent évoqués étant le biais des données et la transparence des algorithmes (ou des modèles). Ce problème est bien connu en justice prédictive (les juristes parleraient de justice actuarielle) : les modèles doivent être interprétables, compréhensibles, et tenir compte du biais connu des données. Car à part les expériences randomisées, les données « neutres » ou « brutes » n’existent pas. Si je veux construire un score de fraude, j’utilise ainsi des données construites suite à des enquêtes pour fraudes, la majorité des observations découlant d’une suspicion préalable de fraude. Il est ainsi nécessaire de comprendre comment les données ont été collectées, ce que tout statisticien apprenait historiquement à faire. L’interprétabilité des modèles pose des questions complexes car elle est associée à un processus narratif, ce dernier proposant souvent une explication causale à un mécanisme (qui est souvent implicite dans l’idée du processus prédictif). Mais la grande majorité des modèles actuariels et d’apprentissage machine se contentent d’étudier des corrélations. Le genre est ainsi corrélé avec la sinistralité en assurance automobile, et les actuaires avaient pris l’habitude de justifier cette relation en recourant à des stéréotypes, de la même manière que la conduite d’une voiture de sport prêtait à un conducteur les pratiques de tous les conducteurs de voitures de sport. Cette généralisation par stéréotypes, au cœur du travail de l’actuaire, est aujourd’hui remise en cause par l’idée de personnalisation de l’assurance, comme cela s’observe également dans le domaine de la santé. Cette personnalisation est devenue indispensable en grande dimension : les classes de risques n’ont pas de sens. Avec plusieurs centaines de variables explicatives, plus aucun individu ne se ressemble, et il devient impossible de raconter une histoire autour d’un assuré « moyen ».

Cette personnalisation, qui flatte probablement l’ego de l’assuré, en le rendant unique casse l’idée de mutualisation et de segmentation de l’assurance. Historiquement, une forme de solidarité existait entre individus qui se ressemblaient, mais elle disparait dès lors que chaque assuré doit être vu comme un être unique. Si la théorie économique justifiait cette « spirale de la segmentation », la pratique et la théorie mathématique commence à cerner les limites. Segmenter trop signifie bien souvent que le modèle ne capture plus un signal de fond, et commence à modéliser du bruit, il overfit, et perd en généralisation : un modèle de tarification bon une année ne le sera peut-être plus l’année suivante. Les assureurs rêvent aujourd’hui en voyant les performances des modèles des GAFA qui arrivent à prédirent les prochains achats sur un site (probablement d’ailleurs en créant l’envie). Si des dialogues sont nécessaires entre ces deux mondes que tout oppose, la tortue conservatrice fascinée par son historique de données et le lièvre agile obsédé par l’avenir de l’autre, les modèles avancés d’apprentissage marchent souvent mal dans certains aspects de l’assurance IARD.

 Les algorithmes d’apprentissage profonds (des réseaux de neurones avec de très nombreuses couches, constituant des boîtes noires avec des milliers de paramètres) sont devenus incontournables pour analyser des images (prédire rapidement le coût d’un sinistre matériel automobile à partir d’une dizaine de photos du véhicule endommagé) ou pour analyser ou générer du texte (en offrant une assistance rapide et fiable à un assuré). Mais ils sont difficilement utilisables pour provisionner de manière robuste le coût d’un accident corporel et ils posent des questions intéressantes sur la tarification de l’assurance. Ces algorithmes ont été développés dans un contexte de classification, pour reconnaître des caractères manuscrits ou des objets sur une image et il y a des raisons simples pour comprendre qu’un chien est différent d’un chat sur une photo. Mais expliquer pourquoi Mr Dupont et pas Mme Dupond a eu un accident d’automobile l’an passé est plus complexe. Et ce n’est pas leur but : ces modèles visent à estimer la probabilité que Mr Dupont ait un accident dans l’année. Un modèle très poussé pourra prédire que la probabilité est de 17.23% (au lieu des 15.62% obtenue par un modèle jugé aujourd’hui trop simple), et la prime demandée doit alors augmenter de 10%. Mais est-ce si important si au final pendant les 8 années que Mr Dupont passera dans la compagnie, il n’aura aucun sinistre ? ou en aura un très grave ? L’assurance IARD relève bien souvent d’un aléa très important, la sinistralité étant en très grande partie imprévisible. Un danger est que ces algorithmes proposent des intervalles de prix beaucoup plus grands, et que la mise en compétition de ces modèles fera baisser les primes du marché. Si la sinistralité ne baisse pas en parallèle le marché perdra de l’argent, certains assureurs risquant alors de disparaître. En revanche, si ces nouvelles techniques permettent de réduire la sinistralité, tout le monde sera gagnant, mais cela suppose de faire davantage de prévention, cette dernière reposant sur l’identification de mécanismes causaux clairs, en identifiant quels leviers pourraient réduire la probabilité d’avoir un accident, et sa gravité.