Au cours de l’été, j’étais tombé sur un post intéressant

qui raconte l’histoire de ce conducteur qui, pour améliorer son score auprès de son assureur, a fini par « arrêter de s’arrêter » au stop. L’application de télématique embarquée interprète en effet chaque freinage un peu vif comme un signe de conduite dangereuse (comme le rappelle zego). Je ne sais pas si l’histoire ici est vraie, mais elle correspond à ce que dit Consumer Reports qui mettait déjà en garde en 2021. Selon l’un de leurs responsables (Chuck Bell), les programmes télématiques peuvent inciter certains conducteurs à griller un stop pour éviter une pénalité de “hard braking”.

Le paradoxe est cruel : ce qui, au départ, devait améliorer la sécurité routière, a conduit à en dégrader les règles les plus élémentaires. Cet exemple illustre le pouvoir performatif des algorithmes : en définissant ce qu’est un « bon » comportement, ils transforment concrètement la pratique sociale. Des praticiens du secteur assurantiel alertent déjà sur l’opacité des barèmes et les tensions avec la vie privée que génère cette nouvelle économie de la donnée (Actuarial Review Magazine). Il y a cinq ans, Quintero & Benenson (2020) notait que sous certaines conditions, l’UBI (Usage-Based Insurance) pouvait provoquer des comportements dangereux. Le paradoxe est ancien : comme le rappelait l’économiste Charles Goodhart, « when a measure becomes a target, it ceases to be a good measure ».
Au cœur de cette difficulté se trouve la confusion, parfois volontaire, entre corrélation et causalité. L’American Academy of Actuaries rappelle que les modèles prédictifs « ne démontrent qu’une association » et qu’ils échouent souvent à établir un lien de cause à effet. Cette limite devient cruciale lorsqu’il s’agit de tarification comportementale : utiliser des signaux faciles à collecter mais socialement biaisés peut conduire à des discriminations indirectes. Des chercheurs européens plaident ainsi pour introduire des critères de causalité dans l’évaluation des variables tarifaires, plutôt que de se contenter d’interdire celles jugées trop sensibles ou « proxy » (Avanzini & al. (2023)).
Or, dans la pratique, ces modèles ne se contentent pas de prédire : ils modifient les comportements. Plusieurs études récentes montrent que le coaching in-app et les incitations financières ont effectivement un impact mesurable sur la conduite des assurés (cf. Cevolini et al. (2024)). Mais cette modification se fait au prix d’une surveillance intrusive, avec des effets pervers encore difficiles à quantifier. On entre alors dans une boucle de rétroaction où la donnée influence le comportement, lequel rétroalimente à son tour le modèle. L’actuaire n’est plus seulement celui qui calcule : il devient co-designer de normes sociales.
L’histoire de l’assurance regorge pourtant de rappels à l’ordre. Dans les années 1990, le marché londonien de Lloyd’s fut ébranlé par la crise des Names (dans les années 1980-1990) : des sinistres « latents », liés à l’amiante ou à la pollution, avaient échappé aux modèles statistiques. Le sous-provisionnement massif provoqua des pertes ruineuses et remit en cause la gouvernance même de la place financière (The Actuary, Lloyds, Bain (1999), Actuaries Institute). La leçon est claire : même les méthodes les plus éprouvées peuvent se révéler impuissantes face à des risques émergents ou systémiques.
J’ai l’impression que cette fragilité se retrouve aujourd’hui dans le débat autour de l’intelligence artificielle générative. Une enquête menée par EY montre que 99 % des assureurs déclarent explorer ces technologies, mais que 67 % reconnaissent manquer de compétences pour en mesurer les risques. Le marché, lui, commence à peine à s’organiser : Aon souligne que la couverture en responsabilité civile professionnelle contre les dérives de la GenAI (hallucinations, violations de droits d’auteur, discriminations) reste embryonnaire, l’exposition étant jugée « nascent ». La difficulté est structurelle : l’actuariat s’appuie historiquement sur l’analyse de séries passées, mais par définition, les usages de l’IA générative inventent des scénarios sans précédent.
À ce stade, la réflexion philosophique devient précieuse. Heidegger rappelait dans La question de la technique que la technologie n’est pas un simple outil neutre : elle reconfigure notre manière d’habiter le monde. De son côté, Gilbert Simondon insistait sur l’importance de comprendre l’« individuation » des objets techniques pour penser une co-évolution homme-machine non aliénante (dans Du mode d’existence des objets techniques). L’actuaire, inséré dans cette chaîne techno-sociale, participe ainsi à la production du réel. La métaphore de l’« apprenti-sorcier » n’est donc pas qu’une image : elle exprime la capacité à invoquer des forces (algorithmes, signaux, incitations) dont la maîtrise reste partielle.
Alors, comment sortir de cette posture ambiguë ? Plusieurs pistes s’esquissent. Du côté de la formation, il paraît indispensable d’intégrer des modules obligatoires d’éthique appliquée, de causal inference et de science des données responsables dans les cursus actuariels. Sur le plan institutionnel, la mise en place de comités indépendants de type data ethics boards devrait précéder tout déploiement de modèles comportementaux ou fondés sur la GenAI. La recherche, elle, gagnerait à financer des études longitudinales sur les effets sociaux indirects des tarifications dynamiques. Enfin, le dialogue doit s’élargir : associer philosophes, sociologues et usagers aux choix méthodologiques permettrait de rendre les dispositifs plus explicables, justifiables et révisables.
(source Fantasia, The Sorcerer’s Apprentice, 1940, Walt Disney)
En d’autres termes, il est temps de passer du rôle d’« apprenti-sorcier » à celui d’« ingénieur-gardien ». Car si les balais s’emballent, comme dans le poème de Goethe, c’est moins par malveillance que par manque de précautions. À l’actuaire, désormais, de veiller à ce que les outils qu’il convoque ne se retournent pas contre ceux qu’ils étaient censés protéger.
