Récemment, Lukasz Szpruch, Agni Orfanoudaki, Carsten Maple, Matthew Wicker, Yoshua Bengio, Kwok-Yan Lam et Marcin Detyniecki ont mis en ligne un article Insuring AI: Incentivising Safe and Secure Deployment of AI Workflows, que j’ai récemment découvert, et qui me donne l’occasion de compléter mon article mis en ligne le mois dernier, Assureurs et IA, un risque systémique. L’article part d’un constat que beaucoup partagent : l’IA se diffuse partout, et avec elle des risques difficiles à mesurer, parfois déjà présents mais “silencieux” dans les polices d’assurance existantes. Les auteurs plaident pour une assurance dédiée (AI assurance) et une gouvernance. Ils insistent aussi sur (i) l’absence de données historiques, (ii) la dynamique des modèles, (iii) les risques d’accumulation/corrélation, et concluent à un « paradigm shift » de la tarification, de l’expérience passée vers des données a priori de performance et d’évaluation. Mon propos ici est simple (et non polémique) : ce diagnostic est utile, mais il laisse un angle mort important. Une grande partie de ces difficultés n’est pas vraiment nouvelle pour l’assurance. Elles ont structuré, depuis des décennies, la littérature scientifique sur l’assurabilité, l’accumulation, la modélisation de catastrophes, l’incertitude (épistémique vs aléatoire), l’asymétrie d’information et même la question des biais et de la discrimination. Autrement dit : il y a bien des nouveautés (vitesse, échelle, dépendances technologiques, mises à jour), mais la boîte à outils méthodologique, développée depuis plus d’une centaine d’années, n’est pas dépassée. Si j’osais, je dirais qu’elle est précisément faite pour traiter des risques mal observés, instables, et socialement sensibles, à condition d’être prolongée par des contrats bien écrits.
Continue reading Assurer l’IA. Nouveaux risques ? Nouveaux modèles ? →