ASTIN Online Colloquium

Next week, I will present at the 2021 ASTIN Online Colloquium (online, of course, it will not be possible to meet in person, in Florida). I will present the joint paper with Michel Denuit and Julien Trufin, Autocalibration for Insurance Pricing with Machine Learning. Earlier on Wednesday, Philipp Ratz will present our work Collaborative Insurance Sustainability and Network Structure.

Un double centenaire : Treatise on probabilities de John Maynard Keynes et Risk, Uncertainty and Profit de Frank Knight

Il y a tout juste cent ans, paraissait deux ouvrages fondamentaux essayant de lier l’économie, le risque, l’incertain et le calcul des probabilités. Et si l’occasion est rare de se plonger dans des textes aussi anciens, y compris pour la majorité des étudiantes et des étudiants, il est agréable de noter que ces ouvrages contiennent de nombreuses réflexions passionnantes, qui éclairent d’un œil (presque) nouveau ces domaines où nous avons parfois l’impression de tout savoir, depuis tout ce temps…

Cambridge, Keynes, et les probabilités

Commençons par Treatise on probabilities, le premier ouvrage publié par un des plus grands économistes du début du XXème siècle, et qui témoigne de l’importance des mathématiques dans le formalisme économique – John Maynard Keynes avait déjà publié des articles économiques depuis une dizaine d’année lorsque le traité est publié. Et étonnamment, cet ouvrage est souvent oublié par les économistes[i].

Mais commençons par le début… John Maynard Keynes est né à Cambridge en juin 1883, son père (John Neville Keynes) était professeur de logique et d’économie à l’université de Cambridge, et sa mère (Florence Ada Brown) deviendra maire de la ville (en 1832, une autre femme – Eva Hartree – avait déjà été élue maire dix ans auparavant[ii]). Au début du XXème siècle (en réalité entre 1880 et 1940, comme le montre MacLeod & Urquiola (2020)), Cambridge était probablement la plus prestigieuse université au monde. En 1903, Bertrand Russell y publie son Principles of Mathematics (dont le titre de la traduction en français – Écrits de logique philosophique – reflète peut-être mieux le contenu que le titre original). L’ouvrage de John Maynard Keynes est d’ailleurs dans cette lignée, car malgré un formalisme mathématique indéniable, le traité est peut-être avant tout un ouvrage de philosophie et de logique. C’est aussi l’époque où Srinivasa Ramanujan est sur le campus, à Cambridge, invité du Tamil Nadu, en Inde, pour travailler avec Godfrey Harold Hardy et John Littlewood, comme le raconte The Man Who Knew Infinity, de Robert Kanigel, qui décrit le Cambridge des années 1910. John Maynard Keynes y côtoiera aussi de nombreux artistes (en tant que membre du groupe, ou association, Bloomsbury) comme Virginia Woolf, ou E. M. Forster

En 1905, alors qu’il vient d’obtenir un Bachelor of Arts en mathématiques, il suit les cours d’Alfred Marshall, qui vont lui faire découvrir l’économie politique, et en 1908 (de retour de deux ans passés à Bombay au Bureau des Affaires Indiennes), il travaille sa thèse sur les probabilités. Il ne s’agit pas formellement d’une thèse de doctorat[iii], mais d’une « Fellowship Dissertation » afin de devenir Fellow du King’s College. Son manuscrit est presque fini lorsque la première guerre mondiale éclate, ce qui empêchera sa publication, et il retravaillera le document pendant encore 2 ans après la fin de la guerre, pour la voir publiée en 1921, sous le titre Treatise of Probabilities. Coïncidence, 1921 est aussi l’année ou Franck Ramsey arrive à Cambridge (il deviendra également Fellow de King’s College en 1924 avant de décéder en 1930, à tout juste 26 ans), dont la proximité intellectuelle avec John Maynard Keynes est importante, même s’ils auront beaucoup de divergence, en particulier sur le concept de probabilité. 1921, c’est enfin un peu moins de 10 ans avant la publication de l’axiomatique des probabilités par Kolmogorov, en 1929, qui placera les probabilités au sein de la théorie de la mesure, et qui proposera le cadre formel encore enseigné aujourd’hui.

Pour comprendre l’orientation prise par Keynes dans son livre, il faut avoir en mémoire les liens entre probabilités et logique. A cette époque, à Cambridge, William Ernest Johnson travaille sur son ouvrage Logic, dont les trois tomes[iv] paraitront en 1921, 1922 et 1924. Harold Jeffreys, à qui on devra de nombreux travaux en statistique Bayésienne, était aussi à Cambridge à cette époque, ainsi que Dorothy Wrinch, ce dernier ayant publié On Some Aspects of the Theory of Probability en 1919. Si la recherche était bouillonnante à cette époque, R. B. Braithwaite, qui signe la réédition de l’ouvrage de Keynes en 1972, note que malgré tout, rares étaient les ouvrages de référence en anglais sur le sujet, le précédant ayant été publié plus de 50 ans auparavant par John Venn (qui aura laissé à la postérité les fameux diagrammes) avec son Logic of Chance. Et si Harold Jeffreys a proposé une axiomatique des probabilités plus solide que le modeste chapitre 2 du Traité, son ouvrage ne sortira qu’en 1939.

Pour Keynes, une « probabilité » n’est pas un fait objectif, naturel, comme le laisse entendre l’interprétation fréquentiste.  Pour Keynes, une probabilité est avant tout affaire de logique, quantifiant un degré de confirmation, ou de croyance rationnelle, d’une proposition. Formellement,

« Let our premises consist of any set of propositions h, and let our conclusion consist of any set of propositions a, then, if a knowledge of h justifies a rational belief in a of degree a,we say that there is a probability-relation of degree a between a and h. »

Elle exprime le degré de croyance qu’il est raisonnable d’avoir envers un ensemble de propositions a, à la lumière d’un ensemble de propositions h. Dans cette mesure, donc, la probabilité peut être qualifiée de subjective, car il s’agit d’une croyance.  Mais dans le sens que lui donne Keynes, la probabilité n’est pas subjective puisqu’elle n’est pas soumise à un caprice humain : c’est une relation logique entre deux propositions (ou deux ensembles de propositions) qui se manifestent dans l’esprit des individus. Ce n’est pas une relation entre une déclaration et une réalité, « probability begins and ends with probability ».  Dans le livre de Keynes, une probabilité peut être exprimée par le symbole ‘a/h‘. La connaissance d’une situation dans laquelle ‘a/h = 1′ est certaine. Une situation dans laquelle ‘a/h = 0′ constitue une impossibilité. Dans la majorité des cas, ce chiffre est situé entre 0 et 1. Et, dans la majorité des cas, les nombres n’ont qu’une signification ordinale. Keynes veut dire par là qu’il est souvent impossible de comparer quantitativement deux probabilités et d’affirmer, par exemple, que les chances qu’un événement se produise sont x fois plus élevées que les chances qu’un autre événement se produise.  De plus, il est possible que deux probabilités soient incomparables : « it is not  always possible to say that the degree of our rational belief in one conclusion is either equal to, greater than, or less than the degree of our belief in another ». Et l’on peut penser que, dans la réalité humaine, les probabilités sont dans la plupart des cas non quantifiables et incommensurables, d’autant plus qu’elles sont contraintes par les limites de la raison humaine. Même lorsque les probabilités individuelles sont mesurables numériquement, nous ne pouvons pas aller très loin dans le raisonnement mathématique. Il est d’ailleurs difficile d’éliminer l’intuition et le jugement direct de la considération des probabilités. Cette difficulté restreint la portée des probabilités fréquentistes fondées sur la loi des grands nombres. Même dans le domaine des sciences naturelles, l’intuition et l’analogie jouent un rôle plus important que la manipulation des fréquences statistiques.

En fait, pour Keynes, la plupart des grands penseurs des probabilité, comme Condorcet, Bernoulli, Bentham, Laplace, ou Edgeworth, se sont trompés en pensant que l’on pouvait appliquer les principes issus de l’équiprobabilité aux sciences morales et ainsi quantifier, mesurer et formaliser mathématiquement la réalité sociale.  Keynes rappelle que certains de ces grands penseurs se sont aventuré dans le domaine de l’éthique, et ont a été amené à croire que les degrés de bonté étaient numériquement mesurables, et parfois additifs, alors que la question relève du jugement intuitif.  Keynes dénonce cette « mathematical charlatanry » qui a fait perdre du temps à la statistique théorique, et qui est soutenue par une confiance totale dans l’inférence statistique.  En économie, cette erreur est soutenue par l’illusion de la quantification selon laquelle des choses comme l’utilité peuvent être quantifiées, mesurées, additionnées et soustraites. Cette erreur conduit à une utilisation abusive des statistiques qui, en tant que moyen de décrire quantitativement la réalité, s’est transformée en un instrument de prédiction. Keynes poursuivra cette réflexion par la suite, avec en particulier des éléments de réflexions sur les probabilités dans sa Théorie Générale, avec le Chapitre 12. En particulier, c’est dans ce second ouvrage que l’on trouve la note de bas de page abondamment citée, où il affirme que « très incertain » et « très improbable » sont pour lui équivalent, laissant entendre que les probabilités serraient l’outils approprié pour modéliser les situations incertaines (récemment, Brady (2019) dédie un article à cette fameuse note 1 de la page 148). Pour une discussion plus poussée sur le contenu du Traité, je vais renvoyer à l’article de Christian Robert sur le sujet.

Pour revenir sur l’histoire du Traité, comme nous l’indiquions en introduction, il est passé inaperçu pour bon nombre d’économistes, tout du moins jusque dans les 1970, cinquante ans après sa parution. Lors de la réédition des travaux de Keynes, il a été décidé de publier ce livre non pas dans l’ordre chronologique comme cela avait été fait pour les sept autres monographies, mais comme un huitième titre. Au début des années 1980, les travaux de Robert Skidelsky, suivis par ceux de Bradley Bateman, Anna Carabelli ou Michael O’Donnell, vont inaugurer un ensemble de travaux étudiant les relations entre philosophie et économie chez Keynes ainsi que la continuité de sa vision philosophique. On peut noter cette réflexion de Peter Waley

« The first major effort to construct a theory of imprecise probability was made by Keynes (1921). Keynes aimed to develop an inductive logic, based on a logical interpretation of probability as a “degree of rational belief” […] Since Keynes, a large literature has grown up concerning the mathematics and interpretation of imprecise, epistemic probabilities »

Mais il ne serait pas honnête d’oublier la critique que Franck Ramsey a faite dans Truth and Probability (publié à titre posthume en 1931, mais basée sur une conférence donnée en 1926).  Pour ce dernier, Le calcul des probabilités consiste à établir un ensemble de règles permettant aux degrés de croyance de former un système cohérent. Les relations de probabilité, telles que Keynes les avait décrites, n’existent pas. Ce questionnement sur les probabilités, l’incertain et les croyances vont se retrouver dans un second ouvrage, publié lui aussi en 1921, mais dans un contexte assez différent.

Chicago, Knight et l’incertain

Le second ouvrage dont on célèbre le centenaire de la publication, Risk, Uncertainty and Profit de Frank Knight a été publié de l’autre côté de l’Atlantique, indépendamment de ce qui se passait en Angleterre. En 1871, Chicago est dévasté par un immense incendie, et sa reconstruction se fera grâce à l’école de Chicago, qui attirera les plus grands architectes, entre 1890 et 1910, avec William Le Baron Jenney, Henry Hobson Richardson, ou Frank Lloyd Wright qui est à Chicago pendant une bonne partie de cette période. Chicago atteint le million d’habitants et devient un moment une ville importante artistiquement, même si on retient souvent qu’elle était la capitale du crime organisé, avec Al Capone par exemple. Et si notre histoire ne commence pas à Chicago, c’est dans cette ville de Franck Knight s’imposera, en dirigeant, avec Jacob Viner, le département d’économie, entre 1920 et 1950. Même si c’est Milton Friedman qui rendit célèbre l’école de Chicago, Franck Knight a marqué par ses enseignement la génération rendue célèbre après-guerre, comme le rappelle Van Overtveldt (2007).

Dans les années 1890, et pendant une quinzaine d’années, les économistes américains essayent de répondre à la question de la justice sociale du partage et de la répartition des richesses. On peut retenir l’article de Frederick Hawley, The Risk Theory of Profits parmi les nombreux articles parus dans le Quarterly Journal of Economics, édité à Harvard, où les économistes se répondent les uns aux autres, pendant plusieurs années. Pour Frederick Hawley, la prise de risque était une composante inévitable de la dynamique de la production, et ceux qui prenaient des risques devaient avoir droit à une récompense, connue sous le nom de « profit ». Selon Frederick Hawley, le profit est le prix payé par la société pour assumer le risque. En particulier, il note que cette prime de risque devrait correspondre à une compensation supérieure à la valeur actuarielle, c’est-à-dire une prime sur le risque calculable. Autrement dit, le profit naît du risque non assurable, et voyant le profit comme un résidu, ce qui a donné le nom « residual theory of profit ». S’en suivra une longue polémique avec John Bates Clark, jusqu’à l’article de Francis Edgeworth en 1904, qui offrira une synthèse du sujet.

Maintenant que le contexte est posé, revenons un instant à Frank Knight. Frank Knight est né dans l’Illinois, en novembre 1885. Il était le fils aîné d’une famille de fermiers, et les contraintes de la vie à la ferme l’ont forcé à mettre ses études de côté un certain temps. Il a quitté sa famille alors qu’il avait plus de 20 ans pour commencer des études collégiales (évangéliques) dans le Tennessee, pour obtenir un Bachelor of Science en sciences naturelles, puis une maîtrise en allemand quelques années plus tard. Il part ensuite à Cornell, pour un doctorat en économie (discipline qu’il découvre à partir de 1913), et défendra sa thèse, intitulée « A Theory of Business Profit », qui avait remporté la deuxième place dans la catégorie générale du concours d’essais économiques Hart, Schaffner & Marx en 1916. A cette époque à Cornell, on retrouve Allyn Abbott Young qui y restera avant d’enseigner à Harvard, puis à la London School of Economics, qui présidera le jury de doctorat de Frank Knight, et qui lui offrira de rester comme stagiaire post-doctoral, jusqu’à son départ pour Harvard en 1917. Frank Knight de son côté rejoindra alors John Bates Clark à l’Université de Chicago, où il retravaillera le manuscrit de sa thèse, qui sera publiée en 1921 sous le titre Risk, uncertainty and profit, comme le raconte Emmet (2020) – qui revient longuement sur les changements entre le manuscrit de la thèse, et l’ouvrage publié. Les superviseurs de Knight – John Bates Clark et Allyn Abbott Young – ont attesté à l’éditeur que peu de choses avaient été modifiées, mais comme pour John Maynard Keynes, ces années de maturation ont permis de clarifier certains concepts.

Le point de départ de livre de Frank Knight, ce sont les travaux de John Clark, et en particulier Distribution of Wealth paru en 1899,

« Professor Clark’s work is taken as the basis and starting point of the present study. Some criticism of it will be found necessary, leading to disagreement on some rather essential points, but with its general aim and with many of its conclusions our own are in accord ».

Tout au long du livre, il revient sur des défauts des approches de Hawley et Clark, en notant par exemple que si les agents économiques connaissaient les distributions de probabilités, ils devraient alors se comporter exactement de la même manière. Même si Clark avait introduit une notion de « valeur actuarielle subjective », l’idée centrale à l’époque était que les probabilités (et donc la valeur actuarielle) était parfaitement connue par tous les agents

« It is this “true” uncertainty, and not risk, which forms the basis of a valid theory of profit and accounts for the divergence be-tween actual and theoretical competition ».

La première idée de Frank Knight est bien sûr la notion d’incertitude. L’ouvrage récent de John Kay et Mervyn King, Radical Uncertainty : Decision-Making Beyond the Numbers, revient sur cette idée centrale dans le livre de Knight. La deuxième idée est la théorie des prix, et plus précisément la théorie de la concurrence parfaite. La différence la plus importante, selon Knight, entre la théorie classique des prix et la concurrence imparfaite est la présence dans cette dernière de l’incertitude, qui émerge d’un changement dynamique, et donc imprévisible. C’est cette imprévisibilité dynamique qui a créé les conditions économiques pour l’action entrepreneuriale. Cette approche nécessitaient un jugement, une faculté humaine qui n’était pas nécessaire dans la concurrence parfaite, où tout était calculable, et calculé, parce que tout était « prévisible ». L’incertitude exigeait un jugement, non seulement sur les états du monde, mais aussi sur la capacité des autres à porter des jugements dans des situations incertaines. L’organisation et la coopération est donc apparue, tant au sein des entreprises que dans l’organisation économique sociale, comme un moyen de coordonner les jugements. Franck Knight a ainsi été le premier fait une distinction entre les problèmes de décision lors que les probabilités sont connues, et lorsqu’elles ne le sont pas, ce qui impose de clarifier (comme avait tenté de le faire Keynes) la notion de probabilité.

Dans Risk, Uncertainty and Profit, Knight a distingué trois types de probabilité différents, qu’il a appelées « probabilité a priori », « probabilité statistique » et « estimations ». Le premier type se situe sur le même plan logique que les propositions mathématiques, l’exemple classique étant la probabilité d’obtenir une face lors d’un lancer de dé (la symétrie du cube permet d’affirmer qu’il y a une chance sur six d’obtenir une des faces). La « probabilité statistique » dépend de l’évaluation empirique de la fréquence, dans des expériences répétées. Dans le langage bayésien contemporain, dans le premier cas, on retrouve la distribution de probabilité a priori. alors que dans le deuxième cas, on retrouverait une distribution a posteriori. Dans le troisième cas, les données existantes ne se prêtent pas à l’analyse statistique, lorsque des expériences répétées sont impossibles. Ce dernier cas est celui qui a le plus intéressé Knight, en tant qu’économiste essayant de comprendre et modéliser le monde des affaires, et la nature du profit dans ce contexte. Knight a identifié la confusion entre « le problème de l’estimation intuitive » et « la logique de la probabilité », qu’elle soit a priori ou statistique

Le livre n’a pas connu un grand succès, seulement deux articles publiés avant 1930 l’ayant cité. Mais en 1933, Lionel Robbins a fait en sorte que la London School of Economics (LSE) réimprime le livre afin que ses étudiants puissent y avoir accès. Et quarante ans plus tard, l’American Economic Association a décerné à Knight la médaille Walker, décernée tous les cinq ans pour honorer l’économiste américain qui a apporté la plus grande contribution à l’économie tout au long de sa carrière.

Arrous, J. (1982). Keynes et les probabilités: Un aspect du ” fondamentalisme ” keynésien. Revue économique, 33(5), 839-861

Bouvier-Patron, P. (1996). La question de la réduction d’incertitude chez F. Knight. L’Actualité économique, 72 (4), 397–415.

Brady, Michael Emmett, How Should the Post Keynesian School Define ‘Uncertainty’? 1 The Only Correct Answer Is to Use Keynes’s Own Definition Given in Footnote 1 on Page 148 of Chapter 12 of the General Theory: Uncertainty Is an Inverse Function of the Weight of the Argument (2016). SSRN:3438090

Combenale, P. (2010). Introduction à Keynes. La Découverte.

Diebold, F.X. Doherty, N.A. & Herring, R.J. (2010). The Known, the Unknown, and the Unknowable in Financial Risk Management: Measurement and Theory Advancing Practice. Pinceton University Press.

Emmet, R.B. (2020). The Writing and Reception of Risk, Uncertainty and Profit. SSRN: 3591596.

Kent, S. (2019). ‘A degree of a different character’: 100 years of the Cambridge PhD. Cambridge University Library Special Collections Blog

Leroy, S.F. & Singell, L.D. (1987). Knight on risk and uncertainty. Journal of Political Economy, XCV, 2, p. 294-406.

MacLeod, W.B. & Urquiola, M. (2021). Why Does the United States Have the Best Research Universities? Incentives, Resources, and Virtuous Circles. Journal of Economic Perspectives, 35:1, 185-206.

Muchlinski, E. (2003). Épistémologie et probabilité chez Keynes. L’Actualité économique, 79 (1-2), 57–70.

Pradier, PC. & Serrano, D.T. (2000) Frank H. Knight le risque comme critique de l’économie politique. Revue de synthèse 121, 79–116

Robert, C.P (2010). An attempt at reading Keynes’ Treatise on Probability. ArXiv: 1003.5544

Schmidt, C. (2003). Que reste-t-il du Treatise on Probability de Keynes? L’Actualité économique, 79 (1-2), 37–55.

Van Overtveldt, J. (2007). The Chicago school : how the university of Chicago assembled the thinkers who revolutionized economics and business, Chicago, Agate

Walley, Peter ( 1991), Statistical Reasoning with Imprecise Probabilities, London : Chapman and Hall.

Wrinch, D. & Jeffreys H. (1919) On Some Aspects of the Theory of Probability, Philosophical Magazine, no 38,‎ 1919, p. 715-731

Zabell, S.L. (1992) Predicting the unpredictable. Synthese 90, 205–232

[i] Cet ouvrage n’est même pas cité dans l’introduction à Keynes de Pascal Combemale, Combenale (2010)

[ii] En France, la première femme élue à un conseil municipal était Joséphine Pencalet, à Douarnenez en mai 1925 (suite à la grève des sardinières), mais son élection fut invalidée par le Conseil d’État, car à l’époque, les femmes ne sont ni électrices ni éligibles. Il faudra attendre 1945, et le droit de vote, pour que les femmes deviennent éligibles, en Frnace.

[iii] Le programme de Doctor of Philosophy de Cambridge n’existera qu’à partir de 1919, comme le raconte Kent (2019)

[iv] Zabell (1992) revient sur les apports de William Ernest Johnson, qui a en particulier introduit un des premiers relâchements de l’hypothèse d’indépendance, en probabilités, en définissant le concept d’échangeabilité.

Insurance against Natural Catastrophes: Balancing Actuarial Fairness and Social Solidarity

Our research paper, Insurance against Natural Catastrophes: Balancing Actuarial Fairness and Social Solidarity, with Molly James and Laurence Barry, is now published in the Geneva Papers on Risk and Insurance.

Natural disasters offer a special case for the study of private and public insurance mix. Indeed, the experience accumulated over the past decades has made it possible to transform poorly known hazards, long considered uninsurable, into risks that can be assessed with some precision. They exemplify however the limits of the risk-based premiums method, as it might imply unaffordability for some. The French scheme reflects such ideas and offers a wide coverage for moderate premiums to all, but is shaken by climate change: we show that some wealthier areas, that were not perceived as “at risk” in the past, have become exposed to submersion risk in the future. This singularly makes some well-off properties the potential main beneficiaries of a scheme that was historically thought to protect the worst-off. Acknowledging that some segmentation might become desirable, we examine several models for flood risk and the disparity in premiums they entail.

« Plus un pays est égalitaire et prospère, moins on trouve de femmes en sciences »

Je suis tombé sur cette phrase au détour d’un article cet après midi, dans La Presse,

« Plus un pays est égalitaire et prospère, moins on trouve de femmes en sciences. C’est difficile à comprendre »

et j’avoue que je suis surpris. Surpris que cette relation soit forte, et significative, au point de l’énoncer comme une loi. Je ne sais pas comment se mesurent l’égalité et la prospérité, mais j’ai tenté l’espérance de vie à la naissance, sur http://data.uis.unesco.org/. Et “researchers FTE” (nombre de chercheurs en équivalents temps plein), femme divisé par le total, pour avoir un ratio de femmes en “Science, technology and innovation“. J’ai du mal à observer la relation décroissante…

A moins d’enlever une dizaines de pays à faible espérance de vie à la naissance (dont le Burundi, l’Éthiopie, la Gambie, l’Inde, Madagascar, le Pakistan, le Togo).

Si quelqu’un sait comment voire cette étonnante relation décroissante, je suis preneur !

Reinforcement Learning in Economics and Finance, a state-of-the-art

Our joint paper, with Romuald Elie and Carl Remlinger entitled Reinforcement Learning in Economics and Finance just appeared in Computational Economics,

Reinforcement learning algorithms describe how an agent can learn an optimal action policy in a sequential decision process, through repeated experience. In a given environment, the agent policy provides him some running and terminal rewards. As in online learning, the agent learns sequentially. As in multi-armed bandit problems, when an agent picks an action, he can not infer ex-post the rewards induced by other action choices. In reinforcement learning, his actions have consequences: they influence not only rewards, but also future states of the world. The goal of reinforcement learning is to find an optimal policy — a mapping from the states of the world to the set of actions, in order to maximize cumulative reward, which is a long term strategy. Exploring might be sub-optimal on a short-term horizon but could lead to optimal long-term ones. Many problems of optimal control, popular in economics for more than forty years, can be expressed in the reinforcement learning framework, and recent advances in computational science, provided in particular by deep learning algorithms, can be used by economists in order to solve complex behavioral problems. In this article, we propose a state-of-the-art of reinforcement learning techniques, and present applications in economics, game theory, operation research and finance.

Big data, the tech giants, and insurance

A few months ago, I published a short article, Big data, the tech giants, and insurance, in the Annales de Mines. The original article was in French, but the Editors shared an English version,

Technology and insurance companies seem like polar opposites in every possible way. The tech giants, agile and fast-acting, are obsessed with the future, whereas insurers, conservative and reflexive, are fascinated with the data that the tech giants collect. However these two sectors are now eyeing each other and have started forming partnerships as they come to understand that, in both cases, their core business is data.

to be continued…

Dynamic Programming in Distributional Reinforcement Learning

Last summer, I supervised a summer intern, Cédric Odin, student at Ecole Normale in Ker Lann, France, on Dynamic Programming in Distributional Reinforcement Learning. A state-of-the-art is now available online https://hal.archives-ouvertes.fr/hal-03168889

The classic approach to reinforcement learning is limited in that it only predicts the expected return. The specialized literature has long tried to remedy this problem by studying risk-sensitive models, but the distributional approach will not emerge until 2017. Since the seminal article Bellemare, Dabney, and Munos 2017 and the state-of-the-art performance of the C51 algorithm in the ATARI 2600 suite of benchmark tasks (Bellemare, Naddaf, et al. 2013), research has focused on understanding the behaviour of distributional algorithms. In this paper we place Bellemare’s original results in distributional dynamic programming in parallel with the classic results.

Assurances et véhicules autonomes

Lundi matin, j’interviendrai dans un séminaire organisé par Stève Bernardin, sur le thème  “assurances et véhicules autonomes”, avec comme autres participants Philippe Talleux, Romain Cros, David Zuby et Jonathan Charak. En guise d’introduction, je peux renvoyer vers deux articles que nous avions écrit avec Rodolphe Bigot, Repenser la responsabilité, et la causalité et surtout Quelle responsabilité pour les algorithmes ?

From multinomial regression to binary classification on some Siamese data

There are two kinds of people in the world: people who think there are two kinds of people in the world and people who don’t

(borrowed from Menand (2018)). Because things are always simpler when we face only binary choice, aren’t they? But consider here the case were multiple options are possible, and let us see if we cannot get back to simpler binary choices. Consider a collection of observations (y_i,\boldsymbol{x}_i) where y_i is some categorical variable, y_i\in\mathcal{A} where \mathcal{A}=\lbrace A_1,\cdots,A_\kappa \rbrace, with \kappa possible categories. Let \mathcal{I}_k=\lbrace i:y_i\in A_k \rbrace.

In a classical multinomial logistic regression, suppose that A_1 is the reference, then \mathbb{P}[Y=A_j|\boldsymbol{X}=\boldsymbol{x}]=\frac{\exp[\boldsymbol{x}^\top\boldsymbol{\beta}_j]}{1+\exp[\boldsymbol{x}^\top\boldsymbol{\beta}_2]+\cdots+\exp[\boldsymbol{x}^\top\boldsymbol{\beta}_k]}With a lot a categories, and a small number of observations, inference can be complicated, and non-robust.

  • the Siamese dataset

The name Siamese I use, here, comes from Siamese Networks. Or sort of… As we say in French, it is an « histoire de l’homme qui a vu l’homme qui a vu l’ours » (story of the man who saw the man who saw the bear). A few years ago, a student tried to explain to me the idea of Siamese Networks and this is what I understood. I might be completely wrong, but the idea I got from it did make sense, in my mind at least. That is the story of that blog post…

The idea of the siamese algorithm will be to consider all pairs of observations, (y_i,\boldsymbol{x}_i) and (y_j,\boldsymbol{x}_j) :

  1. \tilde y_{i,j}=\boldsymbol{1}(y_i=y_j) indicating if individuals i and j are in the same category
  2. \tilde{\boldsymbol{x}}_{i,j} is a collection of p-1 variables,
  • \tilde {x}_{k:i,j}={x}_{k:i}-{x}_{k:j} if x_k is continuous, or \tilde {x}_{k:i,j}=|{x}_{k:i}-{x}_{k:j}| (we can use another metric, e.g. \tilde {x}_{k:i,j}=|{x}_{k:i}-{x}_{k:j}|^2, and this is why I decided to use some GAM model in the logistic regression on the Siamese dataset)
  • \tilde {x}_{k:i,j}=({x}_{k:i},{x}_{k:j})\in\mathcal{X}_k\times\mathcal{X}_k if x_k is a categorical variables (taking values in the set \mathcal{X}_k), or \tilde {x}_{k:i,j}=\boldsymbol{1}({x}_{k:i}\neq{x}_{k:j})\in\{0,1\}

The original dataset was a n\times p matrix, and (if there are no categorical variable), it becomes a n(n-1)/2\times p matrix. The key point is that if the original variable y_i was multinomial, y_{i,j} is now binomial. For instance, if our initial dataset was the following, with two covariates, one continuous and one categorical

its siamese counterpart is the following

  • Classification step

On the dataset (\tilde y_{i,j},\tilde {x}_{k:i,j})_{i,j}, fit a logistic regression, \mathbb{P}[\tilde Y|\tilde{\boldsymbol{X}}=\tilde{\boldsymbol{x}}]=\frac{\exp[\tilde{\boldsymbol{x}}^\top\boldsymbol{\beta}]}{1+\exp[\tilde{\boldsymbol{x}}^\top\boldsymbol{\beta}]}(or any classification model – CART, random forest, etc). But that is the easy part (unless n is large, because the siamese dataset has (roughly) n^2/2 rows). The difficult task is the prediction

  • Prediction step

Consider a new input variable \boldsymbol{x}_{\cdot}, and define its siamese version, \tilde{\boldsymbol{x}}_{\cdot}=(\tilde{\boldsymbol{x}}_{\cdot,j})_j, i.e. a database with n rows. Then compute
p_{\cdot,j}=\mathbb{P}[\tilde Y|\tilde{\boldsymbol{X}}=\tilde{\boldsymbol{x}}_{\cdot,j}]=\frac{\exp[\tilde{\boldsymbol{x}}_{\cdot,j}^\top\boldsymbol{\beta}]}{1+\exp[\tilde{\boldsymbol{x}}_{\cdot,j}^\top\boldsymbol{\beta}]} where p_{\cdot,j} is the probability that (y_j,\boldsymbol{x}_{j}) and (y_{\cdot},\boldsymbol{x}_{\cdot}) are in the same category, as well as p_{i,j}=\mathbb{P}[\tilde Y|\tilde{\boldsymbol{X}}=\tilde{\boldsymbol{x}}_{i,j}]=\frac{\exp[\tilde{\boldsymbol{x}}_{i,j}^\top\boldsymbol{\beta}]}{1+\exp[\tilde{\boldsymbol{x}}_{i,j}^\top\boldsymbol{\beta}]}
Let \boldsymbol{p}_{\cdot}=(p_{\cdot,j}), and similarly \boldsymbol{p}_{i}=(p_{i,j}). Then several techniques can be used to predict y_{\cdot}.

  1. \widehat{y}_{\cdot}=y_{j^\star} where {j^\star}=\underset{j=1,\cdots,n}{\text{argmax}}\{p_{\cdot,j}\}: the predicted class is the one of the observation the most likely to be other same class
  2. \widehat{y}_{\cdot}=y_{j^\star} where {j^\star}=\underset{\ell=1,\cdots,k}{\text{argmax}}\{\overline{p}_{\ell}\}, where\overline{p}_{\ell} = \frac{1}{n_{\ell}}\sum_{j\in\mathcal{I}_s} \boldsymbol{1}(y_j =y_{\ell}),\text{ where }\mathcal{I}_s=\lbrace i:p_{\cdot,i}>s\rbraceconsider only probabilities sufficiently high to be considered, and predict the most important class (majority rule)
  3. \widehat{y}_{\cdot}=y_{j^\star} where {j^\star}=\underset{i=1,\cdots,n}{\text{argmax}}\{\theta_i\} where \theta_i=\cos(\boldsymbol{p}_{\cdot},\boldsymbol{p}_{i})=\displaystyle{\frac{\boldsymbol{p}_{\cdot}\cdot\boldsymbol{p}_{i}}{\|\boldsymbol{p}_{\cdot}\|\|\boldsymbol{p}_{i}\|}}
  4. \widehat{y}_{\cdot}=y_{j^\star} where {j^\star}=\underset{i=1,\cdots,n}{\text{argmax}}\{KL_{\cdot|i}\} and KL_{\cdot|i}=\displaystyle{\sum_{j=1}^n p_{\cdot,j}\log\frac{p_{\cdot,j}}{p_{i,j}}} (but one can select another metric)
  5. \widehat{y}_{\cdot}=y_{j^\star} where {j^\star}=\underset{j\in\mathcal{J}}{\text{argmax}}\{p_{\cdot,j}\} and \mathcal{J} is a sample of k observations, chosen randomly, one in each group (one-shot procedure): the predicted class is the one of the observation the most likely to be other same class

Heuristically, it can be related to some k nearest neighbors strategy: we give the attribute that most neighbors have. The total distance is a weighted sum of the componentwise distances (for the logistic regression).

  • Simulation study

In order to test that technique, let us generate some multinomial model where y has 10 possible labels, with 6 (independent) covariates x_1,\cdots,x_6, and \mathbb{P}[Y=A_k|\boldsymbol{X}=\boldsymbol{x}]\propto \exp[\boldsymbol{x}^\top\boldsymbol{\beta}_k] (where coefficients \boldsymbol{\beta}_k where generated randomly) for k\in\{1,2,\cdots,10\} (there were 10 categories) and with n=700 observations.

n=700
X1=rnorm(n)
X2=rnorm(n)
X3=rnorm(n)
X4=rnorm(n)
X5=rnorm(n)
X6=rnorm(n)
X=cbind(1,X1,X2,X3,sqrt(abs(X4)),X5*X1,X6)
k = 10
 PARAM = matrix(rnorm(k*6),k,6)
 PARAM[,1]=PARAM[,1]-1
 PARAM=cbind(PARAM,0)
 P=matrix(NA,n,k-1)
 for(j in 1:(k-1)) P[,j] = X %*% (PARAM[j,])+rnorm(n)
 P=cbind(P,0)
S=apply(exp(P),1,sum)
Pb = exp(P)/S
tirage = function(i){
      sample(1:10,size=1,prob = Pb[i,])
}
Y = LETTERS[Vectorize(tirage)(1:n)]
dbase = data.frame(Y=as.factor(Y),X1,X2,X3,X4,X5)

In the paragraph previously, I suggested to take the most likely one. Being wrong means that it was not the first choice. But perhaps being the second or the third choice is not that bad, actually. So in my simulations, I look at the proportion of predictions were our prediction is the good one (top 1), if the true one is either the most likely or the second most likely (top 2), or in the top 3. That will be on my x-axis. I draw some line, but we simply have three points (top 1, top 2 and top 3). I compute the proportion of good prediction, using cross-validation techniques (10-fold). The black lines are one of the methods described above. The red one is the standard multinomial model (with a logistic link function). For the Siamese model, I tried several models. I tried a logistic regression, and some smooth version (GAM) on top

and a classification tree, on the left, as well as some random forest on the right, below.

It looks like the multinomial approach performs always better than any Siamese one… and to be honest, I am disappointed.

Here is the code I did use when I considered a logistic regression on the Siamese dataset,

set.seed(1)
kfold = sample(rep(1:10,n/10))
 
KFOLDglm = function(i){
i_test=which(kfold==i)
i_calibration=which(kfold!=i)
y=credit[i_calibration,"Y"]
tirage = function(){
v=c(sample(i_calibration[y==levels(y)[1]],size=1),
    sample(i_calibration[y==levels(y)[2]],size=1),
    sample(i_calibration[y==levels(y)[3]],size=1),
    sample(i_calibration[y==levels(y)[4]],size=1),
    sample(i_calibration[y==levels(y)[5]],size=1),
    sample(i_calibration[y==levels(y)[6]],size=1),
    sample(i_calibration[y==levels(y)[7]],size=1),
    sample(i_calibration[y==levels(y)[8]],size=1),
    sample(i_calibration[y==levels(y)[9]],size=1),
    sample(i_calibration[y==levels(y)[10]],size=1))
names(v)=levels(y)
return(v)
}
 
LogisticModel <- multinom(Y ~ ., data = credit[i_calibration,], trace=FALSE)
 
comparaisonx = function(base,x=base[1,]){
  mix_base = base
  for(j in 1:ncol(base)){
    xj = as.numeric(x[j])-base[,j]
    mix_base[,j] = (xj)
  }
  mix_base
}
comparaisony = function(base,y=base[1]){
  as.factor(base == y)
}
creditx = credit[,-which(names(credit) == "Y")]
nc=length(i_calibration)
B=comparaisonx(base = creditx[i_calibration[2:nc],],x=creditx[i_calibration[1],])
B$Y=comparaisony(base = credit[i_calibration[2:nc],"Y"],y=credit[i_calibration[1],"Y"])
for(i in 2:(nc-1)){
  B0=comparaisonx(base = creditx[i_calibration[(i+1):nc],],x=creditx[i_calibration[i],])
  B0$Y=comparaisony(base = credit[i_calibration[(i+1):nc],"Y"],y=credit[i_calibration[i],"Y"])
  B=rbind(B,B0)
}
credit_mix = B
 
OneShotLogisticModel <- glm(Y ~ ., data = credit_mix, family=binomial)
A_ref = table(credit[i_calibration,"Y"])/length(i_calibration)
 
vect_oneshot = function(i){
  B2=comparaisonx(base = creditx[i_calibration,],x=creditx[i,])
  predict(OneShotLogisticModel,type="response",newdata=B2)
}
 
prediction_oneshot = function(i,type=1){
B2=comparaisonx(base = creditx[i_calibration,],x=creditx[i,])
p=predict(OneShotLogisticModel,type="response",newdata=B2)
y=credit[i_calibration,"Y"]
base = data.frame(p,y)
base = base[rev(order(base$p)),]
if(type==1){T = table(base$y[1:11])
return(names(which.max(T)))}
if(type==2){return(base$y[1])}
if(type==3){A=table(base$y[1:10])/10
T=A/A_ref
return(names(which.max(T)))}
if(type==4){
  costheta = rep(NA,length(i_calibration))
  for(j in 1:length(i_calibration)){
    vecteur_proba = vect_oneshot(i_calibration[j])
    costheta[j] = sum(vecteur_proba*p)/(sqrt(sum(vecteur_proba^2))*sqrt(sum(p^2)))
  }
  return(y[which.max(costheta)])}
if(type==5){
  kl = rep(NA,length(i_calibration))
  for(j in 1:length(i_calibration)){
    vecteur_proba = vect_oneshot(i_calibration[j])
    kl[j] = sum(p*log(vecteur_proba/p))
  }
  return(y[which.max(as.vector(kl))])}
if(type==6){ ## one shot : tirer au hasard un de chaque, et dire lequel est plus credible !
 
y=credit[i_calibration,"Y"]
tirage = function(){
    v=c(sample(i_calibration[y==levels(y)[1]],size=1),
        sample(i_calibration[y==levels(y)[2]],size=1),
        sample(i_calibration[y==levels(y)[3]],size=1),
        sample(i_calibration[y==levels(y)[4]],size=1),
        sample(i_calibration[y==levels(y)[5]],size=1),
        sample(i_calibration[y==levels(y)[6]],size=1),
        sample(i_calibration[y==levels(y)[7]],size=1),
        sample(i_calibration[y==levels(y)[8]],size=1),
        sample(i_calibration[y==levels(y)[9]],size=1),
        sample(i_calibration[y==levels(y)[10]],size=1))
    names(v)=levels(y)
    return(v)
  }
  pd=rep(NA,101)
for(ix in 1:101){
ids = tirage()
B2=comparaisonx(base = creditx[ids,],x=creditx[i,])
p=predict(OneShotLogisticModel,type="response",newdata=B2)
pd[ix]=levels(y)[which.max(p)]
}
levels(y)[which.max(table(pd))]
}
}
PRED0=as.character(credit[i_test,"Y"])
PRED1=as.character(predict(LogisticModel,type = "class",
                           newdata=credit[i_test,]))
PRED21=as.character(Vectorize(function(i) prediction_oneshot(i,type=1))
                    (i_test))
PRED22=as.character(Vectorize(function(i) prediction_oneshot(i,type=2))(i_test))
PRED23=as.character(Vectorize(function(i) prediction_oneshot(i,type=3))(i_test))
PRED24=as.character(Vectorize(function(i) prediction_oneshot(i,type=4))(i_test))
PRED25=as.character(Vectorize(function(i) prediction_oneshot(i,type=5))(i_test))
PRED26=as.character(Vectorize(function(i) prediction_oneshot(i,type=6))(i_test))
B=data.frame(PRED0,PRED1,PRED21,PRED22,PRED23,PRED24,PRED25,PRED26)
B
}
 
s=1/100;setTxtProgressBar(pb, s*2)
for(i in 2:10){
  PREDICTION = rbind(PREDICTION,KFOLDglm(i))
s=s+1/100;setTxtProgressBar(pb, s*2)}
for(j in 1:5) PREDICTION[,j]=as.character(PREDICTION[,j])
L=list()
v=mean(PREDICTION[,1]!=PREDICTION[,2])
names(v)="logistic"
L[["logistic"]]=v
v=c(mean(PREDICTION[,1]!=PREDICTION[,3]),
  mean(PREDICTION[,1]!=PREDICTION[,4]),
  mean(PREDICTION[,1]!=PREDICTION[,5]),
  mean(PREDICTION[,1]!=PREDICTION[,6]),
  mean(PREDICTION[,1]!=PREDICTION[,7]),
  mean(PREDICTION[,1]!=PREDICTION[,8]))
names(v)=c("top10","max","10norm","cos","KL","OS")
L[["glm"]]=v

Autocalibration for Insurance Pricing with Machine Learning

With Michel Denuit and Julien Trufin, we recently uploaded a joint paper on ArXiv, entitled Autocalibration and Tweedie-dominance for Insurance Pricing with Machine Learning.

Boosting techniques and neural networks are particularly effective machine learning methods for insurance pricing.
Often in practice, there are nevertheless endless debates about the choice of the right loss function to be used to train the machine learning model, as well as about the appropriate metric to assess the performances of competing models. Also,
the sum of fitted values can depart from the observed totals to a large extent and this often confuses actuarial analysts.
The lack of balance inherent to training models by minimizing deviance outside the familiar GLM with canonical
link setting has been empirically documented in Wüthrich (2019, 2020) who attributes it to the early stopping rule in gradient descent methods for model fitting.
The present paper aims to further study this phenomenon when learning proceeds by minimizing Tweedie deviance.
It is shown that minimizing deviance involves a trade-off between the integral of weighted differences of lower partial moments and the bias measured on a specific scale.
Autocalibration is then proposed as a remedy. This new method to correct for bias adds an extra local GLM step to the analysis.
Theoretically, it is shown that it implements the autocalibration concept in pure premium calculation and ensures that balance also holds on a local scale, not only at portfolio level as with existing bias-correction techniques. The convex order appears to be the natural tool to compare competing models, putting a new light on the diagnostic graphs and associated metrics proposed by Denuit et al. (2019).

In this paper, we started with a simple observation : with GLM (like a Poisson regression) we have unbiased predictions, in the sense that \widehat{y}_1+...+\widehat{y}_n=y_1+...+y_n (on the training dataset, we should expect to have \widehat{y}_1+...+\widehat{y}_n\approx y_1+...+y_n on the validation dataset). But with any machin learning algorithm, this is no longer the case. For instance, with a boosting algorithm, we can end up with a significant bias. This is an application on an insurance dataset from the CASdataset package, with a GLM (Poisson regression) on the left, and additive smooth version, GAM in the middle and some boosting algorithm on the right. Here is the dispersion of the predictions, \widehat{y}_i‘s,

Let \widehat{\pi} denote a fited model. If \widehat{\pi} was close to the true parameter of the Poisson model, \mu where \mu(\boldsymbol{x})=\mathbb{E}[Y|\boldsymbol{X}=\boldsymbol{x}], then function  s\mapsto\mathbb{E}[Y|\widehat{\pi}(\boldsymbol{X})=s] should be very close to the first diagonal (since \mathbb{E}[Y|\mu(\boldsymbol{X})=s]=s). And this is was we observe below, for the GLM. But the boosting algorithm has a significant bias.

Furthermore, the bias is not the same everywhere. We can see it more precisely on a quantile version of the x-axis

that is u\mapsto\mathbb{E}[Y|\widehat{\pi}(\boldsymbol{X})=F_{\widehat{\pi}}^{-1}(u)]. Here is a multiplicative version of that bias u\mapsto\mathbb{E}[Y|\widehat{\pi}(\boldsymbol{X})=F_{\widehat{\pi}}^{-1}(u)]/u

The idea of autocalibration is to use that multiplicative factor to correct from the bias. Thus, if \widehat{\pi}(\boldsymbol{x}) is close to the 75% upper quantile, then the true value should be 20% larger for the bootsting algorithm. Here is the new distribution of the predictions, with that correction

and we can observe that u\mapsto\mathbb{E}[Y|\widehat{\pi}(\boldsymbol{X})=F_{\widehat{\pi}}^{-1}(u)] is now much closer to the first diagonal (below is the multiplicative bias)

We discuss in the paper this correction for local bias, so that u\mapsto\mathbb{E}[Y|\widehat{\pi}(\boldsymbol{X})=F_{\widehat{\pi}}^{-1}(u)] becomes as close as possible to the first diagonal… see https://arxiv.org/abs/2103.03635 for a complete version of the paper, and https://github.com/freakonometrics/autocalibration/ for the complete version of the R codes

Unusual data for insurance, joint research initiative

We recently started a joint research initiative, funded by the AXA Research Fund, to work on unusual data for insurance

Insurers sometimes lack information at the time of claim submission, such as the structure of a building, the presence of health risks common to a group of people, or the spatial diffusion of a pandemic. Unusual data, such as satellite images, personal network connections, and tweets can be used to populate this information gap. In this joint research initiative, we will use images, network data, and texts for risk analysis from an actuarial perspective. Specifically, the project will explore how using unusual data can contribute to smoother claims assessment and reduced data quality risk, allowing for better risk selection and pricing. The project will look at three types of unusual data: pictures/satellite images, network data, and text data.

More information will be shared via a dedicated website (https://jridata.github.io/), even if I will also mention interesting papers, conferences and open-source codes on this blog….

An Open Lab-Notebook Experiment

Search OpenEdition Search

You will be redirected to OpenEdition Search