Modeling Dynamic Incentives: Application to Basketball

I will give a talk on “Modeling Dynamic Incentives: Application to Basketball” at the GERAD (Groupe d’études et de recherche en analyse des décisions) on June, 10th June, 6th. This is some joint work with Nathalie Colombier and Romuald Elie

An important aspect of the strategy of most organizations is the provision of incentives to the employees to meet the organization’s objectives. Typically this implies tying pay to performance (see Prendergast, 1999). In order to reward employees for their effort, firms spend considerable resources on performance evaluations. In many cases, evaluation consists of comparing actual performance to a pre-defined individual target. Another frequently used format is relative performance evaluation. Relative performance evaluation may motivate employees to work harder.But it may also be demoralizing and create an excessively competitive workplace, which may hinder overall performance; see Lazear (1989). Determining the overall impact of relative performance evaluation is crucial for companies. Economic research on relative performance evaluation has mainly focused on the comparison of final performances between competitors,like in tournament theory, and on quantitative and subjective performance ratings (Lazear and Gibbs, 2009). In contrast, what happens during a competition and the impact of feedback frequency on effort have so far received little attention. Following Berger and Pope (2011), we decided to use a basketball application to get a better understanding of the role of the feedback information. Sports datasets allow to observe score and team behavior continuously (during a game but also during the season) which can be use as a proxy of the effort. Berger an Pope (2010) asked ”can loosing lead to winning ?” looking at the impact of the halftime score difference on winning probability in NCAA (college) and NBA (pro) games. More precisely, they studied whether a team loosing at halftime is more likely to win than expected using a logit model. They find that usually the higher the score difference the more likely the are to win. But if the halftime score difference is around 0 they observe a discontinuity: loosing with a small difference (e.g. down by 1 point) can lead to increase the effort and win the game. In this paper we try answer the question ”when loosing lead to winning ?”.

There is no “Too Big” Data, is there?

A few years ago, a former classmate came back to me with a simple problem. He was working for some insurance company (and still is, don’t worry, chatting with me is not yet a reason for dismissal), and his problem was that their dataset was too large to run (standard) codes to get a regression, and some predictions. My answer was too use sub-sampling techniques, and I still believe that this might be a good idea (actually, I wrote a long post, on that issue, entitled too large datasets for regression ? What about subsampling). But I wanted to go further, since I did not discuss predictions obtained with sub-sampling techniques.

So, consider here a logistic regression , based on some covariates. We have  explanatory variables ( will be large, but not too large) and  observations (with ), Here we have a big (potentially) matrix product  i.e. with a large  matrix. Here, assume that we have a  matrix, with  individual observations, and  possible variables (and the intercept). Actually, in my model, only  variables were actually used in the real model. Assume further that explanatory variables are – potentially – correlated.


In some sense, it is not too big, since we can run a regression on that dataset with a simple laptop (even if it can still be seen as a large dataset, in the sense discussed in…). But let us consider an alternative strategy, to be able to get some predictions – or some model – in the case we cannot run a regression. Two strategies will be compared,

  • generate   datasets with  observations, by sub-sampling
  • generate   datasets with  observations, by sub-sampling,

On each dataset, we can now run a regression, and compare the estimation of the coefficients with the “true” regression (on the whole dataset, since here, we can still run it). Then, since out of  explanatory variables, only  were actually used to generate the ouput, we should probably remove unnecessary variables in our model. So, some stepwise procedures were used.

for(s in 1:100){

For instance, if we consider the very first coefficient which should appear in the regression (let us forget about the intercept), or the second coefficient (which was not considered to generate the dataset), we get

C1=unlist(lapply(L1,function(x) coefficients(x)[k]))
C2=unlist(lapply(L2,function(x) coefficients(x)[k]))


where the density in grey is the Gaussian density of some estimator obtained from the large (and complete) dataset and boxplots are estimates obtained on sub-samples (without the stepwise procedure, just to make sure I will keep that variable).

For coefficients associated to variables not used to generate the dataset, we get graphs like the following

So, clearly, the smaller the dataset, the large the dispersion of the estimates. But far, nothing new. In my previous post – too large datasets for regression ? What about subsampling – my point was to discuss computational times, and a possible optimal size of sub-datasets. Now, what about the impact of sub-sampling on predictions. Here, we fit a model on a small sample, but we can get a prediction on the whole dataset. In order to describe the goodness of fit of our regression model, let us plot ROC curves. More specifically, three kinds of lines will be plotted,

  • the ROC curve for the ‘s obtained with the model on the complete dataset [red]
  • the ROC curves for the ‘s obtained with the model on the ‘s subsample [light blue]
  • the ROC curve for the  ‘s obtained by averaging the previous estimates [blue]


for(si in 1:100){
lines(M.ROC[1,],M.ROC[2,],type="s",col="light blue")


If we consider sub-samples of size , we get the following, and when we consider sub-samples of size , without the stepwise procedure (most variables have a small coefficient, not significant) and after the stepwise procedure Clearly – and that should not be a surprise – looking at predictions when the model was fitted on !% of the dataset is not great (ROC curves are substantially below the red ROC curve). But the interesting point is that averaging yields great results. In terms of ROC curve, we have the same

  • running one regression on our   matrix
  • averaging prediction after running  regressions on some   matrices

Except that the first one might not be possible to run, if the dataset was larger. And I have to admit that with the stepwise procedure, with variables (where should – theoretically – be renoved), it took some time! But still. I have the feeling the sub-sampling is extremely promising in the context of too large datasets.

Modèles de Prévision

Cet session d’été, je redonne le cours ACT6420, modèles de prévision. Le plan de cours est maintenant en ligne (comme souvent, les salles de cours ne sont pas encore attribuées définitivement mais elles seront disponibles sur le site de l’UQAM). Les transparents pour la première partie de cours sont en ligne (il s’agit de rappels de statistique, et d’une introduction aux modèles de régression).

Des exercices et des codes informatiques seront mis en ligne sur /courses/modeles-de-prevision.

Durant le cours, j’essayerais d’illustrer avec le maximum d’exemples sur des données réelles, à partir de codes R. Quelques séances de démonstrations se feront en salle informatique, afin de découvrir les rudiments de R. Pour aller plus loin, je recommande

  • “R pour les débutants”d’Emmanuel Paradis (PDF)
  • “Brise Glace-R” d’Andrew Robinson er Arnaud Schloesing (PDF)
  • “Introduction à la programmation en R” de Vincent Goulet (PDF)

ainsi que quelques tutoriels en ligne, par exemple, dans un ancien billet, mais aussi sur

Examen, Séries Chronologiques

Après les exposés des dernières séances, l’examen du cours MAT8181, Séries Chronologiques avait lieu ce matin (et devrait finir dans quelques minutes, avec un peu de temps supplémentaire pour certain, compte tenu de la panne de métro qu’on a eu la joie de subir). L’énoncé est en ligne, et j’ai aussi écrit quelques éléments de correction. En cas de désaccord (mineur ou majeur) avec mes réponses, merci de me le faire savoir rapidement !

Copula Density Estimation

The joint paper, written with Gery Geenens and Davy Paindaveine, entitled Probit transformation for nonparametric kernel estimation of the copula density” is now online on

Copula modelling has become ubiquitous in modern statistics. Here, the problem of nonparametrically estimating a copula density is addressed. Arguably the most popular nonparametric density estimator, the kernel estimator is not suitable for the unit-square-supported copula densities, mainly because it is heavily affected by boundary bias issues. In addition, most common copulas admit unbounded densities, and kernel methods are not consistent in that case. In this paper, a kernel-type copula density estimator is proposed. It is based on the idea of transforming the uniform marginals of the copula density into normal distributions via the probit function, estimating the density in the transformed domain, which can be accomplished without boundary problems, and obtaining an estimate of the copula density through back-transformation. Although natural, a raw application of this procedure was, however, seen not to perform very well in the earlier literature. Here, it is shown that, if combined with local likelihood density estimation methods, the idea yields very good and easy to implement estimators, fixing boundary issues in a natural way and able to cope with unbounded copula densities. The asymptotic properties of the suggested estimators are derived, and a practical way of selecting the crucially important smoothing parameters is devised. Finally, extensive simulation studies and a real data analysis evidence their excellent performance compared to their main competitors.”

Les Arbres de Classification

J’animerai une formation lundi 28 de 14:00 à 16:00 au local N-6320 de l’UQAM sur le thème introduction aux arbres de classification. Cette formation est organisée dans le cadre des séminaires en méthodes d’analyses quantitatives et qualitatives qui se tiennent régulièrement depuis un peu plus d’un mois. animé par le collectif pour le développement et les applications en mesure et évaluation (Cdame). Les slides sont disponibles en pdf (il y a quelques animations, qui ne passent qu’avec Acrobat)

La base utilisée tout au long des exposés est la suivante
> MYOCARDE=read.table("",head=TRUE,sep=";")

Lectures, #MyTopTenBooks

Histoire de poursuivre sur la lancée de plusieurs autres bloggers (je pense à Martin Grandjean qui m’a fait découvrir l’initiative) et plusieurs utilisateurs de Twitter, j’ai eu envie de participer à la discussion autour du hashtag #MyTopTenBooks. A la vue de plusieurs photos qui montraient des livres qui m’avaient plu, j’ai eu envie d’en découvrir plusieurs. A mon tour cette fois, avec une liste de 10 livres (qui a été difficile à établir…), de susciter des envies (j’espère….)

  • Les Classiques de Camille, par Camille le Fol. Pour prendre un peu de temps pour expliquer mon choix, il faut peut être que j’explique que j’adore faire la cuisine. Depuis la naissance de mon fils, c’est ma principale contribution à la maison: je cuisine tous les repas, ou presque. Et j’adore ça ! Et bien entendu, je suis en charge du marché (j’aurais pu citer deux livres que j’ai adoré, qui m’ont permis de découvrir plusieurs producteurs et marchands, au marché de Lices, à Rennes, et au marché Jean Talon, à Montréal – oui, on a toujours essayé d’habiter proche d’un marché). Il y a plusieurs livres de cuisine que j’adore, mais le livre de Camille est probablement celui que j’ai le plus utilisé: il est simple et bon. C’est dedans que j’ai trouvé ma recette de blanquette de veau
  • Pinocchio, de Winshluss. Je ne sais pas trop pourquoi je mets ce livre en fait. Quand ils étaient petits, les enfants adoraient Wizz et Buzz, c’est probablement une des bandes dessinées qu’ils ont le plus lu. Et Pinocchio a été une claque (pour moi en tous cas). Ce livre est incroyable ! J’ai attendu longtemps avant de le laisser entre les mains des enfants, mais ils ont fini par le trouver tous seuls, et l’adorer ! Avec Lapinot et les carottes de Patagonie, c’est une des bandes dessinées que je relis le plus souvent, en découvrant toujours des passages différents qui me surprennent (ou me dérangent, dans le cas de Pinocchio). Je pense que je l’ai mis dans cette liste car ce livre m’a réellement marqué !
  • Theory of Decision under Uncertainty de Itzhak Gilboa. Mon premier livre de boulot dans la liste. Ce livre est incroyable. C’est le livre que j’aurais rêvé écrire… il est limpide, et répond à toutes les questions que je me suis longtemps posé sur le sujet. C’est aussi le cours que j’aurais rêvé donner ! Ce livre peut parler à tout le monde, c’est probablement sa grande force !
  • Notes de Boulet. J’ai mis ici le Tome 7 car il fallait en mettre un. Oui, je l’ai déjà dit sur ce blog, j’adore Boulet et son blog. C’est créatif, et drôle.
  • The Barnhart Concise Dictionary of Etymology. J’ai une passion pour les dictionnaires. Et plus particulièrement, les dictionnaires étymologiques. Je suis fasciné, tout simplement. Et ce dictionnaire est le seul que je possède en langue anglaise. Et c’est un puit sans fin, dès que je commence à le lire…
  • Une saison de machettes (et plus généralement, la trilogie des Récits des Marais Rwandais) de Jean Hatzfeld. Cette trilogie est horrible. En cette période d’anniversaire des 20 ans du Génocide au Rwanda, c’est le livre à lire (mais on n’en sort pas indemne). J’ai acheté ces livres suite à un court séjour à Abidjan, pour un cours, alors que j’étais accueilli par un membre de l’Ambassage, qui était alors en poste au Rwanda (à l’Ambassade de France) lors des massacres… Ca reste une rencontre forte qui m’aura beaucoup marqué !
  • Fantôme de Jo Nesbø. En fait, je pourrais mettre tous les livres de Jo Nesbø, sans exception (y compris les livres pour enfants). Un des auteurs que je suis régulièrement depuis quelques années.
  • A Study in Scarlet d’Arthur Conan Doyle. Un souvenir de jeunesse. Petit, je n’aimais pas lire. Je pense que les seuls livres que j’acceptais de lire étaient les livres de Sherlock Holmes. J’ai bien entendu suivi le dessin animé d’Hayao Miyazaki (qui avait peu à voir avec les livres) et la série, qui passait le dimanche soir, sur FR3, avec Jeremy Brett. C’est ma première vraie rencontre avec la lecture. Maintenant, pour être tout à fait honnête, ce qui me plaisait également, c’est que j’ai grandi avec un prénom peu commun (à l’époque). Et le fait qu’on partage le même prénom créait une connivance entre nous. Il y avait même un Arthur Charpentier dans ce livre ! Mais maintenant que je peux lire en anglais, je recommande de lire le livre en version originale.
  • Exit Music de Ian Rankin. Oui, on reste à Edinbourgh avec un autre auteur de polar que j’adore ! Là encore, je pourrais mettre dans la liste tous les livres de John Rebus. Et là encore, je recommande la lecture dans la langue originale, qui est riche (et parfois compliquée à suivre pour un non-anglophone, mais peu importe, l’effort en vaut largement la peine)
  • Modelling Extremal Events: for Insurance and Finance de Paul Embrechts, Claudia Klüpelberg, et Thomas Mikosch. Le premier livre jaune que j’ai acheté alors que j’étais encore étudiant, en 1998. Alexander McNeil avait donné un cours passionant, inspiré du livre. Ce n’est pas le livre le plus récent sur les extrêmes (je pense au prodigieux Statistics of Extremes, de Jan et Johan). Mais c’est le livre que je relis, chaque fois que je dois donner un cours sur le sujet. Je préfère certaines preuves du livre de Sidney Resnick, et le livre de Jan et Johan sur les aspects inférentiels, mais la structure du livre est limpide, et j’adore les remarques et les petits commentaires, incroyablement éclairants.

En volant un peu la fin du billet de Martin Grandjean je vous invite à faire de même, en partageant vos sélections de livres (que j’essayerais de suivre encore via #MyTopTenBooks). Et si mes titres vous laissent à penser que je devrais en aimer d’autres, n’hésitez pas à m’en faire part, via les commentaires !

Elections Sans Bipartisme

Hier, sur Twitter, @JF_Godbout partageait un joli graphique relatif aux élections québécoises, avec les nombres de votes obtenus (ici en pourcentage des votes totaux) et le pourcentage de sièges que cela donne,

Il faut dire qu’hier, c’était jour d’élection. Ce sont des élections à un tour, avec plusieurs partis (disons 4 grands partis si on se limite aux élections les plus récentes). Jusqu’à lundi, le PQ (Parti Québécois) avait une majorité (relative), et depuis lundi, le PLQ (Parti Libéral) est revenu au pouvoir. Et il y a à côté de ces deux grands partis d’autres partis, que l’on va regrouper. @JF_Godbout m’ayant envoyé ses données, j’ai pu reproduire les graphiques.

La grande différence ici, entre nos approches est – je pense – la méthode de lissage: alors que  @JF_Godbout faisait des régressions locales, j’ai opté pour des splines.


J’utilise des splines parce que ça se généralise facilement à d’autres lois, et qu’on peut aussi les utiliser quand on régresse sur plusieurs variables continues. Si on rajoute les résultats de l’élection de lundi, on obtient le graphique suivant

Ce qui me gêne dans cette modélisation, c’est qu’on considère nos trois dernières régressions comme indépendantes…. alors que ce n’est pas le cas: on a trois modalités possibles, et la somme doit forcément faire 1. D’ailleurs, quand on somme les prédictions, on dépasse 1.

Avec deux partis, notre régression logistique nous garantie d’avoir une somme à un, mais plus ici. A moins d’utiliser un modèle multinomial. Si on oublie le lissage, l’idée est d’écrire

qui est tout simplement l’extension du modèle logistique. La difficulté technique est que, sous R, quand on fait une régression logistique, la variable d’intérêt doit être une variable prenant trois facteurs, et non pas un vecteur de probabilités. Au lieu d’utiliser des taux, ou des pourcentages, je devrais utiliser des nombres d’observations de chaque modalités. On va donc crééer une fausse base

> vote=data.frame(
+ plq=plq$Vote,
+ pq=pq$Vote,
+ autre=autre$Vote,
+ Election=pq$Election)
> vote
      plq     pq  autre Election
1  0.5465 0.3022 0.1513     1972
2  0.3378 0.4137 0.2485     1976
3  0.4608 0.4926 0.0466     1981
4  0.5599 0.3869 0.0532     1985
5  0.4995 0.4016 0.0989     1989
6  0.4440 0.4475 0.1085     1994
7  0.4355 0.4287 0.1358     1998
8  0.4599 0.3324 0.2077     2003
9  0.3308 0.2835 0.3857     2007
10 0.4208 0.3517 0.2275     2008
11 0.3120 0.3195 0.3685     2012
12 0.4140 0.2538 0.3312     2014
> M=t(round(vote[,1:3]*1000))
> M
      [,1] [,2] [,3] [,4] [,5] [,6] [,7] [,8] [,9] [,10] [,11] [,12]
plq    546  338  461  560  500  444  436  460  331   421   312   414
pq     302  414  493  387  402  448  429  332  284   352   320   254
autre  151  249   47   53   99  108  136  208  386   227   368   331

On réplique alors autant de fois le nom du parti qu’on a de (pseudo) votes

> for(i in 1:3){
+ for(j in 1:ncol(M)){
+ Y=c(Y,rep(c("PLQ","PQ","Autre")[i],M[i,j]))
+ X=c(X,rep(pq$Election[j],M[i,j]))
+ }}
> basev=data.frame(Y=as.factor(Y),X=X)

C’est un peu artificiel, j’en conviens, mais ça marche… On peut alors faire la régression

> library(nnet)
> regv=multinom(Y~bs(X),data=basev)
# weights:  15 (8 variable)
initial  value 13186.643301 
iter  10 value 12241.931805
final  value 12221.591172 

et des prévisions

> ypv=predict(regv,newdata=
+ data.frame(X=1973:2014),type="probs")
> ypv
        Autre       PLQ        PQ
1  0.18426281 0.4705415 0.3451957
2  0.16051060 0.4767408 0.3627486
3  0.14149153 0.4805514 0.3779571
4  0.12631826 0.4826100 0.3910718
5  0.11426236 0.4834165 0.4023212
6  0.10474046 0.4833543 0.4119053
7  0.09729304 0.4827117 0.4199953
8  0.09156246 0.4817016 0.4267360
9  0.08727323 0.4804776 0.4322491
10 0.08421535 0.4791477 0.4366370
11 0.08223095 0.4777835 0.4399855
12 0.08120364 0.4764292 0.4423672
13 0.08105030 0.4751066 0.4438431
14 0.08171457 0.4738203 0.4444651

Et on notera que cette fois, nos prévisions somment à un.

Cela dit, visuellement, on obtient des choses proches de ce qu’on avait auparavant,

mais intellectuellement, je trouve plus logique d’utiliser autre chose que des régressions logistiques quand on est dans une élection où plusieurs partis sont en compétition.

Actuariat, le rêve américain

Ce billet (sous une forme proche) devrait proposé sous forme d’article dans les semaines à venir pour publication dans Variances, le journal des anciens ENSAE. En attendant, les commentaires sont ouverts, et je serais ravi d’accueillir des points de vue !

  • L’actuariat et les actuaires

Dans un ‘conte Persan‘ inventé par Claude Bébéar, l’actuariat était défini comme suit :

Il était une fois un assureur sur la vie fort intelligent, éminent et respecté. Il était considéré par tous comme un grand technicien, voire un savant, qui n’avait pas son pareil pour estimer la prime à demander aux assurés et la valeur des engagements pris par l’assureur. Mais parfois, un doute le taraudait : sa science était-elle vraiment estimée ? Le vulgaire ne risquait-il pas de s’en saisir, montrer qu’il n’y avait là rien d’admirable et détruire une réputation bâtie à force de patience ? Vite, il fallait se protéger. Et c’est ainsi que notre assureur éminent, respecté et fort intelligent, inventa un langage ésotérique qu’il appela “actuariat”. Et grâce à lui, des générations d’actuaires heureux vécurent et vivent encore à l’abri des critiques, adulés de tous. Chaque année, aidés par des comptables pleins de respect, ils mettent au point un rapport annuel fort savant qu’assurés, actionnaires et contrôleurs en tous genres contemplent sans trop comprendre et sans oser poser de questions, de peur de passer pour des sots. Le système était parfait.”

Comme le montrent les divers classements des métiers qui placent le métier d’actuaire régulièrement en tête depuis une dizaine d’années, en Amérique du Nord, l’actuariat fait rêver. Mais personne ne sait trop ce qu’est l’actuariat….

  • L’actuariat: entre pratique et théorie

Avant de commencer à comparer l’actuariat vu des deux côtés de l’Atlantique, rappelons que le terme “actuariat” n’existe pas dans la langue anglaise. Il existe une “science actuarielle” – enseignée dans quelques universités – et une “pratique actuarielledésignant le travail fait par les actuaires, au quotidien. Cette première subtilité linguistique est importante pour comprendre ce qu’est l’actuariat, au sens français, de ce côté-ci de l’Atlantique. Une connaissance (relative) du premier permet de prétendre au statut d’associé d’une organisation professionnelle, alors que l’exercice du second est essentiel pour prétendre au titre de Fellow. Mais revenons un instant en arrière, sur le système d’éducation en Amérique du nord (on exclura pour l’instant le Québec, qui est un peu particulier). A l’âge où les étudiants français passent leur bac, les étudiants américains terminent leur High School, pour ensuite rejoindre un College ou une université pour une formation de quatre ans, leur permettant de préparer un Bachelor Degree. S’ils le souhaitent, ils peuvent ensuite poursuivre par un Master Degree, qu’ils prépareront sur deux ans.

Les programmes d’actuariat dans les universités nord américaines sont essentiellement des programmes de type Bachelor, qui proposent de former à la science actuarielle, sur un programme de quatre ans (et pas cinq, comme en France). Si en théorie, la mission d’une université est d’enseigner la science actuarielle, bien souvent, les Bachelor programs en science actuarielle proposent de préparer la première série d’examens professionnels, appelés examens préliminaires.

  • Le système des examens professionnels

Tous ceux qui ont travaillé en tant qu’actuaires en dehors de l’Europe le savent : l’actuariat n’existe pas en dehors de la SOA. Cette corporation de plus de 20,000 membres est omniprésente, pas seulement aux Etats-Unis (où se trouve son siège) mais aussi en Asie. Même si l’Association Actuarielle Internationale tente de faire reconnaître les divers instituts, le titre de FSA (Fellow of the Society of Actuaries) est, dans les faits, le seul qui jouisse d’un réel prestige international.

Pour devenir actuaire, en Amérique du Nord, il faut passer au travers des examens professionnels. Ces examens, organisés par les organisations professionnelles (SOA, Society of Actuaries, CAS, Causality Actuarial Society ou CIA, Canadian Institute of Actuaries) sont de trois types :

  • les examens à choix multiples en probabilités (P), mathématiques financières (FM), mathématiques actuarielles (MLC), économie financière (MFE), évaluation de modèles actuarielles (C)
  • les VEE : cours approuvés, en économie, finance et statistique
  • les modules : des ateliers de pratique actuarielle

Par exemple, pour valider l’examen P de probabilité, il faut ainsi réussir au moins 20 questions sur 30 (environ, le pourcentage dépend de la difficulté des questions, il faut un taux d’admission de l’ordre de 35%) en 3 heures. Il est inutile de comprendre la subtilité de la construction de l’espérance conditionnelle, l’objectif est davantage de maîtriser le calcul des probabilités. Certains exercices sont loin d’être triviaux, mais il ne s’agit pas de trouver le truc qui permet d’établir la preuve, davantage de comprendre comment formaliser un problème concret en termes probabilistes. Ce qui est – a priori – parfait pour pratiquer par la suite le métier d’actuaire. Laissons les plus sceptiques tenter de résoudre les exercices posés dans les sample exams sur le site de la SOA. La critique fondamentale que l’on pourrait faire est que le calcul des probabilités n’est pas vraiment une fin en soi : pour comprendre la notion de “martingale,” centrale en valorisation financière, ou celle de “prévision” (en predictive modeling) il convient de comprendre non pas comment calculer une espérance conditionnelle, mais de savoir ce qu’est cet objet mathématique.

Une fois Associé, il est possible de devenir Fellow, en passant de nouveaux examens

  • les examens avancés (écrit, à développement, par opposition aux choix multiples)
  • les modules (suivant le domaine de pratique)
  • les séminaires

Ces examens dont plus exigeants en terme de préparation, avec environ 400 h de préparation étalés sur les trois mois précédant l’examen (à concilier avec une vie professionnelle, et une vie de famille). Dans les entreprises d’assurance en Amérique du Nord, le titre de Fellow est largement valorisé, d’où une  forte incitation en interne à passer (et réussir) ces examens.

  • Les relations entre la communauté actuarielle et le monde académique

En France, l’Institut des Actuaires a eu pour stratégie d’accréditer certaines formations, dans des écoles ou dans des universités. Dans tous les cas, il s’agit d’une formation avancée, de type Master. Les stages permettent de garder un lien entre le monde académique, et la communauté actuarielle. Et c’est la grande force du système français. Outre Atlantique, les étudiants effectuaient une formation poussée en mathématique et en gestion des risques, et les examens professionnels sanctionnaient les étudiants qui les passaient. Mais les examens sont aujourd’hui une fin en soi, la plupart des formations en actuariat devenant de véritables prépas à examens professionnels.

Comme le disait Charles Goodhart, “lorsqu’une mesure devient un objectif, elle cesse d’être une mesure“. Les étudiants en actuariat n’apprennent plus les concepts de valorisation par réplication, ou des raisonnements bayésiens pour mettre à jour des primes, mais uniquement des recettes de cuisine permettant de réussir des examens.

Cela dit, le vent semble tourner, au moins au Canada. En effet, l’Institut Canadien des Actuaires a signé plusieurs programmes d’agréments universitaires, donnant des dispenses d’examen pour les étudiants qui réussissent certains cours (reconnus par l’agrément). Cette idée d’une reconnaissance de la qualité de certaines formations universitaires est loin de faire l’unanimité outre Atlantique, même si la SOA a également fait un pas vers le monde académique voilà quelques années, avec les labels de “Center of Excellence” (mais qui n’apporte pas grand chose aux étudiants, malheureusement).

  • La culture actuarielle en France, et à l’extérieur

Si l’Institut des Actuaires Français est très ancien (on peut remonter en 1890 pour voir le premier institut), il comptait très peu de membres avant les années 1980. L’organisation des systèmes de retraites en France (reposant peu sur les fonds de pension) explique probablement cette différence culturelle importante. Cela dit, de nombreux ouvrages insistent sur l’importance de la science actuarielle sur l’histoire des probabilités par exemple (on repensera au chapitre dédié à Arthur Bailey dans The Theory That Would Not Die de Sharon McGrayne, ou les nombreuses références à la construction des tables de mortalité aux Pays-Bas ou en Angleterre dans The Emergence of Probability de Ian Hacking), et les travaux sur les premium principles sont aujourd’hui reconnus comme précurseurs des travaux récents en mathématique financières sur l’axiomatique des mesures de risque.

Il est d’ailleurs surprenant que les actuaires, en France, aient été aussi peu consultés lors des réflexions sur les constructions des tables de mortalité (contrairement à ce qui peut se passer en Amérique du Nord). Combien d’actuaires y-a-t-il parmi les membres du Conseil d’Orientation des Retraites ? Peut-être parce que les organisations actuarielles ont ici un réel pouvoir, il serait inimaginable de voir un débat sur les retraites se tenir sans la présence de plusieurs actuaires reconnus.

Une autre forte différence culturelle existe quand on regarde les thèmes des séminaires et autres conférences en France. Ces dernières années, les actuaires ont énormément travaillé sur la mise en place de Solvabilité II, et sur la réflexion autour des normes comptables relatives à la solvabilité des compagnies d’assurance. La solvabilité est devenue le cœur de la réflexion actuarielle, en Europe. Mais les Etats-Unis et les Canada n’ont pas adopté les normes comptables préconisées en Europe. Et le mot “solvency” ne figure toujours pas au syllabus des examens préliminaires : un actuaire nord américain peut ne jamais avoir entendu prononcer ce mot (s’il n’a pas traversé l’océan Atlantique)

  • La reconnaissance des actuaires formés en France

Le jeu n’est pas symétrique, loin de là: l’Institut des Actuaires (en France) reconnaît le statut de FSA. Mais la réciproque est fausse: les actuaires formés en France, qui souhaitent exercer la profession d’actuaire doivent passer les examens professionnels de la SOA.

Faudrait-il alors que les étudiants français passent des examens professionnels pendant leur formation pour développer leur attractivité internationale ? Faut-il signer des partenariats avec des universités en Amérique du Nord (comme le font certaines formations) ? Les expériences tentées récemment montrent qu’il est délicat de faire valider des cours de première année d’université (préparant à des examens professionnels) comme des cours de niveau fin de Master. Compte tenu de cette profonde différence, les partenariats seront difficiles à monter. Néanmoins, la formation d’actuariat en France donne les bases parfaites pour préparer la majorité des examens préliminaires, la seule difficulté est de s’entraîner un minimum pour ne pas être déstabilisé par la forme de l’examen à choix multiple.

SOA (Society of Actuaries), fondée en 1949 de la fusion de l’ASA (Actuarial Society of America, 1889) et de l’AIA (American Institute of Actuaires, 1909), située dans la banlieue de Chicago, Illinois. Environ 800 fellows de plus, par an, 22,500 membres en 2014.
CAS (Casualy Actuarial Society), fondée en 1914 (sous le nom Casualty Actuarial and Statistical Society of America), située en Virginie. 5,500 membres en 2014.
ICA (Institut Canadien des Actuaires, CIA en anglais), fondée en 1965, localisée à Ottawa, Ontario, 4,300 membres en 2014.
IA (Institut des Actuaires), fondé en 1890, comptant environ 3,000 membres en 2012. A ne pas confondre avec IA (Institute of Actuaries), fondé à Londres en 1848, revendiquant plus de 15,700 membres. Le terme FIA désigne les Fellows of the Institute of Actuaries.

Étant régulièrement contacté par des français, souhaitant s’installer en Amérique du Nord, ou simplement “devenir Fellow“, j’ai longtemps eu envie de revenir sur l’actuariat, vu d’ici, histoire de clarifier certains points. Pour préciser mon point de vue (à la fois sur l’actuariat en Amérique du Nord, et en France) je pourrais rappeler que j’ai travaillé à Hong Kong – en tant qu’actuaire – en 1999 et 2000, et que c’est en Asie que j’ai pris conscience de l’importance de la SOA dans le monde des assurances. En France, j’avais été en charge de la formation d’actuariat de l’ENSAE, ait fait partie du jury de l’institut des actuaires (à l’ISUP et à Dauphine), ait été secrétaire de la Commission Scientifique (à une lointaine époque, où on donnait des équivalences à des membres d’organisations actuarielles étrangères, et où on tentait de réfléchir au syllabus des formations), suis membre du jury du prix SCOR depuis plusieurs années, ai écrit des livres (en français) et édite dans les semaines à venir un livre d’actuariat (computational actuarial science), qui se veut au delà des particularités culturelles (comme j’ai pu en prendre conscience lors de la rédaction, le gouffre entre académiques et professionnels, ou entre Européens et Américains n’est pas simple à combler). Et j’enseigne depuis 3 ans dans un center of excellence de la SOA, qui bénéficie d’un programme d’agrément universitaire de l’ICA (j’ai ainsi enseigné le cours préparatoire à l’examen P, ainsi que le VEE de statistique et prévision). J’ai d’ailleurs participé à la Task Force de la SOA qui avait pour mission de monter un syllabus pour l’examen de modélisation du nouveau General Insurance Track.

Pour aller plus loin, je suggèrerais la lecture de Sibley, A. (2006). Nos collègues français, The Actuary, November 2006, p. 34-35 (pour une vision plus britannique cette fois).

Computational Actuarial Science

Last week, we’ve been through the book, completely, one last time, before sending it back to the publisher, with some comments and remarks, before publication ! So, this is it, the book will finally appear soon ! It was schedule for this week actually, but… you know. It should appear sometime by the end of May, or beginning of June. I will keep you posted on this blog.

A few months ago, we published with Christophe Dutang an ebook on the same topic, in French, online on This contribution was based on lecture notes we had. When I’ve been asked to publish an English version, by John Kimmel, I was honored, but I thought it would be some kind of fraud if I write a book on that topic. I do know a bit of actuarial science, and a bit of R, but most of the advanced computations rely on others packages. Because I am extremely lazy, I did not try (so far) to edit my own package. I frequently publish some lines of codes on my blog, but nothing too serious.

So, for this book, I decided to ask those who actually did publish a package used in actuarial computations (or who did work previously on packages comparison for instance) to write a chapter, in this book. I am usually not a big fan of books with twenty contributors, because there is no coherence. So here, my task was to link all those chapters together, to make sure that notations are coherent, etc. Over 700 pages, that was difficult. And I asked all of them not only to illustrate actuarial concepts with some R code, but also give – if possible – some self written function, to understand the algorithm, but also some built-in functions. The goal was to explain the core of the algorithm. Some codes might not be efficient, but they help to understand how it could be possible to compute some actuarial quantities.

The first chapter is an Introduction (to the R language) I wrote with Rob Kaas (everyone in the actuarial community knows Rob ! not only as the Editor of Insurance: Mathematics & Economics. but also as a prolific author, including the popular textbook Modern Actuarial Risk Theory – Using R). The aim is to help those who might use another language for actuarial computation to understand the basics of the grammar, to read and write in R. I will probably publish a longer post, to explain the structure of that chapter. And show some codes.

  • Methodology 

The first section is a very general methodology section. It starts with Standard Statistical Inference by Christophe Dutang (Christophe is extremely active in the R community, as the maintainer of the Distributions task view page, for instance).Then, Ben Escoto (Ben works in the insurance industry, and launched the actuarial vignettes in R a few years ago) and myself, wrote a chapter which can be seen as an introduction to the Bayesian Philosophy for actuaries (I will give a talk on that topic at the R in Insurance conference this summer, so additional material will be online soon). With Stéphane Tufféry, we Statistical Learning (Stéphane published a Data Mining and Statistics for Decision Making a few years ago). Then, I wanted a chapter dedicated to Spatial Analysis. I did ask Renato Assunção, Marcelo Azevedo Costa, Marcos Oliveira Prates, and Luís Gustavo Silva e Silva to write that chapter (I met them a few years ago while I was visiting Renato in Belo Horizonte, while that started to work on spatial aspects of actuarial science). And finally, Eric Gilleland and Mathieu Ribatet wrote the chapter on Reinsurance and Extremal Events (both of them work on climate and extreme values, and they did publish a very interesting software review for extreme value analysis a few years ago).

  • Life Insurance

For the section on life insurance, I asked Giorgio Spedicato to write the chapter on Life Contingencies (Giorgio is the author of the lifecontingencies package). Then Heather Booth, Rob J. Hyndman, and Leonie Tickle agreed to write the chapter on Prospective Life Tables (here we have a great match, with a demographer, an actuary, and… Rob. Every one who studied time series knows Rob. He is the author of the amazing forecast package, as well as the demography package, among many others. And he has a great blog too). To go further, Julien Tomas and Frédéric Planchet wrote the chapter on Prospective Mortality Tables and Portfolio Experience (both of them published the ELT – experience life tables – package a few months ago). And finally, there is a chapter on Survival Analysis by Frédéric Planchet  and Pierre-E. Thérond (they did publish a book – in French – on survival analysis for actuarial science, with examples in R).

  • Finance

For the section on financial computations, Yohan Chalabi and Diethelm Würtz wrote two chapters, one on Stock Prices and Time Series and one on Portfolio Allocation (both of them have worked on the Rmetrics project, with the timeSeriesfArmafGarchfPortfolio packages). And Sergio S. Guirreri wrote a chapter on Yield Curves and Interest Rates Models (Sergio is the author of the YieldCurve package).

  • Non-Life Insurance

Last, but not least, there is a section on non-life insuranceJean-Philippe Boucher (who published several articles on counts models) and myself, wrote the chapter on General Insurance Pricing. Then, I asked Katrien Antonio, Peng Shi, and Frank van Berkum to go further, with a chapter on Longitudinal Data and Experience Rating (I know Katrien from my PhD, and she was already working on that topic by that time… she did publish great surveys on that topic). And finally, Claims Reserving and IBNR is a chapter I wanted to write, because it’s a topic I love, but I asked Markus Gesmann to write it (Markus is known not only for his googleVis package, but also for the ChainLadder package – not to mention his awesome blog).

I will try to post some additional material on this blog, with R code (of course), graphs, and slides. And probably some pdfs with answers for the exercises. And all the datasets will be available in a CASdatasets package (online soon).

Stationarity of ARCH processes

In the context of AR(1) processes, we spent some time to explain what happens when  is close to 1.

  • if  the process is stationary,
  • if  the process is a random walk
  • if  the process will explode

Again, random walks are extremely interesting processes, with puzzling properties. For instance,

as , and the process will cross the x-axis an infinite number of times…

Recently, in the MAT8181 course, we studied carefully properties of the ARCH(1) process, especially when . And again, what we get might be puzzling.

Consider some ARCH(1) process , with a Gaussian noise, i.e.


and  is a sequence of i.i.d.  variables. Here both  and  have to be positive.

Recall that  since . Further

since , so the variance exists, and is constant only if , and in that case

Further, if , then the fourth moment can be obtained,

since. Now, if we get back on the property obtained while studying the variance, what does that mean if , or  ?

If we look at simulations, we can generate an ARCH(1) process with  for instance.

> n=600
> a=2
> w=0.2
> set.seed(1)
> eta=rnorm(n)
> epsilon=rnorm(n)
> sigma2=rep(w,n)
> for(t in 2:n){
+ sigma2[t]=w+a*epsilon[t-1]^2
+ epsilon[t]=eta[t]*sqrt(sigma2[t])
+ }
> plot(epsilon,type="l")

In order to understand what’s going on, we should keep in mind that, what we good is that  has to lie in  to be able to compute the second moment of . But it is possible to have a stationary process with infinite variance. And actually, this is what we have here.


and them, iterate

and iterate again, and again, and again…


Here, we have a sum of positive terms, and we can use the so-called Cauchy rule: define

then, if , the series  converges. Here,

which can also be written

and from the law of large numbers, since we have here a sum of i.i.d. terms,

So, if , then  will have a limit when  goes to infinity.

The condition above can be written

which is called Lyapunov coefficient.

The equation

is a condition on .

In the case where , the numerical value of this upper bound is 3.56.

> 1/exp(mean(log(rnorm(1e7)^2)))
[1] 3.562517

In that case (), the variance may be infinite, but the series is stationary. On the other hand, if , then  will go to infinity almost surely, as  goes to infinity.

But in order to observe this difference, we need a lot of observations. For instance, with ,

and ,

we can easily see a difference. I do not say that it’s easy to see that the distribution above has an infinite variance, but still. Actually, if we consider Hill’s plot on the series above, on the tails of positive ‘s

> library(evir)
> hill(epsilon)

or on the tails of negative ‘s

> hill(-epsilon)

we can see that the tail index is (strictly) smaller than 2 (meaning that the moment of order 2 does not exist).

Why is it puzzling? Maybe because here,  is not weakly stationary (in the  sense), but it is strongly stationary. Which is not the usual way weak and strong are related. This might be why we will not call this strong stationarity, but strict.

Somewehere else, part 124

Some writings worth reading,

Many of the new jobs today are in health care and education, where specialized training and study are required. Across the economy, a college degree is often demanded where a high school degree used to suffice. It’s now common for a fire chief to be expected to have a master’s degree, and to perform a broader variety of business-related tasks that were virtually unheard-of in earlier generations. All of these developments mean a disadvantage for people who don’t like formal education, even if they are otherwise very talented. It’s no surprise that current unemployment has been concentrated among those with lower education levels. There is also a special problem for some young men, namely those with especially restless temperaments. They aren’t always well-suited to the new class of service jobs, like greeting customers or taking care of the aged, which require much discipline or sometimes even a subordination of will.

see also “Clear Off the Table” …

  • nice dataviz on the front page of the NYT via @junkcharts … in January 1854

  • “There’s no way you’re going to get a quote from us…” (on Banksy’s book)

et un peu de lecture en français,

Did I miss something interesting?