# Fractals and Kronecker product

A few years ago, I went to listen to Roger Nelsen who was giving a talk about copulas with fractal support. Roger is amazing when he gives a talk (I am also a huge fan of his books, and articles), and I really wanted to play with that concept (that he did publish later on, with Gregory Fredricks and José Antonio Rodriguez-Lallena). I did mention that idea in a paper, writen with Alessandro Juri, just to mention some cases where deriving fixed point theorems is not that simple (since the limit may not exist).

The idea in the initial article was to start with something quite simple, a the so-called transformation matrix, e.g.

$T=\frac{1}{8}\left(\begin{matrix}1& 0 & 1 \\ 0 & 4 & 0 \\ 1 & 0&1\end{matrix}\right)$
Here, in all areas with mass, we spread it uniformly (say), i.e. the support of $T(C^\perp)$ is the one below, i.e. $1/8$th of the mass is located in each corner, and $1/2$ is in the center. So if we spread the mass to have a copula (with uniform margin,)we have to consider squares on intervals $[0,1/4]$$[1/4,3/4]$ and $[3/4,1]$,

Then the idea, then, is to consider $T^2=\otimes^2T$, where  $\otimes^2T$ is the tensor product (also called Kronecker product) of $T$ with itself. Here, the support of $T^2(C^\perp)$ is

Then, consider $T^3=\otimes^3T$, where $\otimes^3T$ is the tensor product of $T$ with itself, three times. And the support of $T^3(C^\perp)$ is

Etc. Here, it is computationally extremely simple to do it, using this Kronecker product. Recall that if $\mathbf{A}=(a_{i,j})$, then

$\mathbf{A}\otimes\mathbf{B} = \begin{pmatrix} a_{11} \mathbf{B} & \cdots & a_{1n}\mathbf{B} \\ \vdots & \ddots & \vdots \\ a_{m1} \mathbf{B} & \cdots & a_{mn} \mathbf{B} \end{pmatrix}$

So, we need a transformation matrix: consider the following $4\times4$ matrix,

> k=4
> M=matrix(c(1,0,0,1,
+            0,1,1,0,
+            0,1,1,0,
+            1,0,0,1),k,k)
> M
[,1] [,2] [,3] [,4]
[1,]    1    0    0    1
[2,]    0    1    1    0
[3,]    0    1    1    0
[4,]    1    0    0    1

Once we have it, we just consider the Kronecker product of this matrix with itself, which yields a $4^2\times4^2$ matrix,

> N=kronecker(M,M)
> N[,1:4]
[,1]  [,2] [,3] [,4]
[1,]     1    0    0    1
[2,]     0    1    1    0
[3,]     0    1    1    0
[4,]     1    0    0    1
[5,]     0    0    0    0
[6,]     0    0    0    0
[7,]     0    0    0    0
[8,]     0    0    0    0
[9,]     0    0    0    0
[10,]    0    0    0    0
[11,]    0    0    0    0
[12,]    0    0    0    0
[13,]    1    0    0    1
[14,]    0    1    1    0
[15,]    0    1    1    0
[16,]    1    0    0    1

And then, we continue,

> for(s in 1:3){N=kronecker(N,M)}

After only a couple of loops, we have a $4^5\times4^5$ matrix. And we can plot it simply to visualize the support,

> image(N,col=c("white","blue"))

As we zoom in, we can visualize this fractal property,

# Paradoxe de Simpson expliqué par un dessin

Il y a plusieurs mois, j’avais fait un billet sur le paradoxe de Simpson (ici). Pour reprendre un exemple simple, supposons que l’on a deux hôpitaux, affichant les statistiques suivantes, pour les personnes “saines”,

 hôpital total survivants décès taux de survie hopital A 600 590 10 98% x hopital B 900 870 30 97%

et pour les personnes “malades” (on suppose vraiment que le critère est identique pour les deux hôpitaux)

 hôpital total survivants décès taux de survie hopital A 400 210 190 53% x hopital B 100 30 70 30%

Bref, peu importe son état de santé, on a toujours intérêt à choisir l’hôpital A. D’où le paradoxe. En revanche, si on combine, on obtient “globalement”,

 hôpital total survivants décès taux de survie hopital A 1000 800 200 80% hopital B 1000 900 100 90% x

on note que l’on a intérêt à choisir l’hôpital B. Étonnant non ? (l’exemple vient de Marco Scarsini, et je n’ai jamais trouvé plus élégant).

J’évoque souvent ce paradoxe en économétrie, et c’est ce que j’avais fait dans mon précédant billet (ici). En fait, Roger Nelsen propose un petit exemple simple permettant de comprendre comment on peut obtenir un tel paradoxe. L’idée est de noter que

et

et pourtant

Cela n’a a priori rien d’exceptionnel… On peut parfaitement avoir

et

tout en ayant,

C’est ce que l’on peut visualiser ci-dessous,

Merci Roger….

# Dessins et preuves ?

Plusieurs personnes m’ont laissé des messages et des commentaires suites aux derniers dessins, disant en substance “c’est bien joli, mais est-ce que c’est vraiment une preuve ? “. Étant incompétent en épistémologie, je n’aurais pas la prétention d’apporter des lumières… En revanche, Olivier m’a forwardé (ici) le document en ligne (on l’on retrouve page 4 un dessin plus beau que celui que j’avais pu faire pour montrer que la loi géométrique est une vraie loi de proba), et surtout, il m’a fait découvrir ici la notion de “preuve sans mots“, où l’on retrouve une très jolie preuve animée (je me rends compte que l’animation aide vraiment à la compréhension, c’est ça que j’aurais du faire depuis le début) du théorème de Pythagore (que je continue de mentionner en cours, comme , lorsque je dois parler de formule de décomposition de la variance). Bref, sur la page wiki est mentionné des ouvrages de Roger Nelsen, que je dévore depuis ce matin.

(ainsi que quelques livres avec Claudi Alsina). Pour la petite histoire, c’est justement Roger qui m’avait expliqué comme obtenir ces propriétés de la loi géométrique, à l’époque où je faisais un short course à Samos, en 2004, sur advanced statistical methods in insurance. J’avais évoqué l’importance de la loi géométrique dans le concept de période de retour, et Roger m’avait expliquer comment retrouver l’histoire de l’espérance de la loi géométrique sans équations….

J’ai retrouvé plusieurs dessins que j’avais fait dans mes cahiers de prépas (que je commence à ressortir ces derniers temps, depuis que je dois revenir sur quelques concepts fondamentaux de convexité et de topologie… et qui m’avait servi pour les dessins que j’avais déjà pu faire, ici en particulier), et surtout j’en ai découvert un paquet d’autres, que je ne pourrais pas m’empêcher d’évoquer dans de futurs billets… D’ailleurs, je me suis rendu compte qu’on pouvait retrouver un bon nombre de ces exemples directement sur jstor, . Par exemple, il propose une interprétation de la comparaison de plusieurs moyennes (arithmétique, géométrique, etc), plus complète que ce que j’avais pu faire,

Sur la preuve par le dessin, Jean-Paul Delahaye apporte les éclaircissements suivant, ici, en citant David Hilbert qui disait : « les règles pour écrire une démonstration doivent être si claires que si quelqu’un vous propose une démonstration, alors une procédure mécanique doit pouvoir assurer que la démonstration est correcte, c’est-à-dire qu’elle obéit aux règles. ». Il détaille par ailleurs cet argument, “ce que les Grecs – par exemple Euclide – considéraient comme une démonstration est aujourd’hui encore, moyennant quelques adaptations dans le style et les notations, toujours considéré comme une démonstration. En revanche, nous avons beaucoup avancé sur les notations, la structure logique des arguments, et la compréhension de ce qu’il est possible d’attendre de la méthode axiomatique. Nos notations et la logique mathématique ont tellement progressé que, contrairement aux Grecs, nous savons formaliser les démonstrations que nous écrivons.”
Bref, pour ma part, je trouve cela tellement élégant (et surtout je sais que Roger est beaucoup plus compétent en maths que moi) que je ne m’empêcherais pas de mettre ici le compte rendu de mes lectures ! Merci Roger, et Olivier….

# Zénon, sommes infinies et loi géométrique

Ayant parlé plusieurs fois de Luc Chatel sur mon blog je n’ai pas pu m’enpêcher de mettre l’image qui est à la une du Canard de cette semaine.
Pour ceux qui se souviennent de leurs cours de philo au lycée, c’est le paradoxe de Zénon (ou presque). Pour cela il faut fermer les yeux et imaginer une flèche en vol (en fait non, je viens de faire l’expérience, si on ferme les yeux, on ne peut pas lire la suite, ça ne marche qu’en cours cette histoire). La flèche est lancée à 10 mètre de sa cible. Il faut un certain temps, non nul, à cette pierre pour parcourir la moitié de la distance qui la sépare de la cible. Ensuite, il lui reste encore 5 mètres à parcourir, dont elle accomplit d’abord la moitié, 2,5 mètres, ce qui lui prend un certain temps. Puis elle parcourt la moitié, puis la moitié, et cela – à chaque fois – avec un temps non nul. Zénon (Ζήνων, parfois appelé aussi Zénon d’Elée)  en conclut que la pierre ne pourra frapper l’arbre qu’au bout d’un temps infini, c’est-à-dire jamais (ou pour la version illustrée, je peux renvoyer à un extrait de Kid Paddle, ici). En fait, Zénon introduit  la notion d’infini divisibilité (on dira qu’un élément est indéfiniment divisible, c’est d’ailleurs surprenant ce lien en français entre l’infini et l’indéfini), qui philosophiquement, est un complexe qui a mis du temps à s’imposer: une somme infinie d’éléments non nuls peut être finie (je renvois ici par exemple).

Formellement, l’histoire de la flèche revient à se demander si on peut calculer quelquechose qui ressemble à

soit, de manière plus formelle,

on retrouve la somme d’une série géométrique (au premier terme près), dont on sait que

Un application intéressante est que la loi géométrique, vérifiant

est effectivement une loi de probabilité,

(les termes sont positifs, et la somme vaut 1). Il existe une démonstration élégante de ce dernière résultat, qui tient en un dessin (à condition d’accepter ce principe un peu fractal d’infini divisibilité):

Je reviendrais un jour sur les lois de probas infiniment divisibles, car elles sont très très intéressantes de par certaines propriétés….