Tag Archives: lecture

“Éloge du bug” de Marcello Vitalli-Rosati

Courte note de lecture de “Éloge du bug. Être libre à l’époque du numérique” de Marcello Vitalli-Rosati, paru en mai dernier chez Zones.

Ce petit livre, Éloge du Bug, de Marcello Vitalli-Rosati, parle du numérique, et de l’importance que tous ces outils digitaux ont pris dans nos vies, sans qu’on prenne le temps d’y réfléchir. Comme le dit la conclusion, le but de ce livre est “de vous faire perdre du temps”, ce temps nécessaire à la réflexion. Plus que prendre de la hauteur sur le sujet, Marcello Vitalli-Rosati nous propose de faire un pas de côté, et de nous interroger sur nos pratiques. Il nous force à réfléchir à ce qu’Evgeny Morozov appelait le “solutionnisme technologique”, cette une approche selon laquelle “tous les besoins sociaux sont, de fait, transformables de façon unique, claire et non ambiguë en « problèmes » qui peuvent ensuite être résolus par de bons algorithmes.”

Le point de départ est cette omniprésence du numérique dans nos vies. “Il fut un temps où, dans nos sociétés, c’était l’Église qui garantissait l’identité des citoyenn⸱es avec les registres de paroisse dans lesquels étaient inscrits les noms de baptêmes des personnes; aujourd’hui, c’est à Apple et à Google que revient cette tâche. Avec la pandémie de la Covid-19, et à la mise en place du passeport vaccinal, le fait de ne pas avoir de smartphone est devenu encore plus problématique qu’avant”. Marcello Vitalli-Rosati se propose en quelques courts chapitres de discuter quatre concepts importants, avec le recul d’un universitaire rigoureux, mais prenant le parti de faire des parallèles avec des œuvres connues.

Pour parler de “bugs”, La Métamorphose de Franz Kafka permet de montrer comment l’injonction au fonctionnement (un “bug” étant un “dis-fonctionnement”) cache en réalité des valeurs qui sont données pour acquises. “En tant qu’époque, le numérique est indéniablement caractérisé par un mode de fonctionnement capitaliste. Pour être plus précis : une multiplicité de caractéristiques que l’on a l’habitude d’attribuer « au numérique » sont, en réalité, des caractéristiques qui fondent le monde capitaliste depuis ses débuts et qu’on peut retrouver déjà dans les descriptions que Karl Marx en donnait dans Le Capital.” On veut des outils qui fonctionnent. “Le but de ce fonctionnement – ça fonctionne pour faire quoi ? – n’est même pas explicité, car il est évident.” Une technologie fonctionne quand elle accélère un processus ; elle ne fonctionne pas quand elle ne l’accélère pas assez. Cette réflexion sur le temps est passionnante, rappelant les travaux d’Hartmut Rosa qui rappellent que les développement technologique des moyens de transport n’a jamais réduit le temps consacré aux transports, mais il a permis d’aller plus loin dans le même temps. “Au lieu d’employer cinq minutes à parcourir 5 kilomètres, nous dépensons toujours la même heure que nous aurions dépensée à pied, mais pour parcourir 60 kilomètres.” On pense alors aussi à Jean-Baptiste Fressoz qui montre qu’il n’y a jamais eu de transition énergétique, et qu’avec l’arrivée de nouvelles sources d’énergie, notre consommation ne fait qu’augmenter. Le parallèle avec les automobiles est fascinant, non seulement en tant que symbole de la société capitaliste du XXème siècle, mais aussi de part les changements induits dans les réflexions sur l’espace et le temps. La voiture, qui a changé ce qui est proche et ce qui est loin, répond précisément à cet impératif de fonctionnalité. Avec les téléphones cellulaires (Marcello Vitalli-Rosati utilise le terme “smartphone”), on va plus loin, un téléphone qui “fonctionne bien” signifiant simplement qu’elles rendent toujours joignables les personnes qui en possèdent. Le courriel, qui pouvait attendre quelques heures avant qu’on daigne y répondre, est aujourd’hui dépassé, on préfère aujourd’hui les applications de communication synchrone. Quel est le sens de cette “efficacité à tout prix”? Comprendre un “bug”, c’est comprendre les relations entre les humains et les machines, entre les concepteurs et les utilisateurs, c’est comprendre pourquoi une fonctionnalité attendue par un utilisateur, ou le concepteur dis-fonctionne. Marcello Vitalli-Rosati évoque trois types de “bugs”: l’outil est cassé (un outil fonctionne et, ensuite, arrête de fonctionner pour une raison quelconque, “l’outil est donc initialement fonctionnel, il fait ce qu’il doit faire, mais quelque chose ne va pas comme prévu et c’est là que tout s’arrête.”), l’outil est trop complexe (l’outil fonctionne très bien, mais il ne fait pas ce qu’on croit qu’il doit faire: dans ce cas l’outil peut devenir fonctionnel à condition que nous changions notre modèle mental), ou l’outil est inutile (l’outil fonctionne mais il fait des choses qui ne correspondent pas à l’impératif fonctionnel). Le second type est clairement le plus intéressant car il force à s’interroger sur ce qui nous semble, inconsciemment “naturel.” On pense aussi à Pekka Himanen et Steven Levy sur les hackers, et leurs détournements d’outils technologiques à d’autres fins. La réflexion est poursuivie plus loin dans l’ouvrage, avec la fameuse expression “it’s not a bug, it’s a feature” qui force à s’interroger sur les intentions des créateurs, mais qui rappelle aussi que des utilisateurs ont demandé que des bugs ne soient pas corrigés, leur fonctionnalité pouvant s’avérer très utile.

Cette question d’intuition, de simplicité, de ce qui serait “naturel” est repris dans le second chapitre, qui s’appuie sur l’histoire de la lampe merveilleuse d’Aladdin (rajoutée récemment dans les Contes de Mille et une nuits), qui exauce le moindre de nos désirs, posant la question du conte: qui est le maître et qui est le serviteur? Marcello Vitalli-Rosati nous rappelle que les requêtes d’Aladdin révèlent un manque total de réflexion et de volonté. Et plus tard, il laisse le génie décider pour lui, ne souhaitant faire aucun choix (n’est pas ce que l’on demande de plus en plus, et qui montre qu’un outil est fonctionnel). Ce parallèle entre les téléphones cellulaires et la lampe merveilleuse est lumineux, et nous éclaire sur notre relation à la technologie. Il remet d’ailleurs largement en cause la question de la neutralité, la fameuse loi de Kranzberg (énoncée voilà plus de quarante ans) rappelant que “la technologie n’est ni bonne ni mauvaise ; elle n’est pas non plus neutre.” Assez naturellement, la question de la “transparence” se pose, rappelant l’éloge du carburateur de Matthew Crawford, “soulevez le capot de certaines voitures (surtout si elles sont de marque allemande) et, en lieu et place du moteur, vous verrez apparaître quelque chose qui ressemble à l’espèce d’obélisque lisse et rutilant qui fascine tellement les anthropoïdes au début du film de Stanley Kubrick 2001, l’Odyssée de l’espace.

Le troisième chapitre aborde la question de la matérialité et de l’immatérialité (la fameuse “digitalisation”) en partant du chef d’œuvre de Sergio Leone, Il était une fois dans l’Ouest. On n’est pas loin du premier chapitre de Kate Crawford dans son Atlas, qui nous rappelle la matérialité du “nuage” qui stocke nos données (le terme est loin d’être neutre). Pour Marcello Vitalli-Rosati, “la rhétorique de l’immatérialité n’est qu’une ruse qui permet de cacher la valeur et le sens réel des choses, pour qu’une minorité de personnes puisse finalement exploiter cette valeur.” C’est ce que Morton, le malveillant propriétaire de la ligne de chemin de fer, veut faire croire à Jill dans le film de Sergio Leone, “ce n’est pas la terre qui a une valeur, c’est son idée d’y construire une gare.” On retrouve ici les réflexions sur la valeur des données. Marcello Vitalli-Rosati s’interroge aussi tout au long du livre sur les biens communs, les jardins privés, en nous apportant ses réflexions d’universitaire, mais en le faisant avec des exemples qui nous parlent à tous, et qui ouvre nombre de questions sur ce qui serait “naturel” et “normal”.

Crawford, K. (2023). Contre-atlas de l’intelligence artificielle: les coûts politiques, sociaux et environnementaux de l’IA. Zulma.

Crawford, M. (2026) Éloge du carburateur, La Découverte.

Fressoz, J. B. (2024). Sans transition: une nouvelle histoire de l’énergie. Seuil.

Kranzberg, M. (1986). Technology and history:” Kranzberg’s laws”. Technology and culture, 27(3), 544-560.

Levy, S. (2013). L’Éthique des hackers. Globe Editions.

Morozov, E. (2013). To save everything, click here: The folly of technological solutionism. PublicAffairs.

Pekka, H. (2001). L’Éthique hacker et l’esprit de l’ère de l’information. Exils

Rosa H. (2012). Aliénation et accélération : vers une théorie critique de la modernité tardive. La Découverte

Vitali-Rosati, Marcello (2024) Éloge du bug. Être libre à l’époque du numérique. Éditions Zones. Papier HTML PDF

Fable du dimanche, “L’Hirondelle et les petits Oiseaux”

L’Hirondelle et les petits Oiseaux“, de Jean de la Fontaine.

Une hirondelle en ses voyages
Avait beaucoup appris. Quiconque a beaucoup vu
Peut avoir beaucoup retenu.
Celle-ci prévoyait jusqu’aux moindres orages,
Et, devant qu’ils fussent éclos,
Les annonçait aux matelots.
Il arriva qu’au temps que la chanvre se sème,
Elle vit un manant en couvrir maints sillons.
Ceci ne me plaît pas, dit-elle aux oisillons :
Je vous plains ; car, pour moi, dans ce péril extrême,

Je saurai m’éloigner, ou vivre en quelque coin.
Voyez-vous cette main qui par les airs chemine ?
Un jour viendra, qui n’est pas loin,
Que ce qu’elle répand sera votre ruine.
De là naîtront engins à vous envelopper,
Et lacets pour vous attraper,
Enfin mainte et mainte machine
Qui causera dans la saison
Votre mort ou votre prison :
Gare la cage ou le chaudron !
C’est pourquoi, leur dit l’hirondelle,
Mangez ce grain, et croyez-moi.
Les oiseaux se moquèrent d’elle :
Ils trouvaient aux champs trop de quoi.
Quand la chènevière fut verte,
L’hirondelle leur dit : Arrachez brin à brin
Ce qu’a produit ce maudit grain,
Ou soyez sûrs de votre perte.
Prophète de malheur ! babillarde ! dit-on,
Le bel emploi que tu nous donnes !
Il nous faudrait mille personnes
Pour éplucher tout ce canton.
La chanvre étant tout à fait crue,
L’hirondelle ajouta : Ceci ne va pas bien ;
Mauvaise graine est tôt venue.
Mais, puisque jusqu’ici l’on ne m’a crue en rien,
Dès que vous verrez que la terre
Sera couverte, et qu’à leurs blés
Les gens n’étant plus occupés
Feront aux oisillons la guerre,
Quand reginglettes et réseaux
Attraperont petits oiseaux,
Ne volez plus de place en place,
Demeurez au logis, ou changez de climat.

Imitez le canard, la grue et la bécasse.
Mais vous n’êtes pas en état
De passer, comme nous, les déserts et les ondes,
Ni d’aller chercher d’autres mondes ;
C’est pourquoi vous n’avez qu’un parti qui soit sûr,
C’est de vous renfermer au trou de quelque mur.
Les oisillons, las de l’entendre,
Se mirent à jaser aussi confusément
Que faisaient les Troyens quand la pauvre Cassandre
Ouvrait la bouche seulement.
Il en prit aux uns comme aux autres :
Maint oisillon se vit esclave retenu.

Nous n’écoutons d’instincts que ceux qui sont les nôtres,
Et ne croyons le mal que quand il est venu.

Illustré par  Benjamin Rabier, en 1906

Big Data and Artificial Intelligence

New week, I will be in France for a few days. On Monday and Tuesday, I will be in Beaune, in Burgundy, at the first “Rencontres Mutualistes” (I will upload the slides of my talk soon). And on Wednesday, I will be in Paris, at ESCP Europe Business School. I will be giving a two hour lecture on “Big Data and Artificial Intelligence”, to use some buzzwords, as asked. More honestly, it will be on (new) data and (new) algorithms for predictive modeling. Slides are now online.

Weapons of Math Destruction: How Big Data Increases Inequality

Weapons of Math Destruction est un livre passionnant, qui, comme le sous-titre l’indique parle de “big data”. Beaucoup de livres parus ces jours-ci parlent de big data. Le point de vue est celui de Cathy, ancienne professeur de mathématiques (après des études à Berkeley, elle a obtenu un doctorat à Harvard et enseigné au MIT lors de son postdoc), qui a travaillé sur les marchés financiers au moment de la crise de 2008 dans un hedge fund, avant de rejoindre RiskMetrics en 2009, comprenant qu’il était important de modéliser les risques financiers. Après avoir côtoyé le mouvement Occupy Wall Street, elle décide reprendre sa vie en main, en devenant Data Scientist. Elle a ainsi dirigé un des cursus de l’école de journalisme de Columbia tout en étant consultante en Data Science.

Son point de vue est particulièrement intéressant, car elle met en avant le lien entre la gestion des risques et le monde qui s’ouvre, autour du big data. Le premier est que les deux ont attiré massivement l’élite des étudiants, la finance entre 1995 et 2010, le monde de la donnée ensuite. Pour les deux, le “vrai monde” semble déconnecté de ce qu’ils manipulent: “the real world, with all its messiness, sits apart“. Ce qui pose la question centrale du livre, qu’est-ce qui sera l’analogue de la crise du crédit dans le monde de la donnée? Et pour Cathy, la réponse est simple. Dans la dystopie que nous promet le Big Data, les inégalités sont augmenter.

Il y a déjà les inégalités du côté des plateformes, avec des compagnies qui finissent par occuper des positions monopolistiques. Comme le note Cathy, il n’y a rien d’incroyablement intelligent dans le fonctionnement de Google, ou Facebook. Ces compagnies sont énormes parce qu’elles ont été là, au bon moment, mais le danger est leur voracité insatiable. Car à l’heure actuelle, la même entreprise gère nos courriers électroniques, nos recherches (de voyage, de musique, etc), nos réseaux sociaux, et peut ainsi évaluer, mais également contrôler notre monde.

Et au delà des plateformes, ce sont surtout les inégalités au sein de la population qui vont exploser. Cathy O’Neil illustre sa thèse à l’aide d’exemples particulièrement bien choisis. Par exemple la publicité ciblée permet à des publicitaires prédateurs d’atteindre de manière encore plus efficace les personnes les plus vulnérables à l’escroquerie. Les algorithmes utilisés par les ressources humaines créent des discriminations pires que celles qui pouvaient déjà exister. Et c’est exactement le même phénomène que l’on observe avec les police prédictive, où l’égalité devant la loi n’a plus de sens dans la réalité quotidienne.

La logique de ces algorithmes prédictifs est simple: les gagnants vont gagner, et les perdants vont perdre. Mais de manière sournoise, car invisible. Il n’y a pas de volonté délibérée et affichée, il n’y a plus forcément de policier raciste, ou de recruteur misogyne. Les inégalités se créent sans que personne ne s’en rende vraiment compte. Considérons une RH qui veuille définir un score de “succès” pour proposer des promotions, peut être basé sur un historique de succès observés dans les années précédentes. Si les données ne contiennent que peu de femmes (car peu avaient, historiquement, des postes à responsabilité) l’algorithme pénalisera les femmes. Et la spirale va commencer. Il y en aura de moins en moins dans la base, et elles seront de facto davantage pénalisées. Le livre foisonne de petits exemples qui illustrent parfaitement son propos, car ce phénomène existe partout. Les programmes visant à réduire la criminalité font en fait augmenter la criminalité dans les régions les plus pauvres. Si les quartiers pauvres ont plus de crimes, il y a aura davantage de policiers, qui feront alors davantage d’arrestation, etc. Les inégalités sont exacerbées, car les modèles manquent de boucles de rétroactions.

Une fois posés tous ces problèmes, on est en attente de solutions. Et le tableau que dresse Cathy n’est pas très réjouissant. On retrouve le phénomène décrit par la loi de Goodhart, “quand une mesure devient un objectif, elle cesse d’être une mesure”. Les plus malins comprennent la logique de l’algorithme, et finissent par pervertir l’évaluation. C’est le cas des évaluations des élèves dans les écoles américaines, où les instituteurs sont incités (par l’algorithme) à tricher pour aider leurs élèves à avoir des bonnes notes, pour faire remonter l’école dans le classement. Mais il n’est pas surprenant qu’il n’y ait pas de recette miracle, car le problème est profond. Comme le note Cathy O’Neil, “the model is optimized for efficiency and profitability, not for justice or the good of the ‘team.’ This is, of course, the nature of capitalism“.

A la lecture du livre, on comprend la logique dans le parcours de Cathy, sa logique de rejoindre Occupy après avoir vécu de l’intérieur la crise du crédit. On y entend un appel à la conscience des Data Scientist. Leur rappelant que la construction d’un “bon” modèle ne doit pas se faire sur des critères statistiques, mais doit aussi tenir compte d’une notion d’équité. Ce qui rejoint les débats que nous avons au sein de la chaire, lorsque nous essayons de réintégrer la notion de mutualisation lorsque les actuaires font de la segmentation tarifaire. Bref, ce livre est indéniablement le livre qu’il convient de lire en cette rentrée.

Chercheur en pantoufles

J’ai eu l’immense plaisir, pendant mes premiers jours de vacances, de lire La lune est blanche d’Emmannuel et François Lepage. Des deux frères, le premier est illustrateur, et le second photographe. Et ils publient ici une bande dessinée (pour faire simple) narrant leur voyage en Antarctique. On peut d’ailleurs y voir une suite à Voyage aux îles de la Désolation qu’avait signé Emmanuel Lepage il y a quelques années (tant sur le thème que du point de vue chronologique).

Mais avant d’aller plus loin, je me dois de remettre un peu en contexte. Après quatre années passées à Montréal, au Canada, j’ai progressivement pris conscience de ce que peut être le Nord. Et à quel point ce Nord peut faire partie de l’identité canadienne (je conseille d’ailleurs Un Dit Du Nord, de Louis-Edmond Hamelin, qui revient longuement sur le concept de norditude). En plus, au printemps dernier, ma voisine (à l’UQAM mais aussi sur hypotheses) Elisabeth Vallet m’avait sollicité pour intervenir (en clôture) d’une soirée autour du thème à qui appartient le pôle nord. J’avais accepté car Philippe Réka était de la partie, et j’ai toujours un immense plaisir à le revoir (il a en plus une la gentillesse de venir chanter une berceuse – en norvégien – à ma fille). Et j’ai eu l’opportunité de beaucoup lire sur le sujet, et de découvrir un univers réellement fascinant.

Continue reading Chercheur en pantoufles

Merchants of doubt, et le fonctionnement de la science

Il y a quelques jours, La Presse  mettait en ligne un texte intéressant, La BBC déclare la guerre à la « fausse science »

Les changements climatiques n’existent pas, les campagnes de vaccination sont dangereuses et votre téléphone cellulaire est en train de vous tuer à petit feu.

Il fut un temps où il était possible d’entendre ce genre d’opinions à la BBC. Des opinions scientifiques marginales, mais soutenues avec vigueur par certains chercheurs, et que le diffuseur britannique rapportait par souci « d’impartialité ». Mais cette ère est révolue.

Dans un document publié en juillet, la BBC prend une position très ferme sur la fausse science, qu’elle veut désormais évacuer de ses reportages.

« L’impartialité dans la couverture scientifique ne consiste pas simplement à faire état d’un large spectre de points de vue », écrit la BBC, qui croit qu’une application « trop rigide » des principes d’impartialité peut conduire à un « faux équilibre » dans les reportages.

La réflexion de la BBC a été suscitée par sa propre couverture des changements climatiques, qui a longtemps donné la parole aux climatosceptiques. Or, ceux-ci risquent maintenant d’avoir plus de difficulté à s’y voir offrir un micro.

Cet article m’a fait penser à un livre passionnant que j’avais lu l’automne dernier, Merchants of Doubt. Dans mon dernier compte rendu de lecture (ça faisait longtemps) je parlais de Big Data, a revolution that will transform how we live, work and think signé Viktor Meyer-Schönberger et Kenneth Cukier, et de The signal and the noise: Why Most Predictions Fail – but Some Don’t écrit par Nate Silver. Dans ce livre, on voyait comment on était passé d’une recherche de lien causal à une simple recherche de corrélation, dans des gros volumes de données. En fait, je ferais un parallèle avec le livre Merchants of Doubt, car comme l’expliquent Naomi Oreskes et Erik Conway, c’est précisément ce que combattent ce qu’ils appellent les marchants de doutes : tant qu’une relation causale n’est pas établie, le scientifique se devrait de douter (quelques pages – le premier chapitre – sont d’ailleurs en ligne). C’est cette idée que réfute  La BBC déclare la guerre à la « fausse science », et c’est l’histoire de ce principe (et des dérives qui ont suivi) que raconte ce livre.

Continue reading Merchants of doubt, et le fonctionnement de la science

La fresque de Joe Sacco

En matière de bandes dessinées relative à la grande guerre, j’ai longtemps cru que Jacques Tardi serait impossible à égaler. Lire C’était la guerre des tranchées ou Putain de Guerre était une expérience marquante. Mais il y a quelques semaines, j’avais acheté la fresque de Joe Sacco à mon fils, car je trouve qu’ils dessinent un peu de la même manière, avec des dessins denses et touffus, remplis de détails,

Comme toujours, Joe Sacco a un dessin qui marque. Mais alors que je lui reprochais toujours de parler trop dans ses livres, cette fois, on a une fresque de 7 mètres de long, silencieuse, devant laquelle on peut se planter, et regarder, comme la tapisserie de Bayeux

Et depuis une semaine, la fresque a été reproduite sur 130 mètres de long, dans le long couloir de la station de métro Montparnasse, dans le cadre des commémorations pour le centenaire

Je trouve l’idée incroyable, et j’avoue avoir hâte de vivre l’expérience. Vivement mardi prochain, où j’ai justement une correspondance à Montparnasse, en revenant de mon excursion à Londres !

1 tous les dessins sont extraits de La Grande Guerre, par Joe Sacco, publié en Français chez Futuropolis, et la photo devant la fresque est signée Bertrand Guay / AFP

Lecture notes on risk and insurance

I just finished some lectures notes on risk and insurance. The notes, that can be downloaded [pdf], are in French, and will be used at the JES (Journées d’Etudes Statistiques), organised at the CIRM (mentioned here). Previous notes on risk measures [pdf] and copulas [pdf]. Again, all comments are welcome…