Quelle responsabilité pour les algorithmes ?

Il y a quelques semaines, avec Rodolphe Bigot, maître de conférences à l’Université de Picardie Jules Verne, on avait commencé une réflexion sur le thème “Repenser la responsabilité, et la causalité“, et voici la suite…

Historiquement, les algorithmes se contentaient de fournir une aide à la décision, laissant à un être humain le rôle de prendre la décision, mais des expériences sont en cours, avec des systèmes autonomes, prenant des décisions, que ce soit les systèmes de conduite de voiture, ou les algorithmes de justice prédictive, comme le montre Huss et al. (2018). Cette autonomie, qui signifie fondamentalement la « faculté d’agir librement » désigne aussi l’idée « de se gouverner par ses propres lois ». Mais quelle est la responsabilité du décisionnaire dans le cas d’une prédiction qui entrainerait un préjudice ?

Comprendre et prévoir

Dans Bigot & Charpentier (2019) nous avions questionné l’évolution de la notion de responsabilité au regard des évolutions deux derniers siècles, mais un point essentiel est que fondamentalement un homme[i] est dans la majorité des cas, responsable de ses actes. Pourquoi ? Probablement parce qu’un homme est censé pouvoir imaginer (pris dans le sens d’anticiper), probablement comprendre et prévoir que ses actions auront des causes, des conséquences. Les animaux ne sont pas jugés responsable de leurs actes (mais leurs maîtres, propriétaires ou gardiens, le sont [ii]). Dans ses expériences, Ivan Pavlov avait conditionné des chiens, qui se mettaient à saliver quand une sonnette retentissait, annonçant l’arrivée d’un repas. Ils avaient ainsi associé la sonnette au repas, mais il n’y avait pas de mécanisme causal, simplement une forme de compréhension instinctive dont disposent tous les animaux.

Comprendre, c’est connecter des connaissances, et en déduire des formes de lois universelles, comme en physique. On cherche à construire une théorie qui explique des faits, les relie au reste des connaissances et permet alors d’anticiper. C’est le principe de l’abstraction. L’abstraction est un processus fondamental dans la compréhension d’un phénomène, l’observation suffit rarement. Lorsque Galilée, au XVIIe siècle, énonce le principe d’inertie (postulant qu’en l’absence de force, les corps se déplacent en ligne droite à vitesse constante) contre toutes les expériences faites sur Terre. A l’époque (mais c’est probablement encore vrai aujourd’hui) la perception est plus proche de ce qu’avait énoncé Aristote, à savoir que la force était nécessaire pour entretenir le mouvement. On peut penser à l’expérience de pensée proposée par Galilée sur la chute des corps, pour contredire la théorie aristotélicienne du mouvement, selon laquelle la vitesse d’un corps en chute libre est proportionnelle à son poids (il proposait de lâcher dans le vide deux corps de masse différente en les reliant entre eux par une corde). Lorsqu’il affirme que tous les corps tombent à la même vitesse, cette loi n’est pas une synthèse de faits empiriques connus, mais bien une compréhension abstraite des phénomènes. C’est d’ailleurs ce qu’affirmait Weber (1905), « l’attribution des effets aux causes prend place à travers un processus de pensée qui inclut une série d’abstractions. La première et la plus décisive a lieu quand nous concevons que l’une ou plusieurs des composantes causales sont modifiées dans une certaine direction et que nous nous demandons si, dans les conditions ainsi modifiées, le même effet […] ou un autre effet “serait attendu” ».

Mais il est possible de comprendre, sans pouvoir prévoir. Dans Charpentier (2018a), il était expliqué comment générer du chaos de manière déterministe. Sur la Figure 1 on voit l’évolution de deux suites définies par récurrence, avec deux valeurs initiales différentes, avec un écart de 1 sur 10,000 au point de départ. Très rapidement les deux séries divergent, et sont alors considérées comme statistiquement indépendantes. Poincaré (1908) disait (en parlant des lois naturelles) que si « cela nous permet de prévoir la situation ultérieure avec la même approximation, c’est tout ce qu’il nous faut, nous disons que le phénomène a été prévu ; mais il n’en est pas toujours ainsi, il peut arriver que de petites différences dans les conditions initiales en engendrent de très grandes dans les phénomènes finaux […] La prédiction devient impossible et nous avons un phénomène fortuit ».

Figure 1 : simulation de nombres (pseudo) aléatoires par la méthode de Sedgewick, avec u_n=x_n/mx_n=(ax_{n-1}+c) modulo m (avec ici , la première série (trait plein rouge) commençant avec x_1 valant 6 millions, ou u_1=0.6 et la seconde (trait pointillé) u_1=0.60001. Source : auteurs

De manière inverse, il est possible de prévoir sans comprendre. Comprendre, c’est souvent énoncer une loi générale, et partir à de ce constat, faire que les mêmes causes auront les mêmes effets. Mais comme le notait Maxwell (1876) « To make this maxim intelligible, we must define what we mean by the same causes and the same effects, since it is manifest that no event ever happens more than once, so that the causes and effects cannot be the same in all aspects ». Et effectivement, face à une situation donnée, une voiture autonome cherchera des situations semblables qui auraient pu être vécues. On est souvent tenter de voir des liens causaux alors qu’il n’y a parfois que des corrélations, « cum hoc ergo propter hoc » (avec ceci, donc à cause de ceci), voire parfois de simples coïncidences. La corrélation tient du fait que si x cause y et x cause z, alors y et z seront corrélées, sans qu’aucun lien de causalité n’existe. L’exemple classique dans les écoles primaires est la corrélation entre un nombre de fautes dans une dictée (y) et la pointure des souliers (z), sa variable causale étant ici l’âge des élèves (x). La coïncidence est d’autant plus facile à obtenir en grande dimension : si on dispose d’une variable d’intérêt, et d’une centaine de variables indépendantes à cette variable, 5 de ces variables (en moyenne) seront « significativement corrélées » avec notre variable d’intérêt, avec un seuil de 95%. « À dire vrai, Big Data signifie surtout le franchissement d’un seuil à partir duquel nous serions contraints (par la quantité, la complexité, la rapidité de prolifération des données) d’abandonner les ambitions de la rationalité moderne consistant à relier les phénomènes à leurs causes, au profit d’une rationalité que l’on pourrait dire post-moderne, indifférente à la causalité, purement statistique inductive, se bornant à repérer des patterns, c’est-à-dire des motifs formés par les corrélations observées entre des données indépendamment de toute explication causale. La répétition de ces motifs au sein de grandes quantités de données leur confère une valeur prédictive. » écrivait Sauvé (2014).

Quels algorithmes, quelles machines ?

Un algorithme désigne simplement un ensemble de règles opératoires fini permettant de résoudre un problème. On peut penser à l’analogie avec les recettes de cuisines, ou les procédures bureaucratiques, comme le montrait Charpentier (2018b). On se doit toutefois de distinguer entre un algorithme d’automatisation et un algorithme d’apprentissage, comme le rappelle Godefroy (2017). Les scores des banques ou des assureurs sont (encore) souvent du premier type, ce qui permet d’expliquer à un client la raison du refus d’un crédit hypothécaire : un score est construit comme une moyenne pondérée[i] de différentes grandeurs (comme l’âge, le salaire, la durée d’emploi, etc.), que l’on compare à un seuil. Ces algorithmes, classiques en assurance, présentent l’avantage d’être compréhensibles, avec un bon pouvoir prédictif. La seconde classe d’algorithme fait gagner en précision quant aux prédictions, mais le prix à payer est la construction de boîtes noires (ou de machines trop « intelligentes » pour être intelligibles).

Les algorithmes d’apprentissage « apprennent » par inductions, en cherchant des corrélations permettant d’améliorer la prévision, avec des allers retours constants, réitératifs (on pourra penser à la validation croisée) ce qui rend difficile la compréhension du processus retenu. Cette approche inductive fait la force, mais aussi la faiblesse, de ces algorithmes. Comme le notait Domingos (2012), « induction is a vastly more powerful lever than deduction, requiring much less input knowledge to produce useful results, but it still needs more than zero input knowledge to work. And, as with any lever, the more we put in, the more we can get out […] Machine learning is not magic ; it cannot get something from nothing. What it does is get more from less. ». Dans les algorithmes d’apprentissage, on ne trouve pas d’arbres décisionnels figés (si …. alors …), mais une construction évolutive, comme le rappelait Reigeluth (2016), qui les dote de trois facultés « la mémoire, l’adaptation, la généralisation ». On peut penser aux algorithmes par renforcement, où on regarde des situations (ou des états de la nature semblables), les actions qui ont été prises, et les conséquences qui ont été produites. On peut alors réessayer ou alors explorer et tenter autre chose (et apprendre davantage)[ii]. Ce sont des algorithmes que l’on voit arriver dans les machines dites autonomes.

Mais ces machines, si on peut les qualifier d’autonomes, n’ont pas de volonté propre, ou de libre  arbitre : elles prennent des décisions qui vont maximiser une fonction dite « objectif », tout en respectant un ensemble de contraintes. Si elle peut s’adapter à un nouvel inconnu, elle donne l’impression de comprendre, mais comme le dit la boutade un algorithme qui peut identifier des objets sur une image peut reconnaître un chien, mais la machine ne sait pas ce qu’est un chien[iii] (c’est « trop robot pour être vrai » aurait dit Jaques Prévert). C’est cette indétermination dans le processus autonome de prise de décision qui pose des questions quant à la responsabilité des machines dites autonomes. En 2016, le Parlement européen notait que « dans l’hypothèse où un robot puisse prendre des décisions de manière autonome, les règles habituelles ne suffiraient pas à établir la responsabilité juridique pour dommages causés par un robot ».

 

De la responsabilité des machines, le cas des véhicules autonomes

Avant d’aller trop loin, peut-être convient-il de rappeler qu’aujourd’hui, le véhicule autonome n’existe pas vraiment, à ce jour, diverses formes de délégation de conduites sont autorisées et expérimentées, laissant une place plus ou moins grandes aux technologies, au passager, ou à une personne à l’extérieur de l’habitacle. Le système de classification de la SAE (Society of Automotive Engineers) comporte 6 niveaux, représentés sur la Figure 2.

Figure 2 : système de classification de la SAE (Society of Automotive Engineers)

On peut aussi rappeler une subtilité, évoquée dans Bigot & Charpentier (2018) : la causalité scientifique n’est pas la causalité juridique. Comme le notait Radé (2012) la causalité juridique résulte de la qualification juridique des évènements. La causalité scientifique suppose une succession automatique d’évènements, sans intervention de la volonté, sans intention. L’interrogation des scientifiques sur l’interprétabilité des modèles n’est alors qu’un maillon de la chaîne. Et si les scientifiques sont perplexes, les juristes le seront davantage[i].

Les algorithmes d’apprentissage posent des soucis en raison de l’indétermination en matière d’imputation de la responsabilité en cas de dommage, s’il n’y a pas d’erreur de conception ou de mauvaise utilisation. En 2018, un procès (fictif) avait eu lieu en France, comme le rappelle Prévost (2018), posant la question de la responsabilité par suite d’un accident (imaginaire). Comme le rappelle le tableau 2, tous les systèmes (ou imposent ?) un rôle au « conducteur » (car il reste une personne identifiée comme telle, ayant la possibilité de repasser à un mode de conduite dit « manuel »), et la responsabilité lui incomberait. Comme le notait Noguéro (2019), la responsabilité du fait des choses est consacrée à l’article 1242 du Code Civil qui énonce que l’on « est responsable non seulement du dommage que l’on cause par son propre fait, mais encore de celui qui est causé par le fait des personnes dont on doit répondre, ou des choses que l’on a sous sa garde. » Le souci est que le but même de ces voitures étant de laisser à leurs utilisateurs la liberté de ne jamais devoir se préoccuper de leur conduite une fois la destination enregistrée. Il est alors difficile de comprendre, dans le même temps, qu’on les désignerait toujours comme ayant sur celles-ci un pouvoir d’usage, de contrôle et de direction.

Bensoussan (2015) notait qu’aux États-Unis, dans certains États (par exemple au Névada), les robots se sont vus reconnaître certains attributs de la personne morale, sans être toutefois visés comme tels. Ils sont alors immatriculés et répertoriés dans un fichier spécialement dédié, et ils se voient surtout assigner un capital, dont la fonction première consiste au fond à les assurer directement pour leur permettre de répondre des dommages qu’ils causeraient dans leurs interactions en environnement ouvert, comme le rappelle Coulon (2016). Or qui, en amont, affecterait un capital susceptible de compenser les dommages d’un grave accident, pouvant représenter plusieurs millions voire dizaines de millions d’euros d’indemnité ? Le fabricant ? Le vendeur ? Dans tous les cas, on serait loin de la garantie apportée par l’assurance obligatoire de responsabilité qui est, en France, illimitée[ii]. Cette proposition génère notamment le problème « de déresponsabilisation des intervenants : quelle que soit l’hypothèse, concepteurs, intégrateurs ou encore utilisateurs sauront que leur responsabilité ne sera jamais engagée et que, in fine, l’assurance paiera au moyen d’un fonds de garantie financé par les sociétés de robotique », selon Touati (2017).

Et les accidents survenus lors des tests sont souvent révélateurs : lors d’un des accidents d’une google car, le problème venait de ce que le passager du véhicule semi-autonome, doutant de l’efficacité de celui-ci, avait lui-même pris une mauvaise décision en appuyant soudainement sur la pédale de frein. Le robot s’était donc arrêté plus tôt que prévu, puisque l’algorithme, contrôlant l’intensité et la distance de freinage, avait été modifié. C’est bien souvent l’interaction entre l’homme et la machine qui pose problème.

D’aucuns, comme Harari (2018), sont convaincus qu’ « un chauffeur qui prédit les intentions d’un piéton, un banquier qui évalue la crédibilité d’un emprunteur potentiel et un avocat qui jauge de l’état d’esprit à la table des négociations ne s’en remettent pas à la sorcellerie. À leur insu, leurs cerveaux reconnaissent plutôt des configurations biochimiques en analysant les expressions du visage, les tons de la voix, les mouvements de main et même les odeurs corporelles. Une IA équipée de bons capteurs pourrait faire tout cela de manière bien plus précise et fiable qu’un être humain ».  En faisant ainsi entrer « Mozart dans la machine », les véhicules autonomes élimineraient les principaux facteurs de risques à l’origine des accidents mortels (abus d’alcool, excès de vitesse et distraction). Il est alors avancé que « bien qu’ils puissent de leurs problèmes et limites propres, et que certains accidents soient inévitables, le remplacement de tous les conducteurs humains par des ordinateurs devrait réduire d’environ 90 % le nombre de morts et de blessés sur la route. Autrement dit, le passage aux véhicules autonomes est susceptible de sauver un million de vies chaque année » selon le comptage d’Harari (2018). Dès lors, se dirigerait-on vers une responsabilité résiduelle ? En contrepoint, l’IA pourrait aussi apprendre le concept de mérite, qui peut s’inscrire contre la justice. Duru-Bella (2019) rappelait que « le mérite a la cote. Avec lui, l’idée que chacun est responsable de ce qui lui arrive, de ses succès comme de ses échecs, et l’espérance qu’en récompensant talents et efforts, on produira une société juste et efficace. La mise en exergue constante du mérite, sans tenir compte des inégalités (sociales, de genre, d’origine, etc.) est pourtant tout sauf anodine. Elle engendre de nombreux effets pervers »). Pire, l’IA pourrait encore apprendre le mensonge humain comme l’imagine McEwan (1982), et commettre des fautes artificiellement volontaires, voire intentionnelles, sans compter, naturellement, les bugs, piratages et actes criminels qui pourraient alors générer des dommages de masse intensifiés par la mise en réseau.

Quelle(s) réponse(s) du législateur ?

Le législateur est à la peine : la loi dite LOM (d’orientation des mobilités) votée le 24 décembre 2019… reporte le problème et annonce de prochaines ordonnances concernant notamment certaines dispositions relatives à l’indemnisation d’accidents de la route, et sur la responsabilité des véhicules autonomes et véhicules connectés. Il est ainsi prévu, avant fin 2021, l’adaptation de «  la législation, notamment le Code de la route, au cas de la circulation sur la voie publique de véhicules terrestres à moteur dont les fonctions de conduite sont, dans des conditions, notamment de temps, de lieu et de circulation, prédéfinies, déléguées partiellement ou totalement à un système de conduite automatisé, notamment en définissant le régime de responsabilité applicable. Il peut être prévu à ce titre d’imposer la fourniture d’une information ou d’une formation appropriée, préalablement à la mise à disposition des véhicules à délégation de conduite, lors de la vente ou de la location de tels véhicules » (article 31). Par ailleurs, avant fin 2020, la loi souhaite « rendre accessibles, en cas d’accident de la route, les données des dispositifs d’enregistrement de données d’accident et les données d’état de délégation de conduite enregistrées dans la période qui a précédé l’accident aux officiers et agents de police judiciaire aux fins de détermination des responsabilités ainsi qu’aux organismes chargés de l’enquête technique et de l’enquête de sécurité prévues à l’article L. 1621-2 du Code des transports » (article 32). Dans l’expectative, il convient de continuer à anticiper les risques, et leur prise en charge, par l’assurance. À cet effet, on s’accorde à penser qu’en France, « telle qu’elle se présente actuellement, la loi Badinter est tout à fait apte à régir demain les accidents impliquant des véhicules autonomes. Il suffit pour cela de considérer l’algorithme guidant le véhicule comme son conducteur au sens de la loi. Au-delà de cette reconnaissance aisée, l’application de la loi Badinter aux véhicules autonomes est rendue nécessaire par la logique indemnitaire et présenterait en outre de nombreux avantages », comme le rappelait Duméry (2019).

Larcher (2010) avait montré que la loi du 5 juillet 1985 sur les accidents de la circulation dispose des ressources nécessaires pour que les juges étendent le champ des responsables au fabricant du véhicule dès le stade de l’obligation à la dette et imputent de manière équitable la charge finale de la réparation entre le fabricant, la personne au volant et le propriétaire d’un véhicule équipé d’une aide substitutive. A cet effet, il a été proposé l’application par les juges de la théorie de la dissociation de la garde de la structure et du comportement sur le fondement de la loi du 5 juillet 1985, dite loi Badinter. Dans le procès fictif mentionné auparavant – voir Prévost (2018) – l’avocat  des parties civiles relevait que le « véhicule intelligent laisse ses occupants à la merci des algorithmes [dès lors] l’IA est débitrice à l’égard des usagers, d’une obligation de prudence, de sécurité et de fiabilité ». C’est alors le fabricant, ou le concepteur, de l’algorithme, qui est alors débiteur de cette obligation : en mettant en circulation un tel véhicule, l’obligation repose sur leurs épaules.

Plusieurs autres options sont possibles : La responsabilité personnelle, tout d’abord, pourrait être invoquée. Elle concerne en effet « tout fait de l’homme » (selon l’article 1240 du Code Civil), pouvant inclure tout concepteur d’IA. La responsabilité du fait des choses est moins adaptée. Elle ne porte que sur les choses inanimées. Au prix d’une confusion regrettable entre les êtres humains et les biens, d’aucuns adapteraient la responsabilité du fait des animaux dont on a la garde ou celle des mineurs dont on est responsable. Le régime de la responsabilité civile contractuelle soulève une difficulté importante d’application en l’absence de relation contractuelle avec la victime. La responsabilité du fait des produits défectueux (tel que définie dans le Code civil) est plus adaptée. Mais il conviendrait de restreindre les causes d’exonération que le producteur peut invoquer, en particulier le risque de développement, à l’instar de la limite existante pour les éléments du corps humain ou par les produits issus de celui-ci (C. civ., art. 1245-11). Il est inquiétant qu’on puisse mettre en circulation des produits, ou véhicules, dont le fabricant/producteur, au sens large (avec le responsable subsidiaire désigné par le législateur, à l’article 1245-6 du Code civil, tel que le vendeur, le loueur ou tout autre fournisseur professionnel, qui sera responsable dans les mêmes conditions que le producteur qu’on arrive pas à identifier), n’a pas la pleine maîtrise ou le contrôle, a fortiori pour un « produit » comme l’IA amenée à évoluer dans le temps indépendamment de toute intervention extérieure. Si l’IA est ingérable dans son propre développement, source de crises « d’adolescence », alors le plus simple est de ne pas l’autoriser sur le marché, du moins seulement à titre d’expérimentation (comme le voulait la loi du 17 août 2015). Comme le disait Noguéro (2019), « parmi les spéculations lancées, figure celle relative aux choses intelligentes ou robots supérieurs qui, quelles que soient leurs capacités cognitives, non simplement réactives, sont juridiquement des choses conçues, fabriquées, vendues, détenues, branchées et utilisées, après des instructions ».

D’autres possibilités sont mises en avant, telles que la mise en place d’un régime de responsabilité sans faute, avec assurance obligatoire et fonds de garantie ; ou le partage de la responsabilité entre le concepteur, l’utilisateur et le fabricant, avec la difficulté de déterminer la part de responsabilité imputable à chacun. A ce titre, « rien n’empêche le législateur de créer des présomptions pour faciliter et accélérer la procédure d’identification des responsables, surtout au bénéfice des victimes directes. Le fondement du risque à attribuer peut aussi guider une politique pour une responsabilité objective » notait Noguéro (2019). Pour Bensamoun (2016), « la solution n’est sans doute pas à rechercher dans une réinvention totale du droit, qui imposerait de faire table rase et de construire ex nihilo de nouvelles règles ». Et les assureurs ont indéniablement un rôle à jouer, dans l’intérêt de leurs assurés, en séparant les responsabilités des uns et des autres, des assurés « conducteurs » et des fabricants.

Références

Barraud B. (2019), Le droit en datas : comment l’intelligence artificielle redessine le monde juridique – PARTIE I : La dictature des algorithmes ou l’intelligence artificielle à la source du droit, RLDI 2019/164, n° 5604, p. 49 et s.

Bensamoun, A. (2016). Des robots et du droit…, Dalloz IP/IT, juin 2016, p. 282 et s.

Bensoussan, A. (2015). Le droit de la robotique : aux confins du droit des biens et du droit des personnes : Rev. Juristes de Sciences Po, mars 2015.

Bigot, R. & Charpentier, A. (2018). Repenser la responsabilité, et la causalité. Risques, 120.

Bigot R. (2019), Le comportement de l’assuré, colloque relatif à l’ « intensification de la fonction normative de la responsabilité civile. Acte II de la réforme du livre III du Code civil » UFR Droit de Metz, 17 mai 2019.

Bostrom  N. (2014) Superintelligence, Path, Dangers, Stategies, Oxford University Press.

Broussy C. (2016). Histoire du contrat d’assurance (XVIe-XXe siècles), Université de Montpellier, thèse de doctorat.

Brun, P. (2007). Causalité juridique et causalité scientifique. Revue Lamy Droit Civil, 40 :2630.

Charpentier, A. (2018a). Histoire du hasard et de la simulation. Risques 116.

Charpentier, A. (2018b). L’intelligence artificielle dilue-t-elle la responsabilité. Risques 114.

Charpentier, A. & Cherrier, B. (2019). La valeur de la vie. Risques, 118

Coulon, Cédric (2016).  Du robot en droit de la responsabilité civile : à propos des dommages causés par les choses intelligentes. Responsabilité Civile et Assurances – Revue Mensuelle LexisNexis, avril 2016.

Delvaux, M. (2016). Projet de rapport contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique. Parlement Européen 2015/2103(INL),

Domingos, P. (2012). A few useful things to know about machine learning. Communications of the ACM, 55:10.

Duméry A. (2019), Pour l’application de la loi Badinter aux véhicules autonomes, RLDC 2019/174, n° 6665.

Duru-Bellat M. (2019). Le mérite contre la justice, SciencesPo Les Presses.

Godefroy, Lêmy (2017). Les algorithmes : quel statut juridique pour quelles responsabilités ?

Harari, Y. N. (2018). 21 leçons pour le XXIe siècle, éd. Albin Michel.

Huss, J-V. Legrand, L. & Sentis, T. (2018). Le livre blanc sur la justice prédictive. Ecole de Droit de Science-Po.

Larcher, F. (2010), Aides à la conduite automobile et droit français de la responsabilité civile, Le Mans Université, thèse de doctorat.

McEwan, I. (1982), Une machine comme moi, éd. Gallimard, coll. Du monde entier.

Maxwell, J.C. (1876) Matter and motion.

Mnih, V. Kavukcuoglu, K., Silver, D. & Rusu, A. (2015). Human-level control through deep reinforcement learning, Nature, 518:7540.

Noguéro, David (2019). Assurance et véhicules connectés – regard de l’universitaire français. Dalloz IP/IT no 11, 16-21.

Noguéro, D. &  Vingiano-Viricel, I. (2019). Intelligence artificielle et véhicules autonomes, in Loiseau G. & Bensamoun A. (dir.), Droit de l’intelligence artificielle, Lextenso, coll. “Les intégrales”.

Poincarré, Henri (1908) Science et méthode.

Pothier R.-J. (1767). Traité des contrats aléatoires, Paris, Debure éd., 1767, nouvelle éd. 1775, p. 312, n° 38.

Prévert, Jacques (1966). Fatras. Gallimard.

Prévost S. (2018) Procès de la voiture autonome: l’humain innocenté, l’IA condamnée, Dalloz IP/IT.

Radé, C. (2012). Causalité juridique et causalité scientifique : de la distinction à la dialectique. Revue générale de droit médical, 16, 45-56.

Reigeluth, T. (2016). L’algorithme a ses comportements que le comportement ne connait pas. Multitudes. 62 :1.

Ribeiro, M.T., Singh, S & Guestrin, C. (2016). Why Should I Trust You?’: Explaining the Predictions of Any Classifier. ArXiv:1602.04938

SAE (2016) Les véhicules automatisés au Canada.

Sauvé, J-M. (2014). Le numérique et les droits fondamentaux. Conseil d’Etat.

Touati, A. (2017). Il n’existe pas, à l’heure actuelle, de régime adapté pour gérer les dommages causés par des robots. RLDC 2017/145, n° 6279.

Weber, M. (1905). Counterfactuals Thought Experiments and Singular Causal Analysis in History, Philosophy of Science, 76 (2009), p. 712-723.

[i] Dans tout cet article ‘homme’ désigne un être humain : il ne s’oppose pas à ‘femme’ mais à ‘machine’ ou ‘robot’.

[ii] Article 1243 du Code Civil : « Le propriétaire d’un animal, ou celui qui s’en sert, pendant qu’il est à son usage, est responsable du dommage que l’animal a causé, soit que l’animal fût sous sa garde, soit qu’il fût égaré ou échappé ».

[i] Les poids sont fixes du point de vue du banquier, ils sont été estimés à partir de modèles de régression sur des historiques de données selon la terminologie statistique (l’informaticien parlera d’entrainement de l’algorithme sur une base d’apprentissage).

[ii] Conceptuellement, ces algorithmes n’ont rien de nouveaux puisque le formalisme a été établi à la fin des années 1980. La puissance de ces algorithmes a toutefois été révélée lorsque des machines ont battu les meilleurs joueurs de Go avec cette stratégie, et à gagner à des jeux vidéos sans voir appris la « règle » (Minh et al. (2015)).

[iii] On peut penser à l’expérience de Ribeiro et al. (2016) qui visait à construire un algorithme distinguant un chien d’un loup sur des photos, et qui avait un pouvoir prédictif élevé, mais dont la stratégie semblait être relativement simple : s’il y a de la neige sur la photo c’est un loup (les photos d’apprentissage montraient toutes des loups dans la neige). On peut se poser les problèmes qui pourraient se poser en justice prédictive avec l’utilisation de photos.

[i] Même si Brun (2007) note que la causalité juridique cherche la cause « la plus raisonnable » afin de « rendre la décision la plus juste », ce qui pourrait être en un sens plus simple que l’objectif de compréhension que se fixent les scientifiques.

[ii] Selon l’article R. 211-7 du Code des Assurance : « L’assurance doit être souscrite sans limitation de somme en ce qui concerne les dommages corporels et pour une somme au moins égale à celle fixée par arrêté du ministre chargé de l’économie, laquelle ne pourra être inférieure à 1 million d’euros, par sinistre et quel que soit le nombre de victimes, en ce qui concerne les dommages aux biens »)

 



Cite this blog post
Arthur Charpentier (2020, February 3). Quelle responsabilité pour les algorithmes ? Freakonometrics. Retrieved May 25, 2024, from https://doi.org/10.58079/ovei

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.