2. Règlementation. Les législateurs français et européen étaient donc tout à fait fondés à édicter un cadre juridique contraignant à large spectre (le Règlement général sur la protection des données adopté le 27 avril 2016 et règlement n° 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle – Artificial intelligence act – adopté le 13 juin 2024 dont l’entrée en vigueur étalée dans le temps a commencé dimanche 02 dernier)^[2] et quelques règles plus spécifiques aux fins de régulation sectorielle. Il en va ainsi des infrastructures numériques de collecte de données de santé, qui n’ont pas été laissées à la discrétion des opérateurs de marché. C’est le cas de la plateforme Mon espace santé, du Système national des données de santé et de la plateformes numérique des données de santé, qui retiendront l’attention. Nous aurions pu également disserter sur les fameuses plateformes de rendez-vous médicaux en ligne qui collectent plus de données de santé qu’on ne l’imagine^[3].

3. Numérisation. Mon espace santé, qui intègre le dossier médical partagé dont il n’est plus qu’une composante (art. L. 1111-13 csp), est un outil de centralisation des données de santé. En bref, c’est un carnet de santé numérique. Le législateur lui a consacré de nombreuses dispositions qui ont été intégrées au tout début du code de la santé publique (art. L. 1111-13 et s.). Il est donc question de protection des personnes en matière de santé, de principes aussi généraux que directeurs. On s’étonnera donc que chacune des dispositions que le législateur a consacré au sujet comportent autant de lignes de code. Tandis que l’enjeu dans le contexte que j’ai décrit est considérable, il n’est pas certain du tout que le travail de conceptualisation ait été suffisamment poussé. J’y reviendrais en propos conclusifs. On répondra que la complexité technique du procédé était-t-elle qu’il était proprement impossible de rédiger une série de lignes directrices dans le temps imparti. Il peut être soutenu en contre-argument qu’il y a fort à craindre par voie de conséquence que nous ayons en bout de course inventé une chimère (c’est-à-dire une créature composite et fantastique malfaisante). C’est cette hypothèse de travail que je vous propose de vérifier dans cette brève communication, qui ne sera pas chapitrée.

4. Intention. Contrairement à ce qu’on pourrait penser, Mon espace santé n’est pas un vulgaire carnet de santé on line. C’est la clef de voûte technique d’une politique ambitieuse décidée par les pouvoirs publics plus connue sous le nom de code « Virage numérique en santé » pour la réussite duquel 2 milliards d’euros ont été investis (v. not. www.esante.gouv.fr). Les ministres qui se succèdent à la santé n’en font aucun mystère et ne varient pas. (C’est tant mieux, vu la vitesse de rotation des patrons de l’avenue Duquenne). Il s’agit de centraliser la donnée de santé pour améliorer la prise en charge des patients, rationaliser la consommation de soins et de biens médicaux, alimenter aux fins de recherche le système national des données de santé. Chose faite, et il faudra y revenir, les données sont mises à la disposition des professionnels la plateforme du numérique des données de santé (PNDS), dont l’économie générale est fixée à l’article L. 1462-1 csp.

Les intentions sont louables. Mon espace santé permet à toutes les personnes concernées (le titulaire et les professionnels de santé participant à sa prise en charge au sens de l’article L. 1111-13-1, IV, 1° csp qui ont été en principe autorisés aux termes de l’article R. 1111-46 csp) d’accéder à ses données administratives, à son dossier médical partagé, à ses constantes de santé éventuellement produites par des applications ou bien des objets connectés, à l’ensemble des données relatives au remboursement de ses dépenses de santé, à une messagerie sécurisée, à un questionnaire de santé et, plus généralement, à tout service numérique de prévention, d’orientation dans le parcours de soins, de retour à domicile (art. L. 1111-13-1, II et R. 1111-27 csp). Où l’on se dit après cet énoncé à la Prévert que les utilités de la plateforme sont tout à fait considérables. J’entends déjà poindre une première critique, à savoir que le carnet de santé en ligne est de nature à compliquer la vie des personnes souffrant une fracture numérique. Qu’on se rassure : le législateur a eu à l’esprit cette catégorie de personnes. Seulement voilà, son approche n’est pas opératoire. Je vous propose d’en juger par vous-même : L’article L. 1111-13-2 csp dispose que la conception et la mise en œuvre de l’espace numérique de santé tiennent compte des difficultés d’accès à internet et aux outils informatiques (…) rencontrées par certaines catégories de personnes. Et de proscrire toute discrimination fondée sur la localisation géographique, les ressources ou le handicap. La belle affaire. Nous verrons à l’usage si les 2750 maisons France service, qui sont des espaces de proximité ouverts sur tout le territoire, seront en capacité d’accompagner les personnes en situation de vulnérabilité numérique.

Le carnet de santé dématérialisé retient l’attention pour une autre raison, qui n’est pas dite par les lois et règlements sous étude. A ce jour, le dossier médical (c’est également vrai pour le dossier pharmaceutique) des usagers du système de santé est dispersé tous azimuts. La baisse de la démographie des médecins, les déserts médicaux, le nomadisme médical ont pour conséquence de démultiplier le nombre de soignants, chacun d’entre eux renseignant une petite partie de l’histoire médicale du patient d’un jour. Comment dans de telles conditions optimiser et sécuriser la prise en charge ; comment le moment venu faire la preuve de l’inexécution par le professionnel de santé de ses obligations ? Où l’on constate que la détention par le patient de son dossier 2.0 a vocation à changer radicalement la donne. Détention qui, une fois parfaitement déployée (je le dis au passage), devrait en toute logique entrainer la suppression de l’inversement de la charge de la preuve qui pèse sur les professionnels de santé qu’ils ont bien exécuté leurs obligations. Mais alors où se cache le diable…eh bien dans les détails de la réalisation du virage numérique en santé.

5. Réalisation. Les données qui sont renseignées dans Mon espace santé sont stockées par un hébergeur certifié. Dans le cas particulier, et en application de l’article R. 1111-37 csp, c’est la société d’infogérance ATOS qui a été sélectionnée par l’Agence du numérique en santé et agréé par le ministère des solidarités et de la santé^[4]. Pour mémoire, ATOS est une entreprise de droit français dont la restructuration capitalistique en cours a failli avoir pour conséquence le transfert du contrôle de l’entreprise à un investisseur étranger (en l’occurrence le milliardaire tchèque Daniel Kretinsky). Voilà donc une première source d’inquiétude. Car si en droit l’hébergement doit être assuré en Europe pour sécuriser au maximum les données de santé, il se pourrait que le jeu normal des règles du marché et la substitution de la personne de l’hébergeur introduisent un sacré biais de souveraineté numérique. Il sera rétorqué qu’il n’y a pas matière à trop s’inquiéter car l’hébergeur a nécessairement été dans l’obligation de garantir l’interopérabilité du système employé aux fins d’hébergement (au sens de l’article L. 1470-5 csp) ; que si, par extraordinaire, l’entreprise était cédée à un tiers détenteur de nationalité étrangère, il suffirait de faire jouer la clause de réversibilité. Seulement voilà : la possibilité de changer de fournisseur du service d’hébergement – ce qu’on appelle précisément la réversibilité – n’est pas neutre financièrement. Au vu de la quantité de données de santé à migrer, il se pourrait que le prix de l’opération soit rédhibitoire et que les pouvoirs publics doivent alors se contenter d’un statu quo. Quels sont les coûts environnés : portabilité des données, création d’une infrastructure susceptible de les recevoir, implémentation de logiciels dédiés^[5]. Ce n’est pas moi qui le dit, ce sont (de concert) le Comité consultatif national d’éthique et le Comité national d’éthique du numérique^[6] dans un avis commun publié en février 2023 consacré aux enjeux éthiques des plateformes de santé^[7].

Et il se pourrait qu’il y ait plus fâcheux encore ; que l’affaire se complique.

6. Complication. Mon espace santé a retenu seul l’attention pour l’instant. Je vous indiquais qu’il fallait aussi se préoccuper des modalités de fonctionnement du Système national des données de santé. Il s’agit d’une autre plateforme numérique, plus ambitieuse encore, vers laquelle converge les données de santé aussitôt qu’un acte a été pris en charge par l’assurance maladie. Tout est dit aux articles L. 1460-1 et suivants du code de la santé publique dans un titre VI intitulé « Mise à disposition des données de santé ». La liste des sources de données à caractère personnel, qui sont implémentées dans le système national, est plutôt longue, qui renseigne une première intention que je qualifierai de rétrospective, qui consiste à réaliser une évaluation systématique et objective de l’efficacité, de l’efficience et de l’économie des activités, programmes ou politiques d’une organisation. Ce qu’on appelle un audit de performance. Pour ce faire, L. 1461-1 csp, qui est le siège de la matière, dispose que la mise à disposition des données a pour finalité (je cite dans l’ordre du code) : l’information sur la santé, sur l’offre de soins, la prise en charge médico-sociale et leur qualité ; la définition, la mise en œuvre et l’évaluation des politiques de santé et de protection sociale ; la connaissance des dépenses de santé, des dépenses d’assurance maladie et des dépenses médico-sociales, l’information des professionnels sur leur activité ; la surveillance, la veille et la sécurité sanitaire. Une seconde détente à visée prospective doit plus volontiers retenir l’attention. Au 6^e du texte précité, la collecte de donnée personnelles a également pour finalité la recherche, les études, l’évaluation et l’innovation dans les domaines de la santé et de la prise en charge médico-sociale (art. L. 1461-1, III csp). Pour le dire autrement, les données ont donc vocation à être modélisées. Et l’on voit mal comment une pareille quantité de lignes de codes pourrait être manipulée sans recourir à une intelligence artificielle. Tout à fait averti des risques encourus, le législateur impose en conséquence l’anonymisation des données. Il précise surtout (et cela prête à plus de conséquences à mon avis), les modalités et la finalité de leur accès (art. L. 1461-3 et 4 csp). Reste que la règle de droit est très imparfaite dans le cas particulier car elle ne prescrit aucune sanction idoine, à tout le moins pas dans le code de la santé publique. La violation des droits de la personnalité des usagers du système de santé supposera donc de mobiliser le règlement général de protection des données personnelles et l’IA act. Violation qui doit être imaginée pour la prévenir.

7. Violation. Le système national des données de santé que je viens de décrire à très grands traits est couplé avec une troisième infrastructure, qui un groupement d’intérêt public, dénommé « plateforme nationale du numérique en santé » (PNDS. Art. 1462-1 csp), appelée Health data hub dans les communications à rayonnement international dit l’arrêté constitutif^[8]. Je vous en parlais il y a un instant. Où l’on constate que les sujets préoccupation sont décidément empilés les uns les autres. Les données de référence qu’il importe stocker aux fins de modélisation et d’exploitation sont si importantes et les pouvoirs publics étant dépourvus des moyens techniques idoines, qu’il a fallu recourir à un autre prestataire de service informatique de droit privé. Dans le cas particulier, c’est l’entreprise Microsoft et sa solution cloud azure qui a remporté le marché et qui a été certifiée « hébergeur de données de santé » au sens de l’article L. 1111-8 csp. Une nouvelle fois, et sans faire aucune offense à la firme américaine, il est à craindre que la sécurité des données de santé ne soit pas complètement assurée car en droit américain, les agences fédérales peuvent tout à fait y accéder. C’est l’objet du Foreign intelligence surveillance act (art. 702) et du Cloud act adopté le 23 mars 2018 (Clarifying lawful overseas use of data act) qui autorise les agences de renseignement du Gouvernement US (FBI et NSA notamment – National security agency) à accéder aux données stockées par les entreprises de droit américain peu important le pays où elles sont hébergées. Et c’est précisément pour cette raison que le Health data hub vers lequel migre la totalité des données personnelle de santé, qui ont été collectées, est de nature à susciter les pires inquiétudes. Saisi en référé, le Conseil d’Etat fait montre d’une remarquable sérénité, qui ne considère pas pour sa part que le transfert des données à un Etat tiers est de nature à suspendre l’autorisation données par la CNIL à la plateforme des données de santé^[9].

8. Juridictionnalisation. Entre autres arguments tiré de l’article 45 du RGPD, qui prescrit les conditions du transfert de données à caractère personnel, le Conseil d’Etat considère que les États-Unis assurent un niveau adéquat de protection des données éventuellement transférées depuis l’Union vers des organisations établies outre atlantique. La haute juridiction administrative rappelle dans la foulée que la fourniture des données aux agences américaines de police et de renseignement, données qui sont du reste pseudonimisées (ce qui n’est pas la même chose qu’anonymiser, le Conseil d’Etat disserte très justement sur le sujet), n’est pas laissée à la discrétion du Gouvernement mais est conditionnée à une décision de justice pour les besoins d’une enquête criminelle. Qu’il n’y a donc aucune base légale aux demandes de suspension de l’hébergement par Microsoft. Fermer le banc. Le contentieux continue bon train au fond sans plus de succès pour les requérants (CE, 23 nov. 2022, n° 456162, recueil Lebon ; 13 nov. 2024, n° 475297, recueil Lebon ; 19 nov. 2024, n° 491644, recueil Lebon) et en référé avec le même résultat (CE, référés, 22 mars 2024, n° 492369, recueil Lebon). Les administrateurs du groupement d’intérêt public Health data hub sont néanmoins en train de réévaluer la stratégie d’hébergement des données de santé. Une orientation européenne se dessinerait. Où la France, dont les ambitions sont très grandes en termes d’espace numérique de santé, paie la faillite d’ATOS et le retard accumulé dans l’industrie et les services du numérique.

9. Industrialisation. La voie de l’industrialisation qui n’a pas encore été prise interroge plus fondamentalement sur la souveraineté numérique de la France, sur la capacité des pouvoirs publics à protéger les données de santé, à réguler le marché et développer des infrastructures numériques pour mieux les contrôler. En la matière, la puissance des modèles américains et chinois est elle tandis que l’abondement en argent des start’up françaises est inversement proportionnel qu’on peine à envisager à court terme une internalisation résiliente des données de santé^[10]. Mais peut-être que la start’up française Mistral AI, qui a ouvert un bureau dans la Silicon valley en novembre dernier pour attirer les talents, les financements et les opportunités business, sera en mesure de prendre une part significative le moment venu. Mais revenons à des considérations moins macro-économiques et intéressons-nous pour conclure aux risques juridiques encourus du fait de la captation ou bien de la divulgation des données de santé de tout un chacun.

10. Révélation. Il y a des opérateurs économiques contre lesquels le législateur a voulu protéger les usagers du système santé, à savoir : les organismes d’assurance. Dans un article L. 1111-13-1, IV, al. 3 csp, la loi dispose que la communication de tout ou partie des données de l’espace numérique de santé ne peut être exigée du titulaire de cet espace lors de la conclusion d’un contrat relatif à une protection complémentaire en matière de couverture des frais de santé et lors de la conclusion ou de l’application de tout autre contrat^[11]. Il y matière à commenter. Relativement à la mutuelle d’entreprise, ce n’est là que la réplique du contrat solidaire et responsable de l’article L. 871-1 du code de la sécurité sociale qui interdit à l’opérateur d’assurance de sélectionner les risques, solidarité de métier oblige. Mais le droit des données de santé pousse d’un cran les exigences en ce qu’il vise tout autre contrat. Et l’on songe aux contrats d’assurance de prêt d’argent pour la formation desquels l’assureur devra se contenter des déclarations du preneur d’assurance qu’il aura faites dans le questionnaire idoine. Qu’il soit permis de s’interroger sur l’approche qui a été choisie. L’opération d’assurance suppose l’appréhension fine du risque encouru. Il en va de la capacité de l’organisme à couvrir le sinistre le moment venu aux termes d’une juste tarification et à répondre de ses obligations prudentielles. Ce n’est pas tout. Le contrat d’assurance est un contrat aléatoire, certainement pas un pari, qui consiste pour un preneur d’assurance mal avisé de se garder de tout dire de son état de santé pour contracter à moindre prix en espérant ne pas être démasqué. Où l’on fleurte avec l’enrichissement injustifié. Le pari aurait gagné à être proscrit. La mutualité s’en trouverait mieux considérée tandis que le preneur serait protégé – certes à son corps défendant – contre le risque de nullité du contrat qui est encouru en pareil cas pour fausse déclaration du risque. Qu’il soit rappelé ici, sans faire de juridisme, que la loyauté contractuelle est d’ordre public.

Il me semble que si l’on devait veiller à ce que les organismes d’assurance ne puissent accéder aux données personnelles de santé, c’est pour une toute autre raison que celle spécialement visée par le législateur. Il faut bien voir que ces données renseignent un profil…de prospect. Elles ont donc une valeur d’échange. Constitutives de leads, leur acquisition est la clef du développement commercial de l’assureur, qui peut grossir son portefeuille de clients ou bien de contrats, qui peut tout aussi les revendre…tandis que les consommateurs concernés sont jetés en pâture aux démarcheurs commerciaux que la règlementation en vigueur ne parvient pas à refreiner.

On peut craindre encore du fait de l’usage et de la révélation des données de santé, une discrimination notamment dans l’emploi. Ceci étant dit la mobilisation de l’arsenal constitué par les règles du droit social est nature à refréner de telles velléités et le droit civil des contrats tout à fait apte à sanctionner l’erreur éventuelle sur les qualités essentielles de la personne du salarié. Il me semble en revanche qu’il existe une crainte autrement plus grande, à savoir : les faits de violence civile et pénale tirés de la menace de révéler le contenu des données de santé. En l’état du droit positif, il y a bien quelques règles à vocation corrective. Je pense au vu des enjeux que la prescription de dommages et intérêts punitifs pourrait être des plus préventives^[12].

11. Interrogation. Pour terminer qu’il me soit permis de m’interroger sur ce qui semble être un parfait anachronique et qui témoigne d’une conceptualisation juridique insuffisante de l’usage des données de santé, à savoir : la délivrance pour tout enfant nouvellement né d’un carnet de santé…papier^[13]. Anachronisme au regard du déploiement du droit de la santé et de l’infrastructure Mon espace santé. Anachronisme au regard du droit civil et du renouvellement de la structuration des couples et des familles recomposées.

1. Essais et conférences, Gallimard, 1958 (éd. française), p. 4 cité par A. Latil, Le droit du numérique. Une approche par les risques, Dalloz, 2023, p. 24. ?
2. https://artificialintelligenceact.eu/fr/ai-act-explorer/ ?
3. M. Bernelin, Au cœur de l’exercice : les plateformes numériques en santé, RDSS 2024, p. 145 et s. ?
4. Décision du 20 avr. 2018, https://sante.gouv.fr/fichiers/bo/2018/18-05/ste_20180005_0000_0041.pdf). ?
5. V. en ce sens, M. Bernelin, Au cœur de l’exercice : les plateformes numériques en santé, RDSS 2024, p. 145. ?
6. Comité créé en mode pilote à la demande du 1^er ministre par le Comité consultatif national d’éthique le 2 décembre 2019. Son utilité a été récemment confirmé (D. n° 2024-463 du 23 mai 2024 ; art. 133-2 c. relations entre le public et l’administration)). ?
7. Avis 143 CCNE / avis 5 CNPEN, pp. 27 et s. https://www.ccne-ethique.fr/sites/default/files/2023-05/CCNE-CNPEN_GT-PDS_avis_final27032023.pdf ?
8. Arr. 29 nov. 2019 portant approbation de l’avenant à la convention constitutive du groupement d’intérêt public Institut national des données de santé portant création du gip « Plateforme des données de santé ». ?
9. CE, référés, 19 juin 2020, n° 440916, inédit ; Cnil, délibération n° 2023-146 du 21 décembre 2023 : autorisation de mettre en œuvre un traitement automatisé de données à caractère personnel ayant pour finalité la constitution d’un entrepôt de données dans le domaine de la santé dénommé ” EMC2 ?
10. V. sur le « Sommet pour l’action sur l’intelligence artificielle » (EU AI champions initiative) des 06 et 11 févr. 2025 (Paris) : Ch. Perreau, Airbus, BNP Parisbas, Lufthansa, Mistral, Plus de 60 entreprises appellent à un sursaut européen dans l’IA, Les Echos 10 févr. 2025. ?

11. La CNIL restreint l’accès des organismes complémentaires d’assurance maladie aux données de santé en optique, empêche la transmission d’informations détaillées sur les corrections prescrites et freine la lutte contre la fraude à l’assurance, L’Argus de l’assurance 20 déc. 2024. V. plus largement : https://www.cnil.fr/sites/cnil/files/atoms/files/analyse_juridique_adressee_aux_organismes_de_complementaire_sante.pdf ?

12. Cette sanction n’a jamais été prescrite par le législateur en droit civil, à tout le moins pas en ces termes. Il reste que c’est pourtant l’économie générale de l’article 9-1 du Code civil. ?

13. Art. L. 2132-1 csp et arr. du 14 novembre 2024 relatif à la forme et à l’utilisation du carnet de santé. ?

(Article publié in Dalloz actualité, 19 févr. 2025)

Intelligence artificielle, réparation des dommages et arbitrage[1]. A la question de savoir quels rapports entretiennent « intelligence artificielle » et « réparation des dommages », deux positions extrêmes semblent se dessiner. Les rapports nationaux sont en ce sens.

La première position, conservatrice et prudente, consiste à défendre que peu importants soient les apports de la technologie à notre affaire, il n’est pas de bonne méthode de faire dire le droit en général et plus particulièrement le droit civil de la responsabilité par une intelligence artificielle. Le droit, mieux la justice (qui est un projet plus grand), est une affaire de femmes et d’hommes instruits et rompus à l’exercice qui, au nom du peuple français, départagent les parties à la cause et ramènent la paix sociale. En somme, c’est d’intelligence originelle partant humaine dont il doit être question.

La seconde position, novatrice mais aventureuse, consiste à soutenir que les facilités promises sont telles que l’algorithmisation du droit de la responsabilité à visée réparatrice est un must have ; que ce serait à se demander même pour quelle raison le travail de modélisation scientifique n’est pas encore abouti.

Tous les rapports nationaux renseignent le doute ou l’hésitation relativement à la question qui nous occupe. Cela étant, en Allemagne et en France, il se pourrait qu’on cédât franchement à la tentation tandis qu’en Belgique, en Italie (rapp. p. 1) ou encore en Roumanie, le rubicon ne saurait être résolument franchi à ce jour. Que la technologie ne soit pas au point ou bien que les techniciens ne soient pas d’accord, c’est égal.

Chaque thèse a ses partisans. Et c’est bien naturel. Ceci étant, choisir l’une ou bien l’autre sans procès c’est renoncer d’emblée et aller un peu vite en besogne. Or, celui qui ne doute pas ne peut être certain de rien (loi de Kepler).

Intelligence artificielle, réparation des dommages et doute. Formulée autrement, la question des rapports qu’entretiennent « intelligence artificielle » et « réparation des dommages » invite à se demander si le droit de la responsabilité peut frayer ou non avec la science toute naissante de la liquidation algorithmique des chefs de dommages. Peut-être même s’il le faut.

Ce n’est pas de droit positif dont il s’agit. Ce n’est pas un problème de technique juridique – à tout le moins pas en première intention – qui est ici formulé. Il ne s’agit pas de se demander comment articuler les facilités offertes par la Machine avec les règles de droit processuel. Il ne s’agit pas de se demander quoi faire des résultats proposés par un logiciel relativement au principe substantiel (matriciel) de la réparation intégrale. Il ne s’agit même pas de se demander si l’algorithmisation porterait atteinte à un droit ou liberté fondamentale que la constitution garantit. Les faiseurs de systèmes que nous sommes sauraient trouver un modus operandi. C’est une question plus fondamentale qui est posée dans le cas particulier, une question de philosophie du droit. S’interroger sur les rapports que pourraient entretenir « intelligence artificielle » et « réparation des dommages » ne consiste pas à se demander ce qu’est le droit de la responsabilité civile à l’heure de l’open data et de la data science mais bien plutôt ce que doit être le droit. C’est encore se demander collectivement ce qui est attendu de celles et ceux qui pratiquent le droit et façonnent à demande ses règles. C’est de science algorithmique et d’art juridique dont il est question en fin de compte. Voilà la tension dialectique qui a réunit tous les présents aux journées lyonnaises du Groupe de recherche européen sur la responsabilité civile et l’assurance et qui transparaît à la lecture de tous les rapports nationaux.

Pour résumer et se rassurer un peu, rien que de très ordinaire pour nous autres les juristes et le rapporteur de synthèse auquel il est demandé d’écrire une histoire, un récit d’anticipation.

Science algorithmique, art juridique et récit d’anticipation. Nous ne saurions naturellement procéder in extenso. La tâche serait trop grande. Qu’il nous soit permis de ne poser ici que quelques jalons avant que nous débattions pour qu’à la fin (il faut l’espérer) nous puissions y voir plus clair.

Le récit d’anticipation proposé, d’autres s’y sont attelés bien avant nous. En 1956, un romancier américain décrit un monde dans lequel un système prédictif est capable de désigner des criminels en puissance sur le point de commettre une infraction. Stoppés in extremis dans leur projet respectif, ils sont jugés sur le champ et écroués. Spielberg adaptera cette nouvelle en 2002. Minority report était créé. Il y sera question de prédiction mathématique, de justice algorithmisée et d’erreur judiciaire. C’est que, aussi ingénieux soit le système, il renfermait une faille. Nous y reviendrons. Plus récemment, et ce n’est pas de fiction dont il s’agit, une firme – Cambridge analytica – s’est aventurée à renseigner à l’aide d’un algorithme, alimenté de données personnelles extraites à la volée de comptes Facebook de dizaines de millions d’internautes, les soutiens d’un candidat à la magistrature suprême américaine. Ce faisant, l’équipe de campagne était en mesure de commander des contenus ciblés sur les réseaux sociaux pour orienter les votes.

Que nous apprennent ces deux premières illustrations. Eh bien qu’il y a matière à douter sérieusement qu’une intelligence artificielle puisse gouverner les affaires des hommes.

Preuve s’il en était besoin que les nombres n’ont pas forcément le pouvoir ordonnateur qu’on leur prête depuis Pythagore. Or (c’est ce qui doit retenir l’attention) s’il existe au moins deux façons de faire quelque chose et qu’au moins l’une de ces façons peut entraîner une catastrophe, il se trouvera forcément quelqu’un quelque part pour emprunter cette voie (loi de Murphy).

Pouvoir ordonnateur des nombres, loi de Murphy et principe de réalité. Le risque étant connu, peu important que sa réalisation soit incertaine, nous devrions par voie de conséquence nous garder (à tout le moins en première intention) de prier qu’une pareille intelligence réparât les dommages de quelque nature qu’ils soient. Ceci étant, et relativement à la méthode proposée, doutons méthodiquement soit qu’il s’agisse, après mûre réflexion, de renforcer les résolutions des opposants à l’algorithmisation de la responsabilité civile, soit (et à l’inverse) qu’il s’agisse de soutenir les solutions des zélateurs du droit 2.0.

Car autant le dire tout de suite avec les rapporteurs nationaux, si la question des rapports qu’entretiennent « intelligence artificielle » et « réparation des dommages » se pose c’est que les outils de modélisation scientifique ne sont pas une vue de l’esprit. Les instruments d’aide à la décision médicale ou bien encore à la chirurgie (ex. le diagnostic algorithmique et, plus ambitieux encore le Health data hub[2]) sont le quotidien des professionnels de santé tandis que les outils d’aide à la décision judiciaire font florès. Des juges américains, sur le point d’accorder une libération sous caution, sont ainsi aider par un logiciel qui évalue le risque de défaut de comparution de l’intéressé (Compas)[3]. Tandis que de côté-ci de l’Atlantique des firmes proposent des systèmes d’aide à la décision juridique ou judiciaire supplantant (bien que ce ne soit pas la vocation affichée des legaltech) les quelques expériences de barémisation indicative bien connues des spécialistes de la réparation du dommage corporel.

Nous reviendrons bien entendu sur les tentatives de réparation algorithmique des dommages qu’on ne manquera pas d’évaluer (II). Mais pour commencer, il nous a semblé nécessaire de s’arrêter sur la tentation de la réparation algorithmique des dommages (I).

I.- La tentation de la réparation algorithmique des dommages

La réparation algorithmique des dommages est tentante pour de bonnes raisons qui tiennent plus particulièrement, d’une part, à la faisabilité technique qui est proposée (A) et, d’autre part, aux facilités juridiques qui sont inférées (B).

A.- Faisabilité technique

La faisabilité technique à laquelle on peut songer est à double détente. C’est d’abord une histoire de droit (1) avant d’être ensuite une affaire de nombres (2).

1.- Histoire de droit

Règle de droit, structuration binaire et révélation mathématique. Le droit aspire à l’algorithmisation car la structuration de la règle est binaire et sa révélation mathématique (ou presque).

La structuration de la règle juridique ressemble à s’y méprendre au langage des microprocesseurs des ordinateurs, au code qui est utilisé dans les technologies de l’information et de la communication. La règle est écrite de façon binaire : si/alors, qualification juridique/régime, conditions/effets, principe/exception. Le législateur et l’ingénieur parlent donc le même langage… Enfin c’est ce dont ce dernier est convaincu.

Quant à la révélation de la règle applicable aux faits de l’espèce, elle suppose de suivre une démarche logique, pour ne pas dire mathématique. Car le droit ne saurait être bien dit sans une pensée rationnelle, la formulation discursive des vérités, sans rigueur ni exactitude. En bref, l’hypothèse de la réparation algorithmique des dommages est plutôt familière au juriste. Pour preuve : le droit et ses méthodes d’exploration et de résolution des problèmes (qui sont des algorithmes en définitive) sont un puissant vecteur de correction de la réalité. Une personne est victime du comportement dommageable d’un individu (le donné) ? Juridiquement, cette dernière est titulaire d’un droit subjectif au paiement d’un contingent de dommages et intérêts compensatoires (le construit). Appréhendés en droit, les faits de l’espèce (la réalité) sont en quelque sorte réencodés.

En bref, les juristes sont invariablement des faiseurs de systèmes techniques et d’algorithmiques.

On ne s’étonnera donc pas que le droit et ses artisans aient vocation à être (r)attrapés par la science et ses industriels qui se jouent des nombres et font des affaires.

2.- Affaire de nombres

Digitalisation et données. Les rapports français et belge montrent plus particulièrement combien la croissance du volume de données disponibles sous forme numérique est exponentielle.

Par voie de conséquence, il existe désormais beaucoup de matière pour nourrir un algorithme quelconque, lui permettre de simuler un phénomène, une situation à l’aune des données qui auront été implémentées dans un programme informatique (qui est appelé « code »). Il est à noter au passage une différence notable entre les pays interrogés dans nos journées lyonnaises. Si les juristes italiens et roumains pratiquent autrement moins l’algorithmisation des règles de la réparation des dommages que leurs homologues allemands et français, c’est très précisément parce que la digitalisation des décisions de justice est moins avancée à ce jour. Quant à la Belgique, le rapport national renseigne l’existence d’un obstacle juridique à ladite digitalisation, qui vient tout récemment d’être levé. À terme, il devrait y avoir suffisamment de matière pour alimenter un algorithme. La Belgique se rapprocherait donc de très près de la France.

Il est remarquable qu’en France précisément des millions de données juridiques aient été mises à disposition pour une réutilisation gratuite[4] par le service public de la diffusion du droit en ligne – Legifrance pratique l’open data[5]. Ce n’est pas tout. Depuis quelques semaines à présent, toutes les décisions rendues par la Cour de cassation française sont aussi en open data. Il devrait en être de même au printemps 2022 des décisions des cours d’appel (hors matière pénale)[6]. Même chose du côté du Conseil d’État français.

La tentation de l’algorithmisation est donc grande car c’est tout à fait faisable techniquement, tout particulièrement en France qui se singularise très nettement dans le concert des droits nationaux continentaux interrogés. Mais il y a d’autres raisons qui président à l’algorithmisation sous étude : ce sont les facilités juridiques qui sont proposées par l’intelligence artificielle.

B.- Facilités juridiques

Égalité, intelligibilité et acceptabilité. Au titre des facilités qu’on peut inférer juridiquement parlant des algorithmes à visée réparatoire, on doit pouvoir compter une intelligibilité améliorée des règles applicables à la cause partant une égalité nominale des personnes intéressées et une acceptabilité possiblement renforcées du sort réservé en droit à la victime.

Il faut bien voir que les règles qui gouvernent la réparation des dommages, et plus particulièrement les atteintes à l’intégrité physique, ne sont pas d’un maniement aisé. La monétisation de toute une série de chefs de dommages tant patrimoniaux (futurs) qu’extrapatrimoniaux suppose acquise une compétence technique pointue. Un étalonnage mathématisé présenterait entre autres avantages de prévenir une asymétrie éventuelle d’information en plaçant toutes les personnes sur un pied d’égalité (à tout le moins nominale)[7] à savoir les victimes, leurs conseils, leurs contradicteurs légitimes et leurs juges.

Au fond, et ce strict point de vue, la réparation algorithmique des dommages participe d’une politique publique d’aide à l’accès au droit qui ne dit pas son nom. La notice du décret n° 2020- 356 du 27 mars 2020 Datajust élaborant un référentiel indicatif d’indemnisation des dommages corporels est en ce sens[8].

C’est encore dans le cas particulier l’acceptabilité de la décision qui se joue possiblement C’est que le statut de celui ou celle qui a procédé à l’indemnisation est nécessaire pour conférer son autorité à l’énoncé mais pas suffisant. Toutes les fois que le dommage subi est irréversible, que le retour au statu quo ante est proprement illusoire (et c’est très précisément le cas en droit de la réparation d’un certain nombre de chefs de dommages corporels) on peut inférer de l’algorithmisation de la réparation des dommages une prévention contre le sentiment d’arbitraire que la personne en charge de la liquidation des chefs de préjudice a pu faire naître dans l’esprit de la victime.

Voilà une première série de considérations qui participe de la tentation de la réparation algorithmique des dommages. Puisque selon la loi de Casanova, la meilleure façon d’y résister est d’y succomber, je vous propose de braquer à présent le projecteur sur les tentatives de réparation algorithmique des dommages.

II.- Les tentatives de réparation algorithmique des dommages

Opérateurs privés vs administration publique. Les tentatives de réparation algorithmique des dommages sont relativement nombreuses et plutôt récentes, à tout le moins en France car, une fois encore, et à ce jour, le recours à l’intelligence artificielle est plus anecdotique, réduit (en comparaison avec la France) – un état basal ou élémentaire – dans les autres droits internes sous étude.

Ces tentatives sont des plus intéressantes en ce sens qu’elles ont eu notamment pour objet et/ou effet de parachever un travail polymorphe entamé il y a plusieurs années à présent et accompli tous azimuts qui est fait (pour ne prendre que quelques exemples saillants rappelés par les rapporteurs nationaux) d’articles de doctrine renseignant les pratiques indemnitaires des tribunaux et des cours d’appel, de barèmes plus ou moins officiels, de guides ou vade-mecum, de nomenclatures et de référentiels. Les juristes belges et français les pratiquent volontiers pendant qu’avocats et juges ne manquent pas de rappeler que ces outils d’aide à la décision ne sauraient jamais être contraignants : principe de la réparation intégrale obligerait…

Depuis lors, ce sont positionnées sur le segment de marché de la digitalisation de la justice, de l’algorithmisation de la réparation des dommages, de nouveaux opérateurs – plus ou moins capés à en croire les rapporteurs – privés[9] et publics[10].

Une analyse critique de l’offre de services en termes d’intelligence artificielle ainsi formulée par les legaltechs sera faite d’abord (A). Un essai à visée plus prospective sera proposé ensuite (B).

A.- Analyse critique

Biais de raisonnement. L’analyse critique de l’algorithmisation de la réparation des dommages que nous proposons d’esquisser consiste à identifier quelques biais de raisonnement induits par l’intelligence artificielle et dont il importe qu’on se garde à tout prix. Nous nous sommes demandés en préparant ce rapport si ce n’était pas la crainte d’échouer dans cette entreprise d’évaluation critique et de contrôle systématique qui faisait douter qu’il faille pousser plus loin l’expérience.

Le problème de fond nous semble tenir au fait qu’un esprit mal avisé pourrait se convaincre qu’une suggestion algorithmique dite par une machine serait équipollente à la vérité juridique recherchée par une femme ou un homme de l’art.

L’embêtant dans cette affaire tient plus concrètement d’abord à la performativité du code (1) et à l’opacité de l’algorithme ensuite (2).

1.- Performativité du code

Suggestion algorithmique vs vérité juridique. La réparation algorithmique des dommages a un mérite : elle simplifie la recherche de la vérité, plus encore pour celles et ceux qui ne pratiqueraient la matière qu’occasionnellement ou bien qui seraient tout juste entrés en voie de spécialisation. Seulement voilà : la paroi est mince entre facilitation et supplantation. Il n’est pas assez d’écrire qu’un référentiel d’indemnisation est indicatif, qu’il ne saurait jamais être rangé dans les normes de droit dur. Le savoir algorithmique est performatif (voire impératif pour celui qui le pratiquerait sans prudence) et ce pour plein de raisons (recherche du temps perdu entre autres). Volens nolens, son utilisation finit toujours par être mécanique. Alors, le doute méthodique du juriste, qui est la condition sine qua non pour accéder à la vérité, est chassé par la certitude scientifique apparente de la machine. Pour le dire autrement, le savoir prédictif est normatif. Et il n’y a qu’un pas pour que la vérité censée être dite par personnes instruites et sachantes soit en définitive dite par une machine qui ordonne des 0 et des 1. C’est le delta qui existe si vous voulez entre les mathématiques de l’intelligibilité et les mathématiques que j’ai appelées ailleurs de contrôle[11].

Rien de bien grave nous dira peut-être le rapporteur allemand toutes les fois (à tout le moins) qu’il ne s’agit que de réparer des dommages de masse de faible valeur. Il reste que, dans tous les cas de figure, la suggestion algorithmique est le fruit de l’apprentissage de données tirées du passé. Au mieux, le code informatique peut dire ce qui est mais certainement pas (à tout le moins pas encore) ce qui doit être. L’intelligence artificielle que nous pratiquons (qualifiée de « faible ») n’est pas encore capable de le faire. C’est que cette dernière IA n’est qu’un programme qui n’est pas doté de sens et se concentre uniquement sur la tâche pour laquelle il a été programmé. En bref, les machines ne pensent pas encore par elles-mêmes (ce qu’on appelle le machine learning ou IA « forte »).

Alors, et cela pourrait prêter à sourire, aussi moderne soit ce code informatique là, il est porteur d’une obsolescence intrinsèque qu’on fait mine de ne pas voir. Que la binarité soit un trait caractéristique de la structuration de la règle de droit et que, par voie de conséquence, la modélisation mathématique soit séduisante est une chose. Il reste que dire le droit et rendre la justice impliquent la recherche d’un équilibre entre des intérêts concurrents dont le tiers-juge est le garant (en dernière intention). Droit et justice ne sont pas synonyme. Si la règle juridique aspire à la binarité, sa mise en œuvre se recommande d’un ternaire… En bref, on ne saurait jamais se passer d’un tiers neutre même pas dans une startup nation.

Qu’il soit juridique ou algorithmique, un code se discute. Seulement pour que chacun puisse se voir juridiquement et équitablement attribuer ce qui lui est dû, il importe de lever l’opacité de l’algorithme.

2.- Opacité de l’algorithme

Le code 2.0 doit retenir l’attention de tout un chacun. Aussi puissants soient les calculateurs, et peu important que l’algorithme soit programmé pour apprendre, les machines ne sont encore que le produit de la science humaine, la donnée est encore l’affaire de femmes et d’hommes. Ce n’est pas le moindre des biais méthodologiques. Il a ceci de commun avec celui qu’on vient de décrire qu’il est trompeur.

Biais méthodologiques. Les résultats qui sont renseignés par un système d’information (output) sont toujours corrélés aux données qui ont été collectées puis entrées (input). De quoi parle-t-on ? Eh bien de jugement de valeurs dans tous les sens du terme (juridique et technologique). Or un juge, quel qu’il soit, a une obligation : celle de motiver sa décision (art. 455 du Code de procédure civile). Et ce pour de justes et utiles raisons que nous connaissons bien : prévention de l’arbitraire et condition du contrôle de légalité. Quand on sait la puissance performative de la modélisation mathématique, ce serait commettre une erreur de ne pas rechercher à lever l’opacité algorithmique qui est bien connue des faiseurs de systèmes d’informations.

Clef de voûte. La transparence en la matière est la clef de voute. L’édification mathématique ne saurait valablement prospérer sans que la méthode analytique des décisions sélectionnées aux fins d’apprentissage de l’algorithme n’ait été explicitée, sans que la sélection des décisions de justice voire des transactions n’ait été présentée, sans que la qualité et le nombre des personnes qui ont procédé n’aient été renseignés. Seulement voilà, et ce qui suit n’augure rien de très bon : le code informatique est un secret industriel protégé en tant que tel que les legaltechs, qui sont en concurrence, n’ont aucun intérêt à révéler. Les initiatives publiques doivent donc être impérativement soutenues. L’accessibilité doit être garantie. En bref, Datajust, qui est un référentiel public relatif à l’indemnisation des victimes de dommages corporels, est la voie à suivre. Encore qu’il ne satisfasse pas complètement aux conditions de praticabilité et de démocratisation attendus. Et que, partant, sa performativité soit possiblement trop grande. Possiblement car l’essai n’a pas été encore transformé en raison des doutes que le décret a suscité.

Doutes que nous souhaiterions aborder à présent dans un essai prospectif pour lister quelques conditions qui nous semble devoir être satisfaites pour qu’ils soient levés.

B.- Essai prospectif

À titre de remarque liminaire, il faut dire (qu’on la redoute ou non) que l’algorithmisation de la réparation des dommages ne saurait prospérer sans que, au préalable, de la donnée soit mise à la disposition du public et des opérateurs. Or, open data et big data ne sont pas aussi répandus qu’on veut bien l’imaginer. En France, nous y sommes presque bien que, en l’état, le compte n’y soit pas tout à fait encore[12]. Ailleurs, la donnée est la propriété presque exclusive de firmes privées qui monnayent un accès amélioré aux décisions de justice sélectionnées par elles-mêmes (Belgique) ou bien la donnée ne peut tout bonnement pas être partagée (Italie).

Une fois cette condition remplie, l’algorithme est en mesure de travailler. Pour s’assurer que le travail soit bien fait, il importerait qu’on s’entende sur quelques spécifications techniques et politiques. C’est sur ces dernières que je souhaiterais conclure.

Régulation. En l’état, les systèmes d’information ne sont pas régulés du tout. On se souviendra qu’il aura fallu une exploitation abusive et sans précédent des données personnelles par les Gafam[13] pour qu’on se décide à élaborer un règlement général sur la protection desdites données. Seulement, et sans préjudice des dommages causés aux personnes concernées, il n’est pas ou plus question ici de l’accaparement de données par quelques firmes de marchands. L’affaire est d’un tout autre calibre. C’est d’assistance à la décision juridique ou judiciaire dont il est question. Que la justice ne soit plus tout à fait une fonction régalienne de l’État, admettons. Mais les responsabilistes ne sauraient prêter leur concours sans aucune prévention à l’utilisation de l’intelligence artificielle dans la réparation des dommages. Pour le dire autrement, une gouvernance technique et scientifique nous semble devoir être mise en place. Cette exigence est présente dans les rapports tout particulièrement dans le rapport belge.

Règlementation. Le 21 avril 2021 a été diffusé une proposition de règlement européen établissant des règles harmonisées concernant l’intelligence artificielle[14] dans laquelle les IA sont distinguées selon le risque qu’elles font courir. Et des intelligences artificielles, destinées à suggérer le droit pour faire bref, d’être qualifiées de « systèmes à haut risque »…

En résumé, le code doit être connu de ses utilisateurs, les données primitives exploitées par l’algorithme doivent être indexées, une révision des contenus doit être programmée, des évaluations et crash-test doivent être faits. Et nous sommes loin d’épuiser les conditions qu’il s’agirait qu’on respectât pour bien faire. C’est de « gouvernance des algorithmes » dont il est question au fond[15]. C’est qu’il ne faut jamais perdre de vue la puissance normative de la modélisation mathématico-juridique ainsi que les biais algorithmiques. En bref, la logique mathématique ne saurait jamais être complètement neutre. C’est le sens des théorèmes d’incomplétude formulés par Kurt Gödel (1931).

En conclusion et parce que nous sommes convaincus qu’on ne stoppera pas le mouvement d’algorithmisation de la réparation des dommages, permettez-nous de formuler une question qui transparaît des rapports nationaux : veut-on que du droit soit suggéré par des algorithmes (privés) faiseurs de loi ou bien par un législateur faiseur d’algorithmes (publics) ?

[1] La forme orale de ce rapport a été conservée.

[2] https://www.health-data-hub.fr/

[3] V. not. sur ce sujet, A. Jean, Les algorithmes sont-ils la loi ? Editions de l’observatoire,

[4] Arr. du 24 juin 2014 relatif à la gratuité de la réutilisation des bases de données juridiques de la direction de l’information légale et administrative.

[5] Plateforme ouverte des données publiques françaises https://www.data.gouv.fr. Service public de la diffusion du droit en ligne : https://www.legifrance.gouv.fr/

[6][6] https://www.courdecassation.fr/la-cour-de-cassation/demain/lopen-data-des-decisions-judiciaires

[7] J. Bourdoiseau, Intelligence artificielle, réparation du dommage corporel et assurance, Dalloz IP/IT, 2022 (à paraître).

[8] Expérimentation dont la légalité a été vérifiée par le Conseil d’État français (CE, 10^e et 9^e ch. réunies, 30 déc. 2021, n° 440376) mais que le Gouvernement a décidé d’abandonner (Ministère de la justice, comm., 13 janv. 2022). Ch. Quézel-Ambrunaz, V. Rivollier et M. Viglino, Le retrait de Datajust ou la fausse défaite des barèmes, D. 2022.467.

[9] Allemagne : Actineo. Belgique : Grille corpus, Repair, Jaumain. France : Case law analytics, Predictice, Juridata analytics. Voy. par ex. J. Horn, Exemple d’utilisation d’une solution IA développée par une legaltech dans des contentieux PI – Utilisation de LitiMark, Dalloz IP/IT 2021.263.

[10] France : Datajust. Italie : legal analytics for italian law.

[11] J. Bourdoiseau, La réparation algorithmique du dommage corporel : binaire ou ternaire ?, Resp civ. et assur. mai 2021, étude 7.

[12] Il est à noter, pour ne prendre que cet exemple, que les juges administratifs français ont accès à la totalité des décisions rendues (quel que soit le degré de juridiction) à l’aide d’un outil qui n’est mis à disposition que pour partie aux justiciables (ce qui interroge), à tout le moins à ce jour (https://www.conseil-etat.fr/arianeweb/#/recherche).

[13] Google, Apple, Facebook (Meta), Amazon, Microsoft. Voy. aussi les géants chinois : BATX (Baidu, Alibaba, Tencent, Xiaomi).

[14] https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX:52021PC0206

[15] Voy. not. L. Huttner et D. Merigoux, Traduire la loi en code grâce au langage de programmation Catala, Dr. fiscal févr. 2021.121. Voy. aussi Autorité de contrôle prudentiel et de résolution, La transformation numérique dans le secteur français de l’assurance, analyses et synthèses n° 132, 2018 ; Institut Montaigne, Algorithmes : contrôle des biais, rapport, mars 2020,

(https://www.institutmontaigne.org/publications/algorithmes-controle-des-biais-svp)