Les obligations des opérateurs de systèmes d’intelligence artificielle à haut risque. Fournisseur, mandataire, importateur, distributeur, déployeur et chaîne de valeur

1Une réglementation de produit se heurte toujours à la même difficulté : le produit circule, tandis que les obligations doivent s’attacher à quelqu’un. Entre celui qui conçoit, celui qui vend sous son nom, celui qui importe, celui qui distribue et celui qui exploite, il faut choisir un débiteur — ou plusieurs, et dire ce que chacun doit. Le règlement européen sur l’intelligence artificielle a hérité cette difficulté du nouveau cadre législatif, et il l’a compliquée d’un trait propre à son objet : un système d’intelligence artificielle se modifie, se réentraîne et change de destination bien plus aisément qu’une machine-outil.

2De là une architecture en deux temps. La section 2 du chapitre III décrit un état du système, sans nommer personne ; la section 3 distribue cet état entre des rôles. Ces rôles ne sont pas des qualités attachées aux personnes : ce sont des fonctions, définies par ce que l’on fait du système, et l’on peut en changer sans avoir rien signé.

1. Des rôles, non des personnes

Le principe de dissociation

3Le considérant 79 énonce le principe fondateur de toute la section, et il le fait en une phrase qu’il faut lire deux fois : il convient qu’une personne déterminée, « définie comme étant le fournisseur, assume la responsabilité de la mise sur le marché ou de la mise en service d’un système d’IA à haut risque, indépendamment du fait que cette personne physique ou morale soit ou non la personne qui a conçu ou développé le système »^[3].

4La responsabilité est donc dissociée de la conception. Celui qui a écrit le code, entraîné le modèle et choisi les données peut n’être tenu de rien ; celui qui appose son nom sur le système et le met sur le marché répond de tout. Le procédé est classique en droit de la sécurité des produits, où le fabricant au sens juridique n’est pas nécessairement celui qui fabrique ; il produit ici un effet particulier, puisque la connaissance technique du système réside souvent chez celui que le règlement ne tient pas — et c’est précisément ce que l’article 25 s’efforce de corriger.

Le lexique : de l’utilisateur au déployeur

5La proposition de 2021 ne connaissait pas le déployeur. Elle parlait d’« utilisateur », mot qui revient soixante-dix-neuf fois dans son texte, au singulier comme au pluriel, quand celui de déployeur n’y figure pas une seule fois^[4]. Le changement, obtenu par le Parlement européen dans sa position de juin 2023, n’est pas cosmétique. L’utilisateur, c’est celui qui se sert ; le déployeur, c’est celui qui met en œuvre — une entité qui décide d’employer le système dans son activité, et à qui l’on peut donc imposer des obligations d’organisation.

6Le mot a d’ailleurs libéré la place pour un autre : la personne exposée au système, que le texte appelle la personne concernée ou affectée, et qui n’est ni utilisatrice ni déployeuse. La distinction est la condition de l’article 26, paragraphe 11, et de l’article 86, examinés plus loin.

Une architecture réorganisée entre 2021 et 2024

7La comparaison des intitulés est instructive. La proposition de 2021 consacrait ses articles 16 à 29 aux obligations ; le texte adopté les a resserrés en douze articles et en a modifié l’ordre comme la logique. Trois déplacements méritent d’être relevés^[5].

8L’obligation d’établir une documentation technique, qui formait l’article 18 de la proposition, a été scindée : le contenu est devenu une exigence du système, à l’article 11, tandis que la conservation est restée une obligation de l’opérateur, à l’article 18. L’évaluation de la conformité, qui figurait à l’article 19 parmi les obligations, a été renvoyée à l’article 43, au sein d’une section propre. Surtout, l’article 28 de la proposition, intitulé « Obligations des distributeurs, des importateurs, des utilisateurs ou de tout autre tiers », est devenu l’article 25, intitulé « Responsabilités tout au long de la chaîne de valeur de l’IA ». Le passage d’une liste de destinataires à une notion — la chaîne de valeur — dit tout le mouvement du texte : de personnes que l’on énumère à des positions que l’on occupe.

2. Le fournisseur : douze obligations et une organisation

L’article 16 et la huitième exigence

9L’article 16 énumère douze obligations, des points a) à l). Les onze premières sont de renvoi : veiller à la conformité aux exigences de la section 2, s’identifier sur le système ou son emballage, mettre en place un système de gestion de la qualité, conserver la documentation, tenir les journaux, faire procéder à l’évaluation de la conformité, établir la déclaration de conformité, apposer le marquage, s’enregistrer, prendre les mesures correctives, et prouver la conformité à la demande motivée d’une autorité^[6].

10La douzième ne renvoie à rien : elle ajoute. Le point l) impose de veiller à ce que le système soit « conforme aux exigences en matière d’accessibilité conformément aux directives (UE) 2016/2102 et (UE) 2019/882 »^[7]. C’est une exigence de fond, portant sur les propriétés du système lui-même, et elle ne figure pas à la section 2. Autrement dit : le règlement compte sept exigences dans la section qui leur est consacrée, et une huitième, l’accessibilité, logée parmi les obligations.

11Le considérant 80 en donne le fondement, et il est d’une autre nature que le reste du texte. L’Union et les États membres, signataires de la convention des Nations unies relative aux droits des personnes handicapées, sont « légalement tenus » de protéger les personnes handicapées contre la discrimination, de leur garantir l’accès aux technologies de l’information et de la communication au même titre que les autres, et de faire respecter leur vie privée ; le considérant en déduit l’application des principes de conception universelle et exige que les mesures soient « aussi intégrées que possible dans la conception »^[8]. L’obligation du point l) n’est donc pas une exigence de marché intérieur : c’est l’exécution d’un engagement international, greffée sur un règlement d’harmonisation.

Le système de gestion de la qualité : l’entreprise obligée

12L’article 17 opère un déplacement d’objet qu’il faut mesurer. Toutes les autres dispositions du chapitre III portent sur le système : sa conception, ses données, sa documentation, sa performance. L’article 17, lui, porte sur l’organisation du fournisseur. Il exige un système de gestion de la qualité « documenté de manière méthodique et ordonnée sous la forme de politiques, de procédures et d’instructions écrites », et en énumère treize aspects minimaux^[9].

13Ces treize aspects composent le portrait d’une entreprise conforme : une stratégie de respect de la réglementation, des techniques systématiques de conception, de développement et de contrôle, des procédures d’examen et de validation avec leur fréquence, les spécifications techniques appliquées, les systèmes de gestion des données, le système de gestion des risques de l’article 9, la surveillance après commercialisation, le signalement des incidents graves, la gestion des communications avec les autorités et les organismes notifiés, la conservation des documents, la gestion des ressources « y compris les mesures liées à la sécurité d’approvisionnement », enfin un cadre de responsabilisation définissant les responsabilités de l’encadrement et du personnel.

14Deux de ces aspects méritent qu’on s’y arrête. Le point e) impose de préciser, lorsque les normes harmonisées ne sont pas appliquées intégralement ou ne couvrent pas toutes les exigences, « les moyens à utiliser » pour y satisfaire malgré tout : c’est l’aveu, inscrit dans l’organisation même de l’entreprise, que la normalisation peut être incomplète. Le point m), qui exige un cadre de responsabilisation nominatif, est la seule disposition du règlement qui atteigne l’intérieur de l’entreprise et y désigne des personnes : la responsabilisation, écartée de la section 2 alors qu’elle figurait parmi les sept exigences éthiques de 2019, réapparaît ici sous forme d’obligation d’organisation.

La proportionnalité introduite en 2026

15Le règlement modificatif a réécrit le paragraphe 2 de l’article 17. La mise en œuvre des treize aspects est désormais « proportionnée à la taille de l’organisation du fournisseur, en particulier si le fournisseur est une PME, y compris une jeune pousse, ou une petite entreprise à moyenne capitalisation » ; mais la disposition ajoute aussitôt que les fournisseurs respectent « en tout état de cause, le degré de rigueur et le niveau de protection requis » pour garantir la conformité de leurs systèmes^[10].

16La seconde phrase désamorce la première, et c’est probablement voulu. Ce qui est proportionné à la taille, c’est la lourdeur formelle du dispositif — le nombre de procédures écrites, la sophistication du cadre documentaire —, non le niveau de protection atteint. Une jeune pousse peut tenir son système de gestion de la qualité en dix pages là où un grand groupe en tiendra mille ; elle ne peut pas viser un degré de rigueur moindre. La règle est donc une règle de forme déguisée en règle de fond, et l’ambiguïté profitera à celui qui saura documenter que ses dix pages suffisaient.

Conserver, tenir, corriger, coopérer

17Quatre obligations complètent le régime du fournisseur, et leurs durées disent l’économie du contrôle. La documentation — technique, qualité, décisions des organismes notifiés, déclaration de conformité — est tenue à la disposition des autorités nationales pendant dix ans à compter de la mise sur le marché, chaque État membre devant régler le sort de cette documentation en cas de faillite ou de cessation d’activité^[11]. Les journaux, en revanche, ne sont conservés que pendant une période adaptée à la destination, « d’au moins six mois »^[12].

18L’écart entre dix ans et six mois n’est pas anodin. Ce qui est conservé dix ans, c’est la preuve de la conformité du système à sa conception ; ce qui n’est conservé que six mois, c’est la trace de son fonctionnement réel. Or c’est dans cette trace que se lirait, le cas échéant, le dommage individuel. La durée minimale de six mois vaut également pour le déployeur, en vertu de l’article 26, paragraphe 6 — de sorte que, passé ce délai, la démonstration d’un préjudice causé par une sortie déterminée du système peut se heurter à l’absence de toute trace, sauf disposition contraire du droit de l’Union ou du droit national.

19L’article 20 organise la réaction du fournisseur qui découvre une non-conformité : il prend « immédiatement » les mesures nécessaires pour mettre le système en conformité, le retirer, le désactiver ou le rappeler, et en informe les distributeurs ainsi que, le cas échéant, les déployeurs, le mandataire et les importateurs. Lorsque le système présente un risque au sens de l’article 79, paragraphe 1, il recherche immédiatement les causes, en collaboration avec le déployeur à l’origine du signalement, et informe les autorités de surveillance du marché ainsi que l’organisme notifié^[13]. L’article 21, enfin, oblige à fournir sur demande motivée toutes les informations démontrant la conformité, ainsi que l’accès aux journaux, dans une langue officielle de l’Union aisément compréhensible par l’autorité, telle qu’indiquée par l’État membre^[14].

3. L’équivalence consentie au secteur financier

20Une clause revient d’un article à l’autre, presque dans les mêmes termes, et elle ne concerne qu’un secteur. Lorsque le fournisseur — ou le déployeur — est un établissement financier soumis à des exigences de gouvernance, de dispositifs ou de processus internes au titre de la législation de l’Union sur les services financiers, le respect de cette législation vaut respect de l’obligation correspondante du règlement. Elle figure à l’article 17, paragraphe 4, pour le système de gestion de la qualité ; à l’article 18, paragraphe 3, pour la conservation de la documentation technique ; à l’article 19, paragraphe 2, pour les journaux du fournisseur ; et deux fois à l’article 26, aux paragraphes 5 et 6, pour la surveillance et les journaux du déployeur^[15].

21Cinq occurrences dans les douze articles ici examinés ; huit dans l’ensemble du règlement, les trois dernières intéressant la surveillance après commercialisation et la surveillance du marché^[16]. Aucun autre secteur ne bénéficie d’un traitement comparable : ni la santé, ni les transports, ni l’énergie, alors même que leurs législations sectorielles comportent, elles aussi, des obligations de gouvernance interne.

22L’équivalence n’est pourtant jamais totale, et la réserve est significative. À l’article 17, paragraphe 4, la conformité aux règles financières vaut respect de l’obligation de mettre en place un système de gestion de la qualité « à l’exception du paragraphe 1, points g), h) et i) » — c’est-à-dire à l’exception du système de gestion des risques de l’article 9, de la surveillance après commercialisation et du signalement des incidents graves^[17]. Le législateur a donc jugé que la réglementation prudentielle savait organiser une entreprise, mais qu’elle ne savait pas surveiller un système d’intelligence artificielle après sa mise sur le marché. La dispense porte sur la forme de l’organisation ; elle s’arrête là où commence le suivi du système lui-même.

4. Mandataire, importateur, distributeur : les gardiens du seuil

Le mandataire, et l’obligation de rompre

23Le fournisseur établi hors de l’Union doit, avant de mettre son système à disposition sur le marché, désigner par mandat écrit un mandataire établi dans l’Union^[18]. Le mandat l’habilite notamment à vérifier que la déclaration de conformité et la documentation technique ont été établies et qu’une procédure d’évaluation appropriée a été suivie, à tenir cette documentation à la disposition des autorités pendant dix ans, et à coopérer avec elles.

24Le paragraphe 4 contient une règle rare, qui vaut d’être citée pour elle-même : le mandataire « met fin au mandat s’il considère ou a des raisons de considérer que le fournisseur agit de manière contraire aux obligations qui lui incombent », et il informe alors immédiatement l’autorité de surveillance du marché ainsi que, le cas échéant, l’organisme notifié, « de la cessation du mandat et des motifs qui la sous-tendent »^[19].

25Ce n’est pas une faculté de rupture : c’est une obligation, assortie d’un devoir de dénonciation. Le règlement transforme ainsi le mandataire, ordinairement conçu comme le représentant des intérêts de son mandant, en un poste de contrôle avancé de l’Union. La construction est cohérente avec la difficulté qu’il y a à contraindre un fournisseur établi dans un pays tiers : à défaut de pouvoir l’atteindre, le règlement atteint son représentant, et lui impose de se retirer plutôt que de couvrir.

Un contrôle documentaire, non substantiel

26Les obligations de l’importateur et du distributeur sont d’une autre nature. L’importateur, avant la mise sur le marché, vérifie que la procédure d’évaluation de la conformité a été suivie, que la documentation technique a été établie, que le système porte le marquage et s’accompagne de la déclaration de conformité et de la notice, et que le mandataire a été désigné^[20]. Le distributeur vérifie le marquage, la présence de la déclaration et de la notice, et le respect par le fournisseur et l’importateur de leurs obligations d’identification^[21].

27Aucun d’eux n’a à vérifier que le système satisfait aux exigences de la section 2 : ils vérifient que les pièces existent. Le contrôle est documentaire, et c’est là toute la logique du nouveau cadre législatif — la conformité substantielle a été appréciée en amont, par le fournisseur et, le cas échéant, par l’organisme notifié ; ceux qui interviennent ensuite s’assurent que la chaîne de preuve est complète.

28La vigilance reprend ses droits lorsqu’un doute apparaît. L’importateur qui a « des raisons suffisantes de considérer » que le système n’est pas conforme, ou qu’il a été falsifié ou s’accompagne de documents falsifiés, ne le met sur le marché qu’après mise en conformité ; le distributeur qui « considère ou a des raisons de considérer, sur la base des informations en sa possession », que le système ne satisfait pas aux exigences de la section 2, ne le met pas à disposition^[22]. La formule employée pour le distributeur — sur la base des informations en sa possession — limite exactement ce qu’on attend de lui : il n’a pas à enquêter, il ne doit pas ignorer.

29Le considérant 83 ajoute une précision que la pratique rendra fréquente : un même opérateur peut cumuler plusieurs rôles — être à la fois distributeur et importateur, par exemple —, et doit alors remplir toutes les obligations attachées à chacun^[23]. Les rôles ne s’excluent pas : ils s’additionnent.

5. La chaîne de valeur : devenir fournisseur, cesser de l’être

Les trois circonstances de la substitution

30L’article 25 est le pivot de la section, et sans doute la disposition la plus lourde de conséquences pratiques de tout le chapitre III. Son paragraphe 1 énonce que tout distributeur, importateur, déployeur ou autre tiers « est considéré comme un fournisseur » et se trouve soumis aux obligations de l’article 16 dans trois circonstances : s’il commercialise le système sous son propre nom ou sa propre marque ; s’il apporte au système une modification substantielle telle qu’il demeure à haut risque ; s’il modifie la destination d’un système qui n’était pas classé à haut risque — y compris un système à usage général — de telle sorte qu’il le devient^[24].

31La première circonstance réserve expressément le jeu « des dispositions contractuelles prévoyant une autre répartition des obligations » ; les deux autres, non. La différence se comprend : on peut convenir de qui répond d’un système inchangé vendu sous une marque, on ne peut pas convenir que le système modifié demeure celui d’un autre. Le considérant 84 précise en outre que ces règles jouent sans préjudice de dispositions plus spécifiques du droit sectoriel, et donne l’exemple de l’article 16, paragraphe 2, du règlement (UE) 2017/745 relatif aux dispositifs médicaux, qui définit les modifications n’affectant pas la conformité^[25].

Ce que la révision de 2026 a précisé — et élargi

32Le paragraphe 2 règle le sort du fournisseur initial, et c’est ici que 2026 est intervenu. La règle de principe est inchangée depuis 2024 : lorsque l’une des trois circonstances se produit, le fournisseur initial « n’est plus considéré comme un fournisseur de ce système d’IA spécifique aux fins du présent règlement », mais il coopère étroitement avec les nouveaux fournisseurs, met à disposition les informations nécessaires et fournit l’accès technique et l’assistance raisonnablement attendus^[26].

33Le règlement modificatif a ajouté à cette obligation de coopération une énumération qui n’existait pas : elle comprend désormais, lorsque cela est pertinent, la mise à disposition d’une documentation technique suffisante pour évaluer la conformité, l’obligation d’informer les nouveaux fournisseurs « des limitations et des modes de défaillance connus », et un accès technique ciblé, « y compris à des fins de test et de validation »^[27]. L’apport est réel : une obligation de coopérer dont le contenu n’est pas précisé se négocie ; une obligation dont les trois prestations sont énumérées s’exécute.

34Mais la même révision a élargi la porte de sortie. Les deux rédactions se terminent par une réserve au profit du fournisseur initial qui a clairement précisé que son système ne devait pas être transformé en système à haut risque. En 2024, celui-ci « ne relève donc pas de l’obligation relative à la remise de la documentation ». En 2026, il ne relève plus « de l’obligation relative à la coopération avec les nouveaux fournisseurs et à la remise de la documentation »^[28].

35Le mouvement est donc double, et il ne va pas dans le même sens. D’un côté, l’obligation de coopération est précisée et enrichie de trois prestations exigibles ; de l’autre, celui qui l’a par avance écartée par une mention appropriée s’en trouve désormais entièrement libéré, et non plus seulement dispensé de remettre sa documentation. La valeur pratique de la clause d’exclusion s’en trouve considérablement accrue : une phrase dans des conditions d’utilisation suffit à décharger le fournisseur initial de tout devoir envers celui qui reprendra son système. Il faut ajouter que le considérant 86, qui n’a pas été modifié en 2026, continue de décrire l’obligation de coopération dans les termes de 2024, sans mentionner la coopération parmi ce dont la mention exclusive dispense^[29].

Le fabricant du produit, et l’accord écrit avec les tiers

36Le paragraphe 3 règle une hypothèse fréquente : lorsque le système à haut risque est un composant de sécurité d’un produit couvert par la législation d’harmonisation de la section A de l’annexe I, le fabricant du produit est considéré comme le fournisseur du système, dès lors que celui-ci est mis sur le marché ou mis en service sous son nom ou sa marque^[30]. La règle évite le dédoublement des responsabilités là où le nouveau cadre législatif en désigne déjà une : celui qui répond du produit répond du composant.

37Le paragraphe 4 organise, lui, la circulation de l’information en amont. Le fournisseur du système à haut risque et le tiers qui lui fournit des outils, services, composants ou processus intégrés dans ce système « précisent, par accord écrit », les informations, capacités, accès technique et assistance nécessaires, « sur la base de l’état de la technique généralement reconnu », pour permettre au premier de se conformer pleinement au règlement^[31]. La révision de 2026 a ajouté à cette énumération un terme qui manquait : le tiers qui fournit « un modèle d’IA » y est désormais expressément visé^[32].

38L’ajout est loin d’être formel. En 2024, le texte visait les systèmes, outils, services, composants et processus ; celui qui fournissait un modèle — objet distinct du système, comme le règlement le souligne ailleurs — pouvait soutenir que l’obligation d’accord écrit ne le concernait pas. La correction est de celles qu’une pratique naissante impose au législateur, et elle témoigne de ce que la chaîne de valeur réelle passe, désormais, par la fourniture de modèles.

39Deux limites encadrent le dispositif. La première tient à l’ouverture : le paragraphe 4 ne s’applique pas aux tiers qui rendent accessibles au public des outils, services, processus ou composants « autres que des modèles d’IA à usage général » sous licence libre et ouverte. Le considérant 89 en donne la raison et assortit l’exemption d’une incitation : ces développeurs sont encouragés à adopter des pratiques documentaires largement reçues, telles que les cartes de modèle et les fiches de données^[33]. La seconde tient au secret : le paragraphe 5 réserve les droits de propriété intellectuelle, les informations confidentielles de nature commerciale et les secrets d’affaires, et le considérant 88 précise que la coopération doit s’opérer « sans compromettre » ces droits^[34].

40Le Bureau de l’intelligence artificielle peut enfin élaborer et recommander des clauses types volontaires pour ces contrats, publiées gratuitement dans un format électronique facile d’utilisation^[35]. La faculté n’a pas encore été exercée ; elle mérite d’être signalée, car de telles clauses seraient, en pratique, le principal instrument de mise en œuvre de l’article 25 pour les entreprises qui n’ont pas le pouvoir de négociation nécessaire à leur imposition.

6. Le déployeur : l’usage sous condition

Une obligation d’organisation, non de résultat

41L’article 26 impose au déployeur de prendre « des mesures techniques et organisationnelles appropriées » pour utiliser le système conformément à la notice, et de confier le contrôle humain à des personnes physiques disposant des compétences, de la formation, de l’autorité et du soutien nécessaires^[36]. Le mot « soutien » n’est pas décoratif : il vise les moyens, le temps et la position hiérarchique sans lesquels le contrôle humain est une fiction — ce que le considérant 91 formule en exigeant « un niveau adéquat de maîtrise, de formation et d’autorité en matière d’IA »^[37].

42Le règlement prend soin de préserver l’autonomie d’organisation du déployeur : le paragraphe 3 réserve expressément « la faculté du déployeur d’organiser ses propres ressources et activités aux fins de la mise en œuvre des mesures de contrôle humain indiquées par le fournisseur ». Le fournisseur indique les mesures ; le déployeur décide comment il les met en œuvre.

La seule exigence qui se transporte

43Le paragraphe 4 fait exception à tout ce qui précède, et cette exception est isolée : « pour autant que le déployeur exerce un contrôle sur les données d’entrée, il veille à ce que ces dernières soient pertinentes et suffisamment représentatives au regard de la destination »^[38]. On reconnaît les termes mêmes de l’article 10, paragraphe 3, qui régit les jeux de données du fournisseur. C’est la seule exigence de la section 2 qui se transporte, par sa substance, sur la tête du déployeur.

44La condition — l’exercice d’un contrôle sur les données d’entrée — en délimite étroitement la portée, et le fait d’une manière qui appelle une remarque. Un déployeur qui alimente le système avec ses propres dossiers exerce ce contrôle ; celui qui se borne à interroger un service distant, sans maîtriser les données qui l’alimentent, ne l’exerce pas. Le partage est technique, non juridique, et il produira des situations où nul n’est tenu de la représentativité des données réellement traitées.

Surveiller, suspendre, signaler

45Le paragraphe 5 organise la vigilance en aval. Le déployeur surveille le fonctionnement du système sur la base de la notice et informe le fournisseur au titre de la surveillance après commercialisation. S’il a des raisons de considérer qu’une utilisation conforme à la notice pourrait conduire le système à présenter un risque au sens de l’article 79, paragraphe 1, il en informe sans retard injustifié le fournisseur ou le distributeur ainsi que l’autorité de surveillance du marché, « et suspendent l’utilisation de ce système »^[39].

46L’obligation de suspension mérite d’être soulignée : elle est immédiate, elle ne suppose aucune autorisation, et elle se déclenche sur un simple soupçon raisonné, avant toute constatation par une autorité. C’est, dans tout le chapitre III, l’un des rares pouvoirs d’arrêt confiés à un opérateur privé sur son propre usage. En cas d’incident grave, le déployeur informe immédiatement le fournisseur, puis l’importateur ou le distributeur et les autorités ; s’il ne parvient pas à joindre le fournisseur, le régime de notification de l’article 73 s’applique par analogie.

Informer les travailleurs, informer les personnes

47Deux obligations d’information distinguent le déployeur du fournisseur, et toutes deux procèdent de la position singulière qu’il occupe : il est le seul à savoir qui sera exposé au système.

48La première est sociale. Avant de mettre en service ou d’utiliser un système à haut risque sur le lieu de travail, le déployeur employeur informe les représentants des travailleurs et les travailleurs concernés qu’ils y seront soumis^[40]. Le considérant 92 en éclaire la fonction : le règlement laisse intactes les obligations d’information et de consultation résultant du droit national et de l’Union, notamment de la directive 2002/14/CE ; l’obligation nouvelle vient couvrir les cas où les conditions de ces instruments ne sont pas réunies, ce droit à l’information étant « accessoire et nécessaire » à l’objectif de protection des droits fondamentaux^[41]. C’est un filet, non un régime.

49La seconde est individuelle. Les déployeurs de systèmes de l’annexe III qui prennent des décisions ou facilitent la prise de décisions concernant des personnes physiques informent ces personnes qu’elles sont soumises à l’utilisation du système^[42]. Le considérant 93 précise ce que cette information devrait comprendre — la destination du système, le type de décisions prises, et le droit à l’explication prévu par le règlement^[43]. On observera que ces trois éléments figurent dans le considérant et non dans l’article, lequel se borne à exiger que les personnes soient informées de ce qu’elles sont soumises au système.

50Le considérant 93 énonce par ailleurs la justification théorique de l’ensemble du régime du déployeur, et elle est d’une justesse remarquable : si les risques peuvent découler de la conception, ils peuvent aussi provenir de l’usage ; les déployeurs « sont les mieux placés pour comprendre comment le système d’IA à haut risque sera utilisé concrètement » et peuvent donc identifier des risques importants « qui n’étaient pas prévus au cours de la phase de développement ». C’est l’aveu que la conformité du produit ne suffit pas à la sûreté de l’usage.

Enregistrement, biométrie et coopération

51Trois obligations complètent le régime. Les déployeurs qui sont des autorités publiques ou des organes de l’Union sont soumis à l’enregistrement de l’article 49 ; surtout, s’ils constatent que le système qu’ils envisagent d’utiliser n’a pas été enregistré dans la base de données de l’Union, « ils n’utilisent pas ce système » et en informent le fournisseur ou le distributeur^[44]. L’interdiction est nette, et elle transforme la base de données en condition d’emploi pour la sphère publique.

52Le paragraphe 10 soumet ensuite l’identification biométrique à distance a posteriori à un régime propre, d’une densité inhabituelle : autorisation d’une autorité judiciaire ou administrative dont la décision est contraignante et soumise à un contrôle juridictionnel, sollicitée avant l’usage ou au plus tard dans les quarante-huit heures ; interruption immédiate et suppression des données en cas de refus ; interdiction de tout usage non ciblé ; interdiction qu’une décision produisant des effets juridiques défavorables soit prise sur la seule base des sorties du système ; documentation de chaque utilisation dans le dossier de police ; rapports annuels aux autorités de surveillance du marché et de protection des données ; faculté pour les États membres d’adopter des règles plus restrictives^[45]. Le contraste avec le reste de l’article 26 est saisissant : là où le règlement énonce ailleurs des standards, il édicte ici une procédure.

53Le paragraphe 9 organise enfin l’articulation avec le droit de la protection des données : le déployeur utilise, le cas échéant, les informations reçues au titre de l’article 13 pour se conformer à son obligation d’analyse d’impact relative à la protection des données^[46]. La notice d’utilisation devient ainsi une pièce du dossier de conformité au règlement général sur la protection des données — articulation examinée dans l’article consacré aux rapports des deux textes.

7. L’analyse d’impact sur les droits fondamentaux

Une création parlementaire

54L’article 27 n’a pas d’ancêtre. La proposition de la Commission européenne d’avril 2021 ne comportait aucune analyse d’impact sur les droits fondamentaux : l’expression n’y figure pas une seule fois^[47]. L’institution en est due au Parlement européen, qui l’a introduite dans sa position de juin 2023, et elle constitue la principale pièce que le texte adopté doive à cette assemblée dans le chapitre III.

55L’objet de cette analyse la distingue de toutes les autres obligations examinées jusqu’ici. Elle ne porte ni sur le système ni sur l’organisation qui le met sur le marché, mais sur le contexte d’emploi : les processus dans lesquels le système sera inséré, les personnes qui y seront exposées, les risques que cette insertion fait naître. Elle est, dans l’économie du règlement, le seul instrument qui saisisse l’usage en tant que tel.

Un champ d’application étroit

56L’obligation ne pèse pas sur tous les déployeurs, loin s’en faut. Elle vise, pour les seuls systèmes qualifiés à haut risque par la voie de l’article 6, paragraphe 2, deux catégories : d’une part les déployeurs qui sont des organismes de droit public ou des entités privées fournissant des services publics ; d’autre part les déployeurs des systèmes visés aux points 5, b) et c), de l’annexe III — c’est-à-dire l’évaluation de la solvabilité des personnes physiques et la tarification et l’évaluation des risques en assurance vie et santé. Les systèmes du point 2 de l’annexe III, relatifs aux infrastructures critiques, en sont expressément exclus^[48].

57Le considérant 96 éclaire cette délimitation, et il en donne une justification qui mérite d’être relevée : les services à caractère public importants pour les personnes « peuvent également être fournis par des entités privées », lesquelles sont alors liées à des missions d’intérêt public dans des domaines tels que l’éducation, les soins de santé, les services sociaux, le logement et l’administration de la justice^[49]. Le critère n’est donc pas la nature juridique du déployeur mais la fonction qu’il assume — un établissement privé d’enseignement ou une clinique privée y sont soumis.

58Il reste que l’employeur privé qui trie des candidatures, le commerçant qui évalue ses clients ou l’entreprise qui surveille ses salariés n’est tenu d’aucune analyse d’impact sur les droits fondamentaux, quand bien même il déploierait un système à haut risque. L’obligation la plus directement tournée vers les personnes exposées est ainsi celle dont le champ est le plus étroit.

Six éléments et une notification

59L’analyse comprend six éléments : une description des processus du déployeur dans lesquels le système sera utilisé conformément à sa destination ; la période et la fréquence d’utilisation envisagées ; les catégories de personnes physiques et les groupes susceptibles d’être concernés ; les risques spécifiques de préjudice pour ces personnes, « compte tenu des informations fournies par le fournisseur conformément à l’article 13 » ; la description de la mise en œuvre des mesures de contrôle humain ; enfin les mesures à prendre en cas de matérialisation des risques, « y compris les dispositifs relatifs à la gouvernance interne et aux mécanismes de plainte internes »^[50].

60Le quatrième élément noue le lien entre les deux articles décisifs de la série : l’analyse du déployeur se nourrit de la notice du fournisseur. Ce que l’article 13 impose de communiquer devient ici la matière première d’une appréciation portant sur les droits fondamentaux — de sorte qu’une notice pauvre appauvrit mécaniquement l’analyse d’impact, sans que le déployeur dispose d’aucun moyen d’exiger davantage.

61L’analyse est due avant la première utilisation ; le déployeur peut s’appuyer, dans des cas similaires, sur des analyses antérieures ou sur celles réalisées par le fournisseur, et doit la mettre à jour si l’un de ses éléments change ou n’est plus à jour^[51]. Une fois effectuée, il en notifie les résultats à l’autorité de surveillance du marché et joint le modèle rempli ; l’exemption de notification n’est prévue que dans le cas, exceptionnel, de l’article 46, paragraphe 1^[52].

62Le considérant 96 recommande enfin, sans l’imposer, l’association des parties prenantes : les représentants des groupes susceptibles d’être concernés, les experts indépendants et les organisations de la société civile « pourraient » être associés à la réalisation de l’analyse et à la conception des mesures. La recommandation est notable en ce qu’elle esquisse une méthode participative ; elle demeure une simple invitation, et le corps du règlement n’en porte pas trace.

Ce que la révision de 2026 a modifié

63Le règlement modificatif a réécrit les paragraphes 4 et 5, et le déplacement est éclairant. Dans la rédaction de 2024, lorsque l’une des obligations était déjà remplie au moyen de l’analyse d’impact relative à la protection des données, l’analyse d’impact sur les droits fondamentaux « complète ladite analyse » : deux documents, l’un s’ajoutant à l’autre. Depuis 2026, le déployeur « peut […] inclure des renvois aux sections pertinentes » de l’analyse relative à la protection des données « ou en intégrer les parties pertinentes »^[53].

64On passe donc de la complémentarité imposée à l’intégration facultative : un seul document peut désormais valoir pour les deux régimes. L’allègement est réel et raisonnable, tant les deux analyses se recoupent ; il emporte cependant une conséquence peu remarquée. L’analyse d’impact relative à la protection des données obéit à la logique du traitement de données à caractère personnel ; l’analyse d’impact sur les droits fondamentaux obéit à celle de l’exposition de personnes à un système. Autoriser l’une à absorber l’autre, c’est accepter que la seconde soit rédigée dans la grammaire de la première — et les droits fondamentaux qui ne se laissent pas réduire à la protection des données, comme la non-discrimination ou le droit à un recours effectif, sont précisément ceux que cette grammaire capte le moins bien.

65Le paragraphe 5 charge le Bureau de l’intelligence artificielle d’élaborer un modèle de questionnaire, « y compris au moyen d’un outil automatisé », afin d’aider les déployeurs à se conformer « de manière simplifiée » ; la révision de 2026 y a ajouté que ce modèle doit ménager la possibilité des renvois prévus au paragraphe 4^[54]. Ce modèle n’a pas été publié à la date de rédaction du présent article : il figure parmi les instruments que la Commission européenne a annoncés sans en fixer l’échéance^[55]. Or la notification prévue au paragraphe 3 impose de soumettre ce modèle rempli — de sorte que l’obligation de notification suppose, pour être exécutée dans les termes du texte, un document qui n’existe pas encore.

8. Ce que l’architecture laisse au-dehors

66Le dispositif des articles 16 à 27 est cohérent, minutieux, et il répartit les charges avec un soin que l’on ne trouve pas toujours dans les textes de cette ampleur. Trois observations conclusives s’imposent néanmoins, qui tiennent moins à ce qu’il prescrit qu’à ce qu’il laisse hors de son atteinte.

67La première tient à la nature du contrôle en amont. Hormis l’intervention, dans les cas où elle est requise, d’un organisme notifié, aucun des opérateurs de la chaîne n’apprécie la conformité substantielle du système : l’importateur et le distributeur vérifient des pièces, le mandataire vérifie que des procédures ont été suivies, le déployeur vérifie qu’il utilise le système conformément à une notice qu’il n’a pas écrite. La qualité de ce que le fournisseur a déclaré n’est réellement éprouvée qu’en aval, par la surveillance du marché.

68La deuxième tient à la mobilité des rôles. L’article 25 fait de la qualité de fournisseur une position que l’on peut acquérir sans le vouloir — en paramétrant un système à usage général pour une tâche relevant de l’annexe III, par exemple — et que l’on peut perdre en le mentionnant. Cette plasticité est nécessaire : sans elle, il suffirait de découper la chaîne pour dissoudre la responsabilité. Elle crée en retour une incertitude que seul un contrat, ou une pratique consolidée, pourra réduire — d’où l’importance des clauses types que le Bureau de l’intelligence artificielle a la faculté, mais non l’obligation, d’élaborer.

69La troisième tient à la place de la personne exposée. Elle n’est partie à aucune des relations organisées par la section 3. Elle n’est créancière que de deux choses : l’information qu’un système est employé à son égard, due par le déployeur au titre de l’article 26, paragraphe 11, et le droit d’obtenir des explications sur le rôle du système dans la décision, ouvert par l’article 86 dans des conditions restrictives. L’analyse d’impact qui la concerne au premier chef ne lui est pas communiquée : elle est notifiée à l’autorité de surveillance du marché. Le règlement organise ainsi la protection des droits fondamentaux par la voie administrative plutôt que par la voie subjective — choix cohérent avec sa base juridique de marché intérieur, et dont la portée sera examinée dans l’article consacré aux droits des personnes exposées.