Le défenseur des droits, acteur-clé face à l’administration algorithmée

Au titre de l’article 26 de la loi organique précitée, « le [DDD] peut procéder à la résolution amiable des différends portés à sa connaissance, par voie de médiation ». Cette dernière a

vocation à intervenir dans les litiges classiques opposant les usagers et l’Administration algorithmée (A) tout autant que sur le point plus particulier qui relève de la discrimination (B).

A – LA MÉDIATION, MATRICE DU DIALOGUE ENTRE USAGER ET ADMINISTRATION ALGORITHMÉE La médiation est définie comme un mode alternatif de résolution des conflits, par lequel un tiers neutre et

indépendant permet de trouver une solution à un conflit et donc d’éviter un contentieux. Or la médiation est l’antithèse de la systématisation des décisions et de l’automatisation des

données. Avec elle, l’usager n’est plus un chiffre puisque la médiation contraint l’Administration à étudier de façon particulière le dossier, in concreto. Dans la phase de médiation, il

n’est plus donc question de mathématiques. Le numéro, identifiant de l’usager, est gommé pour laisser place à un nom, un visage, une histoire. L’humain et l’étude in concreto du dossier

permettent de contrebalancer a posteriori, c’est-à-dire après l’édiction de la décision individuelle, les méfaits de l’usage systématique des algorithmes. Au recours à l’algorithme qui a

permis froidement la prise de la décision se substituent des motifs clairs, précis, concrets, de nature à parfois faire taire la complexité des chiffres. La logique des calculs cède souvent

devant la démonstration d’une décision illégale ou prise sur des motifs qui n’ont fait aucune place à l’équité. Cette richesse de la médiation, son recours exponentiel, ses avantages et ses

enjeux sont tels qu’une expérimentation de la médiation préalable obligatoire est en place. En effet, la loi du 18 novembre 2016 de modernisation de la justice du XXIe siècle a confié au DDD

l’expérimentation d’un nouveau processus de règlement amiable : la médiation préalable obligatoire (MPO). Lancée depuis le 1er avril 2018, et aujourd’hui prévue jusqu’en 2020, cette

expérimentation doit permettre de désengorger les tribunaux administratifs. Ce dispositif est en pratique mis en œuvre par les délégués du DDD dans six départements : Bas-Rhin, Isère,

Haute-Garonne, Loire-Atlantique, Maine-et-Loire et Meurthe-et-Moselle. Une procédure dédiée à la MPO a donc été définie dans cette perspective, permettant à l’institution d’agir en

prévention du contentieux tout en conditionnant l’accès à l’office du juge. Cette procédure, prévoit que la demande de médiation préalable obligatoire doit être adressée par le réclamant au

siège du DDD, ce qui suspend les délais de recours contentieux. Le dossier est ensuite transmis au délégué qui engage la procédure de médiation entre le réclamant et l’administration mise en

cause. La fin de la procédure se concrétise par l’envoi au réclamant d’un document daté attestant de la clôture de la médiation. C’est à cette date que les délais de recours contentieux

courent à nouveau. Cette expérimentation témoigne de la reconnaissance envers le rôle des délégués, placés au cœur de ce dispositif, en offrant à un public fragile, pour lequel l’accès au

juge est souvent difficile, un véritable espace de dialogue et une seconde chance par l’intervention d’un tiers neutre, impartial et indépendant, pour améliorer l’accès aux droits qui

peuvent être lésés par l’Administration algorithmée. B – LA MULTIPLICATION DES INTERVENTIONS DU DDD EN MATIÈRE DE DISCRIMINATION DU FAIT DE L’UTILISATION DES ALGORITHMES PAR L’ADMINISTRATION

La discrimination, notion juridique définie comme la rupture d’égalité au détriment d’une personne en fonction d’un critère reconnu par la loi, bénéficie désormais d’un cadre juridique

précis, tant en matière administrative13, sociale14 que pénale15. La protection des personnes discriminées et la lutte contre les comportements discriminatoires font partie des compétences

du DDD16. Si la discrimination résulte souvent d’un comportement humain, le recours aux algorithmes est également de nature à entraîner de telles ruptures défavorables d’égalité. De telles

situations sont révélées dans le cas de l’usage d’algorithmes auto-apprenants ou dans le cas de recours à des critères algorithmiques flous. Depuis août 2018, le DDD a par exemple décidé

d’ouvrir une instruction sur le fonctionnement de la nouvelle plate-forme d’admission dans l’enseignement supérieur Parcours sup, à la suite des réclamations des usagers. Le critère de

discrimination retenu en priorité par le DDD est celui du lieu de résidence puisqu’il apparaît que de nombreux usagers arguent d’être défavorisés dans le choix des filières lorsqu’ils

viennent de quartiers plus défavorisés. En tout état de cause, le DDD a donc demandé à l’Administration de respecter le principe de transparence et de connaître les critères auxquels elle a

eu recours pour mettre en place l’algorithme utilisé par Parcours sup. Le ministère de l’Enseignement supérieur et de la Recherche s’est engagé à rendre ces éléments publics, preuve de

l’influence directe du DDD en la matière.