Comité pour l ’ élimination de la discrimination raciale
Recommandation générale no 36 (2020) sur la prévention et l’élimination du recours au profilage racial par les représentants de la loi *
I.Introduction
1.À sa quatre-vingt-douzième session, le Comité pour l’élimination de la discrimination raciale a décidé d’organiser un débat sur le thème « La discrimination raciale dans le monde d’aujourd’hui : profilage racial, nettoyage ethnique et problèmes et défis actuels à l’échelon mondial ». Ce débat thématique s’est déroulé à Genève le 29 novembre 2017, le but principal étant d’analyser les données d’expérience, les difficultés et les enseignements qui ressortent des travaux menés jusqu’à présent pour lutter contre le profilage racial et le nettoyage ethnique, et la façon dont le Comité pourrait renforcer son action à cet égard, pour en améliorer les résultats concrets.
2.À l’issue du débat, le Comité a annoncé son intention d’engager la rédaction d’une recommandation générale pour proposer des orientations sur la prévention et l’élimination du profilage racial afin d’aider les États parties à s’acquitter de leurs obligations, notamment s’agissant des rapports qui sont attendus d’eux. La présente recommandation générale intéresse toutes les parties concernées par la lutte contre la discrimination raciale, et le Comité souhaite en publiant celle-ci contribuer au renforcement de la démocratie, de l’État de droit, et de la paix et de la sécurité entre les communautés, les peuples et les États.
3.À sa quatre-vingt-dix-huitième session, le Comité a commencé de délibérer en vue de rédiger une recommandation générale sur la prévention et l’élimination du profilage racial, en consultation avec toutes les parties intéressées. Le Comité a aussi tenu des débats avec des universitaires de diverses disciplines, particulièrement sur les conséquences de l’intelligence artificielle pour le profilage racial.
II.Principes et pratiques en place
4.Pour élaborer la présente recommandation générale, le Comité a tenu compte de la longue expérience qu’il a acquise, principalement dans le contexte de l’examen des rapports des États parties et d’un certain nombre de recommandations générales, de la question du profilage racial par les représentants de la loi. Le Comité s’est référé expressément au problème du profilage racial dans sa recommandation générale no 30 (2004) concernant la discrimination contre les non-ressortissants, où il recommande aux États parties de veiller à ce que les mesures prises dans le cadre de la lutte contre le terrorisme ne soient pas discriminatoires par leur but ou par leurs effets en fonction de la race, de la couleur, de l’ascendance ou de l’origine nationale ou ethnique, et à ce que les non-ressortissants ne fassent pas l’objet de profils ou stéréotypes raciaux ou ethniques (par. 10) ; dans sa recommandation générale no 31 (2005) concernant la discrimination raciale dans l’administration et le fonctionnement du système de justice pénale, où il recommande aux États parties de prendre les mesures nécessaires pour exclure les interpellations, les arrestations et les fouilles fondées de facto exclusivement sur l’apparence physique de la personne, sa couleur, son faciès, son appartenance à un groupe racial ou ethnique, ou tout « profilage » qui l’expose à une plus grande suspicion (par. 20) ; et dans sa recommandation générale no 34 (2011) concernant la discrimination raciale à l’égard des personnes d’ascendance africaine, où il recommande aux États parties de prendre des mesures énergiques pour combattre toute tendance pouvant exister parmi les représentants de la loi, le personnel politique et les éducateurs à cibler, stigmatiser, stéréotyper ou profiler les personnes d’ascendance africaine d’après la race (par. 31). D’autres recommandations intéressent également le profilage racial, comme la recommandation générale no 13 (1993) concernant la formation des représentants de la loi à la protection des droits de l’homme, où le Comité souligne que les représentants de la loi devraient recevoir une formation approfondie qui leur permette, dans l’exécution de leurs fonctions, de respecter et de protéger la dignité humaine et de défendre et faire respecter les droits de l’homme de tous sans distinction de race, de couleur ou d’origine nationale ou ethnique (par. 2) ; la recommandation générale no 23 (1997) concernant les droits des populations autochtones, où il souligne que les populations autochtones ne doivent faire l’objet d’aucune discrimination, notamment la discrimination fondée sur l’origine ou l’identité autochtone (par. 4 b)) ; la recommandation générale no 27 (2000) concernant la discrimination à l’égard des Roms, où il recommande aux États, eu égard à leur situation particulière, de prendre des mesures pour empêcher tout recours illicite à la force par des policiers à l’égard de Roms, en particulier en cas d’arrestation ou de détention (par. 13), et instaurer la confiance entre les communautés roms et la police ; la recommandation générale no 32 (2009) sur la signification et la portée des mesures spéciales dans la Convention, où le Comité mentionne la notion d’« intersectionnalité », qui lui permet de traiter des situations de discrimination double ou multiple − comme dans le cas de la discrimination fondée sur le sexe ou la religion lorsqu’elle se conjugue avec un ou plusieurs motifs de discrimination énumérés à l’article premier de la Convention (par. 7) ; et la recommandation générale no 35 (2013) sur la lutte contre les discours de haine raciale.
5.Dans le cadre de ses observations finales, le Comité a exprimé à maintes reprises ses préoccupations devant le recours au profilage racial par des représentants de la loi et a recommandé aux États parties de prendre des mesures pour mettre fin à cette pratique.
6.Plusieurs autres mécanismes internationaux des droits de l’homme ont expressément souligné que le profilage racial constitue une violation du droit international des droits de l’homme. En 2009, par sa décision dans l’affaire Williams Lecraft c. Espagne , le Comité des droits de l’homme est devenu le premier organe conventionnel à considérer directement le profilage racial comme une pratique discriminatoire illicite. Dans des observations finales plus récentes, le Comité des droits de l’homme a régulièrement exprimé ses préoccupations devant le recours persistant au profilage racial par des représentants de la loi, particulièrement à l’égard de certains groupes comme les migrants, les demandeurs d’asile, les personnes d’ascendance africaine et les peuples autochtones, et de membres de minorités religieuses et ethniques comme les Roms ; le Comité contre la torture s’est fait l’écho de ces préoccupations.
7.Le Programme d’action de Durban, adopté par les États membres à la Conférence mondiale contre le racisme, la discrimination raciale, la xénophobie et l’intolérance qui y est associée, à Durban (Afrique du Sud), en 2001, exhorte les États à élaborer et imposer des mesures efficaces pour éliminer le profilage racial, pratique consistant pour des policiers et d’autres représentants de la loi à se fonder, dans quelque mesure que ce soit, sur la race, à la couleur, l’ascendance, ou l’origine nationale ou ethnique, pour soumettre des personnes à des investigations ou déterminer si elles se sont livrées à des activités délictueuses (par. 72).
8.Dans un rapport présenté au Conseil des droits de l’homme en 2007, le Rapporteur spécial sur la promotion et la protection des droits de l’homme et des libertés fondamentales dans la lutte antiterroriste a noté que, depuis le 11 septembre 2001, les autorités chargées du maintien de l’ordre de différents États ont adopté des procédés de lutte antiterroriste fondés sur des profils qui comprennent des caractéristiques telles que la « race » d’un individu, son appartenance ethnique, son origine nationale ou sa religion supposées. Le Rapporteur spécial a souligné que les pratiques de profilage de terroristes fondées sur la « race » sont incompatibles avec les principes des droits de l’homme, sont des moyens inadaptés et inefficaces d’identification des terroristes potentiels, et ont des incidences négatives considérables qui peuvent rendre contreproductives les mesures de lutte contre le terrorisme.
9.La présente recommandation générale s’inscrit aussi dans le cadre de l’application du Programme de développement durable à l’horizon 2030, et se veut une contribution à celle‑ci, dans la mesure où les engagements prioritaires du Programme consistant à ne laisser personne de côté et à aider en premier les plus défavorisés offrent, pour l’action du Comité, un point d’ancrage essentiel et un certain nombre de perspectives − particulièrement s’agissant des objectifs de développement durable no 10, Réduire les inégalités dans les pays et d’un pays à l’autre, et no 16, Promouvoir l’avènement de sociétés pacifiques et inclusives aux fins du développement durable, assurer l’accès de tous à la justice et mettre en place, à tous les niveaux, des institutions efficaces, responsables et ouvertes à tous.
III.Portée
10.Le Comité a souvent manifesté sa préoccupation quant à l’utilisation par des représentants de la loi d’un profilage racial ciblant divers groupes minoritaires d’après certaines caractéristiques comme la race, la couleur de peau, l’ascendance, ou l’origine nationale ou ethnique supposées. Il a ainsi réagi à des informations selon lesquelles des représentants de la loi, notamment des policiers et des agents de contrôle des frontières, se livrent, dans le cadre de leurs fonctions, à des contrôles de police arbitraires, à des contrôles arbitraires de documents d’identité, à des inspections aléatoires des articles détenus par toute personne dans les gares, les trains et les aéroports, et à des arrestations arbitraires. Il a constaté avec préoccupation que le profilage racial a augmenté en raison des préoccupations contemporaines liées au terrorisme et aux migrations, qui aggravent les préjugés et l’intolérance à l’égard des membres de certains groupes ethniques.
11.Le Comité a constaté que certains groupes comme les migrants, les réfugiés et les demandeurs d’asile, les personnes d’origine africaine, les peuples autochtones et les minorités nationales et ethniques, y compris les Roms, sont ceux qui sont le plus vulnérables au profilage racial.
12.En outre, le Comité constate que l’utilisation croissante de nouveaux outils technologiques, notamment de l’intelligence artificielle, dans des secteurs comme la sécurité, le contrôle des frontières et l’accès aux services sociaux, est susceptible d’aggraver le racisme, la discrimination raciale, la xénophobie et d’autres formes d’exclusion. Toutefois, le sujet qui intéresse surtout le Comité dans la présente recommandation générale est celui de la prise de décision algorithmique et de l’intelligence artificielle liées au profilage racial par des représentants de la loi ; en sont exclus, dès lors, bon nombre d’autres sujets liés aux conséquences néfastes possibles de l’intelligence artificielle. S’il est conscient que, dans certains domaines, l’intelligence artificielle peut contribuer à rendre plus efficaces un certain nombre de processus décisionnels, le Comité constate aussi qu’il existe un vrai risque de partialité induite par les algorithmes quand l’intelligence artificielle sert à la prise des décisions des représentants de la loi. Le profilage algorithmique soulève de graves préoccupations, et peut avoir de graves répercussions pour les droits des victimes.
IV.Définir et comprendre le profilage racial
13.Il n’existe pas de définition universelle du profilage racial dans le droit international des droits de l’homme. Néanmoins, devant la persistance du phénomène partout dans le monde, divers organes et institutions internationaux et régionaux des droits de l’homme ont adopté des définitions du profilage racial qui ont en commun un certain nombre d’éléments. Le profilage racial : a) est commis par les autorités concourant à l’application de la loi ; b) n’est pas motivé par des critères objectifs ou une justification raisonnable ; c) repose sur les motifs de la race, de la couleur, de l’ascendance ou de l’origine nationale ou ethnique ou sur leur intersection avec d’autres motifs pertinents comme la religion, le sexe ou le genre, l’orientation sexuelle et l’identité de genre, le handicap et l’âge, le statut migratoire, ou le travail ou toute autre situation ; d) est utilisé dans des contextes précis comme le contrôle de l’immigration et la répression de la délinquance, du terrorisme ou d’autres activités présumées illégales ou potentiellement illégales.
14.Le profilage racial est commis à la faveur de comportements ou d’actes comme les interpellations, les fouilles, les contrôles d’identité, les enquêtes et les arrestations arbitraires.
15.La Commission interaméricaine des droits de l’homme a défini le profilage racial comme une tactique adoptée pour de prétendues raisons de sécurité publique et de protection du public, motivée par des stéréotypes fondés sur la race, la couleur, l’origine ethnique, la langue, l’ascendance, la religion, la nationalité ou le lieu de naissance, ou un ensemble de ces facteurs, plutôt que par des soupçons objectifs, et qui applique un traitement discriminatoire à des personnes ou des groupes en partant faussement du principe que les personnes qui présentent telle ou telle caractéristique sont prédisposées à commettre certains délits. La Commission arabe des droits de l’homme indique dans une communication que le profilage racial peut être défini comme le recours par des agents des forces de l’ordre à des généralisations ou des stéréotypes liés à la race, à la couleur, à l’ascendance, à la nationalité, au lieu de naissance ou à l’origine nationale ou ethnique présumés − et non à des preuves objectives ou à un comportement individuel − qui leur servent de base pour déterminer que tel ou tel individu s’est livré à une activité criminelle ou en a été complice, ce qui les conduit à prendre des décisions discriminatoires. Dans sa recommandation de politique générale no 11 sur la lutte contre le racisme et la discrimination raciale dans les activités de la police, adoptée en 2007, la Commission européenne contre le racisme et l’intolérance a défini le profilage racial comme l’utilisation par la police, sans justification objective et raisonnable, de motifs tels que la race, la couleur, la langue, la religion, la nationalité ou l’origine nationale ou ethnique dans des activités de contrôle, de surveillance ou d’investigation.
16.D’après le Rapporteur spécial sur les formes contemporaines de racisme, de discrimination raciale, de xénophobie et de l’intolérance qui y est associée, dans un rapport présenté au Conseil des droits de l’homme en 2015, on appelle généralement profilage racial et ethnique le fait, pour les forces de l’ordre, les services de sécurité et la police des frontières, de soumettre des personnes à des fouilles poussées, des contrôles d’identité et des enquêtes, ou de déterminer leur implication dans une activité criminelle, en tenant compte de leur race, de leur couleur de peau, de leur ascendance ou de leur origine nationale ou ethnique.
17.D’après la Haute-Commissaire des Nations Unies aux droits de l’homme, le profilage racial désigne tout agissement des forces de l’ordre lorsqu’elles ont recours à des généralisations fondées sur la race, la couleur, l’ascendance, la nationalité ou l’origine ethnique, plutôt que sur le comportement individuel ou des preuves objectives, pour soumettre des personnes à des fouilles poussées, des contrôles d’identité et des enquêtes, ou pour déterminer leur implication dans une activité criminelle. Le profilage racial implique donc que des décisions discriminatoires sont prises. La Haute-Commissaire fait aussi valoir que le profilage racial, qu’il provienne des mentalités et des comportements de certains policiers ou d’une culture ou de politiques discriminatoires au sein des services de police, est pratiqué depuis longtemps par bon nombre de ces institutions.
18.Aux fins de la présente recommandation générale, la notion de profilage racial est interprétée selon la description qui en est faite au paragraphe 72 du Programme d’action de Durban, autrement dit la pratique consistant pour des policiers et d’autres représentants de la loi à se fonder, dans quelque mesure que ce soit, sur la race, la couleur, l’ascendance, ou l’origine nationale ou ethnique, pour soumettre des personnes à des investigations ou déterminer si elles se sont livrées à des activités délictueuses. Dans ce contexte, la discrimination raciale recoupe souvent d’autres motifs, notamment la religion, le sexe et le genre, l’orientation sexuelle et l’identité de genre, le handicap, l’âge, le statut migratoire, et le travail ou d’autres situations.
19.Peuvent, aussi, relever d’un profilage racial par les représentants de la loi, les descentes, les contrôles frontaliers et douaniers, les perquisitions domiciliaires, les opérations de filature, les opérations de maintien ou de rétablissement de l’ordre public, ou encore les décisions des services d’immigration. Les contextes peuvent être aussi divers que la surveillance de la voie publique ou les opérations antiterroristes.
20.Le profilage racial est lié à des stéréotypes et des préjugés, qui peuvent être conscients ou inconscients, et individuels ou institutionnels et structurels. Les stéréotypes peuvent aboutir à des violations du droit international des droits de l’homme quand certains postulats fondés sur des stéréotypes sont mis en pratique pour porter atteinte à l’exercice de ces droits.
V.Principes et obligations générales découlant de la Convention
21.La détection, la prévention et l’élimination de la pratique du profilage racial par des représentants de la loi font partie intégrante de la réalisation des objectifs de la Convention internationale sur l’élimination de toutes les formes de discrimination raciale. La pratique du profilage racial par les représentants de la loi viole les principes fondamentaux des droits de l’homme, qui reposent sur : a) l’absence de discrimination fondée sur la race, la couleur, l’ascendance ou l’origine nationale ou ethnique, ou d’autres motifs supplémentaires ; et b) l’égalité devant la loi. Elle peut aussi violer le droit à une procédure régulière et le droit à un procès équitable. Ces principes et ces droits constituent les points d’ancrage de la Déclaration universelle des droits de l’homme (art. 2 et 7) et de la Convention (art. 2 et 5 a)).
22.Dans le préambule de la Convention, il est souligné que tous les êtres humains sont égaux devant la loi et ont droit à une égale protection de la loi contre toute discrimination et contre toute incitation à la discrimination. Si la Convention ne mentionne pas expressément le profilage racial, cela n’a pas empêché le Comité de mettre au jour des pratiques de profilage racial et d’étudier les liens entre le profilage racial et les normes établies dans la Convention.
23.Aux termes de l’article 2 de la Convention, chaque État partie s’engage à ne se livrer à aucun acte ou pratique de discrimination raciale contre des personnes, groupes de personnes ou institutions et à faire en sorte que toutes les autorités publiques et institutions publiques, nationales et locales, se conforment à cette obligation. Le profilage racial étant une pratique susceptible de favoriser et de perpétuer les incidents à caractère raciste et les préjugés et les stéréotypes raciaux, il est contraire à l’idée même de la Convention. Les États parties ont donc l’obligation d’examiner leurs politiques, leurs lois et leurs règlements pour faire en sorte qu’il ne se produise pas de profilage racial et que cette pratique ne soit pas facilitée. Les États parties ont l’obligation de prendre activement des mesures pour mettre fin à la discrimination qui provient de leurs lois, de leurs politiques et de leurs institutions. L’interdiction de tout acte de profilage racial, et l’obligation de veiller à ce que les autorités et les institutions publiques s’abstiennent de toute pratique de profilage racial, résultent aussi des dispositions de l’article 5 de la Convention. La pratique du profilage racial est incompatible avec le droit de quiconque, sans distinction de race, de couleur ou d’origine nationale ou ethnique, à l’égalité devant la loi et à l’égalité de traitement. Elle est, qui plus est, incompatible avec la garantie de non-discrimination qui va de pair avec d’autres droits civils, comme le droit à la liberté de circulation.
24.D’après l’article 6 de la Convention, les États parties ont l’obligation d’assurer à toute personne soumise à leur juridiction une protection effective contre tous actes de discrimination raciale. En conséquence, les États parties doivent prendre des mesures préventives afin de garantir que des autorités et des institutions publiques ne se livrent pas à des pratiques de profilage racial. L’article 6 prévoit aussi que les États parties assurent à toute personne soumise à leur juridiction une voie de recours effective contre tous actes de discrimination raciale. Les États parties doivent donc veiller à disposer dans leur ordre juridique interne de mécanismes appropriés et efficaces qui permettent de dénoncer les cas de profilage racial et de mettre fin à cette pratique. Ils doivent, en outre, garantir le droit de demander satisfaction ou réparation juste et adéquate pour tout dommage subi par suite de discrimination raciale, en l’occurrence de profilage racial. Ils sont tenus de prévoir des moyens efficaces de faire respecter ce droit. Étant donné que la pratique du profilage racial porte régulièrement préjudice aux membres de certains groupes, les États parties sont invités à envisager de mettre en place des mécanismes chargés de veiller au respect collectif des droits dans le contexte du profilage racial.
25.L’article 7 de la Convention souligne le rôle de l’enseignement, de l’éducation, de la culture et de l’information dans la lutte contre la discrimination raciale. En ce qui concerne le profilage racial, l’exécution de l’obligation qui incombe aux États parties de ne pas se livrer à la discrimination raciale dépend du comportement des autorités et des institutions publiques. Il est donc primordial que les représentants de la loi au niveau national, en particulier, soient correctement informés de leurs obligations. Étant donné que le profilage racial résulte souvent de pratiques bien ancrées et non contestées des autorités et des institutions publiques, les États parties doivent veiller à ce que les représentants de la loi au niveau national sachent suffisamment comment éviter de se livrer à des pratiques de profilage racial. Mener cette sensibilisation peut aider à prévenir les pratiques de profilage racial et à y mettre fin là où elles persistent. Dès lors, les États parties devraient veiller à ce que le personnel des autorités et des institutions publiques qui concourent à l’application de la loi soit correctement formé, pour garantir l’absence de sa part de toute pratique de profilage racial.
VI.Conséquences du profilage racial
26.Le profilage racial a des effets négatifs et cumulatifs sur le comportement et le bien‑être des individus et des collectivités, puisqu’il arrive que des personnes soient soumises régulièrement au profilage racial dans leur vie de tous les jours. Les victimes du profilage racial en minimisent et en intériorisent souvent les effets en l’absence de recours effectifs et de moyens de réparation. Par-delà son illicéité, le profilage racial peut aussi être inefficace et contreproductif comme instrument général du respect de la loi. Les personnes qui considèrent avoir fait l’objet d’un traitement discriminatoire de la part de représentants de la loi ont tendance à leur faire moins confiance, et peuvent donc se montrer moins coopératives, ce qui peut restreindre l’efficacité de l’action des forces de l’ordre. Les pratiques de profilage racial influencent le travail quotidien des forces de l’ordre, et sapent, par des actes conscients ou inconscients, la capacité d’aider les victimes d’infraction appartenant aux groupes concernés. Le sentiment d’injustice et d’humiliation, la perte de confiance dans les forces de l’ordre, la victimisation secondaire, la crainte de représailles et un accès limité à l’information sur les droits légaux ou l’assistance juridique peuvent se solder par une diminution du signalement des délits et une diminution de l’information exploitable aux fins de renseignement.
27.Le profilage racial et les discours de haine sont étroitement liés, et le Comité a souvent traité ces deux formes de discrimination simultanément. La diffusion d’idées fondées sur la haine raciale ou ethnique, l’utilisation persistante de discours de haine dans les médias et l’emploi d’un discours politique raciste par des agents de l’État attisent la discrimination et les stéréotypes de la part des représentants de la loi. Les groupes ethniques soumis à un discours de haine risquent aussi de devenir la cible du profilage racial. De plus, le profilage racial par les représentants de la loi donne l’impression que les groupes qui sont en butte à la discrimination raciale sont plus prédisposés à la délinquance, ce qui ne peut qu’influencer le discours public et contribuer à la diffusion de la haine raciale.
28.Le profilage racial peut aussi porter atteinte à la jouissance des droits civils et politiques, notamment des droits à la vie (art. 6 du Pacte international relatif aux droits civils et politiques), à la liberté et à la sécurité de sa personne (art. 9), à la vie privée (art. 17), à la liberté de circulation (art. 12), à la liberté d’association (art. 22) et à un recours effectif (art. 2, par. 3).
29.La pleine jouissance des droits économiques, sociaux et culturels, notamment des droits à un logement suffisant (art. 11 du Pacte international relatif aux droits économiques, sociaux et culturels), à la santé (art. 12), à l’éducation (art. 13 et 14) et au travail (art. 6), peut aussi être compromise par le profilage racial.
30.La pratique du profilage racial par les représentants de la loi est lourde de conséquences à tous les niveaux de l’administration de la justice, particulièrement dans le système de justice pénale. Le profilage racial peut avoir notamment les conséquences suivantes : a) une surpénalisation de certaines catégories de personnes protégées par la Convention ; b) un renforcement des stéréotypes trompeurs quant au lien entre criminalité et origine ethnique, et la promotion de pratiques opérationnelles abusives ; c) des taux d’incarcération anormalement élevés pour les groupes protégés par la Convention ; d) une vulnérabilité accrue des personnes appartenant à des groupes protégés par la Convention à l’usage excessif de la force ou aux abus d’autorité de la part des représentants de la loi ; e) une sous-déclaration des actes de discrimination raciale et des crimes de haine ; et f) le prononcé par les tribunaux de peines plus sévères à l’égard des membres des groupes concernés.
VII.Profilage algorithmique et préjugés et discrimination raciaux
31.Étant donné la rapidité du progrès technologique, l’action des représentants de la loi est de plus en plus déterminée ou assistée par le profilage algorithmique, ce qui inclut notamment les données massives, la prise de décisions automatisée et les outils et méthodes de l’intelligence artificielle. Si ces progrès peuvent améliorer l’exactitude et l’efficacité des décisions et de l’action des représentants de la loi, le risque est grand que parallèlement, ils ne perpétuent et renforcent les préjugés, et n’aggravent les pratiques discriminatoires ou ne favorisent de telles pratiques. Étant donné l’opacité de l’analyse et de la prise de décision algorithmiques, en particulier si des méthodes d’intelligence artificielle sont utilisées, il est fréquent que les effets discriminatoires du profilage algorithmique soient moins visibles, et plus difficiles à détecter que ceux de décisions humaines, et donc plus difficiles à contester. En outre, les défenseurs des droits de l’homme, bien souvent, ne sont pas suffisamment outillés sur le plan technologique pour détecter ces méthodes discriminatoires.
32.Les préjugés peuvent emprunter divers points d’accès pour s’installer dans les systèmes de profilage algorithmique, notamment la façon dont les systèmes sont conçus, les décisions quant à l’origine et à la couverture des séries de données utilisées pour entraîner les systèmes, les préjugés sociétaux et culturels qui, du côté de leurs auteurs, peuvent avoir influencé les séries de données, les modèles d’intelligence artificielle proprement dits, et la façon dont les résultats du modèle d’intelligence artificielle sont mis en pratique. En particulier, les facteurs liés aux données ci-après peuvent aboutir à des effets négatifs : a) les données utilisées incluent des renseignements concernant des caractéristiques faisant l’objet d’une protection ; b) les données comportent ce que l’on appelle une information indirecte − ainsi, les codes postaux liés à des quartiers ségrégés des villes donnent souvent une indication indirecte de la race ou de l’origine ethnique ; c) les données utilisées sont biaisées au détriment de tel ou tel groupe ; et d) les données utilisées sont de mauvaise qualité, du fait notamment qu’elles sont mal sélectionnées, incomplètes, incorrectes ou inactuelles.
33.Des risques apparaissent en particulier si le profilage algorithmique est utilisé pour déterminer la probabilité de la délinquance soit dans certaines localités, soit chez certains groupes, voire certains individus. Les méthodes de police prédictive qui s’appuient sur des données antérieures pour prédire les événements futurs éventuels peuvent facilement aboutir à des effets discriminatoires, en particulier si les séries de données utilisées présentent un ou plusieurs des défauts mentionnés précédemment. À titre d’exemple, les données antérieures sur les arrestations dans tel ou tel quartier peuvent avoir été établies à partir de pratiques policières entachées de préjugés raciaux. Si on charge ces données dans un modèle de police prédictive, on risque en les utilisant d’orienter les prédictions futures en fonction des mêmes préjugés, ce qui peut aboutir à un interventionnisme policier excessif dans le même quartier, et par contrecoup à davantage d’arrestations dans ledit quartier, ce qui crée une boucle de rétroaction dangereuse.
34.On a signalé la présence de mécanismes analogues au sein des systèmes judiciaires. Pour appliquer une sanction ou se prononcer sur les peines (incarcération, placement en liberté sous caution ou autre peine), les États ont de plus en plus recours au profilage algorithmique, de manière à prévoir dans quelle mesure un individu est susceptible de commettre un ou plusieurs délits à l’avenir. Les autorités réunissent des renseignements au sujet des antécédents judiciaires de l’individu, de sa famille et de ses amis et de sa situation sociale, y compris ses antécédents professionnels et éducatifs, afin d’évaluer le niveau de « danger » que la personne représente en fonction d’une note donnée par l’algorithme, qui reste habituellement secrète. Cette utilisation du profilage algorithmique soulève des préoccupations analogues à celles qui ont été évoquées au paragraphe 33 ci-dessus.
35.L’utilisation croissante des technologies de reconnaissance faciale et de surveillance pour le suivi et le contrôle de certains groupes démographiques est problématique pour bon nombre de droits de l’homme, notamment le droit au respect de la vie privée, la liberté de réunion et d’association pacifiques, la liberté d’expression et la liberté de circulation. L’objectif est de pouvoir identifier automatiquement les individus d’après la géométrie de leur visage, ce qui peut aboutir à un profilage des personnes fondé sur des motifs de discrimination comme la race, la couleur, l’origine nationale ou ethnique ou le sexe. Les caméras à technologie de reconnaissance faciale en temps réel sont largement utilisées pour le repérage et la surveillance des personnes, ce qui peut permettre aux gouvernements et à d’autres acteurs de conserver un état des déplacements d’un grand nombre d’individus, parfois sur la base de caractéristiques bénéficiant d’une protection. De plus, il a pu être démontré que la précision de la technologie de reconnaissance faciale peut varier en fonction de la couleur, de l’origine ethnique ou du sexe de la personne concernée, ce qui peut être source de discrimination.
36.Les algorithmes sont parfois utilisés dans le cadre des analyses d’ADN pour déterminer l’origine ethnique ou la nationalité des personnes. Les résultats ainsi obtenus peuvent aboutir à un profilage. Le Comité rappelle que selon le consensus établi parmi les scientifiques, il n’existe pas de lien direct entre la composition de l’ADN d’un individu et son origine ethnique ou sa nationalité. Dès lors, il condamne l’utilisation du profilage de l’ADN par les États et les autorités concourant à l’application de la loi, en particulier les autorités chargées de la sécurité des frontières. En outre, les résultats du profilage de l’ADN ont parfois été exploités par les autorités concourant à l’application de la loi pour attribuer faussement à certaines minorités ethniques une propension plus grande à la violence, en conséquence de quoi ces groupes ont subi des pratiques policières discriminatoires.
VIII.Recommandations
37.Diverses stratégies ont été adoptées par les gouvernements, les autorités concourant à l’application de la loi et les organisations de la société civile pour lutter contre le problème du profilage racial. Le Comité est d’avis que ces stratégies offrent une bonne assise à ses recommandations aux États et aux autres acteurs.
A.Mesures législatives et de politique générale
38.Une législation complète contre la discrimination raciale, qui incorpore le droit civil et le droit administratif, ainsi que le droit pénal, est un préalable indispensable pour lutter efficacement contre le profilage racial, sans préjudice des mesures supplémentaires qui peuvent être prises. Les États doivent élaborer, et appliquer efficacement, des lois et des politiques qui définissent et interdisent la pratique du profilage racial par les représentants de la loi. Parallèlement, des directives précises doivent être adressées aux organes concourant à l’application de la loi, de sorte que les politiques internes, y compris les règlements et codes de conduite, respectent les normes et les principes des droits de l’homme. Les États doivent aussi être conscients des lois et règlements qui risquent de permettre ou de faciliter le profilage racial. Ils doivent mener des études pour repérer ces textes et les modifier ou les abroger en conséquence.
39.Les États devraient faire en sorte que les organes concourant à l’application de la loi élaborent, en concertation avec les groupes concernés, des consignes détaillées concernant les interpellations et les fouilles, assorties de normes précises, afin d’empêcher le profilage racial. Ils devraient mettre en place des mécanismes de contrôle efficaces et indépendants, internes comme externes, et prévoir des mesures disciplinaires à appliquer en cas de manquement. Ils devraient aussi procéder à des audits périodiques, avec le concours d’experts indépendants, pour mettre au jour les lacunes dans les politiques et les pratiques internes. La transparence quant aux résultats de ces procédures, moyen possible d’accroître la responsabilisation des représentants de la loi et la confiance des personnes et des groupes concernées, est vivement recommandée.
40.Conformément à l’article 6 de la Convention, les États assurent à toute personne soumise à leur juridiction une protection et une voie de recours effectives contre tous actes de discrimination raciale qui, contrairement à la Convention, violeraient ses droits individuels et ses libertés fondamentales, ainsi que le droit de demander à ces tribunaux satisfaction ou réparation juste et adéquate pour tout dommage dont elle pourrait être victime par suite d’une telle discrimination.
41.Les États sont invités à adopter des approches centrées sur la victime et à coordonner leurs services d’appui efficacement en promouvant des modèles de coopération entre les autorités, la population, les organisations de la société civile, y compris celles qui représentent des groupes qui subissent des formes de discrimination intersectionnelles, et les institutions nationales des droits de l’homme. Le Comité souligne la complémentarité entre l’alinéa a) de l’article 5 et l’article 6 de la Convention et note que les autorités judiciaires et les autres organes d’administration de la justice devraient être consultés et associés à ces processus de manière véritable pour empêcher la persistance d’un effet de profilage racial au niveau des procédures pénales.
B.Éducation et formation relatives aux droits de l’homme
42.Les États devraient élaborer des programmes spécialisés de formation obligatoire pour les organes concourant à l’application de la loi, pour sensibiliser les représentants de la loi à l’incidence des préjugés sur leur action et leur montrer comment s’assurer qu’ils adoptent un comportement non discriminatoire. Les groupes stigmatisés, y compris ceux dont les membres subissent des formes de discrimination intersectionnelles, devraient être associés à l’élaboration et à la réalisation de ces formations, autant que possible. Les organes qui concourent à l’application de la loi devraient veiller à ce que la formation dispensée en interne pour lutter contre la discrimination et les préjugés dans l’action de la police soit complétée par des interventions institutionnelles visant à limiter l’arbitraire et à renforcer les contrôles dans les secteurs exposés aux stéréotypes et aux préjugés. En outre, étant donné les préoccupations quant aux limites de la formation pour ce qui est de modifier les attitudes et les comportements, la formation relative à la non-discrimination et aux préjugés devrait être évaluée et actualisée régulièrement pour s’assurer qu’elle produit les effets escomptés.
43.Les experts en intelligence artificielle et les fonctionnaires chargés d’interpréter les données doivent avoir une connaissance précise des droits fondamentaux pour éviter la saisie de données qui seraient entachées de préjugés raciaux ou pourraient occasionner de tels préjugés. Les États devraient former à la question du racisme et de la discrimination raciale les experts et les fonctionnaires qui interprètent les données, le personnel judiciaire et les membres des forces de l’ordre, notamment. Les États devraient élaborer des politiques de passation de marchés fondées sur des dispositions contraignantes qui interdisent la discrimination raciale.
44.Les États, en coopération avec les institutions nationales des droits de l’homme et les organismes spécialisés, devraient promouvoir la formation des organisations de la société civile sur la partialité algorithmique et les nouvelles technologies.
45.L’éducation et la formation relatives aux droits de l’homme sont indispensables pour garantir l’absence de discrimination de la part des policiers. Les institutions nationales des droits de l’homme, en coopération avec les organisations de la société civile, peuvent jouer un rôle central dans la formation des représentants de la loi, dans l’audit des nouveaux outils technologiques qui peuvent être porteurs de discrimination et dans la détection des autres risques qui peuvent survenir en pratique.
C.Mesures liées au recrutement
46.Les États devraient veiller à ce que les organes concourant à l’application de la loi élaborent des stratégies de recrutement, de maintien en fonction et d’avancement qui contribuent à des effectifs diversifiés qui reflètent la composition de la population. Ces stratégies peuvent consister à fixer des quotas internes et à élaborer un programme de recrutement auprès des minorités ethniques. C’est un moyen possible d’influencer la culture des services concernés et l’attitude de leur personnel de manière à favoriser des décisions plus objectives.
47.Les États devraient veiller à ce que les organes concourant à l’application de la loi évaluent régulièrement les politiques de recrutement et de promotion et, si nécessaire, adoptent des mesures spéciales temporaires pour remédier efficacement à la sous‑représentation des diverses minorités nationales ou ethniques et des groupes qui subissent des formes de discrimination intersectionnelles tenant, entre autres, à la religion, au sexe et au genre, à l’orientation sexuelle, au handicap et à l’âge.
D.Police de proximité
48.Les États devraient veiller à ce que les organes concourant à l’application de la loi conçoivent des stratégies efficaces de dialogue avec les personnes et les groupes exposés à la discrimination raciale qui tiennent compte du contexte, de la dynamique et des besoins propres aux différents groupes concernés, ce qui doit contribuer à améliorer la communication et à atténuer le climat de méfiance et le recours au profilage racial. Le dialogue entre la police et les populations ne devrait pas se limiter aux responsables communautaires, car certains groupes, dont les femmes, sont souvent sous-représentés au niveau des instances communautaires et peuvent nécessiter des mesures de sensibilisation précises et adaptées. Les jeunes que la police cible le plus souvent constituent un exemple fondamental à cet égard.
49.Les États devraient adopter des mesures pour veiller à ce que l’information communiquée au public par la police et les autres organes concourant à l’application de la loi repose sur des statistiques fiables et objectives et ne perpétuent pas des stéréotypes et des préjugés à l’égard de groupes ethniques qui sont en butte à la discrimination. En outre, les États devraient s’abstenir de publier des données personnelles sur des délinquants présumés qui soient liées à la race, la couleur, l’ascendance ou l’origine nationale ou ethnique supposées de ces personnes, sauf si cette publication est strictement nécessaire et sert un objectif légitime, comme dans le cas d’un avis de recherche.
E.Données ventilées
50.Les États devraient recueillir et analyser régulièrement des données quantitatives et qualitatives ventilées sur les pratiques pertinentes des autorités concourant à l’application de la loi, notamment sur les contrôles d’identité, les contrôles routiers et les mesures de fouille aux frontières, comportant des renseignements sur les motifs interdits de discrimination raciale, y compris sous ses formes intersectionnelles, ainsi que les motifs pour lesquels les représentants de la loi ont agi et l’issue des incidents. Les statistiques anonymisées issues de ces pratiques devraient être rendues publiques et débattues avec les groupes concernés au niveau local. Les données devraient être recueillies conformément aux normes et aux principes des droits de l’homme, à la réglementation applicable en matière de protection des données et aux garanties de respect de la vie privée. Ces renseignements ne doivent pas être utilisés abusivement.
51.Les États devraient aussi se prémunir contre les formes de traitement automatisé de données à caractère personnel consistant à utiliser ces données à caractère personnel pour évaluer certains aspects personnels relatifs à une personne physique, notamment pour analyser ou prédire des éléments concernant le rendement au travail, la situation économique, la santé, les préférences personnelles, les intérêts, la fiabilité, le comportement, la localisation ou les déplacements de cette personne.
F.Responsabilité
52.Les États devraient créer un mécanisme d’information, qui soit indépendant des services et autres organes concourant à l’application de la loi, pour recevoir les plaintes de citoyens pour discrimination raciale, racisme et profilage racial et ethnique. Un tel mécanisme doit être habilité à enquêter rapidement et efficacement sur les plaintes et à coopérer avec la société civile et les organes chargés de veiller au respect des droits de l’homme. Il doit aussi publier ses conclusions conformément à la réglementation relative à la protection des données et aux normes relatives aux droits de l’homme. Ces mécanismes doivent tenir compte les besoins spéciaux des personnes handicapées dans les cas de discrimination intersectionnelle.
53.Les États devraient créer des mécanismes de contrôle, internes et externes aux organes concourant à l’application de la loi, pour la prévention des comportements discriminatoires ; ces mécanismes devraient élaborer des consignes, des politiques et des règles internes en vue de prévenir et d’éliminer le profilage racial et de faire appliquer le principe de responsabilité en interne en prenant des mesures disciplinaires contre les fonctionnaires contrevenants.
54.Il devrait être enquêté efficacement sur les incidents de profilage racial qui sont le fait de représentants de la loi, dans le respect des normes internationales des droits de l’homme. Les responsables devraient être poursuivis et, en cas de condamnation, devraient recevoir des peines appropriées, et les victimes devraient être indemnisées.
55.Les États devraient veiller à ce que le personnel dirigeant des organes concourant à l’application de la loi soutienne des politiques et des pratiques non discriminatoires au sein de leur institution, assurent un contrôle rigoureux de la conduite du personnel et veillent à ce qu’il rende des comptes en cas de manquement, dans le cadre du mécanisme interne et indépendant de contrôle. Cette action peut être facilitée si l’on dispose de données et d’analyses sur les processus décisionnels et les pratiques du personnel. Le personnel dirigeant devrait aussi analyser les effets des lois appliquées et des opérations menées dans des domaines comme la lutte contre le terrorisme, qui peuvent toucher de manière disproportionnée certains groupes et communautés marginalisés.
56.Les institutions nationales des droits de l’homme et les organisations de la société civile sont invitées à surveiller les incidents de profilage racial et à en aider les victimes. Elles devraient contribuer davantage à l’information du public, donner une large diffusion à leurs conclusions, demander des réformes et mener une coopération constructive avec les autorités concourant à l’application de la loi et d’autres institutions nationales et locales.
57.Les mécanismes internationaux et régionaux des droits de l’homme, les institutions nationales des droits de l’homme et les organes chargés de l’égalité, les groupes de la société civile et les citoyens devraient avoir la possibilité de formuler des plaintes concernant des pratiques discriminatoires des organes concourant à l’application de la loi. Les citoyens devraient pouvoir porter plainte auprès de mécanismes indépendants.
G.Intelligence artificielle
58.Les États doivent veiller à ce que les systèmes de profilage algorithmique utilisés pour les besoins de l’application de la loi soient pleinement conformes au droit international des droits de l’homme. Ils devraient pour ce faire, avant d’acquérir ou d’adopter ces systèmes, adopter les mesures législatives, administratives et autres qui s’imposent pour déterminer l’objectif de leur utilisation et pour réglementer le plus précisément possible les critères et les garanties destinés à empêcher des violations des droits de l’homme. Ces mesures devraient viser, en particulier, à faire en sorte que l’adoption de systèmes de profilage algorithmique ne compromette pas le droit de ne pas subir de discrimination, le droit à l’égalité devant la loi, le droit à la liberté et à la sécurité de sa personne, le droit à la présomption d’innocence, le droit à la vie, le droit à la vie privée, la liberté de circulation, la liberté de réunion et d’association pacifiques, les protections contre l’arrestation arbitraire et d’autres interventions, et le droit à un recours effectif.
59.Les États devraient évaluer avec précaution les effets potentiels sur les droits de l’homme avant de recourir à la technologie de reconnaissance faciale, qui peut conduire à des erreurs d’identification en raison d’un manque de représentativité dans la collecte des données. Avant tout déploiement à l’échelle nationale, les États devraient prévoir une période pilote supervisée par un organe de contrôle indépendant dont la composition reflète la diversité de la population, afin de prévenir tout cas possible d’erreur d’identification et de profilage fondé sur la couleur de la peau.
60.Les États devraient veiller à ce que les systèmes de profilage algorithmique mis en place pour les besoins de l’application de la loi soient conçus dans un souci de transparence, et devraient permettre à des chercheurs et à la société civile d’accéder à leur code et d’en faire l’analyse. Une évaluation et un suivi réguliers des effets de ces systèmes sur les droits de l’homme doivent être effectués tout au long de leur cycle de vie, et les États devraient prendre des mesures d’atténuation appropriées si des risques pour les droits de l’homme ou des atteintes aux droits de l’homme sont détectés. Ces processus devraient examiner les effets discriminatoires potentiels et effectifs du profilage algorithmique d’après les motifs de la race, de la couleur, de l’ascendance ou de l’origine nationale ou ethnique et leur intersection avec d’autres motifs, comme la religion, le sexe et le genre, l’orientation sexuelle et l’identité de genre, le handicap, l’âge, le statut migratoire et le travail ou toute autre situation. Ils devraient intervenir préalablement au développement ou à l’acquisition de tels systèmes, autant que possible, et au minimum avant leur mise en exploitation, et pendant toute leur durée de vie. Ces processus devraient prévoir des études d’impact sur les différentes populations. Les groupes qui sont potentiellement ou effectivement concernés, et des experts compétents devraient faire partie des processus d’évaluation et d’atténuation.
61.Les États devraient prendre toutes mesures appropriées pour garantir la transparence dans l’utilisation des systèmes de profilage algorithmique. Ils devraient notamment rendre publique l’utilisation de ces systèmes et fournir des explications utiles sur leur fonctionnement, les séries de données utilisées, et les mesures adoptées pour prévenir ou atténuer les atteintes aux droits de l’homme.
62.Les États devraient faire en sorte que des organes de contrôle indépendants soient chargés de superviser l’utilisation des outils d’intelligence artificielle par le secteur public, et de les évaluer selon des critères définis conformément à la Convention pour veiller à ce qu’ils n’ancrent pas davantage les inégalités ou ne produisent pas de résultats discriminatoires. Les États devraient aussi veiller à ce que le fonctionnement de ces systèmes soit contrôlé et évalué régulièrement afin d’analyser les déficiences et de prendre les mesures correctives nécessaires. Quand les résultats d’une évaluation d’une technologie indiquent un risque élevé de discrimination ou d’autres atteintes aux droits de l’homme, les États devraient prendre des mesures pour éviter l’utilisation de la technologie considérée.
63.Les États devraient adopter des mesures pour faire en sorte que la conception, le déploiement et la mise en œuvre par le secteur privé de systèmes d’intelligence artificielle dans le domaine de l’application de la loi respectent les normes des droits de l’homme. Les États devraient aussi garantir l’adoption et la révision périodique des principes directeurs et des codes de conduite que les entreprises doivent observer dans la programmation, l’utilisation et la commercialisation d’algorithmes qui risquent de provoquer la discrimination raciale ou, plus généralement, toute autre forme de discrimination potentiellement contraire à la Convention.
64.Les États devraient adopter des réglementations qui garantissent que les organismes publics, les entreprises privées et les autres acteurs concernés, lorsqu’ils élaborent, acquièrent, commercialisent et utilisent des algorithmes : a) se conforment au principe d’égalité et de non-discrimination, et respectent les droits de l’homme en général, conformément aux Principes directeurs relatifs aux entreprises et aux droits de l’homme (en particulier les principes nos 1 à 3, 11 et 24) ; b) respectent le principe de précaution et toute mesure administrative ou législative adoptée pour garantir la transparence ; c) informent le public si les autorités concourant à l’application de la loi ont accès à des données privées concernant les particuliers ; et d) s’abstiennent de provoquer des effets hétérogènes ou disproportionnés sur les groupes sociaux protégés par la Convention.
65.Les États devraient veiller à ce que tous les cas de partialité algorithmique soient soumis à une enquête en bonne et due forme et à ce que des sanctions soient prises.
66.Les États devraient veiller à ce que les entreprises qui réalisent, vendent ou exploitent des systèmes de profilage algorithmique pour les besoins de l’application de la loi soient tenues d’y associer des spécialistes de disciplines multiples, dont la sociologie, les sciences politiques, l’informatique et le droit, pour définir les risques pour les droits de l’homme, et garantir le respect de ces droits. À cet effet, les États devraient inciter les entreprises à accomplir des processus de diligence raisonnable en matière de droits de l’homme, ce qui consiste : a) à mener des évaluations pour détecter et évaluer tout effet réel ou potentiellement néfaste sur le plan des droits de l’homme ; b) à intégrer ces évaluations et à prendre les mesures voulues pour empêcher et atténuer les effets néfastes sur les droits de l’homme qui ont été détectés ; c) à contrôler l’efficacité des mesures prises ; et d) à rendre compte officiellement de ce qu’elles ont fait pour remédier aux conséquences de leurs activités pour les droits de l’homme.
67.Au moment de détecter, d’évaluer, de prévenir et d’atténuer les conséquences néfastes de leurs activités pour les droits de l’homme, les entreprises devraient prêter une attention particulière aux facteurs liés aux données dont il est question plus haut au paragraphe 27. Les données devraient être sélectionnées, et les modèles être conçus pour la formation de telle sorte qu’il n’en résulte pas d’effets discriminatoires ni d’autres conséquences néfastes pour les droits de l’homme. En outre, les entreprises devraient appliquer la diversité, l’équité et d’autres moyens d’inclusion au sein des équipes qui élaborent les systèmes de profilage algorithmique. Les entreprises devraient aussi être ouvertes à des audits indépendants de leurs systèmes de profilage algorithmique par de tierces parties. S’il a été déterminé que le risque de discrimination ou d’autres violations des droits de l’homme est trop élevé ou ne peut être corrigé, notamment en raison de l’utilisation qu’un État pourrait en faire, un acteur du secteur privé devrait s’abstenir de vendre ou d’installer un système de profilage algorithmique.
68.Les États devraient réunir des données sur les cas de discrimination raciale liés à l’intelligence artificielle, ainsi que les mesures de prévention, les sanctions et les recours, et faire figurer ces renseignements dans leurs rapports au Comité.
69.Les organes des droits de l’homme, les États, les institutions nationales des droits de l’homme et les organisations de la société civile devraient mener des études et en diffuser les résultats, répertorier les bonnes pratiques s’agissant des mesures efficaces pour lutter contre les préjugés raciaux découlant de l’intelligence artificielle, notamment en ce qui concerne le respect des droits de l’homme et la dimension éthique de l’apprentissage automatique, et définir les critères pertinents s’agissant de l’interprétation ou de la transparence des processus de programmation et d’entraînement des algorithmes, en s’appuyant sur les dispositions de la Convention internationale sur l’élimination de toutes les formes de discrimination raciale.