关于防止和打击执法人员种族定性行为的第36号一般性建议(2020年)*
一.导言
1.消除种族歧视委员会第九十二届会议决定就“当今世界的种族歧视：种族定性、族裔清洗以及当前全球问题和挑战”这一专题进行讨论。专题讨论会于2017年11月29日在日内瓦举行，重点分析了迄今在打击种族定性和族裔清洗方面的经验、挑战和教训，以及委员会如何加强其打击种族定性和族裔清洗的工作，以便在当地产生更大影响。
2.经讨论后，委员会表示打算起草一项一般性建议，在防止和打击种族定性方面提供指导，以协助缔约国履行其义务，包括报告义务。本一般性建议对所有利益攸关方反对种族歧视的斗争具有现实意义，而且通过公布该建议，委员会力求促进加强民主、法治以及社区、人民和国家之间的和平与安全。
3.在第九十八届会议上，委员会开始进行审议，以期与所有有关各方协商，起草一项关于防止和打击种族定性的一般性建议。委员会还与各领域的学者进行了辩论，重点是人工智能对种族定性的影响。
二.既定原则和做法
4.在起草本一般性建议时，委员会考虑到其在处理执法人员种族定性行为方面的广泛做法，主要是在审查缔约国报告和主要一般性建议的框架内。委员会在其关于对非公民的歧视的第30号一般性建议(2004年)中明确述及种族定性问题，建议缔约国确保在反恐斗争中采取的任何措施不根据种族、肤色、世系或民族或人种蓄意或实际进行歧视，不以种族或族裔脸谱化或公式化的方式对待非公民(第10段)；委员会在其关于在刑事司法系统的司法和运作中预防种族歧视的第31号一般性建议(2005年)中，建议缔约国采取必要措施，预防实际上单凭某人的外表、某人的肤色或特征或属于某一种族或族裔群体，或使他/她更加倍受怀疑的任何描述对此人进行的提问，逮捕和搜查(第20段)；委员会在其关于针对非洲人后裔的种族歧视的第34号一般性建议(2011年)中，建议缔约国采取果断行动反对执法人员、政治家和教育家在种族基础上对非洲人后裔采取针对行动、丑化、持有陈旧定型观念或进行划线(第31段)。其他建议也与种族定性有关，如关于培训执法人员保护人权的第13号一般性建议(1993年)，其中委员会强调，执法人员应当接受训练，以确保他们不分种族、肤色或民族或族裔血统，捍卫所有人的人权(第2段)；关于土著人民的权利的第23号一般性建议(1997年，其中委员会强调，土著人民应不受任何歧视，尤其是基于土著血统或身份的歧视(第4 (b)段)；关于对罗姆人的歧视的第27号一般性建议(2000年)，其中委员会建议缔约国根据各自的具体情况，采取措施防止警察对罗姆人非法使用武力，特别是逮捕和拘留(第13段)，并在罗姆人社区和警察之间建立信任；关于《公约》中特别措施的含义和范围的第32号一般性建议(2009年)，其中委员会提出“多元交错”的概念，处理双重或多重歧视的情况，例如基于性别或宗教的歧视，将歧视的“理由”扩展了，所谓多元交错，是指基于性别或宗教一类理由的歧视与《公约》第一条列举的理由并存(第7段)；关于打击种族主义仇恨言论的第35号一般性建议(2013年)。
5.委员会在其结论性意见中多次对执法人员种族定性行为表示关切，并建议缔约国采取措施制止这种做法。
6.此外，其他一些国际人权机制也明确强调种族定性违反了国际人权法。2009年，人权事务委员会通过对Williams Lecraft诉西班牙案的裁决， 成为第一个直接承认种族定性是非法歧视的条约机构。在最近的结论性意见中，人权事务委员会经常表示关切的是，执法人员继续进行种族定性，特别是针对特定群体，如移民、寻求庇护者、非洲人后裔、土著人民以及包括罗姆人在内的宗教和族裔少数群体成员；禁止酷刑委员会也对此表示关切。、
7.会员国在2001年于南非德班举行的反对种族主义、种族歧视、仇外心理和相关不容忍行为世界会议上通过了《德班行动纲领》，敦促各国制订、实施和执行有效措施，消除种族定性行为，即警察和其他执法人员在任何程度上根据种族、肤色、族裔或原国籍或民族出身来对人们进行调查活动或确定一个人是否从事犯罪活动的做法(第72段)。
8.反恐中注意促进与保护人权和基本自由特别报告员在2007年提交人权理事会的报告中指出，自2001年9月11日以来，各国执法当局根据恐怖分子的特征采取了一些措施，其中包括推定某人的种族、族裔、原籍或宗教等特征。特别报告员强调，基于“种族”的恐怖分子定性做法不符合人权原则，并非识别潜在恐怖分子的适当和有效手段，而且会产生相当大的负面后果，可能使这些措施在反恐斗争中适得其反。
9.本一般性建议也在执行《2030年可持续发展议程》的框架内起草，并作为对执行该议程的一项贡献。该议程的总体承诺是不让任何一个人掉队，首先帮助最落后的人，这为委员会的工作提供了重要的切入点和机会，特别是在可持续发展目标10 (减少国家内部和国家之间的不平等)和目标16 (创建和平、包容的社会以促进可持续发展，让所有人都能诉诸司法，在各级建立有效、负责和包容的机构)方面。
三.范围
10.委员会经常表示关切的是，执法人员根据具体特征，如推定某人的种族、肤色、出身或民族或族裔，对各少数群体进行种族定性。委员会表示关切的是，有报告称，警察和边境管制人员等执法人员在履行职责时，在火车站、火车和机场任意拦截、任意检查身份、随机检查任何人拥有的物品并任意逮捕。委员会关切地注意到种族定性有所增加，因为当代人们对恐怖主义和移民感到关切，加剧了对某些族裔群体成员的偏见和不容忍。
11.委员会认识到，移民、难民和寻求庇护者、非洲人后裔、土著人民以及包括罗姆人在内的少数民族和少数族裔等特定群体最容易被种族定性。
12.此外，委员会注意到，在安全、边境管制和获得社会服务等领域日益使用新的技术工具，包括人工智能，这有可能加深种族主义、种族歧视、仇外心理和其他形式的排斥。然而，在本一般性建议中，委员会侧重于与执法人员种族定性有关的算法决策和人工智能；因此，许多与可能有害的人工智能有关的其他议题不在其范围之内。委员会意识到，在某些领域，人工智能可有助于提高一些决策过程的效力，但委员会也认识到，在执法过程中使用人工智能进行决策时，确实存在算法偏差的风险。算法定性引起了严重关切，可能对受害者权利造成非常严重的后果。
四.界定和理解种族定性
13.国际人权法中没有关于种族定性的普遍定义。然而，世界所有区域长期存在的一种现象是，各种国际和区域人权机构和组织都采用了种族定性的定义，其中包含一些共同要素。种族定性指：(a) 由执法当局实施；(b) 不是出于客观标准或合理理由；(c) 基于种族、肤色、出身、民族或族裔血统的理由或与之相互交叉的其他相关理由，如宗教、性或性别、性取向和性别认同、残疾和年龄、移民身份、或工作或其他身份等；(d) 在特定情况下使用，如控制移民和打击犯罪活动、恐怖主义或其他据称违法或可能导致违法的活动。
14.通过任意拦截、搜查、身份检查、调查和逮捕等行为或行动实施种族定性。
15.美洲人权委员会将种族定性定义为：基于种族、肤色、族裔、语言、血统、宗教、国籍或出生地或这些因素的组合，而不是基于客观的怀疑，出于所谓的公共安全和保护的原因而采取的一种策略，这种策略倾向于以歧视性的方式挑出个人或群体，其错误假设是具有这些特征的人容易实施特定类型的犯罪。阿拉伯人权委员会认为，可将种族定性定义为执法人员使用与推定的种族、肤色、出身、国籍、出生地或民族或族裔血统有关的笼统或定型观念——而不是客观证据或个人行为——作为查明某一特定个人正在或曾经从事犯罪活动的依据，从而导致歧视性决策。欧洲反对种族主义和不容忍委员会于2007年通过关于打击警务工作中的种族主义和种族歧视的第11号一般性政策建议，其中将种族定性定义为警察在控制、监视或调查活动中使用种族、肤色、语言、宗教、国籍或民族或族裔血统等理由，而没有客观和合理的理由。
16.当代形式种族主义、种族歧视、仇外心理和相关不容忍行为特别报告员在2015年向人权理事会提交的一份报告中指出，执法人员的种族和族裔定性通常被理解为执法、安全和边境管制人员以种族、肤色、出身或民族或族裔血统为依据，对个人进行详细搜查、身份检查和调查或确定个人是否从事犯罪活动。
17.联合国人权事务高级专员指出，种族定性是指执法部门根据种族、肤色、出身或民族或族裔血统的概念而非客观证据或个人行为，对人们进行拦截、详细搜查、身份检查和调查，或判定某人从事犯罪活动。因此，种族定性导致歧视性决策。高级专员进一步指出，无论是由于个别执法人员的态度和做法，还是由于执法机构的歧视性文化或政策，种族定性是许多机构的长期做法。
18.就本一般性建议而言，种族定性被理解为《德班行动纲领》第72段所述内容，即警察和其他执法官员在任何程度上只根据种族、肤色、族裔或原国籍或民族出身来对人们进行调查活动或确定一个人是否从事犯罪活动的做法。在这种情况下，种族歧视往往与其他理由交叉在一起，如宗教、性和性别、性取向和性别认同、残疾、年龄、移民身份及工作或其他身份等。
19.执法人员的种族定性行动还可能包括突袭、边境和海关检查、入户搜查、监视目标、维持或重建法律和秩序的行动或移民决定。可在街头治安和反恐行动中以不同方式采取这些行动。
20.种族定性与定型观念和偏见有关，这些观念和偏见可能是有意识或无意识的，也可能是个人或体制和结构性的。当定型观念假设被付诸实践以损害享受人权时，定型观念就成为违反国际人权法的行为。
五.《公约》规定的原则和一般义务
21.查明、防止和打击执法人员种族定性的做法是实现《消除一切形式种族歧视国际公约》目标的组成部分。执法人员种族定性的做法违反了人权基本原则，这些原则基于：(a) 不得出于种族、肤色、出身或民族或族裔血统或其他交叉理由进行歧视；(b) 法律面前人人平等。这一做法还可能违反正当法律程序和公平审判权。这些原则和权利是《世界人权宣言》(第二条和第七条)和《公约》(第二条和第五条(子)项)的主旨。
22.《公约》序言强调指出，人人在法律上悉属平等并有权享受法律的平等保护，以防止任何歧视及任何煽动歧视的行为。虽然《公约》中没有明确提到种族定性一词，但这并不妨碍委员会查明种族定性做法，并探讨种族定性与《公约》规定的标准之间的关系。
23.根据《公约》第二条，缔约国承诺不对人、人群或机关实施种族歧视行为或习例，并确保所有全国性及地方性的公共当局及公共机关均遵守此项义务行事。由于种族定性有可能助长和延续种族主义事件、种族偏见和定型观念，所以与《公约》的理念背道而驰。因此，缔约国有义务审查其政策和法律法规，以确保不发生和不助长种族定性做法。缔约国有义务积极采取措施，通过法律、政策和机构消除歧视。禁止种族定性行为和有义务确保公共当局和机构不采用种族定性的做法也源自于《公约》第五条。种族定性的做法有悖于人人法律面前平等和享有平等待遇的权利，不分种族、肤色或民族或族裔血统。此外，这种做法也有悖于对其他公民权利的不歧视保证，如行动自由权等。
24.根据《公约》第六条，缔约国有义务保证在其管辖范围内，人人都获得有效保护，免受任何种族歧视行为的侵害。因此，缔约国必须采取预防措施，以确保公共当局和公共机构不采用种族定性的做法。第六条还要求缔约国确保在其管辖范围内，遭受任何种族歧视行为的每个人都获得有效补救。缔约国有义务确保其国内法律秩序包含充分和有效的机制，通过这些机制可以断言发生了种族定性行为，并终止这种做法。此外，缔约国还必须保证因种族定性形式的种族歧视而遭受损害后，有权寻求公正和充分赔偿或补偿。缔约国必须确保这项权利能够得到有效落实。鉴于种族定性做法经常影响到一个或多个特定群体的成员，鼓励缔约国考虑建立机制，以便在种族定性情况下集体行使权利。
25.《公约》第七条强调了教学、教育、文化和信息在打击种族歧视方面的作用。关于种族定性，缔约国履行不从事种族歧视行为的义务取决于公共当局和公共机构的行为。因此，尤其是国家执法人员适当了解其义务至关重要。由于种族定性往往是公共当局和公共机构既定、不受质疑做法的结果，缔约国必须确保国家执法人员充分了解如何避免种族定性的做法。提高这种认识有助于防止实行种族定性的做法，并在这些做法根深蒂固的地方加以克服。因此，缔约国应确保公共当局和机构从事执法工作的人员得到适当培训，以确保他们不实行种族定性做法。
六.种族定性的后果
26.种族定性对个人和社区的态度和福祉具有负面和累积的影响，因为个人在日常生活中可能经常受到种族定性的影响。面对有效补救措施和恢复手段的缺乏，种族定性的受害者往往低估和内化其影响。除了不合法之外，种族定性作为一种一般执法工具，也可能无效和适得其反。认为自己遭受歧视性执法行动的人往往对执法不太信任，因此往往不太愿意合作，从而可能限制执法的效力。种族定性做法影响执法的日常工作，并通过有意识或无意识的行动削弱支持受影响社区犯罪受害者的能力。下述情况可能导致报案减少和用于情报目的的信息减少：不公正感和羞辱感、对执法失去信任、二次受害、害怕报复以及获得有关法律权利或援助信息的机会有限。
27.种族定性和仇恨言论密切相关，委员会经常同时处理这两种形式的歧视。传播基于种族或族裔仇恨的思想、媒体持续使用仇恨言论以及公职人员使用种族主义政治言论都加剧了执法人员的歧视和成见。遭受仇恨言论的族裔群体也会成为种族定性的目标。此外，执法部门实行种族定性，将面临种族歧视的群体描绘成更容易犯罪的群体，这将影响公共言论，增加种族主义仇恨的传播。
28.种族定性还可能对人们享有公民权利和政治权利产生负面影响，包括生命权(《公民及政治权利国际公约》第六条)、人身自由和安全权(第九条)、隐私权(第十七条)和行动自由权(第十二条)、结社自由权(第二十二条)和获得有效补救的权利(第二条第三款)。
29.种族定性也可能影响人们充分享有经济、社会及文化权利，如适当住房权(《经济社会文化权利国际公约》第十一条)、健康权(第十二条)、教育权(第十三至十四条)和工作权(第六条)。
30.执法人员实行种族定性对司法系统的各个层面产生了深远影响，特别是在刑事司法系统。除其他外，种族定性可导致：(a) 对受《公约》保护的某些类别的人过度定罪；(b) 强化犯罪与族裔之间误导性带有成见的联想，并滋生不法业务行为；(c) 受《公约》保护的群体的监禁率过高；(d) 受《公约》保护的群体成员更容易受到执法人员滥用武力或权力的伤害；(e) 对种族歧视行为和仇恨犯罪的举报不足；(f) 法院对目标社区的成员作出更严厉的判决。
七.算法剖析与种族偏见和歧视
31.由于技术发展日新月异，执法人员的行动日益由算法剖析确定或提供信息，其中可能包括大数据、自动决策和人工智能工具和方法。虽然这些进步有可能提高执法人员决定和行动的准确性、有效性和效率，但风险很大，也可能复制和强化偏见，加剧或导致歧视性做法。鉴于算法剖析和决策的不透明性，特别是在使用人工智能方法时，算法剖析的歧视性结果往往不如人所作决定的结果明显，更难发现，因此更难质疑。此外，人权维护者通常不具备足够的技术能力识别这种歧视性方法。
32.可通过各种切入点将偏见植入算法剖析系统中，包括系统的设计方式、关于训练系统所用的数据集来源和范围的决定、开发人员可能在这些数据集中建立的社会和文化偏见、人工智能模型本身以及在实践中实现人工智能模型输出的方式。特别是以下与数据有关的因素可能会导致负面结果：(a) 所使用的数据包括有关受保护特征的信息；(b) 数据中包含所谓的代理信息，例如，与城市隔离区相关联的邮政编码往往间接表明种族或族裔血统；(c)所用数据对某一群体不利；(d)所用数据质量差，原因包括数据选择不当、不完整、不正确或过时。
33.当算法剖析被用于确定犯罪活动的可能性时，就会出现特别的风险，无论是在某些地方，还是由某些群体甚至个人实施。预测性警务依靠历史数据预测未来可能发生的事件，很容易产生歧视性结果，特别是所用数据集存在上述一个或多个缺陷时。 例如，一个街区的历史逮捕数据可能反映出带有种族偏见的警务工作。如果将这些数据输入预测性警务模式，使用这些数据就有可能将未来的预测引向相同、带有偏见的方向，导致警察对同一街区过度执法，进而可能导致该街区更多人被逮捕，形成危险的反馈循环。
34.据报，司法系统中也存在类似的机制。在实施制裁或决定某人是否应被送进监狱、保释或接受另一种惩罚时，各国日益采用算法剖析，以预测一个人今后可能犯下一项或多项罪行的可能性。当局收集关于个人犯罪史、其家庭和朋友及其社会状况(包括工作和学业经历)的信息，以便根据算法提供的分数(通常保密)评估该人构成的“危险”程度。如此采用算法剖析引起了类似上文第33段所述的关切。
35.日益使用面部识别和监控技术跟踪和控制特定人口群体引起了对许多人权的关切，包括隐私权、和平集会和结社自由、表达自由和行动自由。此举旨在根据面部几何形状自动识别个人，有可能基于种族、肤色、民族或族裔血统或性别等歧视理由对人进行定性。配备实时面部识别技术的摄像头被广泛用于标记和跟踪个人，这可能使政府和其他方面能够记录许多个人的行动，可能基于受保护的特征。此外，事实证明，面部识别技术的准确性可能因被评估者的肤色、种族或性别而有所不同，这可能导致歧视。
36.在某些情况下，算法被用于DNA检测，以确定个人的族裔或民族。这种DNA检测的结果可能导致定性分析。委员会注意到，根据科学界的共识，个人的DNA构成与其族裔或民族之间没有直接联系。因此，委员会谴责国家和执法当局，特别是边境安全局采用DNA定性分析。此外，DNA定性分析的结果还被执法当局用于谎称某些少数族裔更有暴力倾向，反过来，这些群体也受到警方歧视性做法的影响。
八.建议
37.各国政府、执法机构和民间社会组织采取各种战略应对种族定性问题。委员会认为，这些战略为委员会向各国和其他行为体提出建议奠定了基础。
A.立法和政策相关措施
38.作为一个先决条件，在不妨碍采取进一步措施的情况下，反种族歧视的全面立法，包括民法、行政法和刑法，对于有效打击种族定性行为不可或缺。各国应制订和有效执行界定和禁止执法人员种族定性行为的法律和政策。在采取这些措施的同时，还应为执法机构提供明确的指导，确保内部政策，包括标准作业程序和行为守则符合人权标准和原则。各国还应了解有可能助长或便利种族定性的法律法规。各国应进行研究，以确定这些法律，并相应地予以修订或废除。
39.各国应确保执法机构与有关团体协商，制订详细的截查准则和精确标准，以防止种族定性。它们应建立有效、独立的内部和外部监测机制，并设想在不当行为案件中适用的纪律措施。它们还应该在独立专家的帮助下进行定期审计，以查明内部政策和做法的差距。强烈建议此类程序的结果保持透明，因为这可能会加强执法问责及目标个人和社区之间的信任。
40.根据《公约》第六条，缔约国必须保证在其管辖范围内，人人均能对违反本《公约》侵害其人权及基本自由的任何种族歧视行为获得有效保护与救济，并有权就因此种歧视而遭受的任何损失请求公允充分的赔偿或补偿。
41.鼓励各国采取以受害者为中心的办法，并有效协调其支助服务，为此推广当局、社区、民间社会组织(包括代表遭受交叉形式歧视的群体的组织)和国家人权机构之间的合作模式。委员会强调《公约》第五条(子)项和第六条之间的相互联系，并指出，应与司法当局和其他司法机关进行有效协商，并让其参与这些进程，以防止在刑事诉讼中延续种族定性的影响。
B.人权教育和培训
42.各国应为执法机构制订专门的强制性培训方案，使执法人员更加认识到偏见对其工作的影响，并展示如何确保不歧视行为。应尽可能让被污名化的群体，包括其成员遭受交叉形式歧视的群体参与拟定和提供此类培训。执法机构应确保进行在职培训以打击歧视和基于偏见的警务行动，同时辅之以机构干预措施，旨在限制自由裁量权和加强对易受定型观念和偏见影响领域的监督。此外，鉴于培训在改变态度和行为方面的局限性令人关切，应定期评估和更新关于不歧视和偏见的培训，以确保其产生预期效果。
43.人工智能专家和数据解读员都必须清楚地了解基本权利，以避免输入可能包含或导致种族偏见的数据。各国应为解读数据的专家和人员、司法干事和执法人员等提供关于种族主义和种族歧视的培训。各国应根据禁止种族歧视的强制性条款制订采购政策。
44.各国应与国家人权机构和专门实体合作，促进对民间社会组织进行关于算法偏差和新兴技术的培训。
45.人权教育和培训对确保警官不歧视至关重要。国家人权机构与民间社会组织合作，可以在培训执法人员、审查可能导致歧视的新技术工具和查明实践中的其他风险方面发挥核心作用。
C.征聘措施
46.各国应确保执法机构制订招聘、留用和晋升战略，促进反映出所服务人口构成的劳动力多元化。这些战略可包括设定内部配额和制订少数族裔招聘方案。这有可能影响机构文化和工作人员态度，从而减少带有偏见的决策。
47.各国应确保执法机构定期评估招聘和晋升政策，并在必要时采取暂行特别措施，有效解决各民族或族裔少数群体以及遭受基于宗教、性和性别、性取向、残疾和年龄等交叉形式歧视的群体代表性不足的问题。
D.社区警务
48.各国应确保执法机构制定有效接触面临种族歧视的个人和群体的战略，同时考虑到不同社区的独特背景、动态和需求。这应有助于改善沟通，降低不信任和种族定性的程度。警察与社区的对话应扩大到社区领导人以外，因为包括妇女在内的许多群体在社区领导层任职人数偏低，可能需要作出专门和有敏感认识的外联努力。最常成为警察目标的年轻人就是一个重要的例子。
49.各国应采取措施，确保警方和其他执法机构提供的公共信息以可靠和客观的统计数据为基础，不延续对遭受歧视的族裔群体的定型观念和偏见。此外，各国应避免披露与推定的种族、肤色、出身或民族或族裔血统有关的被控犯罪人的个人资料，除非这种披露绝对必要，而且是为合法目的，例如在通缉令的情况下。
E.分类数据
50.各国应定期收集和监测有关执法做法的分类定量和定性数据，如身份检查、交通拦截和边境搜查，其中包括关于被禁止的种族歧视理由的信息，包括种族歧视的交叉形式，以及执法行动的原因和遭遇的结果。应向公众提供这种做法产生的匿名统计资料，并与当地社区讨论。数据的收集应符合人权标准和原则、数据保护条例和隐私保障。此类信息不得被滥用。
51.各国还应防止对个人数据进行各种形式的自动处理，包括使用个人数据评价与自然人有关的某些个人方面，特别是分析或预测与该人工作表现、经济状况、健康、个人偏好、兴趣、可靠性、行为、位置或行动有关的方面。
F.问责
52.各国应建立一个独立于执法和其他相关机构的报告机制，接受公民对种族歧视、种族主义及种族和族裔定性的投诉。这种机制必须有权迅速有效地调查指控，并与民间社会和人权监督机构合作。该机制还必须根据数据保护条例和人权标准公开报告调查结果。这种机制应考虑到残疾人在交叉歧视情况下的特殊需要。
53.各国应在执法机构内外建立监督机制，以防止歧视行为；这种机制应制订内部准则、政策和条例，以打击和防止种族定性，并通过对违规人员采取纪律行动，确保内部问责。
54.应根据国际人权标准，对执法机构的种族定性事件进行有效调查。应起诉责任人，如果被定罪，应给予适当惩罚，并向受害者提供赔偿。
55.各国应确保执法机构内的高级官员在其机构内促进不歧视政策和做法，严格监督工作人员的行为，并通过内部独立监督机制对工作人员的不当行为追责。可通过提供和分析关于工作人员决策和做法的数据支持这些行动。高级官员还应审查适用立法和行动的效果，包括反恐立法和行动的效果，因为这些立法和行动可能对边缘化群体和社区产生过大的影响。
56.鼓励国家人权机构和民间社会组织监测种族定性事件，并协助种族定性的受害者。它们应提高公众认识，公布调查结果，为改革游说，并与执法机构及其他国家和地方机构进行建设性接触。
57.国际和区域人权机制、国家人权机构和平等机构、民间社会团体和公众应当有可能对执法机构的歧视性做法提出投诉。公众应能通过独立机制提起投诉。
G.人工智能
58.各国应确保为执法目的使用的算法剖析系统完全符合国际人权法。为此，在采购或部署此类系统之前，各国应采取适当的立法、行政和其他措施，以确定其使用目的，并尽可能准确地规范防止侵犯人权的参数和保障。这些措施尤其应旨在确保算法剖析系统的部署不损害不受歧视的权利、法律面前人人平等的权利、人身自由和安全权、无罪推定权、生命权、隐私权、行动自由权、和平集会和结社自由权、免受任意逮捕和其他干预的权利以及有效补救权。
59.各国应在采用面部识别技术之前认真评估潜在的人权影响，因为数据收集缺乏代表性，可能导致错误识别。在国家部署之前，各国应考虑在一个独立监督机构的监督下试行一段时间，该机构包括反映不同人口构成的个人，以减少任何潜在的错误识别和基于肤色的定性事件。
60.各国应确保为执法目的部署的算法剖析系统的设计具有透明度，并应允许研究人员和民间社会获取代码并对其进行审查。应持续评估和监测这些系统在其整个生命周期中对人权的影响，如果发现危害或损害人权的情况，各国应采取适当的缓解措施。这些流程应审查基于下述理由的算法特征分析的潜在和实际歧视性影响：种族、肤色、出身或民族或族裔血统，以及与之交叉的其他理由，包括宗教、性和性别、性取向和性别认同、残疾、年龄、移民身份和工作或其他身份。应尽可能在开发或获取这些系统之前进行这些流程，至少在这些系统的整个使用期之前和期间进行。这些流程应包括社区影响评估。应将可能或实际受影响的群体和相关专家纳入评估和缓解流程。
61.各国应采取一切适当措施，确保算法剖析系统使用的透明度。这包括公开披露这些系统的使用情况，并对系统的工作方式、正在使用的数据集以及为防止或减轻对人权的损害而采取的措施作出有意义的解释。
62.各国应采取措施，确保授权独立的监督机构监测公共部门使用人工智能工具的情况，并根据《公约》制定的标准对其进行评估，以确保它们不会加深不平等或产生歧视性结果。各国还应确保定期监测和评价这些系统的运行情况，以评估不足之处并采取必要的纠正措施。当对某项技术的评估结果表明存在歧视或其他侵犯人权行为的高风险时，各国应采取措施避免使用这种技术。
63.各国应采取措施，确保私营部门依照人权标准在执法领域设计、部署和实施人工智能系统。各国还应确保通过并定期修订公司在算法的编程、使用和商业化过程中必须遵守的准则和行为守则，因为这些算法可能导致种族歧视或一般而言可能违反《公约》的任何其他形式的歧视。
64.各国应通过法规，确保公共部门机构、私营工商企业和其他相关组织在算法的开发、学习、营销和使用过程中：(a) 遵守平等和不歧视原则，并按照《工商企业与人权指导原则》(特别是指导原则1至3、11和24)，普遍尊重人权；(b) 遵守预防原则和为确保透明度而颁布的任何行政或立法措施；(c) 公开披露执法部门是否可以获取个人的私人数据；(d) 避免对受《公约》保护的社会群体造成不同或过大的影响。
65.各国应确保对算法偏差的所有情况进行适当调查并实施制裁。
66.各国应确保为执法目的开发、销售或运行算法剖析系统的公司有责任让多学科的人员，如社会学、政治学、计算机科学和法律等，参与界定人权面临的风险并确保尊重人权。为此，各国应鼓励公司开展人权尽职调查，这需要：(a) 进行评估，以确定和评估任何实际或潜在的负面人权影响；(b)整合这些评估，并采取适当行动，以防止和减轻已查明的负面人权影响；(c)跟踪其努力的有效性；(d)正式报告它们如何处理其人权影响。
67.在查明、评估、预防和减轻负面人权影响的过程中，公司应特别注意上文第27段概述的与数据有关的因素。应选择培训数据并设计模型，以防止歧视性结果和其他对人权的负面影响。此外，公司应在开发算法剖析系统的团队中推行多样性、公平和其他包容手段。公司还应对独立的第三方审计其算法剖析系统开放。如果歧视或其他侵犯人权行为的风险被评估为过高或不可能减轻，包括由于国家计划或可预见使用的性质，则私营部门行为体不应出售或部署算法剖析系统。
68.各国应记录与人工智能有关的种族歧视案件，以及预防措施、制裁和补救措施，并将此类信息纳入提交委员会的报告。
69.人权机构、各国、国家人权机构和民间社会组织应开展研究并传播研究结果，确定在解决人工智能产生的种族偏见的有效措施方面的良好做法，包括与遵守人权和机器学习的道德方面有关的措施，并确定算法编程和训练过程中的解读或透明度方面的相关标准，并应通过《消除一切形式种族歧视国际公约》的视角这样做。