映象新闻

立法机关通过审查各种法律案是否符合宪法，以提高立法质量，进行合宪秩序维护。

(68)(此处强调为本文作者所加)作为《加拿大宪法》首要部分的《加拿大的权利和自由宪章》也有类似的文字表述：《加拿大的权利和自由宪章》保证在宪章中所陈述的权利和自由只服从法律所规定的合理的限制，在一个自由的和民主的社会中(in a free and democratic society)这样的限制能够被证明为正当的。但是，确定目的并不是合比例性审查的组成部分，而只是作为合比例性审查的基础和起点发挥作用。

⑦所谓弱意义的普遍性，是指比例原则是一种有用的但不是唯一的和最好的宪法解释工具，大多数比例原则的拥护者持有这种立场。其次，揭示中国论者的理论建构在什么意义上可能是错误的和误导性的，并分析导致其错误的具体原因。(62)参见注①，第288-289页。这一错误主张主要是受到了德国学者罗伯特·阿列克西的理论误导。以陈景辉为代表的中国论者，其根本立场是要捍卫基本权利的优先性，这同笔者在本文中的立场是高度契合的。

只是在普通法法系，比例原则通常被叫作合理性原则(principle of reasonableness)，而且不仅在有关宪法问题的司法判决中能够发现对该原则的运用，还能在民法、行政法、刑法等领域的司法判决中发现对该原则的运用。过分相信逻辑的他忽视了直觉在探索真理方面的积极作用。第一，人的尊严的价值内核在于强调人本身就是目的，其构成了宪法的最高价值。

算法决策系统的功能实现是依靠对表征人的属性的数据的收集和分析来完成的。当前的人工智能的发展并未超脱法律的基本规制框架，所谓的算法歧视问题也是如此，其最核心的问题仍是为什么要用算法决策的元问题，即运用算法决策的正当性问题。[32]这意味着不允许人被当作客体、被物化，更不允许人受到非人的对待。过分依赖算法，显然已经在侵蚀人类决策者的主体性。

[19]然而，人的尊严入宪并没有使尊严的概念得到厘清，相反地，关于人的尊严的相关争议不断便表明对其内涵没有形成共识。[35]参见前注[29]，王旭文。

在训练算法和感知歧视时，受保护的个人信息的输入有助于机器学习算法感知歧视，只要是最终的算法模型运用于决策过程中排除受保护的个人信息即可。这关系到人如何认识自己、如何认识人的整体以及人与其他人的关系等问题，进一步而言，还涉及个体与共同体所组建的国家之间的关系。[54]平衡算法权力与公共权力及个人权利的力量对比关系，有助于规制算法权力。人工智能提供的服务应平等地面向所有人，不应该存在偏见。

在算法决策的黑箱中，一般的对象群体对于算法决策的原理、事实根据、理由均不得而知，只能被动地接受算法决策的后果。[24]参见张翔主编：《德国宪法案例选释（第1辑）：基本权利总论》，法律出版社2012年版，第237-240页。李海平：《宪法上人的尊严的规范分析》，载《当代法学》2011年第6期。[40]虽然它让决策的效率和科学性提高了，但并不意味着算法就不会犯错，相反地，算法因为隔绝了人性而可能使得作出的决策不符合人的价值判断。

当阿尔法狗打败了世界围棋冠军时，人们在为技术喝彩的同时也在内心深处产生了隐忧。于是，有人向宪法法院提起宪法诉愿，认为该规定侵犯了《德国基本法》规定的人的尊严和生命权，要求审查该法案的合宪性。

[55]San Francisco votes to ban government use of facial recognition technology, 2019 WL 2149247.转引自前注[8]，郑智航、徐昭曦文。欧盟《一般数据保护条例》（GDPR）第22条便对自动化决策加以限制，如果某种包括数据画像在内的自动化决策会对数据主体产生法律效力或对其造成类似的重大影响，数据主体就有权不受上述决策的限制。

[38]李林容：《网络智能推荐算法的伪中立性解析》，载《现代传播》2018年第8期。除了算法的数据收集可能不全面、不完整或存在错误外，算法本身也并非纯粹客观的数据处理手段，其存在诸多不透明的因素。报告指出，仅因为算法是数据驱动的就认为算法是客观的，实乃美丽的误会。[55]针对算法决策系统可能引发美国社会的种族歧视，学者提出了三种解决方案：第一，在数据输入阶段清除种族以及与种族要素相关联的数据。主观的意义是禁止国家对个人的负向自由进行任何直接干预。（一）将人的尊严作为科技发展的最高价值 尊严不只是一个抽象空洞的原则性指引，而应是一个进入法律推理之中并影响公共决策的实质价值。

进入专题： 算法歧视 宪法价值 。[42]算法歧视性后果的发生显然已触犯平等的原则。

人的尊严可以为抵制算法对人性的蚕食提供最高价值指引，并应进入到算法应用的正当性论证之中。[25]参见张龑：《人之尊严：世俗化时代的法权基础》，载《中国人民大学学报》2019年第5期。

算法歧视的发生，很大程度上缘于算法设计者、有关决策者有意无意地放纵算法技术的运用，试图利用大数据的客观性、科学性来美化算法技术的作用。2019年10月8日，文化和旅游部公示了《在线旅游经营服务管理暂行规定（征求意见稿）》，其规定，在线旅游经营者不得利用大数据等技术手段，针对不同消费特征的旅游者，对同一产品或服务在相同条件下设置差异化的价格，利用大数据杀熟的价格歧视将面临最高五十万元的处罚。

在法律秩序中，人之尊严既是具有绝对性的宪法价值，也是一种具有相对性的宪法权利。人类极易受到自动化偏见的影响，即使认识到可能另有选择，其也更倾向于服从计算机的判断。作为人类文明发展到一定阶段的产物，宪法在法律体系中被认为是高级法，融入了超验的伦理价值，具有最高的法律效力，承担着对其他制定法的评价、对民主主义的适当纠偏的功能。资本驱动下的算法权力倘若缺少必要的规制，势必倾向于将利益置于人的价值的之上。

然而，归纳的逻辑本身就可能存在偏差，它试图将事实上升为规范，挑战了传统的规范—事实的二分法则。[22]尊严概念的冗余性、空洞性、内涵难以确定性造成了尊严叙事的尴尬境地。

算法预测模型表面上是面向未来的，实质上是面向过去的。人与人之间的关系转化为数据与数据之间的关系，而数据成为了新的规范。

具体到算法决策系统的运用场景中，应当注意以下两个问题。[36]参见前注[29]，王旭文。

企图利用过去来定义未来的算法决策逻辑背离了超验的伦理价值，缺乏对社会实在的批判性精神，最终可能会构成对人的灵性的消磨以及对人类社会发展的束缚。并且，算法权力可能会使既有的权力制约机制在一定程度上失灵。[9]Executive Office of the President, Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights, May 2016, P.7. [10]参见崔靖梓：《算法歧视挑战下平等权保护的危机与应对》，载《法律科学》2019年第3期。更值得注意的是，算法决策在公权力领域的运用表明算法权力嵌入了传统公权力的运行，这可能使技术和权力产生合谋而存在权力滥用的风险。

其次，面向过去的算法决策逻辑的局限性有固化社会不公之虞。然而，事实却告诉人们寄希望于新兴技术去克服人性的弱点并去解决人类社会存在已久的问题的想法未免过于天真。

问责机制旨在明晰问责主体、问责范围和问责标准，从而规范公权力使用算法决策或辅助决策。如果算法设计者、决策者片面追求算法的效益，对算法可能的歧视嵌入要素视而不见，算法歧视后果的发生也就不足为奇了。

从本质上而言，宪法凝聚了社会共同体的价值共识，这些价值构成了对社会实在的批判规范，避免人们迷失在复杂人性的泥沼中，从而保障人类生活在自由、幸福、有尊严的环境中，让人类的生活更加安定，不再恐惧，不再焦虑。这些介于明言与暗含之间的因素凝聚着日常生活与社会生活的微观政治结构，并不可避免地负载了复杂的利益分配、价值取向和权力格局。