人工智能时代如何规制算法歧视

    来源：人民法院报|吴太轩 谭娜娜

    在弱人工智能时代，英国上议院产生了“大型互联网平台的权势凌驾于法律之上”的担忧。当今，个人信息早已明码标价，数据成为“新型货币”。而算法对消费者偏好、保留价格等信息加以整合，使经营者能向消费者投放定向广告、推送个性化产品。

    算法歧视是经营者为提高消费者黏性、获取最大利润而通过算法细分市场客户需求向不同消费者群体，提供相同质量的商品或服务却个性化收费的价格政策。检视算法歧视带来的多元社会经济效应，其一方面精准定位降低搜寻成本，促进社会消费总量的增长；另一方面可能产生价格挤压，导致社会不公，危害传统市场竞争机制。

    算法歧视的现存弊端并非“阵痛”，法律规制的缺失也使得算法歧视成为市场常态。平衡技术进步带来的社会福利与反竞争行为危害之间的关系实非易事。如何利用法律协调“政府之手”“市场之手”“数字化之手”，将算法“数字化之手”纳入法律规制的框架内成为当务之急。而当前法律规制算法歧视的有限效用，呼吁着反垄断执法机构尽快转变执法理念、升级执法工具以应对崭新的挑战。

    树立适度监管理念

    算法经济对传统法律制度下执法者如何认定市场支配地位、规制非滥用型算法歧视以及采取行动的时机均提出挑战。合理的执法理念能发出信号指引并降低违规行为的概率，因此树立正确的执法理念是应对挑战的首要前提。首先，执法者应充分理解新型市场动态特性，检视现行反垄断法中滥用行为规则适用于算法歧视的有限性，理解垄断地位之于算法歧视的非必要性——如算法歧视方不仅监督竞争者的价格反击还关注消费者信息反馈——从而为客观认识有别于传统价格行为的算法歧视酝酿宝贵经验。其次，拓宽执法范围。执法机构的调查对象应由单一违法经营者转向数据驱动的市场本身是否存在失灵现象，同时执法机构衡量损失的标准不应局限于消费者个人，还应聚焦于社会公共利益，分析消费者剩余减少的问题。最后，虽然互联网企业市场支配地位得到认定，但一方面垄断并不等同违法，另一方面互联网企业市场支配地位存在持续性长短问题，后果难以察觉等现实难题，因此执法机关应对其滥用市场支配地位的行为进行密切关注，在必要的时候采取行政干预措施，并积极探索新型执法工具。

    增强消费者博弈能力

    算法驱动的在线市场不一定会激活自我矫正机制，因此为算法歧视设置障碍势在必行。首先，赋予消费者个人信息权利，增强消费者对个人信息数据的控制权限。一方面，限制企业收集超出产品运作所必需数据外的其他个人信息，尤其是敏感信息；另一方面，赋予消费者对企业收集的有关个人的信息数据享有查看权和删除权。其次，运行消费者算法，改善消费者与经营者的信息不对称现状。让消费者算法以第三人身份代表广大消费者与经营者“谈判磋商”。最后，多元协同保障消费者权益。实际上，在面临经营者恶意侵犯消费者个人数据时，消费者权益保护法、即将出台的个人信息保护法或许比反垄断法更能保障消费者权益。而当社会公众面临数据侵权时，以保护消费者利益、维护竞争秩序为终极目标的反垄断法以及竞争政策则能够发挥其应有的作用。

    升级执法监管工具

    人工智能时代，“数字化之手”可能取代传统“市场之手”，我们无法确定算法操纵下的市场价格等同于完全竞争价格。目前，奥地利等国政府开始通过减少经营者调价频率降低价格透明度，但限制调价频率与禁止收集数据并不能从根本上解决算法歧视难题。一方面可能会遏制经营者降价动机助长算法共谋，另一方面往往会阻碍行业发展与创新不利于市场经济的良性发展。可选的举措是：首先，加强数据共享，使政府能够收集消费者行为数据以及企业运营成本数据。其次，构筑算法型政府。在大数据算法技术的辅助下，对行业价格进行监测，实现价格管控，让数据与算法深度介入经济活动中，但算法型政府效用的发挥依旧严重依赖数据的及时性和准确性。最后，采取“事前监督事后审查”算法路径。建立专门的算法稽核机构保护经营者知识产权，监督算法模型的多元社会福利效应。尽管数据共享、构筑算法型政府、稽核算法并非解决算法歧视的最佳路径，但在强人工智能时代，其终将寻得用武之地。

    明晰算法歧视法律责任

    算法本身无关善恶，它所发挥的作用取决于如何应用、商业动机是否契合消费者权益以及对市场的作用。这些议题萌生了人与机器关系的伦理难题。而法律问责机制尚未跟上高新技术发展，为有效规制“算法歧视”，我们必须跨过这一鸿沟，使计算机更负责任地运行。首先，明确算法歧视责任主体。算法是编程人员的主观选择，带有意识形态成分，因此算法模型设计者、改善者、使用者都可能成为责任主体，具体应根据各阶段责任主体过错责任、审查输入证据，以究其责。其次，确定合理归责原则。一般过错原则加重受害人的举证责任，而无过错责任在个人侵权案件中过于严格，因此过错推定责任具有适用合理性。最后，适当延长因果链条。算法机器人的自动化决策与客观损害之间并无直接因果关系或难以认定，应综合权衡算法模型、主观意图及社会损害大小等因素来综合认定，以弥补客观经济损失。

 （作者单位：西南政法大学）