如何规制算法歧视？

2020-09-01 14:19:30　来源：深圳特区报

　　编者按：

　　算法自动化决策为人们带来方便的同时，也可能因其决策过程的不透明和信息不对称而对某些群体造成歧视。算法歧视是人工智能自动化决策中，由数据分析导致的对特定群体的，系统的、可重复的、不公正对待。算法歧视正在人工智能技术应用的多个场域出现，对受害群体及整个社会有着多重不利影响。为了维护平等与公正的社会秩序，有必要对算法歧视进行法律规制。本期文萃对不同学者关于算法歧视规制的研究进行了汇编，学者们从不同角度对这一主题进行了有益的探索。

　　推动人工智能时代下法律的自觉型发展以规制算法歧视

　　崔靖梓在《法律科学（西北政法大学学报）》2019年第3期《算法歧视挑战下平等权保护的危机与应对》一文中认为，算法歧视作为一种人工智能时代以大数据为基础的新型歧视方式具有以往的歧视形式所不具有的特性，这为传统的平等权保护方式带来了平等理念、平等权保护法律适用、平等权保护模式方面的危机与挑战，甚至可能会撕裂我们进化千年才形成的公正和平等观念。传统法律监管方式作用式微，算法歧视成为平等权保护的困境，这警醒我们需要探索算法歧视背后的原理和规律，以寻找算法歧视挑战下平等权保护的危机原因与应对方案。在此背景下，传统的平等权保护路径有效性缺失，为了避免科林格里奇困境，实现对风险的早控制，基于法律体系内部的精致作业应与法律体系外部框架切入的大破大立研究同时进行，推动人工智能时代下法律的自觉型发展以规制算法歧视、探索平等权保护危机的解决方案就显得尤为必要。为了避免“唐吉坷德”式地搜寻，则需要立足于引发平等权保护危机的根源和算法歧视诱因，探索内部治理细则与外部治理模式并行的法治解决方案。

　　我国对算法歧视应采取个人信息保护法和合理算法标准相结合的综合治理路径

　　杨成越、罗先觉在《科学与社会》2018年第4期《算法歧视的综合治理初探》一文中认为，算法决策既可排除人类决策者的歧视，也可加剧现有的歧视或产生新的歧视。由于算法决策应用的广泛性，算法歧视也随之散布于很多领域。经过考察就业、价格、信用等三种常见的算法歧视可知，我国现行法律对算法歧视不能提供有效的救济。结合全国人大立法规划，我国对算法歧视应采取个人信息保护法和合理算法标准相结合的综合治理路径。其中，个人信息保护法应包括禁止各种算法歧视的强制性规定，排除个人信息收集、处理、使用过程中的一切歧视性做法；合理算法标准应引导算法决策的设计者、使用者将禁止算法歧视的原则、规则嵌入算法之中。个人信息保护法与合理算法标准相辅相成，前者是原则，后者是贯彻，共同致力于消除算法歧视的大目标。由于算法决策的复杂性、模糊性，对于合理算法标准的含义和内容尚存争议，这有赖于立法机关、执法部门、学术界、实务界的广泛互动和深入交流，力争早日达成共识。

　　多样性加入、透明度、问责制是算法歧视技术治理的三个维度，将有助于减少算法技术层面的歧视风险

　　张玉宏、秦志光、肖乐在《自然辩证法研究》第33卷第5期《大数据算法的歧视本质》一文中认为，算法歧视的纠偏有赖于技术治理，特别是公平感的数据挖掘、识别和发现，以及在算法系统中测试和纠正偏差的歧视预防算法的开发。多样性加入、透明度、问责制是算法歧视技术治理的三个维度，将有助于减少算法技术层面的歧视风险。首先，多样性加入。歧视本质上是对“异己”的排斥，内置性编码凝视，有限、不相关或不正确的训练数据是造成算法歧视的原因，如果能融入多样性，可以在一定程度上减少歧视诱发因子。其次，算法透明度。算法歧视是缺乏透明度的直接后果。计算机协会（ACM）发布算法透明和问责性七项原则，致力于解决算法歧视，开出的药方是救济和解释：对算法决策提出质疑并获得救济。最后，算法问责制。算法透明度对于解决智能互联网时代的智能算法的深层偏见问题，并不总是必要的或充分的，此外至今科学上都没有完美解答算法黑箱歧视问题。所以，创建算法问责制，能使公民在遭受算法歧视的时候，知道自己遭受了歧视以及如何救济。

　　建立对算法歧视的审查标准需要外部与内部两个方面的合力

　　卜素在《山西大学学报（哲学社会科学版）》第42卷第4期《人工智能中的“算法歧视”问题及其审查标准》一文中认为，建立对算法歧视的审查标准需要外部与内部两个方面的合力。对外部因素的规制，政策和法律应致力于人工智能发展的外部社会环境的构建，推动对社会个体的人工智能伦理和安全意识教育，让社会警惕人工智能技术被滥用的风险。而对内部因素而言，应当注意检查并纠正人工智能系统作出的歧视性决策。例如，大学利用机器学习算法来评估入学申请，假如用于训练算法的历史入学数据（有意或无意）反映出之前的录取程序的某些偏差（如性别歧视），这种偏差若得不到纠正就会以现实的形式存在下去，成为机器学习的“规律”持续下去，造成恶性循环。

　　（栏目主持：王?）

编辑：迟语洋

书评书讯

工运前沿

规范新职业劳动者的劳动权益保障
日前，国务院办公厅发布《关于支持多渠道灵活就业的意见》，在鼓励和支持新职业等多渠道灵活就业的同时，提出多措并举维护新职业劳动者的劳动权益。
新时代培育工匠精神的路径分析
培育职工工匠精神，要培树工匠意识，培育职业技能，厚植工匠文化，投身工匠实践。
师范院校高质量推进劳动教育的思考
马克思主义经典理论特别强调要通过“教育与生产劳动相结合”的方式培育全面发展的人。
学徒合同：教育合同还是劳动合同？
干中学是学徒的基本教育模式，干与学构成了学徒制的内在矛盾，有时成为雇主与学徒的斗争焦点。