算法中的道德物化及问题反思

作者:张卫 刊名:大连理工大学学报:社会科学版 上传者:黄乾华

【摘要】随着算法辅助或代替人类做决策的领域越来越广;算法的伦理问题日益成为人们关注的重要话题;算法并非价值中立的工具;其本身负载着伦理价值;在处理算法与伦理的关系问题上;有3种运思路径可供选择:一是对算法进行外在的伦理规约;二是在算法中内在地嵌入伦理规范;三是让算法拥有完全自主的道德能动性;在算法中进行“道德物化”对应于上述第2种路径;其含义是把伦理规范嵌入算法之中;让算法在助推人们做出恰当的伦理决策中发挥积极的能动作用;该路径的初衷虽好;但会引发新的伦理争议和问题;还需慎重对待;

全文阅读

一、引 言 “道德物化”(Materialization of Morality)是当前技术伦理领域中的一个新兴研究方向,其基本内涵是指在技术中嵌入道德规范,助推人的行为向善。关于“道德物化”的研究目前主要集中在物理空间的技术,如常见的减速阀、手推车、音乐楼梯等,而对赛博空间的算法还缺乏足够的关注。然而,随着人类社会智能化水平的提高,算法在人类生产生活中的重要性日益增加,算法已渗透到人类社会的方方面面,越来越多的领域正在被算法所占领。鉴于算法在当今智能时代的极端重要性,本文尝试把“道德物化”理念从技术领域移植到算法领域,其前提如下:不论是技术还是算法,都是人类创造的“人工物”。从本质上讲,它们都是一种变换操作或函数映射,在输入与输出之间建立一种“关系”,按照预定的目的把输入变换为输出。从“关系本体论”的视角来看,技术和算法在本质上都是在信息与信息之间建立“关系”,是一种作为“关系”而存在的人工物。算法和技术一样,都具有结构和功能二重性;唯一的区别在于,二者分属不同的领域。技术存在于现实的物理空间,而算法存在于虚拟的赛博空间;技术处理的对象是“原子”,而算法处理的对象是“比特”。在某种意义上,技术就是物理空间中的算法,算法就是赛博空间中的技术。 二者本质上的一致性为技术伦理领域的分析框架移植到算法伦理领域提供了可能性。借鉴技术伦理的分析框架,算法伦理也可以从“外在主义”和“内在主义”两种进路进行分析[1]。“外在主义”进路的算法伦理主要关注算法中违反伦理要求的方面,如定价算法中的价格歧视,搜索算法中的竞价排名等,其目标是对算法进行伦理的规约,使算法的设计与运行限制在伦理允许的范围之内,抑制其负面伦理价值的出现;“内在主义”进路的算法伦理学主要关注如何发挥算法在解决伦理问题中的积极作用,如共识算法对信任问题的解决,加密算法对隐私问题的解决等,其目标是积极主动地把道德规范嵌入算法之中,使算法在助推人们做出合理恰当的决策和行为上发挥更大的作用。当然,算法作为一种智能技术,它与一般技术不同的是,算法还有可能进化出完全自主的道德能动性(moral agency),能够独立地进行道德的推理与决策,甚至像人一样成为真正的道德主体(moral agent)。此种情形既不能将其归入“外在主义”进路,也不能归入“内在主义”进路,而是算法领域中特有的一种运思路径,姑且称之为“第3种”进路。本文主要关注的是如何在算法中实现道德的物化,属于“内在主义”进路的算法伦理。 二、算法的价值负载性 与技术伦理类似,算法伦理面临的首要问题是:算法是价值中立的还是价值负载的?如果算法是价值中立的,那么算法伦理就没有存在的必要。因此,我们首先需要对算法的价值负载性进行论证。本文认为,算法与技术一样,也是负载伦理价值的,它既可以引发新的伦理问题或加剧原有的伦理问题,也可以消除和化解原有的伦理问题。算法的价值负载性主要体现在如下3个方面: 第一,算法中预设某种价值立场。人类活动总是伴随价值维度,算法设计活动也不例外。不论是有意还是无意,算法设计背后都会体现设计者的某种价值预设,“运行参数由开发人员设定,并由用户进行配置,他们出于某种希望结果而把某些价值和利益置于其他价值和利益之上”[2]。例如,在自动驾驶汽车的算法设计中,设计者就不可避免地要在“功效论”和“义务论”等价值原则之间进行取舍,不论最终选择哪种价值原则,设计者总是要预先设定一种价值原则。如果设计者存在某种价值偏见,其算法也会相应地体现其价值偏见性。更为严重的是,算法不仅会继承人类的偏见,这种偏见还有可能随着数据的积累和算法的迭代而

参考文献

引证文献

问答

我要提问