推动负责任的人工智能研究与创新

作者:浮婷 刊名:WTO经济导刊 上传者:顾伯龙

【摘要】近年来,负责任研究与创新(Responsible Research and Innovation, RRI)逐渐成为研究热点.它建立在多学科背景的理论基础上,是对包括人工智能、互联网、大数据、纳米技术、基因研究等新兴研究与创新领域的深刻反思.在工业革命以及工业革命之前的时期里,科学技术往往以一种绝对正面的力量而存在,它被哲学家认为是一种美德,也被称之为人类社会进步的标志.而在两次世界大战中,科技开始呈现出"恶"的一面,催生了包括核武器在内的威胁人类命运的成果,成为了战争的帮凶.

全文阅读

W T O 经 济 导 刊 C H IN A W T O T R IB U N E 51 推动负责任的人工智能研究与创新 PROMOTING RESPONSIBLE AI RESEARCH AND INNOVATION 文 | 浮婷 近年来,负责任研究与创新(Responsible Research and Innovation, RRI)逐渐成为研 究热点。它建立在多学科背景的理论基础上,是 对包括人工智能、互联网、大数据、纳米技术、 基因研究等新兴研究与创新领域的深刻反思。在 工业革命以及工业革命之前的时期里,科学技术 往往以一种绝对正面的力量而存在,它被哲学家 认为是一种美德,也被称之为人类社会进步的标 志。而在两次世界大战中,科技开始呈现出“恶” 的一面,催生了包括核武器在内的威胁人类命运 的成果,成为了战争的帮凶。 科学研究的“价值中立主义”最早由德国 社会学家马科斯·韦伯(1914 年)提出,这一 理论强调的是包括社会科学在内的所有研究应当 秉持一种“价值中立”的原则,实际上指出了科 学研究从选题到提出假设都包含着主观的价值判 断。科学研究中纯粹的“价值中立”实际并不存 在。为此,负责任研究与创新完全扬弃了所谓的 “价值中立”,主张在新科技影响越来越重大的 背景下,在研究与创新阶段就贯穿对影响负责任 的理念,实现社会价值、环境价值和道德标准的 和谐统一,真正将“社会中的科学”转变为“为 社会的科学”以及“与社会共生”的科学。 在负责任研究与创新的理论模型中,具有代 表性的是英国学者斯蒂尔戈与欧文等(Stilgoe et al. ,2013 年)提出的“预见性—反思性—包容 性—回应性”四维框架。其中“预见性”是指研 究与创新本身所涉及到重大影响需要提前进行分 析、认知与管理,既包括了对风险的预防也包括 了对于参与者、受益者、替代方案等一系列问题 的关注 ;“反思性”是指研究与创新必须充分考虑 法律法规的约束条件和道德要求,确保实验室中 的研究与创新能够充分反映社会诉求。“包容性” 是指研究与创新的过程必须最广泛地邀请利益相 关方参与,并将关键群体的诉求纳入到研究重点 议程范围。“回应性”是指保持研究与创新全过程 的透明和接受监督,并对政策监管、技术标准、 知识产权、文化背景等诸多方面积极做出回应。 “预见性—反思性—包容性—回应性”四维框架 能够促进责任价值融入实验室的基础研究与企业 所推动的应用创新的过程,对于人工智能这样基 础研究与企业创新并行的前沿热点领域尤为重要。 1. 预见性 :我们需要什么样的人工智能? 目前人工智能的快速发展是移动互联产生的大数 据、机器学习算法演进和硬件发展遵循摩尔定律 共同驱动的结果。如果说人工智能发展在多种条 件成熟之后具备了发展的前提和动力,那么应当 将人工智能引向怎样的方向则是超越技术范畴的 社会问题。我们需要考虑的不仅仅是人工智能研 究创新需要避免什么,同时也应该清楚的是我们 究竟希望从人工智能发展中获得什么。这里需要 纳入考量的两条必要原则是 :A. 人工智能的研 究与创新需要利于经济、社会环境可持续发展。 人工智能的意义远不仅仅体现在商业价值,目前 企业推动的人工智能模式识别大量被用在了推销 产品和制造消费需求上,所有寻找所谓用户“痛 52 2 0 1 8 年 第 0 3 期 总 第 1 7 3 期 前 沿 议 题ADVANC ED TO PIC 点”的商业策略都可谓不痛不痒,关于资源、环 境、社会平等等方面的重大问题却鲜有关注,这 是一种缺乏预见的方向性偏差。B. 人工智能的

参考文献

引证文献

问答

我要提问