强人工智能与弱人工智能的伦理问题思考

作者:莫宏伟 刊名:科学与社会 上传者:阮炳威

【摘要】机器人是人工智能研究的主要对象和领域之一。机器人伦理是哲学伦理学的一个新研究方向。机器人伦理与人工智能伦理在对象和内容方面还有很多差异。强人工智能与弱人工智能由于处于不同的发展阶段而面临不同的伦理问题。以深度学习为代表的现实中的弱人工智能给社会带来的伦理问题与未来可能要实现的强人工智能一样值得思考和重视。本文分析了弱、强人工智能带来的益处和风险,提出了防范人工智能伦理风险的对策。

全文阅读

14 《科学 与社 会》(S&S) 强人 工 智能 与 弱 人 工智 能 的 伦理 问题 思考 莫宏伟 (哈尔滨 工程 大 学 自动 化 学院 ) 摘 要:机 器人 是人 工智 能研 究 的主要 对 象和领 域之 一 。机 器人伦 理 是 哲学伦理 学的一个新研 究方向。机 器人伦理与人工智能伦理在对 象和 内 容方面还有很 多差异。强人工智能与弱人工智能 由于处于不 同的发展阶 段而面临不同的伦理问题 。以深度 学习为代表 的现 实中的弱人 工智能给 社会带来的伦理 问题 与未来可能要 实现的强人 工智能一样值得 思考和重 视 。本文分析 了弱、强人 工智能带来的益处和风险,提 出了防范人 工智能 伦 理风 险 的对 策 。 关键 词 :机 器人 伦 理 ,人 工 智 能伦 理 ,强人 工智 能 ,弱 人 工 智能 , 深度 学 习 中 图分 类 号 -B829 文 献标 识 码 :A 1956年 “人 工 智 能 ”概 念 正 式诞 生 。在 其 60余 年 的发 展 过 程 中 高潮 低谷几经波折。2015年,谷歌的 AlphaGo战胜围棋高手李世石,再次拉开 了高潮 的序 幕,这距 离 上 次 高潮 已经 过 去近 30年 。 从技术层面 上讲,此次高潮 是在上世纪 80年代第二次浪潮基础上形 作 者 简 介 :莫 宏伟 ,哈尔滨 工程 大学 自动化 学 院教授 。研 究方 向为人 工智能 、机器 人与无 人机 系 统、类脑计 算。 第 8卷 第 1期 2018年 15 成的。因为第二次浪潮是 以人工神经 网络为主流,而 这一次高潮 的技术 基础—— 深度学习,恰恰是人工神经网络的一个具体方法 。确切地说,是 基 于 人 工神 经 网络 (基 于 人 工 神 经 网络 的机 器 学 习方 法 )的深 化 ,它 比 以 往任何机器学 习方法更高效地解决更复杂 的任务 。当然,计 算能力 的提 升 以及 大 数 据技 术 的 发 展也 是 深度 学 习的性 能得 以展 现 的主要 原 因 。 应用层面上,从语音识 别、机器翻译 到医疗诊断、自动 驾驶 ,基于深 度 学 习 的应 用 在 不 断 加 深 、不 断 成 熟 ,甚 至 在 很 多 方 面 已经 开 始 超 越 人 类 。由于 一 些 成 熟 的技 术 带来 的 巨大 的 利 益诱 惑 ,国 内外 主 流 的 互 联 网 公 司 ,如 谷 歌 、亚 马 逊 、Facebook、百度 、腾 讯等 ,纷纷 布 局 人 工 智 能 ,创 业 和投 资 的热潮 也从 前几年 的无人机、虚 拟现 实全面延伸 到人工 智能领 域 。短 短 两 年 ,全 球 已经 有 几 千 家 人 工 智 能 公 司 ,市 场 规 模 增 长 空 间 巨 大,预计未来十年 内将创造万亿美元的价值 。 人类似乎已经进入 了一个人工智能的美好时代,与此 同时,在对未来 的美 好 憧 憬 中,也 不 乏 对 人 工 智 能 带 来 的负 面 影 响 的 担 忧 。这 些 担 忧 提 醒 人 们 在 乐观 期 待 未 来 的 同 时 ,也 应 关 注 人 工 智 能 可 能 带 来 的风 险 ,这 就产生了人工智能伦理 问题 。本文从强、弱人工智能两方面进行分析 。 一 、 人工智能伦理 的应有之意 历史上几乎每一项重大技术,比如 电力、蒸汽机、通 讯以及计算机和 互联 网等,都会给之前 的传统社会 带来风 险和 挑战,诸如失业、隐私、安 全 等 等 。而 人 工 智 能之 所 以 比 以往任 何 一 个 时 代 的技

参考文献

引证文献

问答

我要提问