人工智能算法的伦理谜题

作者:陈永伟; 刊名:群言 上传者:刘娅

【摘要】<正>近年来,人工智能技术获得了突飞猛进的发展,迅速从一种未来科技走进了现实的生产生活。人工智能的发展,让历次科技革命和产业变革所积蓄的巨大能量得到释放,为经济增长提供了新引擎,使社会生产力获得了极大的提升。但与此同时,作为一种新事物,它也和既有规则产生了很多冲突,从而造成了伦理方面的问题。

全文阅读

近年来,人工智能技术获得了突飞猛进的发展,迅速从一种未来科技走进了现实的生产生活。人工智能的发展,让历次科技革命和产业变革所积蓄的巨大能量得到释放,为经济增长提供了新引擎,使社会生产力获得了极大的提升。但与此同时,作为一种新事物,它也和既有规则产生了很多冲突,从而造成了伦理方面的问题。从总体上讲,现阶段的人工智能还处于“弱人工智能”阶段,它的载体主要是各种形式的算法,因此现阶段人工智能带来的伦理冲突也主要集中在算法伦理方面。算法造成的问题,谁来“背锅”?们发现道琼斯指数发生了异动,从平缓波动瞬间一路下跌。短短几分钟,指数就下跌了1000多点,超过一万亿美元的资产瞬间灰飞烟灭。究竟是什么导致了这一切?是突发的危机,还是美联储的货币政策变化?都不是。造成这一切的只是算法!在美国金融市场上,利用人工智能算法进行高频投资十分寻常。为了迅速捕捉市场机会,很多机构都编制了相关投资程序。在这些程序中,有一条规则通常会被写入,那就是在遭遇市场异动时,要紧急抛出手中的股票以及时止损。这个规则本来是用于保障投资安全的,却意外成为引发股市暴跌的导火索。当天下午,一家公司提交了一份数额较大的卖单。正巧,当时的市场上没有足够买家来接这笔卖2010年5月6日下午两点左右,美国的股市单。供大于求,这给市场发出了一个下行的信交易员们像往常一样盯着电脑屏幕。突然,他号。如果在传统的股票市场,这根本算不了什 么,不久之后市场就会自动调节过来。但在高度依赖算法的市场,情况就不同了。无数金融机构的交易程序都监控到了这个下行的信号,并迅速自动启动了抛售止损的机制。这样一来,一个小事件迅速演变成了一场血淋淋的大挤兑。在人工智能时代,越来越多的决策权被交给了算法。但算法本身并不是完美无缺的,由于设计上的漏洞,它们也会犯错误。可以预言,这场股市的暴跌绝不会是算法带来的最后一次重大事故。当面临这种问题时,究竟谁才应该负责,是算法的设计者、使用者,还是算法本身?这是一个颇为值得探讨的问题。如何看待算法带来的分配效应?2 017年12月的一天,一位网友在微博上吐槽说,自己经常通过某著名旅行网站预订一家出差住的酒店,价格长年都在380—40 0元之间。在一次办理入住时,他意外了解到该酒店的淡季房费在300元左右。他用朋友的手机一查,果然是300元。于是,他怀疑作为一名老用户,自己被旅行网站大数据“杀熟”了。该吐槽帖一发出,就引发了强烈共鸣,很多网友都表示自己有过同样的经历。后来,北京市消费者协会对“杀熟”问题进行了一次在线调查,结果显示,88.32%的被调查者认为大数据“杀熟”现象普遍或很普遍,认为一般或不普遍的被调查者仅占11.68%,56.92%的被调查者表示有过被大数据“杀熟”的经历。从被调查者经历过的大数据“杀熟”手机软件或网站的类别看,购物类占44.14%,在线旅游类占39.5%,打车类占37.17%。此外,外卖类、视频类、电影类手机软件也被反映存在不同程度的大数据“杀熟”现象。从本质上讲,算法“杀熟”是经济学中价格歧视的一种体现。如果大家对经济学有一定了解,就会知道从社会整体的角度看,价格歧视本身是有效率的—它可以促进更多的交易,实现更多的社会总剩余。然而与此同时,并不是所有人都能从这个过程中获得同样的好处。经济学理论分析表明,企业通过“杀熟”可以获取更多利润,未被“杀熟”的消费者也能由此获得更高的效用,但被“杀熟”的消费者则会被剥夺大量的消费者剩余,其福利会受到很大损害。像这种在总体上促进社会效率的同时产生分配效果,导致有人得、有人失,有人得到多、有人得到少的情况,应该怎么评价?其争议目

参考文献

引证文献

问答

我要提问