您的位置:首页 > 互联网

AI透明度引发关注 科技巨头推工具解释算法决策过程

发布时间:2018-09-27 09:28:49  来源:互联网     背景:

  北京时间9月27日消息,人工智能技术的透明度和道德伦理问题正引发越来越多的关注,这促使云计算服务提供商推出新工具,解释人工智能算法背后的决策过程。

  会计和金融等强监管行业的高管表示,数据科学家和非技术业务经理都必须能理解算法决策背后的流程。这至关重要。这样的理解在防范潜在道德违规和监管违规方面可能会带来深远影响,尤其考虑到企业级人工智能算法正变得越来越普遍。

  毕马威创新和企业解决方案部门负责智能自动化、认知和人工智能的高管维诺德·斯瓦米纳桑(Vinodh Swaminathan)表示:“我认为,除非具备这种解释能力,否则人工智能在企业中的规模不可能超过数百个试点应用。”

  对人工智能的解释问题已经促使IBM和谷歌等公司在云计算人工智能服务产品中引入透明度和道德伦理工具。

  IBM商业价值研究所近期的一项研究调查了5000名企业高管。约60%的受访者表示,他们关心如何解释人工智能使用数据作出决策,以达到监管和合规标准。这个比例较2016年时的29%大幅上升。

  甚至对数据科学家和相关企业高管来说,人工智能的决策过程有时都是“黑盒”。在深度学习工具,例如用于模式识别的神经网络中尤其如此。这样的神经网络试图模拟人脑的运转方式。

  尽管这些系统可以以前所未有的准确率和速度得出结论,但外界并不总是非常清楚,计算网络是如何做出具体的决策。

  毕马威内部的数据科学家正在开发自主的可解释性工具,此外该公司也在利用IBM新的透明度工具。斯瓦米纳桑表示,这样做的目的是确保技术和业务两方面的员工都能“打开黑盒”,准确地了解人工智能算法是如何做出结论的。

  IBM上周发布了新的云计算人工智能工具,可以向用户展示哪些主要因素影响了人工智能做出的建议。这些工具还可以实时分析人工智能决策,以识别固有偏见,并推荐数据和方法来解决这些偏见。IBM负责认知解决方案的高级副总裁大卫·肯尼(David Kenny)表示,这些工具可以与IBM人工智能服务,以及谷歌等其他云计算服务提供商的工具配合使用。

  谷歌研究科学家和软件工程师发布的博文则显示,谷歌去年开始为开源的机器学习代码发布新工具,“作为更广泛研究的一部分,满足对可解释性的政策目标”。谷歌本月早些时候发布的另一款人工智能工具允许非程序员检查和调试机器学习系统,以评估算法的公平性。

  微软正通过Azure来提供人工智能服务。该公司发言人表示,人工智能系统的设计需要有公平、透明和安全的保护,从而确保信任。微软正在这方面做出持续的努力。亚马逊没有对此问题做出回应。

  来自强监管金融行业的Capital One Financial Corp和美国银行正在研究,如何解释人工智能算法得出答案的背后原理。两家公司都表示,目标是利用人工智能来优化对欺诈的监测,但首先它们需要了解这些算法是如何工作的。






  声明:本文仅为传递更多网络信息,不代表本站观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页

本文评论
“快时代”如何讲好品牌故事 百度AI助力武汉打造城市名片
“万里长江,九省通衢”,如今的武汉已经成为我国中部地区重要的经济、交通与文化枢纽,......
日期:09-26
刚刚 腾讯宣布大变革!互联网开启下一个时代!
今天,腾讯在20岁生日之际,宣布组织架构调整方案:既保持深耕垂直领域的优势和特点,保留原有的企业发......
日期:09-30
永无止境的贝佐斯:亚马逊的发展关键词便是不拒绝
亚马逊创始人杰夫·贝佐斯已成为当今世界公认的商界奇才。其最令人瞩目的成就便是将亚马逊从......
日期:09-29
Facebook发现安全漏洞:黑客可控制5000万用户账号
北京时间9月29日早间消息,Facebook周五宣布,该公司发现了一个安全漏洞,黑客可利用这个漏洞来获取......
日期:09-29
海信大显示布局新动作!55英寸内窥镜显示器将首次亮相CMEF
海信大显示布局又现新动作。5月13日,在上海举行的国际医疗器械展览CMEF上,海信自主研发的新一代4K......
日期:05-07
合作伙伴上线“顺丰打车” 顺丰:未经允许 解除合作
顺丰北京区此前与搬运帮是有达成初步合作意向,但搬运帮未经顺丰允许,擅自借用顺丰品牌宣传自身业......
日期:09-27
别在“红海”里内卷了,天猫发布食品十大趋势,这些赛道才是增量
5月7日,天猫食品行业商家大会暨“全球美食盛宴”在上海开启,天猫发布了食品消费的十大......
日期:05-07
特大跨境色情直播平台被端 腾讯手机管家支持查杀恶意色情软件“Max”
移动互联网时代,网络风险加剧给安全防御带来了挑战。为保障用户财产安全,营造绿色的网络环境,今......
日期:09-27
涂鸦智能深耕“全屋智能”,拥抱行业生态新未来
“在不远的未来,没有智能家居系统的住宅会像不能上网的住宅一样不合潮流。”比尔﹒盖茨......
日期:09-28
光通信与5G不断结合 打造端到端网络
目前5G已成业界热议话题,而光通信虽然看起来没有像5G那样风头正盛,但是光通信技术作为5G的重要支......
日期:09-27
一加终于开始打造周边生态 智能电视将作为家庭场景第一入口!
提到国产智能手机中的小众品牌,一加科技应该会成为多数人第一印象的小众手机品牌,一方面公司成立......
日期:09-29
新石器亮相《新闻联播》 无人售卖车服务雄安
国庆期间,全国人民在欢度国庆和享受假期的同时,仍有不少劳动者仍旧坚持在服务一线,保证游客的安......
日期:10-03
MIUI 13支持机型曝光
(原标题:MIUI 13支持机型曝光:多达89款、折叠屏成小米MIX系列升级独苗)...
日期:05-11
嗨学网:培养“大国工匠”是职业教育品牌的使命
目前,我国经济已由高速增长阶段转向高质量发展阶段,人力资源作为世界上最宝贵的资源,作用日渐凸......
日期:05-08
零售业步入新纪元 数据智能如何让其露出“价值冰山”
过去两年,零售这个古老而传统的行业被推到了技术革新的风口浪尖。这场变革为何来得如此突然?背后的......
日期:09-30
刚刚 腾讯宣布大变革!互联网开启下一个时代!
今天,腾讯在20岁生日之际,宣布组织架构调整方案:既保持深耕垂直领域的优势和特点,保留原有的企业发......
日期:09-30
国庆雄安新亮点 新石器无人售卖车全天迎客
2018年10月1日国庆节首日,雄安新区迎来大批关注雄安新区建设与发展的游客,为给游客提供便利、高效......
日期:10-02
扎根中国,拥抱海南,戴尔以数字化优势助推自由贸易港建设
被誉为游戏PC“王者”和玩家“信仰“的ALIENWARE率先登陆海南......
日期:05-08
5G与AI缘何成今年PT展两大“吸睛”热点?
2018年9月26日,记者参加2018年中国国际信息通信展览会(简称PT展),一上午看遍大部分展台,入眼最多......
日期:09-27
办伴科技 — 筝际智慧办公助力企业提前进入未来办公模式
成都 2018第八届GCUC 全球联合办公峰会成都分会于9月初召开,峰会以“Work Better,W......
日期:09-29