热门关键词:ag真人怎么买,ag真人  
当前位置:首页 > 企业新闻
系统漏洞敲响AI安全警钟-ag真人
2021-05-28 [28948]
本文摘要:最近,腾讯安全平台部Blade团队宣布,在谷歌人工智能自学系统TensorFlow上开展代码审查时,没有根本的安全漏洞,有可能利用编辑好的AI场景,遭到故意反击。

最近,腾讯安全平台部Blade团队宣布,在谷歌人工智能自学系统TensorFlow上开展代码审查时,没有根本的安全漏洞,有可能利用编辑好的AI场景,遭到故意反击。现在谷歌官网已经证明了这一漏洞,TensorFlow官网在网站上制作了安全公告页面,及时披露和修复了安全漏洞。还没有影响的TensorFlow是谷歌开发的第二代人工智能自控系统,可以在小智能手机、大数据中心服务器、数千台数据中心服务器的各种设备上运营。

除谷歌外,eBay、Airbnb、Twitter、Uber等海外企业、国内小米、中兴、京东等公司还在TensorFlow开展AI模型的培训和开发。安全平台部的Blade团队复活了科技日报记者,这次发现的脆弱性不仅反击成本低,一般攻击者不仅可以执行反击,而且混乱性很强,很多AI研究者可能没有准备好。

安全漏洞的风险很高,主要问题是TensorFlow在训练AI模型时没有考虑避免异常的AI模型,而是继续执行黑客的指令逻辑。幸运的是,这种脆弱性还没有被“有心人”利用,导致了严重的结果。安全团队认为,为了彻底解决问题,TensorFlow框架需要更改废弃模型的体系结构,课题是对整个体系结构设计的更改。

ag真人

现在,使用者应该防止外部用的AI模型,等待正式发行补丁。迄今为止的业内人士指出,由于AI框架才开始广泛使用,因此在报告第一次安全性风险之前,业界对这种安全性问题的关心程度太高了。

北京市计算机中心算法工程师张秀玲表示,目前这些第三方基础库是端到端比较成熟期平稳的平台,可以省去很多基础编程工作, 必须在这些基础库上设计算法框架的安全团队现在很多软件依赖于TensorFlow、Caffe、Torch等第三方开源库,因此这里也很脆弱可能不存在AI的安全漏洞分为两类。“第一个是AI算法本身的漏洞,例如有瞧不起AI、失误AI的方法。到目前为止,行业和我们队利用特制的交通标志来愚弄自动驾驶系统。

’腾讯安全小组说。此外,它属于传统软件的漏洞,包括处置文件的漏洞和部署第三库带来的漏洞。腾讯安全团队应对,什么样的风险是这个AI系统的能力要求的? 如果是相关国家计量民生的大系统,不会造成相当大的危害,也不会有AI失控,被黑客控制。我国7月发布的《新一代人工智能发展规划》明确指出人工智能发展的不确定性会带来新的挑战。

在大力发展人工智能的同时,要高度重视可能带来的安全性风险挑战,加强前瞻预防和制约的引领,最大限度地减少风险,保证人工智能的安全性、可靠性和高效发展。安全腾讯安全小组指出,安全防水是两翼工程,从算法和代码层面考虑,从脆弱性的原因两方面考虑,算法没有问题,代码也必须确保安全。


本文关键词:ag真人怎么买,ag真人

本文来源:ag真人怎么买-www.alangmanja.com