主页 > 食品设备 > 正文

腾讯AI安全专家:安全可信是人工智能的底线 《

发布时间 2021-07-12

  中新网上海新闻7月11日电(郑莹莹)以“智联世界 众智成城”为主题的2021世界人工智能大会于7月8日至10日在上海举办。在今年的人工智能大会上,人工智能安全再次被热议。腾讯朱雀实验室首席AI安全专家朱季峰指出,如果说AI算法商业上的价值,决定了它的发展高度,那么一旦它发展到一定水平,安全问题可能就会凸显甚至突然爆发,“用人工智能意味着要对它的安全可信做一定保障,现在来讲,这是一个很重要的底线。”

  从攻防角度看,当前业界还缺少一份具有实用价值的AI安全技术指导框架,结合AI和安全行业经验,腾讯AI Lab、腾讯朱雀实验室、香港中文大学(深圳)、深圳大数据研究院大数据安全计算实验室一同调研和研究了AI安全领域最前沿的技术成果,给出了业界第一份针对AI安全的具有实际指导建议的技术框架——《AI安全威胁风险矩阵》。

  在人工智能安全方面,整体上来讲国内外技术起步差异不大,但其中有些领域是国外提前倡导,而且发展的比较完整的,我们还需要不断去跟踪和学习,“个别方向上可能存在一定差距,整体上来讲,应该说我们还是潜力巨大的。”朱季峰表示。

  他指出,一个新技术产生之后,它的安全问题实际上是伴生而来的,现在来看,我们的人工智能在应用领域发展得更早一些,在安全上实际上是后发,“出现问题,我们纠正弥补,这样一个发展模式。”我们希望未来技术成熟后,安全可以作为原生能力嵌入到AI系统当中。

  据介绍,《AI安全威胁风险矩阵》的独特性在于它率先以全生命周期视角来看待人工智能领域可能存在的各类安全问题。自去年发布第一版白皮书后,其内容和素材又进行了重新整合,包括增加了12个技术点,12个原理和攻击展示视频,AI算法漏洞的追踪等。这份安全矩阵可以帮助业界掌握AI安全的各个侧面,帮助对AI安全问题感兴趣的企业,研究人员,开发人员系统地查找AI存在的风险界面,像字典一样,根据不同的阶段来查找已知存在的潜在安全问题。全新升级后的内容预计将于近期正式发布。

  通常人们说起网络安全问题,更多印象可能是病毒、木马、漏洞、操作系统、软硬件这样的问题,但其实在AI领域,还有其他层面带来的一些问题,比如当人工智能跟传统技术结合的时候,也会产生一些新问题。

  朱季峰介绍说,行业可以根据自身的AI部署运营基本情况,对照《AI安全威胁风险矩阵》来排查可能存在的安全问题,根据推荐的防御建议,加固已知存在的系统风险。

  “这个矩阵是动态更新的,随着安全研究的不断深入,我们会不断新增攻击者战术阶段,风险矩阵会定期更新,走在业界安全研究前沿。”

  据了解,腾讯朱雀实验室是腾讯安全平台部旗下的安全实验室,专注于实战攻击技术研究和AI安全技术研究。

  朱季峰表示,“科技向善”是腾讯的使命愿景和价值观;从技术人的角度来说,能用代码去守护到弱者安全、让科技的力量帮助到更多人,能让人感到安全感,是他与有荣焉的事情,“AI向善的价值还有很多,我们也会一直坚守科技向善、AI向善的理念。”(完)