分享热点新闻
打造优质自媒体!

三维护送AI时代百度马杰百度世界大会详细AI安全地图

9月15日,一年一度的2020年百度世界大会以“万物皆智能”为主题正式揭幕。在百度大脑分论坛上,百度, 马杰,副总裁发表了题为“智能是大脑,安全是基础”的主旨演讲,系统阐述了百度大脑在AI安全领域的一系列能力布局和最新进展。

众所周知,随着物联网和大规模智能合作的逐步深入,人类正在进入一个深度智能经济发展阶段。作为核心问题之一,人工智能的安全挑战不仅影响整个人工智能系统的稳定性和可靠性,而且直接影响人工智能计算能力、算法和数据的应用,也为相应的安全能力建设提出了新的要求和新思路。

三维护送AI时代百度马杰百度世界大会详细AI安全地图 科学快报 第1张

百度副总统(马杰)

面对一系列全新的安全挑战,马杰在演讲中将人工智能安全分为三个维度进行考虑,即安全、安全和隐私,从而探索出更有针对性的解决方案。

在安全层面上,即强对抗环境下的安全威胁,来自物理世界和数字世界的攻击可能导致对检测设备和深度学习模型的误判,导致AI系统工作过程中出现“指鹿为马”、“无中生有”、“无中生有”的情况。

非对抗条件下来自自然环境的真实威胁,即环境因素对现实世界中输入数据在安全级别上的正常干扰,也可能影响深度学习模型的分类和预测。

因此,百度引入了系统的模型稳健性评估框架。从光照、空间变换、模糊性、噪声和天气变化等多种安全属性入手,根据不同的模型任务场景制定评估标准,有助于行业更好地量化评估潜在的安全威胁和模型鲁棒性。同时,百度还首创了AdvBox计数器样本工具箱。从安全性验证、模型强化、反样本检测、模型鲁棒性的形式化验证等方面。它帮助主流机器学习平台如飞桨和TensorFlow快速提高模型的健壮性。

三维护送AI时代百度马杰百度世界大会详细AI安全地图 科学快报 第2张

在隐私层面,即数据安全和隐私保护层面,隐私合规性检测、差异隐私、AI自动脱敏、联邦计算、可信计算等安全技术的应用将贯穿数据收集、处理、流通、计算的整个生命周期。它将为数十亿大规模数据的安全联合计算创造可能性,还将为金融、医疗和政府事务领域的联合分析、联合风险控制和联合营销提供数据安全,并进一步释放数据的价值。

目前,依托PaddleFL联邦学习开源框架,百度领先的联邦学习和具有隐私保护的机器学习能力已经与百度大脑深度融合,为工业应用中飞桨的跨组织数据协作提供了重要的辅助工具支持。

“我们希望通过长期的研究和实践,我们能够在这些威胁造成巨大伤害之前就跑起来。”马杰重申了百度增加人工智能安全投资的必要性。事实上,它不仅关系到人工智能时代的许多关键安全场景,而且已经成为世界上一个紧迫的挑战。比如,在备受争议的AI变脸问题上,百度研发并开通的业界首款AI变脸检测工具,可以有效“假冒”深度伪造和合成技术,为监管部门拦截电信网络诈骗等非法活动提供协助。

当然,围绕计算能力、算法和数据的安全研究和解决方案只是百度脑AI安全系统框架的一部分。面对人工智能安全生态的更广泛挑战,基于全面开源的“七大武器”、BASS、下一代人工智能安全技术堆栈等人工智能安全核心技术,百度正在为解决人工智能生态在云、管理、终端和大数据及算法层面的一系列安全风险提供支持。

三维护送AI时代百度马杰百度世界大会详细AI安全地图 科学快报 第3张

正如本次百度世界大会的主题“万物智能”一样,作为百度大脑的核心架构之一,百度AI安全能力将继续致力于AI生产平台的升级和工业智能的转型。从安全、安全和隐私维度,创造一个更安全的人工智能,创造一个更安全的人工智能时代。

评论 抢沙发

7 + 3 =