2020BCS-北京网络安全大会：迎接智能时代新挑战 构筑AI安全新防线.pdf

1、2020北京网络安全大会2020 BEIJING CYBER SECURITY CONFERENCERiSKPERCONENCEHMANAGEME迎接智能时代新挑战构筑AI安全新防线GDPRLEARNINGTRUAPPWORLDENDPOIMENDPOINENSE百度-马杰BEHAVIORAL ANALHUMAN PROCLOUEONTERNETIONBEHAVIORALANALYRESPONSETECHNOLOGY#page#2020北京网络安全大会注定不凡的2020020BE1JIIt was the Best of TimesIt was the Worst of Times.Charl

2、es Dickens A Tale of Two Citiies#page#2020北京网络安全大会AI时代的安全新挑战020BE1J1智能设备无处不在万物互联旧有顽疾系统漏洞、设备动持、云集中爆发端风险、数据安全、隐私泄露.AI推动各行各业智能化转型AI算法有时本身也会“犯全新问题错”，这让AI本身的安全性也变得更为重要，并超持续出现乎我们对于安全边界与框架的传统认知范時。Whatyying about you#page#2020北京网络安全大会百度在AI模型安全领域的前沿研究020BEIJIN对抗样本攻击在数据集中通过故意添加细微的干扰形成输入样本，导致AI模型以高置信度给出错误输出典型案

3、例：对于自动驾驶视觉识别系统的攻击针对交通标识识别的攻击停停STOP欺骗车辆误判指示伪造不存在物体无中生有导致急刹等危险反馈针对路面车辆识别的攻击欺骗车辆漏检前车造成追尾#page#page#2020北京网络安全大会百度在AI模型安全领域的前沿研究020BE1JI“AI换脸”被滋用科技莫成“黑产”帮肉安全隐患便利视频伪造或成为谣言传播帮区AI换脸技术引发争议法律风险从一夜爆红到被约谈整改，又一次或涉嫌蓝用个人肖像权为网络数据安全问题敲响警钟。或造成侵犯个人隐私人民日报海外版社会问题或被用于非法获取个人信息或造成个人信息泄露媒体持续关注或被用于欺诈等犯罪活动2019年7月18日新京报评论文章#p

4、age#2020北京网络安全大会百度在AI模型安全领域的前沿研究国家网信办等三部门印发网络音视频信息服务管理规定于2020年1月施行：立法保障规范AI换脸等网络音视频活动，加强监管，加大违法行为打击力度百度在2019年DEFCONCHINA1.0极客大会公布最新研究成果：假脸识别基于深度学习卷积神经网络（CNN）有效进行换脸视频“打假”。技术研究面部特征检测法：识别准确率达到94%；面部边缘检测法：达到99%。百度安全现已全面开源业内首款A换脸检测工具https:/ AI Security Stack (BASS）下一代人工智能安全技术栈OpenRASPAdvBox对抗样本工具箱下一代云端安全

5、防护系统七大技术汇成AI安全“七种云端武器”，全面解决云管端以MesaTEEHugeGraph大规模图数据库下一代可信安全计算服务及大数据和算法层面的一系列安全风险问题。MesaLink TLS管道下一代安全通信库OASES KARMAMesaLock Linux终端系统自适应热修复内存安全操作系统#page#2020北京网络安全大会百度最佳安全实践：开放的代码与技术020BE1J数据脱敏数据核实联邦分析联邦学习百度安全联邦计算平台致力打造更安全的数据合作体验，为跨机构数据合区家作提供联合分析、联合建模等隐私安全能力，为联邦学习的大规模工业化落地提供产品技术解决方案。2020年7月，中国通信标

6、准化协会关参与方【A】参与方【B】数据加密于联邦学习的团体标准基于联邦学习的数据流通产品技术要求与测试方法正式出炉，百度作为主要参与拟心跳状态定单位参与了标准的制定及发布协调模块百度安全联邦计算技术架构#page#2020北京网络安全大会构建AI安全开放生态020BE1JIOASES安医联合智能终端安全生态联盟专利共享核心开源标准驱动2019年11月2019年12月OASES获国家级智能终端安全联合实OASES首届理事会在中国信通院举行产业共赢验室授牌ISCAS该卫大学CAI