兼顾主动被动的AI防御研讨会旨在推进国检中心建设高质量

扫码安装企鹅App

瑞莱智慧朱萌：人工智能安全防御要兼顾主动与被动

亿欧 2022-01-19

苹果手机人脸识别解锁和支付新应用，让人脸识别向大众开放。随着大规模商业化，人脸识别技术在利益的考量下成为一种时尚的认证方式，甚至在某些生活中成为场景中必不可少的一部分。商家计算利润，或为了降低成本和最大化利润，或收集肖像数据以实现用户档案的完整性，甚至出售个人信息在黑市中获利。

近日，由国家工业信息安全发展研究中心主办的人工智能集成开发与安全应用研讨会成功举办，吸引了商汤科技、亚信安防、旷视科技、海康威视、陆深视等多家企业的专家和代表参加。其他人工智能公司。此外，来自国家工业信息安全发展研究中心、中科院、清华大学的专家也参加了本次研讨会。

主动和被动AI防御

本次研讨会旨在推动国检中心高质量发展计算机安全的属性是指，优化资源配置，加强人工智能领域布局。中心专委会专家今后将继续开展技术研发、标准制定、政策研究等相关工作，推动人工智能产业高质量发展。

会上，瑞莱智能高级副总裁朱萌就人工智能的安全风险发表了主题演讲。朱萌简单介绍了人工智能面临的安全风险：包括算法风险、人工智能对数据基础的高度依赖、隐私数据泄露和技术滥用风险。

RealAI的RealAI朱萌在会上指出，人工智能风险应对需要遵循三个基本原则：前瞻性；整体的；技术属性和社会属性高度融合。面对人工智能技术和解决方案的纷繁复杂的选择，整合人工智能产业链上下游资源，打造技术应对是行业的迫切需求。凭借在人工智能攻防领域的丰富实践经验，瑞利智慧提出了兼顾“被动”和“主动”的技术防御机制。例如，朱萌表示，瑞莱智能的“四大安全平台”：AI安全防火墙、人工智能安全平台RealSafe、

AI安全防火墙类似于传统的网络安全防护墙。业界第一款AI安全防火墙。它可以抵抗对抗样本攻击和深度伪造攻击等新的攻击方法。攻击拒绝率高达98%。

人工智能安全平台RealSafe通过搭载的攻击算法模拟对系统的攻击，对系统性能进行评估，综合给出安全评分，指出安全漏洞在哪里。用户再利用配备的防御算法，有针对性地进行加固和改进，类似于人工智能时代的“杀毒软件”。

隐私保护计算机平台RealSecure是基于安全多方计算、联邦学习、匿名查询等核心技术的数据安全共享基础设施。例如，在人脸识别应用中，平台可以实现人脸数据的加密切片存储。，有效保护用户隐私数据。

人工智能安全靶场是主动防御的安全体，类似于“运动场”，实现主动防御，通过攻防实战演练将安全风险暴露在前方，发现并适应新的、快速变化的攻击提前威胁，实现“放风险”。发生在靶场，可以在安全事件发生之前建立有效的防御。”

显着参与行业标准

近年来，人脸信息作为一种具有很强识别性和个性的个人信息，一旦被盗，将对我国信息安全构成重大威胁。目前，我国人脸识别技术缺乏规范的监管体系，给国家信息安全带来巨大隐患。

作为机器学习算法安全评估国家标准的第一批核心起草单位，瑞莱与国家工业和信息化安全中心、国家互联网应急中心等单位合作，共同实施标准制定、测试和评估，包括参与我国人脸模型的制定。算法安全领域首个标准《信息安全技术人脸比对模型安全技术规范》，推动人工智能安全从“试点示范”走向“推广应用”。

RealAI的RealAI朱萌介绍，在框架指导方面，在工信部网络安全局的指导下，RealAI联合中国信息通信研究院等多家机构，编写并发布了第一个人工智能安全指导框架，针对人工智能安全。提供技术实施指南。同时，在标准方面，瑞利智能与国家工信安全中心、国家互联网应急中心等单位合作，共同实施标准制定、测试评估等，从“试点”推动人工智能安全示范”到“推广应用”，

虽然人脸识别已广泛应用于公安防控、教育、金融支付等领域，但技术的短板让瑞莱智慧不得不以审慎的眼光看待技术的使用，从而推动进步和技术优化。

RealAI朱萌认为，当前的AI安全治理正处于爆发式增长阶段。除了技术的飞速发展，人工智能产业也面临着日益复杂多样的需求，需要多方合作，资源互补，实现共赢。瑞利智慧将继续深耕AI安全赛道，也将继续积极参与全球行业活动，汇聚各方力量计算机安全的属性是指，共同打造AI安全新业态。