一方面，人工智能助力数据安全防护。运用机器学习等人工智能技术，能够实现数据的识别保护，数据安全溯源等功能，也提升了数据安全的防护能力。

但另一方面，人工智能也会带来数据安全问题，在加速传统数据安全问题的同时，人工智能大规模的运用使得过度采集数据安全问题进一步加剧，甚至产生“数据投毒”等新型数据安全问题。

新技术安全问题再受热议。在7月9日举行的世界人工智能大会上，国家工业信息安全发展研究中心副主任何小龙在“人工智能数据安全及监管机制研究”主题演讲中，指出人工智能在数据安全中不可忽视的一面。

AI引发过度采集等传统问题

何小龙指出，人工智能加剧传统数据安全问题，这主要表现在：

一是过度采集问题。目前各类人脸识别的系统、智能音响设备、手机App随处可见，都在广泛采集用户的人脸、声纹等具有强个人属性的生物特征信息及行为轨迹等数据，一旦泄露将威胁个人隐私。

今年央视315晚会就曝光了多家知名商店安装人脸识别摄像头，严重侵害了消费者隐私。

二是数据窃取问题。利用图像识别和光学字符识别等技术，可以轻松破解图片、字符等验证码，从而获取系统数据。

例如，2018年10月，苹果App Store爆出大规模的“免密”盗刷事件，不法分子利用图像识别技术开发“打码平台”，自动识别图片验证码，验证码识别正确率达95%以上。

三是逆向还原问题。利用数据关联和算法演绎等技术，能够通过公共访问接口的逆向，还原出核心的一些算法和训练的数据，造成个人信息和商业秘密的泄露。

据有关报道，目前主流自然语言模型均存在着泄露训练数据的可能性。

四是开源框架的风险。当前人工智能应用都是基于Tensorflow这种开源架构，由于缺乏安全审查机制的原因，开源架构可能会存在严重的安全漏洞。

“比如在一项目针对主流开源架构的安全测试，我们在测试过程中，短短时间内发现了24个安全问题，其中包括2个严重危险漏洞和8个高危漏洞。”何小龙说。

引发“数据投毒”等新型挑战

AI也带来了新型数据安全的问题。何小龙指出，人工智能的算法对数据具有较强的依赖性，可能会带来“数据投毒”等类似新型的数据安全挑战。

何为“数据投毒”？即在训练数据其中加入了伪装数据或者恶意样本，破坏数据完整性，造成算法模型结果的错误。

“比如说原来微软的一个聊天机器人Tay因发布歧视性和攻击性言论而被关闭，主要原因就是在对话数据集里面被恶意增加了不当的数据。”何小龙说。

其次，则是样本偏差问题。基于基础数据集多样性和代表性不足，会导致人工智能的算法隐藏的特定性的社会价值的倾向或偏见，输出不公平结果。何小龙举例说，美国NIST研究表明，近200种人脸识别算法对非白人面孔识别相对来说较差，其错误匹配率甚至相差一百倍。

还有就是对抗样本的问题。对抗样本攻击是指向人工智能模型输入干扰数据，利用人工智能模型的信息反馈机制发起攻击，导致模型算法在正常运转中输出一个错误的结果，进而影响人工智能模型决策结果，采用对抗性攻击干扰运行数据，将导致模型识别错误。

今年1月份，瑞莱智慧公司在测试中，通过佩戴含有对抗样本图案的眼镜，破解了19款常见Android手机的人脸识别解锁系统。

最后就是深度伪造问题，即通过机器学习模型将图片或者视频合并叠加，可以生成虚假文件，实现了换脸和换音。

建议：开展可信AI前沿算法攻关

针对AI引发的新威胁，全球主要国家高度重视人工智能数据安全监管。

目前，美国推出积极的战略规划，推动了整合落实数据安全的管理要求，通过围绕各个场景的立法和在州层面上的立法，对人脸识别、自动驾驶、深度伪造等人工智能领域的数据进行安全监管，比如在人脸识别场景上，美国加州、华盛顿州等已经通过当地的立法来保护。

欧盟也高度重视数据安全治理，在GDPR《通用数据保护条例》基础上，今年4月份发布全球首个《人工智能法》提案，对人工智能数据的要求，其中规定存在高风险的人工智能技术，在投放市场之前必须要理清相关的数据安全保护的要求。

我国也在积极应对人工智能数据安全挑战，从顶层设计来看，最新颁布的《数据安全法》，将于9月1日要开始正式实施，它为规范数据处理活动，保障数据安全提供法律依据。

此外，相关部门面对人工智能的重要领域也提出了详细的管理规定和管理框架，提出了针对性的数据管理的要求。

如今年3月份，中国人民银行印发《人工智能算法金融应用评价规范》；2021年4月，工业和信息化部《智能网联汽车生产企业及产品准入管理指南（试行）》，对各个领域数据安全的保护提出了相关的要求。

在对策研究方面，何小龙建议，第一，我国需要建立和完善人工智能数据安全监管架构的，一方面加强法律体系，研究出台现有的法律配套实施细则，加快开展人工智能识别、自动驾驶、服务机器人等重点领域的立法研究。

第二，依据应用场景、影响范围和可能危害，加快构建人工智能安全风险分类管理体系，加强对高风险领域的监管。

第三，推动开展可信人工智能前沿算法攻关，围绕人工智能在不同场景应用，制定相关行业规范和技术标准。

第四，提升各利益相关方安全保护意识，加强在技术、生态、产业等方面的国际交流与合作，进一步完善全球人工智能治理体系，推动人工智能的技术能够健康发展。

【记者】郜小平

【作者】 郜小平

【来源】 南方报业传媒集团南方+客户端

来源：南方+ - 创造更多价值