#2022生机大会#

人工智能（Artificial Intelligence，以下简称AI）已经成为企业的新竞争力。2021年全球市值最大的2000家公司中，近半数的CEO们都在日常会议上提及AI及其相关概念是否能够整合进公司业务与发展体系。在这些企业中，接近75%的企业已将AI整合至自身业务战略当中，而且几乎一半企业已看到了AI应用带来的成效。

AI在不同行业的应用重点和成熟度存在明显差异，但行业间的差距正在不断缩小。我们的研究显示，高科技等行业的AI成熟度较为领先，但其他行业正在迎头追赶：自然资源与能源行业正致力利用AI提升能效与安全，并实时追踪碳足迹；保险与零售行业借助AI进一步提升客户与员工体验；汽车行业期待自动驾驶得到实际应用；工业企业已看到AI技术在优化设计开发与生产制造各个环节带来的巨大价值。

过去10年，中国全力推动人工智能产业发展，对全球人工智能也做出了重大贡献。斯坦福大学人工智能指数采用研究、开发和经济维度的多项指标，对全世界人工智能的发展情况进行评估，中国的全球人工智能活力度跻身前三。从研究维度看，中国2021年贡献了全球约1/3的人工智能期刊论文和人工智能论文引用量。在经济投资维度，中国2021年占全球私人投资总额的比例接近1/5，为人工智能初创公司引资170亿美元。

如今，人工智能在中国的金融、零售和高科技行业的普及率很高，这些行业合计占到全国人工智能市场的1/3以上。例如中国头部科技企业阿里巴巴和字节跳动，都以基于大数据和人工智能的高度个性化的消费者应用而著称。

事实上，目前为止中国大多数人工智能应用主要都在消费领域，这要归功于全世界最大规模的互联网消费者群体，以及由于行业不断创新消费者互动方式而提升的客户忠诚度、收入和市值。

往前看，中国的人工智能将如何发展？未来10年，人工智能将为中国一些新的行业带来巨大的增长机会，尤其在如汽车、交通运输和物流；制造业；医疗保健和生命科学；企业软件等创新和研发支出向来落后于全球同行的行业。我们预计，在这些行业，一系列人工智能用例每年可创造超过6000亿美元的经济价值。有的价值来自人工智能赋能的产品或服务创造的收入，有的价值来自效率和生产率提高后节约的成本。对各行各业来说，人工智能用例都有可能成为企业的“兵家必争之地”，因为它将催生出未来的行业领先者。把握人工智能机遇通常须对多个领域辅以重大投资，有时候甚至远超领导者预期，投资领域包括支持人工智能系统的数据和技术；构建这些系统的人才和组织思维；创建数据生态系统、行业标准和监管法规的新型商业模式和合作方式。

制造业有两个领域可以创造1150亿美元的经济价值

1、流程设计研发

2、产品设计研发

总体来看，可信人工智能的发展与各国人工智能产业基础紧密关联，随着人工智能产业化过程中可信要素的融入，企业日益成为可信人工智能实践主体。以微软、谷歌为代表的美国科技巨头通过内部开设人工智能伦理委员会，以及发布专注于人工智能可解释、公平性等伦理服务及工具，开展可信人工智能探索工作；以商汤、腾讯为代表的中国头部科技企业通过发布行业内人工智能可解释、伦理等领域专业报告，分享各自在可信 AI 技术、标准、服务等相关实践；以 SynSence 为代表的欧洲企业通过在自身产品中融合可信元素，以提高 AI 工具服务的可信度；以 GuardKnox 为代表的以色列企业致力于将安全融入到智慧交通领域，实现“零信任”；以三星为代表的日韩企业则注重人工智能行业应用中隐私安全的保障。

政策发布上，全球持续探索人工智能立法，推动可信人工智能范式法制化。自 2021 年以来，从欧盟发布人工智能领域的第一份综合性法案《人工智能法案》，到美国推出《2022 算法问责法案》，再到中国深圳、上海等各地方相继推动人工智能立法条例。各国针对人工智能算法的监测、人工智能应用的审查的相关监管法规不断增加，人工智能治理已进入建章立制阶段。

技术研究上，提升人工智能系统稳定性、隐私保护技术占据可信人工智能技术研究主流，可解释性、公平性等技术研究紧随其后。当前以对抗训练、梯度屏蔽为代表的人工智能系统稳定性技术稳步发展，技术重点从数字域逐步向物理域扩展，人工智能系统的稳定性测试技术成为科技巨头布局方向；以同态加密、多方安全计算、差分隐私等为代表的隐私安全技术发展迅速，全球隐私计算专利数量迎来井喷；人工智能可解释性增强技术研究当前仍处于初期阶段，以谷歌、IBM、微软、腾讯为代表的科技巨头推出多个AI 可解释性工具及服务；提升人工智能公平性主流方法分别从数据和技术两方面入手，通过构建完整异构数据集及引入公平决策量化指标算法，以减轻决策偏差。

AI在不同行业的应用重点和成熟度存在明显差异，但行业差距正在不断缩小。我们的研究显示，目前，高科技等行业的AI成熟度较为领先，但其他行业正在迎头追赶（请见图4）：自然资源与能源行业正致力利用AI提升能效与安全，并实时追踪碳足迹；保险与零售行业借助AI进一步提升客户与员工体验；汽车行业期待自动驾驶得到实际应用；工业企业已看到AI技术在优化设计开发与生产制造各个环节带来的巨大价值

目前，人工智能平台系统与可信理念的融合在数据处理、模型构建、部署和支撑服务等方面还面临不少挑战。数据处理方面，数据接入、数据分析、数据管理和数据标注已经普遍实现，团队标注成为标配，数据预处理的自动化实现和无监督数据增强还需要持续探索。模型构建方面，虽然现有人工智能平台和系统普遍配置了丰富框架和算法，支持交互式、可视化、自动化多种开发模式和单机/分布式多种训练方式，但是模型评估建议能力和可解释性还需要增强，特别是面向文本、语音和视频场景的自动学习建模模版能力。此外，还需要提升基于规则的模型自动更新和模型在端云设备的协同部署能力，加强GPU虚拟化和池化，优化数据和模型的安全性。

人工智能企业主要围绕业务生命周期，重点构建系列可信能力。

一是将内置模型保护于框架中，实现模型的安全、可信，通过鲁棒性评测、对抗测评、对抗训练、模型加密等方法增强模型保护能力，为人工智能模型安全性评估和增强提供支持。以对抗训练为例，通过在输入上进行梯度上升，在参数上进行梯度下降，从而向增大损失的方向增加扰动。

二是搭建混合引擎架构，实现跨场景可信协同，集成运用隐私评估、差分训练联邦学习等多种技术方法，通过数据安全交换协议有效利用多源数据，仅协同经过处理后的、不带有隐私信息的梯度和模型信息，在保证用户隐私数据保护的前提下实现跨场景协同。一些场景和平台中，也选择加入区块链技术实现全流程的可记录、可验证、可追溯、可审计，以证书授权实现双向认证，确保参与方身份真实性。

三是整合运用多种可解释技术，全面提升可解释性，融合语义级可解释技术、可解释方法工具集等技术，建立适当可视化机制尝试评估和解释模型的中间状态，整合数据治理、资源管理和应用管理核心能力，大幅提高模型的可解释性，让用户更理解、信任并有效地使用模型。早在 2016 年起，谷歌、IBM、微软、腾讯等科技巨头就相继推出可解释性工具与服务，探索人工智能算法可解释化。四是持续加强虚拟化和池化，提升运营维护和运营调度的可信能力，将服务器等物理资源抽象成逻辑资源，通过区分优先次序并及时调度分配工作负载，让 CPU、内存、磁盘等硬件变成可以动态管理的“资源池”，并实现计算资源的隔离。