目前以大语言模型为代表的人工智能飞速发展，渗透到各产业应用，带给社会新的生产力变革。同时，人工智能又带来了风险挑战与安全问题。如何在安全前提下，助力人工智能健康发展，更好地赋能企业，为社会创造价值？下文从企业合规角度切入，与大家一同探讨交流。

一、人工智能行业趋势

1.数据及市场规模越来越大

数据是AI发展的基石。随着中国数字化进程加快，数据规模保持高速增长的速度，也助推了人工智能市场规模的扩大。

从下面这张图中也能看出：据IDC，中国数据规模增速位居全球第一，从2021年的18.51ZB增长至2026年的56.16ZB；预计中国人工智能市场规模在2023年将超过147亿美元，2026年这一规模将超263亿美元。

2.国内外争相入局

无疑AI大模型有着广阔发展前景。目前国内外企业争相入局，有媒体形容为“百模大战”。

3.映宇宙与昆仑万维合作打造垂类大模型

同样，映宇宙作为科技驱动型的互联网公司，也在人工智能发展上有自己的探索和动作，早在2020年便成立了AI部门，不断探索技术应用和场景落地。近期，更是与昆仑万维达成AI技术合作，未来希望基于自身的互联网社交资源，开发定制化、垂类大模型，更好地应用于直播、社交产品业务场景中。

二、人工智能的边界

1.AI失控

任何技术的发展，都要考虑底层的安全合规，否则无序扩张会给人类带来灾难性的影响。所以说，人工智能也必定要建立牢固边界，以防“AI失控”。具体来说，大家所担忧的AI失控，主要体现在数据的滥用与侵权、侵犯用户隐私、内容准确度模糊、安全威胁和漏洞，等等。

那么，如何确保AI工具可用、可控？更好地解决数据安全、可信？为更好地引导人工智能健康发展，联合国、中国、美国、欧洲已经在采取行动。

2.政策及时出台

联合国教科文组织：价值观与原则

2021年11月，联合国教科文组织通过《人工智能伦理问题建议书》草案文本。确立了四大价值观和九大原则：相称性和不损害；安全和安保；公平和非歧视；可持续性；隐私权和数据保护；人类的监督和决定；透明度和可解释性；责任和问责；认识和素养。

这其中，我认为最基础/也是最值得注意的，是第一条：尊重、保护和促进人权和基本自由以及人的尊严。

欧盟：高额处罚措施

2023年6月，欧洲议会通过《人工智能法案》草案。

法案通过后，在极端情况下，违规公司可能被处以高达3000万欧元(合3300万美元)的罚款，或公司全球年收入的6%！

美国《时代》杂志评论称，欧盟并不是尖端人工智能开发的重要参与者，这个角色由美国和中国扮演，但欧盟经常扮演引导潮水的角色，其法规往往成为事实上的全球标准，并已成为针对大型科技公司力量的先驱。

中国：全球首部AIGC规制

作为负责任的大国，我国政府也积极采取行动。2023年7月10日，国家网信办等七部门联合出台具有强制性法律效力的规范性文件——《生成式人工智能服务管理暂行办法》。

这个暂行办法，表明了国家对发展AIGC的积极态度，为研发和应用大语言模型等AIGC的企业提出了要求。更重要的是，这是国际上首部AIGC的规制文件，这对比欧美一些国家的完全放任或一禁了之，是更有作为的。有关规则，有力践行了教科文组织《建议书》所倡导的价值和原则，特别是在人权保障方面。例如《暂行办法》第四条中的（二）（三）（四）。

我认为，作为负责任的企业和企业家，在研发和应用大语言模型等生成式人工智能方面，对《暂行规定》必须予以重视和遵守。

映宇宙在发展构建AI安全、赋能合规管理方面，也有些自己的思考和沉淀。

三、映宇宙如何以AI赋能合规

合规是一个复杂且耗时的过程，尤其是对于一下中大型企业，合规需要开展大量数据分析和审查，需要持续的监督和更新。而AI，同样也能辅助合规管控，很好地为合规赋能，从而降低成本、提高效率，并减少人为错误、规避风险。具体来说，主要有以下几方面解决方案：

1.AI有助于完成政策与数据分析

①通过自然语言处理和数据分析技术，AI可以帮助我们快速分析宏观政策、法律法规、司法判例、国际惯例、甲方要求等等，可以提供越来越系统、完善的合规义务清单；

②AI可以帮助我们准确收集和处理企业内外部的大量数据，识别合规风险源，以助于开展合规审计和风险评估；

③AI可以帮助我们快速分析黑灰产、杀猪盘等诈骗套路，精准找到产品或平台可能存在的合规问题，提供合理而精准的合规建议，从而提高合规体系的管理质量。

2.AI有助于实现自动化合规流程和监督

借助人工智能技术，我们可以：

①在企业内部开发全自动的“操作指引”工具，进行类型化的问答指引；

②定期检查企业管理的合规性、法规遵守情况等，自动执行必要的更新和调整，比如在新产品或新功能上线前和上线后，我们都可以通过AI工具进行合规性检测，实现产品发展全周期的风险警示并主动生成整改建议；

③不断提升AI模型学习能力，利用其进行企业合规管理能力迭代。

3.辅助撰写合规报告

①AI可以根据企业提供的数据⾃动⽣成合规⼯作报告；

② AI技术可以通过⾃然语⾔处理技术将⽆序的数据转化为有序的⽂本；

③ AI还可以通过可视化呈现技术，将数据转化为图形呈现，更容易让监管机构理解企业的合规情况。

四、结论与思考

企业除了在日常将AI作为合规工作的一项利器之外，我们更重要的也是要思考得出，是如何更好地去构建更为安全、健康的AI生态，如何确保自己的人工智能大模型和垂类模型能够更健康、规范的发展。

1.严格制度管理

①应该秉持联合国教科文组织《建议书》提倡有关人权保障等价值观，学习国内外出台新规定，积极参与合规监管和法律规定，从自身出发，制定严格的数据隐私政策和合规流程，加强模型监测和评估，实施强大的安全控制和加密机制，以及充分透明可解释的智能决策；

②应解决好人工智能失控问题，履行好数据标注义务，确保程序可控、透明和可解释（《暂行办法》第八条）；

③我们应履行好内容管理义务，确保内容输出可控。（《暂行办法》第十四条）

当然，除了制度方面的遵循，其实也有其他几方面需要注意：比如增加技术投入，开发隐私保护技术等；对未成年人、老年人、少数民族等，给予更多保护；注重内部培训，提高员工对合规重要性的认识建立强大的内部合规文化。

2.构建规范健康的生态

映宇宙对于构建AI安全是高度重视的，甚至可以说重视程度不设上限。我们应该共同形成一套长效的、广泛适用的AI安全管控方法论，群策群力，共同促进中国人工智能产业的健康发展。

---

作者简介：

夏晓晖，现任映宇宙集团高级副总裁、总编辑。作为资深媒体管理者，拥有近三十年的跨媒体内容编采和经营管理经历，在媒体创新管理、互联网运营、公共事务管理等方面有独到的资源和经验。