大风新闻编译

AI无人机测试失控，试图“杀死”操作员？超过350名人工智能（AI）领域专家日前签署联合声明，警告称AI对于人类的威胁堪比疫情和核战争，甚至可能灭绝人类……

以色列将AI嵌入致命性军事行动；乌克兰使用AI人脸识别技术识别俄军士兵，美国空军已成功利用AI完全操控F-16战机……

据BBC、美联社等媒体报道，7月18日，联合国安理会首次举行人工智能安全会议，世界各国政府正在考虑如何减轻新兴人工智能技术的危险。

>>史上首次

安理会讨论AI安全 古特雷斯倡议设立机构监管AI

7月18日，联合国安理会举行主题为“人工智能给国际和平与安全带来的机遇与风险”高级别公开会。这是安理会首次就人工智能安全举行会议，来自15个成员国的代表出席。

这次会议由安理会本月轮值主席国英国组织，该国一直寻求在AI监管方面发挥领导作用，称人工智能在自动武器或控制核武器方面的使用既存在巨大潜力也存在重大风险。

联合国秘书长古特雷斯呼吁各国管控人工智能技术风险，通过成立新的联合国机构强化对人工智能的全球治理。他说：“无论是军事或非军事应用人工智能都可能对全球和平安全产生非常严重后果。我支持一些国家提出的，效仿国际原子能机构（IAEA）及国际民航组织（ICAO）等，设立一个新的联合国机构。新机构的首要目的是支持各国最大化利用人工智能技术，规避现有和潜在风险，并建立运行国际机制以监测和治理人工智能技术。”

古特雷斯强调，日新月异的人工智能技术被恶意利用，犯罪分子和恐怖分子获取人工智能的技术和财务门槛较低，他们一旦将人工智能用在军事或非军事领域，将对全球和平与安全造成极为严重的后果。

避免AI技术成脱缰野马 确保人类有能力摁下停止键

中国常驻联合国代表张军在会上指出，人工智能作为“双刃剑”，它是好是坏、是善是恶，取决于人类如何利用、如何规范、如何统筹发展与安全。国际社会应该秉持真正的多边主义精神，开展广泛对话，不断凝聚共识，探讨制定人工智能治理的指导性原则。

张军还在会上提出关于人工智能治理的五条原则。一是坚持伦理先行，逐步建立并完善人工智能伦理规范、法律法规和政策体系，避免这一技术成为“脱缰的野马”。二是坚持安全可控，国际社会要强化风险意识，建立有效的风险预警和应对机制，确保在关键时刻人类有能力摁下停止键。三是坚持公平普惠，个别发达国家为谋求科技霸权，构建排他性小圈子，以种种借口和行动恶意阻挠他国技术发展，人为制造科技壁垒，中方对此坚决反对。四是坚持开放包容，反对各种形式的“小院高墙”“脱钩断链”，打造开放、包容、公正、非歧视的科技发展环境。五是坚持和平利用，各国应秉持负责任的国防政策，反对利用人工智能谋求军事霸权、破坏他国主权和领土完整。

马斯克：AI会挑拨人类发动战争

5月30日，OpenAI创始人山姆·奥特曼领衔，超过350位AI大佬在美国非营利组织人工智能安全中心（CAIS）网站上发布一封联名公开信，称人工智能这一堪比“疫情和核战争”的技术或对人类构成生存威胁，甚至可能灭绝人类。

CAIS的网站上列出AI可能造成的几种灾难场景，如AI被用来制造生化武器；AI生成的错误信息破坏社会稳定及集体决策；AI的力量会越来越集中在少数人手中；人类过度依赖AI，失去独立生存能力等。

近日，全球首富、特斯拉创始人马斯克描述了他设想的AI可能灭绝人类的方式。他说：“AI是非常强大的技术，肯定比核能更强大。人们有可能将人工智能用于不良目的，比如操纵公众舆论，聪明的人工智能可能通过虚假账户来煽动愤怒，发动一场战争。AI可以制造足够的愤怒来发动战争。”

今年6月，美国空军AI测试和运营主管汉密尔顿在未来作战空天能力峰会上透露，美军在一次模拟训练中指派一架搭载AI的无人机去摧毁敌方的防空导弹，给了它“消灭威胁就能得分”“摧毁妨碍命令的人及事物”的设定，AI可以识别威胁，但是攻击需要人类操作员批准。然而，当人类操作员不允许AI进行攻击时，AI竟做出了“杀死操作员”的决定，因为那个人阻碍了它实现目标。尽管汉密尔顿事后辟谣称此事只是设想，没有进行过这种测试，但仍印证了对于AI杀死人类的担忧。

>>AI战争

以色列将AI嵌入致命性军事行动 曾在两年前发动全球首次AI战争

据彭博社17日报道，以色列国防军（IDF）开始使用人工智能系统选择空袭目标和组织战时后勤工作，以应对与伊朗等国的紧张局势。

目前，以色列军方主要使用两个人工智能系统参与军事作战。一个是用于处理大量数据并选择空袭目标的系统；另一个是用于计算弹药装载量并制定突袭计划的人工智能模型。军方官员表示，现在可以在数分钟内选择空袭目标并实施袭击，这是前所未有的速度。

2021年5月，以色列在加沙用无人机群攻击哈马斯，这也被称为“全球首次AI战争”。

以色列国防军用小型无人机群找出巴勒斯坦武装组织哈马斯成员的位置，并识别和攻击他们。这被认为是首次有国家在战斗中使用无人机群，无人机群能通过人工智能技术自动飞行。在长达11天的战争中，以色列使用了三个AI系统进行数据分析、战略提醒与地图绘制，致150多名哈马斯特工死亡。以色列事后有意突出AI袭击的精确性，表示人工智能的应用让军队的战斗力倍增，同时大大降低了殃及平民的误杀率。但据加沙卫生官员报告称，至少有243名巴勒斯坦平民在这场冲突中丧生，其中包括66名儿童。

俄乌冲突变身AI试炼场 AI用5分钟就能识别敌方士兵

报道称，俄乌冲突成为致命的无人机和人工智能（AI）技术主要的试炼场，许多公司和政府正在其中不断地训练和测试AI系统的各种能力、功能和应用，人工智能系统正在接受来自真实战场的真实数据训练。

在俄乌冲突战场上，俄乌双方军队都使用无人机进行情报刺探，或携带攻击型武器攻击敌军，同时又希望无人机能够快速掌握该区域的战况取得制空权，而这些方式都是过往战争未存在过的。在航空系统方面，人工智能为无人机和巡航弹药的飞行、瞄准和射击提供了增强的自主能力；在面部识别方面，乌克兰国防部开始使用美国公司ClearviewAI生产的面部识别软件来识别敌方士兵，仅通过屏幕截图就能用五分钟识别出俄罗斯士兵的身份信息……

2月15日，美国爱德华空军基地在推特上公布，美国空军已成功利用AI完全操控F-16战机，使飞机可在没有人工干预的情况下起飞、着陆并进行战斗演习长达17个小时。该算法是美国国防部的国防高级研究计划局开发的，这是AI首次应用于战术飞机上，在此之前AI仅用于F-16混战的模拟计算。 华商报大风新闻记者 郭霁 编译