（续上篇：AI生化恐怖与恶意程序）

3，AI参与军备竞赛

国家和企业正在竞相快速构建和部署人工智能，以保持权力和影响力。与冷战时期的核军备竞赛类似，人工智能也将不可避免地参与到新的军备竞赛中，从而放大人类的存在风险。

人工智能在军事技术中的快速发展可能引发“战争中的第三次革命”，可能导致更具破坏性的冲突、意外使用和恶意行为者的滥用。战争中的这种转变，即人工智能承担指挥和控制角色，可能会使冲突升级到关乎生存的规模，并影响全球安全。

AI驱动的战场杀人机器已经派上用场（图片来自网络）

致命自主武器是人工智能驱动的系统，能够在无人干预的情况下识别和执行目标。这些不是科幻小说。2020年，利比亚的一架Kargu 2无人机标志着首次使用致命自主武器的报道。第二年，以色列使用了第一批无人机来定位、识别和攻击武装分子。俄乌战争中，无人机系统的应用让人们意识到，AI驱动的自动装置已经重构了战争模式。这种致命性自主武器可能使战争更有可能发生。领导人在派遣部队投入战斗之前通常会犹豫，但自主武器允许在不冒士兵生命危险的情况下进行侵略，因此面临的政治反弹较少。此外，这些武器可以大规模制造和部署。

低成本自动化武器，如配备炸药的无人机群，可以高精度地自主猎杀人类目标，为军队和恐怖组织执行致命行动，并降低大规模暴力的执行障碍。

人工智能还可以提高网络攻击的频率和严重性，有可能使电网等关键基础设施陷入瘫痪。随着人工智能使网络攻击变得更容易、更成功、更隐秘，对攻击进行归因变得更具挑战性，这可能会降低发动攻击的门槛，并加剧冲突的风险。

随着人工智能加快了战争的节奏，这使得人工智能更有必要应用在快速变化的战场上。这引起了人们对自动报复的担忧，这可能会将小冲突升级为大战争。人工智能还可以促成“闪电战”，由自动化系统的意外行为驱动快速升级，类似于2010年的金融闪电崩盘。

不幸的是，那些疯狂的领导者可能加剧AI军事系统对全体人类的威胁。“如果XXX不存在，世界存在还有什么意义”一旦成为大国领袖的执念，人类灾难随时都可能降临。而那些老朽昏聩的统治者，根本不能理解AI对现代战争带来的巨大改变，他们甚至在外交场合大便都不能自理和控制，更别提控制灾难程序了。而这将比冷战时期更具挑战性：任何一方都不希望他们处于危险局势，但每一方都认为继续军备竞赛是合理的；现在的国际形势表明，各国合作防止军事化人工智能最危险的应用的可能性微乎其微。

那些聪明的国家领导人，还会将AI应用到经济战争中，这样似乎可以逃避道德罪愆，然而这会导致引发不计后果的经济竞赛，并最终破坏全球化进程。目前，这种经济竞争态势越来越明显。东西方都在为与对方脱钩或去风险而暗暗发力。这已经不单纯是一个尔虞我诈的市场竞争了，而是充满了谎言和欺骗。而这种经济竞争也可能是现实战争的导火索。

一些建议：人工智能决策系统必须置于人类监督之下，以防止不可逆转的错误，特别是在像发射核武器这样的高风险决策中。

用人工智能提升网络防御能力，以减轻来自人工智能驱动的网络战的风险。一个例子是增强异常检测以检测入侵者。

强化通用人工智能的公共控制或国家控制，以解决超出私人实体机构对关键AI控制能力不足的风险。建议联合国建立AI用于军事的协调机制。

（未完待续）