随着生成式人工智能系统的激增，公司努力将自己的产品与竞争对手的产品区分开来，互联网上的聊天机器人正在获得编辑图像以及创建图像的能力,像Shutterstock和Adobe这样的公司在这方面处于领先地位。

但是，这些新的人工智能功能带来了一些陷阱，比如未经授权的操作或直接窃取现有的在线艺术品和图像。水印技术可以帮助减轻后者,而麻省理工学院CSAIL开发的新“PhotoGuard”技术可以帮助防止此类情况的发生。

PhotoGuard的工作原理是改变图像中的选定像素，这样它们就会破坏人工智能理解图像的能力。研究小组称这些“扰动”是肉眼看不见的，但机器很容易读取。引入这些伪影的“编码器”攻击方法针对的是算法模型对目标图像的潜在表示，从本质上阻止人工智能理解它所看到的东西。 研究人员说，开发这些模型的公司需要投资于设计强大的免疫系统,以应对这些人工智能工具可能带来的威胁。 （华商报实习生 黄煜婷）