在当今世界，俄罗斯、伊朗、朝鲜以及其他一些国家的黑客正在使用OpenAI系统。微软公司与OpenAI合作，认为这些国家正在利用人工智能来提高日常任务的处理效率。

黑客团体也在尝试利用OpenAI系统进行网络攻击。据报道，一些与外国政府有关联的黑客正在使用生成式人工智能技术来辅助他们的攻击活动。这些公司指出，黑客并非如某些科技行业人士所担忧的那样，利用人工智能进行复杂的攻击，而是将其应用于日常操作，例如撰写电子邮件、翻译文件和调试计算机代码，以提高工作效率。

微软已承诺向OpenAI投资130亿美元，并与之建立了紧密的合作伙伴关系。例如，两家公司共享威胁情报，记录与俄罗斯、朝鲜和伊朗有联系的五个黑客组织如何利用OpenAI的技术。尽管两家公司并未透露具体使用了哪些OpenAI技术，但OpenAI表示，在发现其技术被滥用后，已采取措施限制这些用户的访问。

自OpenAI在2022年推出ChatGPT以来，人们一直担心黑客可能会将这些强大的工具用于非法目的，以发现和利用新的安全漏洞。与其他技术一样，人工智能也可能被用于非法和破坏性的活动。

OpenAI要求用户注册账户，但一些新用户通过技术手段逃避监控，例如隐藏他们的地理位置。这使得他们能够将人工智能技术用于非法或有害的目的。例如，一个与伊朗伊斯兰革命卫队（IRGC）有关联的黑客组织利用人工智能技术来研究规避防病毒扫描的方法，并生成用于网络钓鱼攻击的电子邮件。在一封网络钓鱼电子邮件中，黑客伪装成一个国际发展机构的身份；另一封邮件则试图诱骗知名女权主义者访问一个由攻击者创建的女权主义网站。在另一个案例中，一个与俄罗斯有关联的组织试图利用OpenAI的系统研究卫星通信协议和雷达成像技术，以影响乌克兰战争局势。俄罗斯长期以来一直利用宣传机构来攻击和削弱对手。现在，人工智能成为了俄罗斯人使用的另一种工具。

微软追踪了300多个黑客组织，包括独立的网络犯罪分子以及由国家支持的人工智能行动。公司高管表示，OpenAI的专有系统使得追踪和干扰其使用变得更加容易。他们指出，虽然可以识别黑客是否在使用开源人工智能技术，但开放系统的增加使得这一任务变得更加复杂。

开源人工智能技术的使用使得追踪其应用和确保负责任使用的政策实施变得更加困难。微软没有发现生成式人工智能在最近针对其高管的俄罗斯黑客攻击中有任何使用迹象。

在过去的十年中，人工智能在军事领域的应用日益增多。随着技术的进步，人工智能在战斗中的应用变得更加有效和频繁。例如，一家乌克兰公司开发了一种人工智能系统，能够非常准确地识别远处一群士兵是乌克兰人还是俄罗斯人，从而减少了友军误伤的风险。这是现代战争中一个不幸但常见的现象，使用人工智能辅助瞄准技术有助于降低这类事件的发生。