法新社报导，微软（Microsoft）在报告中指出，该公司追踪了隶属俄罗斯军事情报部门、伊朗革命卫队（Revolutionary Guard）以及中国和朝鲜政府的黑客组织，发现他们试图利用大型语言模型来提升黑客技术。
研究显示，朝鲜黑客组织 Emerald Sleet 和与伊朗革命卫队有关联的 Crimson Sandstorm 使用聊天机器人生成chatGPT可用于“网络钓鱼”的文件。
网络钓鱼是一种欺骗性的技术，骗取个人或组织的敏感信息，如用户名、密码、信用卡信息等。攻击者通常会伪装成合法的实体，比如银行、电子邮件提供商或社交媒体平台，并通过电子邮件、短信、社交媒体消息等方式诱使受害者点击恶意链接或提供个人信息。这种攻击方式对于盗取个人身份信息、金融欺诈和其他形式的网络犯罪都非常有效。
至于被认为与中国当局关系密切的木炭台风 Charcoal Typhoon 组织，它使用 ChatGPT 尝试检测漏洞，以预测可能的网络攻击行动。
微软表示：微软与 OpenAI 合作的目标是确保安全、负责任地使用由人工智能驱动的技术，例如 ChatGPT。
报告发布前，负责客户安全的微软副总裁柏特（Tom Burt）接受路透社访问时表示："无论是否存在任何违反法律或服务条款的行为，我们只是不希望那些被我们发现、追踪并确认是各种威胁的组织取得这项技术。"
中国驻美国大使馆发言人刘鹏宇则表示，中方反对"对中国的无端抹黑和指控"，并主张"安全、可靠、可控"的AI科技部署，以"增进全人类的共同福祉"。
国家支持的黑客被发现利用AI工具来加强间谍能力的指控，可能突显人们对AI快速扩散及可能遭到滥用的担忧。自去年以来，西方网络安全高阶官员不断警告，流氓行为者正在滥用此类工具，尽管到目前为止，相关细节并不多。
微软指出，目前黑客对这些AI工具的利用还处于"初期"和"渐进"阶段。柏特表示，OpenAI和微软尚未看到网络间谍取得任何突破。