当下人工智能领域的巨头OpenAI曾不止一次发起呼吁，称人们需要人工智能的研究，避免没有道德约束的AI造成不必要的问题。

快科技7月17日消息，近日，有黑客展示了在“没有道德限制”的情况下，人工智能会做出怎样的事情。



根据安全分析公司SlashNext提供的信息，有黑客利用一个名为GPT-J的开源AI模型，开发出了一款名叫“WormGPT”的生成式人工智能。

经过SlashNext的测试，WormGPT能够自由生成有Python语言编写的恶意代码，并能够生成极具误导型的钓鱼邮件。

而这样的表现，还仅仅是基于GPT-J这样一个诞生于2021年的，架构较老，表现也并不出色的开源模型实现的。



WormGPT

可以想象，如果各大厂商的人工智能没有“道德”限制，将会带来怎样严重的影响。

因此，SlashNext认为，随着AI技术的普及，此类“完全为网络攻击而生”的AI工具恐将受到黑客所滥用，为用户安全带来重大威胁。