一项近期研究表明，ChatGPT和类似的大型语言模型（LLMs）在发起网络攻击方面极为有效，这在网络安全领域引发了重大担忧。
研究人员Richard Fang、Rohan Bindu、Akul Gupta和Daniel Kang测试了ChatGPT-4对15个现实生活中的“零日”漏洞的攻击能力，发现它在87%的情况下能够成功利用这些漏洞。这些漏洞包括网站问题、容器管理软件和Python包，所有漏洞均来自CVE数据库。
该研究使用了包含1,056个标记和91行代码的详细提示，其中包括调试和日志记录语句。研究团队指出，ChatGPT-4的成功归因于其处理复杂多步骤漏洞和执行各种攻击方法的能力。然而，在没有CVE代码的情况下，ChatGPT-4的成功率骤降至仅7%，这一点突显了它的显著局限性。
研究人员总结说，尽管ChatGPT-4目前在利用零日漏洞方面表现出色，但LLMs变得更强大和具有破坏性的潜力是一个重大隐患。他们强调了网络安全社区和LLM提供商合作的重要性，以将这些技术整合到防御措施中，并谨慎考虑它们的部署。
