一项由多国研究者联合完成的最新研究揭示，当前主流大语言模型（LLM）存在根本性的安全缺陷，使其无法实现完全防护。该论文已在顶级人工智能会议——国际机器学习大会（ICML）上正式提交，引发了业界对AI系统在政府、军事及医疗等关键领域部署安全性的广泛担忧。
研究团队指出，LLM的工作原理中存在一个核心漏洞：模型无法可靠地区分合法指令与恶意指令。这一缺陷源于其基于概率预测的文本生成机制，使得模型在面对精心设计的对抗性提示时，会突破预设的安全护栏。在实验中，研究人员成功诱使多个知名LLM输出本应被严格屏蔽的敏感信息，包括可卡因合成步骤、商业飞机导航系统破坏方法等危险内容。这些攻击手段利用了模型对指令来源的模糊认知——无论是人类用户、其他AI系统还是经过特殊编码的文本，模型均无法建立稳定的信任边界。
该发现对AI技术的实际应用产生深远影响。目前，LLM已被广泛应用于政府文档处理、军事决策辅助、在线客服及医疗诊断等场景。论文共同作者、独立研究员查尔斯·叶（Charles Ye）表示：“这很可能是一个根本性无解的问题。”他进一步解释，即使企业雇佣专业红队测试人员模拟攻击，或使用如OpenAI的GPT-Red等AI超级黑客工具进行漏洞挖掘，也无法彻底消除风险。因为每次修补漏洞后，攻击者总能找到新的对抗性模式来绕过防护。研究团队强调，当前LLM的架构设计本质上存在安全悖论：模型越强大，其生成能力越强，被恶意利用的可能性也越大。
这项研究对AI行业的安全策略提出了严峻挑战。传统安全方案依赖“发现漏洞-修补漏洞”的循环，但LLM的固有缺陷意味着这种模式可能永远无法达到绝对安全。专家建议，在找到根本性解决方案前，关键领域的AI部署应建立更严格的使用限制和人工监督机制。同时，该研究也促使学界重新审视LLM的基础架构设计，探索是否可能通过改变训练范式或引入新型安全机制来突破这一困境。随着AI技术向更多敏感领域渗透，这场关于安全与能力的博弈将持续成为行业焦点。
