从 3 条内容中筛选出 1 条重要资讯。
科技新闻
科技新闻
GPT-6 Astra reportedly jailbroken via extended TIP attack ⭐️ 9.0/10
据 Reddit 社区报道，一名研究人员在 GPT-6 Astra 发布后 24 小时内成功对其实施了越狱攻击。该攻击结合了 ACL 2025 论文中提出的任务内提示（TIP）技术以及另外四种未公开命名的方法，通过隐藏有害目标来利用模型的推理和指令遵循行为。由于原有的最小化 TIP 攻击对 GPT-6 不再有效，研究人员对其进行了重新设计以突破防御。目前，该研究人员已将详细情况私下披露给 OpenAI，而非公开发布漏洞细节。值得注意的是，同一位研究人员曾在一年前于 GPT-5 发布后一小时内成功对其实施过类似越狱。
reddit · r/MachineLearning · /u/Asleep-Requirement13 · 9月5日 19:11
「背景信息」 TIP（Task-in-Prompt）攻击是一种针对大型语言模型的对抗性技术，其核心原理是将有害意图隐藏在看似无害的任务（如解谜或代码执行）中，利用模型遵循指令的特性绕过安全限制。该研究基于 ACL 2025 发表的论文，展示了如何通过结合多种未公开的技术来增强此类攻击的有效性，以应对日益强化的模型防御机制。
「影响」 这一事件凸显了即使是最先进的语言模型在发布初期仍面临严峻的安全挑战，特别是针对其指令遵循机制的高级对抗性攻击。它促使 AI 安全研究人员和开发者需持续更新防御策略，以应对不断演变的越狱技术。
标签: #AI Security, #Adversarial Attacks, #LLM Safety, #Research