第一步:访问《澳门新莆京app在线下载》官网👉首先,打开您的浏览器,输入澳门新莆京app在线下载的官方网址《http://vmdukgk.huaweiupse.com/appset/detail/VGvgQyJg》。您可以通过搜索引擎搜索澳门新莆京app在线下载或直接输入网址来访问
👉第二步:点击注册按钮 在 《澳门新莆京app在线下载》站首 页右上角，您可以找到“登录”按钮。当您点击“登录”时，弹出的下拉菜单中有一个名为“注册”的按钮。点击该按钮以开始注册流程。
👉第三步:填写注册信息 在《澳门新莆京app在线下载》注册页面，需要填写以下信息哦。
👉第四步：验证账户 填写完个人信息后，您可能需要进行账户验证。澳门新葡官网进入网站会向您提供的电子邮件地址或手机号码发送一条验证信息，您需要按照提示进行验证操作。这有助于确保账户的安全性，并防止不法分子滥用您的个人信息。
👉第五步：设置安全选项 澳门新葡官网进入网站通常要求您设置一些安全选项，以增强账户的安全性。例如，可以设置安全问题和答案，启用两步验证等功能。请根据系统的提示设置相关选项，并妥善保管相关信息，确保您的账户安全。
👉第六步：阅读并同意条款 在注册过程中，澳门新葡官网进入网站会提供使用条款和规定供您阅读。这些条款包括平台的使用规范、隐私政策等内容。在注册之前，请仔细阅读并理解这些条款，并确保您同意并愿意遵守。
👉第七步：完成注册 一旦您完成了所有必要的步骤，并同意了澳门新葡官网进入网站的条款，恭喜您！您已经成功注册了澳门新葡官网进入网站账户。现在，您可以畅享澳门新葡官网进入网站提供的丰富体育赛事、刺激的游戏体验以及其他令人兴奋
🔥澳门新莆京app在线下载应用是一种基于云技术的应用程序，在云端进行数据存储、计算和处理。应用可以通过互联网访问，无需安装在用户设备上，可以随时随地使用。
🔥澳门新莆京app在线下载,现在下载,新用户还送新人礼包😍。 澳门新莆京app在线下载游戏作为灶王爷的御用使者，感兴趣的朋友赶紧来魔幻厨房游戏下载试试吧。游戏
🔥欢迎使用澳门新莆京app在线下载系统类型:😍澳门新莆京app在线下载(中国)官方网站/IOS/Android通用版/手机2025-02-15是一款非常好玩的即时策略类手游，游戏中玩家可以控制多个单位与其他玩家进行一场策略上的交战!喜欢这款游戏的玩家快来下载试玩吧!游戏
🔥澳门新莆京app在线下载软件，一款可以记录各种比赛的计分器工具，软件中提供各种体育、篮球、足球、乒乓球、羽毛球、网球、台球、棒球、排球等等，在打比赛的时候可以实时记分，结束比赛后可以随时查看记录的分数，是一个非常实用的软件。
🔥澳门新莆京app在线下载是一家提供绿色安全应用与游戏的安全下载市场，商店上汇聚了海量更新更全的ios-Android软件、ios-Android应用和ios-Android游戏。
🔥澳门新莆京app在线下载10分钟一局享受极致紧张刺激的推理乐趣!千万年轻人的选择，速来加入!分年龄、分水平的快速匹配，让你每一局都是质量局，给你提供最好的游戏环境!!

AIxiv专栏是网传机器之心发布学术、技术内容的更个入栏目。过去数年，容易机器之心AIxiv专栏接收报道了2000多篇内容，选顶覆盖全球各大高校与企业的防御顶级实验室，有效促进了学术交流与传播。框架如果您有优秀的网传工作想要分享，欢迎投稿或者联系报道。更个入投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com

本文一作王勋广是容易香港科技大学的在读博士生，本科和硕士分别毕业于中国地质大学和哈尔滨工业大学，选顶主要研究方向是防御大模型安全。通讯作者吴道远，框架香港科技大学研究助理教授，网传研究方向包括大模型安全、更个入区块链和智能合约安全、容易移动系统和软件安全。通讯作者王帅，香港科技大学长聘副教授。研究方向包括 AI 安全、软件安全、数据隐私、逆向工程等。

最近一段时间，DeepSeek 可谓是风头无两。

在大家纷纷赞扬其超强性能的同时，也有媒体曝出 DeepSeek 的 R1 比其他 AI 模型更容易被越狱。

比如，此前宾夕法尼亚大学的研究者使用来自HarmBench数据集的50个有害提示对DeepSeek R1进行测试，这些提示涵盖网络犯罪、虚假信息和非法活动等领域。结果显示，DeepSeek未能拦截任何一个有害请求，攻击成功率达到惊人的100%。

这时如果有一个 AI 系统能像人类一样具备自我保护意识，在面对 ' 欺骗 ' 时能够当机立断地识破阴谋 —— 这不再是科幻片中的场景。

近日，来自香港科技大学、南洋理工大学等机构的研究团队最新成果让这一设想成为现实。他们提出的 SelfDefend 框架，让大语言模型首次拥有了真正意义上的 ' 自卫能力 '，能够有效识别和抵御各类越狱攻击，同时保持极低的响应延迟。

• 论文标题：SelfDefend: LLMs Can Defend Themselves against Jailbreaking in a Practical Manner

• 论文主页：https://selfdefend.github.io/ 

• 论文链接：https://arxiv.org/abs/2406.05498

• GitHub 链接：https://github.com/selfdefend/Code

近年来，大语言模型（LLMs）在自然语言处理、信息检索、图像生成等多个领域展现出巨大潜力。然而，随着 LLMs 的广泛应用，如何确保其安全性成为了一个重要课题。尤其是 “越狱攻击”（Jailbreaking），这种攻击通过绕过 LLMs 的安全对齐机制，诱导模型生成有害内容，引发了广泛关注。为了应对这一挑战，香港科技大学、南洋理工等团队联合提出了一种名为 SelfDefend 的新型防御框架，该框架通过引入 “影子 LLM”（Shadow LLM）来并行检测潜在的有害查询，从而有效抵御多种越狱攻击。

越狱攻击的多样性与防御挑战

越狱攻击的形式多种多样，包括基于人工设计的攻击、基于优化的攻击、基于生成的攻击，以及最近出现的间接攻击和多语言攻击。这些攻击手段不断进化，使得传统的防御机制难以应对。现有的防御方法主要分为两类：基于模型的防御和基于插件的防御。前者通过改进模型的内在机制来增强安全性，后者则通过外部插件来增强现有模型的安全性。然而，这些方法在实际应用中面临诸多挑战，无法同时满足四个目标：应对所有类型的攻击（O1）、引入可忽略的额外延迟（O2）、对检测出的越狱访问提供可解释性（O3），以及同时适用于开源和闭源模型（O4）。

SelfDefend 框架的创新设计

SelfDefend 框架的灵感来源于传统安全领域中的 “影子栈”（Shadow Stack）概念。影子栈通过创建一个并行的内存空间来防御内存溢出攻击，而 SelfDefend 则通过创建一个并行的 “影子 LLM” 来检测潜在的有害查询。具体来说，SelfDefend 框架包含两个并行的 LLM 实例：一个用于正常响应用户查询的目标 LLM（

）来识别查询中的有害部分或意图。

）。当用户输入查询时，目标 LLM 会正常处理查询并生成响应，而防御 LLM 则通过特定的检测提示词（

），另一个用于检测有害内容的防御 LLM（

这种设计带来了多重优势：首先，它同时利用了目标 LLM 的安全对齐机制和防御 LLM 的越狱检测能力，形成了双重保护层，显著提高了防御成功率；其次，由于防御 LLM 的输出通常较短（如 “No” 表示无问题），正常查询的响应延迟几乎可以忽略不计；然后检测出的有害部分或者恶意意图可以作为防御的可解释性；最后，由于防御 LLM 不需要修改或监控目标 LLM 的内部机制，因此可以兼容开源和闭源模型。

实验验证与效果评估

研究团队通过大量实验验证了 SelfDefend 框架的有效性。实验结果表明，基于 GPT-3.5 和 GPT-4 的 SelfDefend 能够显著降低多种越狱攻击的成功率。例如，基于 GPT-3.5 的 SelfDefend 将攻击成功率（ASR）从平均 65.7% 降低至 0.236，而基于 GPT-4 的 SelfDefend 更是将 ASR 降低至平均 0.050。此外，SelfDefend 对正常查询的影响微乎其微，GPT-3.5 和 GPT-4 的正常查询通过率仅分别下降了 0.51% 和 2.77%。

为了进一步降低成本和提升鲁棒性，研究团队还通过数据蒸馏方法对开源的 Llama-2-7b 模型进行了微调，生成了专用的防御模型。实验表明，这些微调后的模型在防御效果上与基于 GPT-4 的 SelfDefend 相当，且额外延迟显著降低。例如，微调后的模型在正常查询中的平均延迟仅为 0-0.01 秒，而在攻击场景中的最大延迟从 GPT-4 的 1.56 秒降低至 0.39 秒。

与现有防御方法的对比

研究团队还将 SelfDefend 与现有的七种主流防御方法进行了对比，包括 ICD、SafeDecoding、Perplexity Filter、SmoothLLM、Llama Guard 等。实验结果显示，SelfDefend 在 60 个测试场景中的 55 个场景中表现最优，尤其是在应对间接攻击和多语言攻击时，SelfDefend 的防御效果显著优于其他方法。此外，SelfDefend 的额外延迟也远低于其他防御方法，使其在实际部署中更具可行性。

未来展望

这项开创性的研究不仅为 AI 安全领域带来了突破性进展，更揭示了一个振奋人心的信号：AI 系统的安全性与效率不再是鱼和熊掌不可兼得。通过赋予 AI' 自卫意识 '，SelfDefend 展现了一个更安全的 AI 未来：在这个未来里，AI 系统既能保持高效服务能力，又能主动识别和抵御潜在威胁，真正实现 ' 自我守护 '。

【联系我们】
客服热线：6791-237-932