20步内越狱任意大模型！更多“奶奶漏洞”全自动发现
不到一分钟、不超过20步，任意绕过安全限制，成功越狱大型模型！而且不必知道模型内部细节——只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了:如今，面对“侦探漏洞”、“冒险家漏洞”和“作家漏洞”，人工智能应该采取何种应对策略呢？一波猛攻下来，GPT-4也遭不住，直接说出要给供水系统投毒只要……这样那样。关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞，而用上他们最新开发的算法，AI可以自动生成各种攻击提示。研究人员表示，这种方法相比于现有的GCG等基
不到一分钟、不超过20步，任意绕过安全限制，成功越狱大型模型！
而且不必知道模型内部细节——
只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。
听说曾经红极一时的“奶奶漏洞”已经被修复了:
如今，面对“侦探漏洞”、“冒险家漏洞”和“作家漏洞”，人工智能应该采取何种应对策略呢？
一波猛攻下来，GPT-4也遭不住，直接说出要给供水系统投毒只要……这样那样。
关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞，而用上他们最新开发的算法，AI可以自动生成各种攻击提示。
研究人员表示，这种方法相比于现有的GCG等基于token的攻击方法，效率提高了5个量级。而且生成的攻击可解释性强，谁都能看懂，还能迁移到其它模型。
无论是开源模型还是闭源模型，GPT-3.5、GPT-4、 Vicuna（Llama 2变种）、PaLM-2等，一个都跑不掉。
新SOTA被成功率高达60-100%的人所攻略
话说，这种对话模式好像有些似曾相识。多年前的初代AI，20个问题之内就能破解人类脑中想的是什么对象。
如今AI需要解决AI的问题
让大模型集体越狱
目前主流越狱攻击方法有两类，一种是提示级攻击，一般需要人工策划，而且不可扩展；
另一种是基于token的攻击，有的需要超十万次对话，且需要访问模型内部，还包含“乱码”不可解释。
△左提示攻击，右token攻击
宾夕法尼亚大学研究团队提出了一种叫PAIR（Prompt Automatic Iterative Refinement）的算法，不需要任何人工参与，是一种全自动提示攻击方法。
PAIR包含四个主要步骤：攻击生成、目标响应、越狱评分和迭代细化。这个过程中使用了两个黑盒模型：攻击模型和目标模型
具体来说，攻击模型需要自动生成语义级别的提示，来攻破目标模型的安全防线，迫使其生成有害内容。
核心思路是让两个模型相互对抗、你来我往地交流。
攻击模型会自动生成一个候选提示，然后输入到目标模型中，得到目标模型的回复。
如果无法成功攻破目标模型，攻击模型将会分析失败的原因，并进行改进，生成一个新的提示，再次输入到目标模型中
这样持续交流多轮，攻击模型每次根据上一次的结果来迭代优化提示，直到生成一个成功的提示将目标模型攻破。
此外，迭代过程还可以并行，也就是可以同时运行多个对话，从而产生多个候选越狱提示，进一步提高了效率。
研究人员表示，由于两个模型都是黑盒模型，所以攻击者和目标对象可以用各种语言模型自由组合。
PAIR不需要知道它们内部的具体结构和参数，只需要API即可，因此适用范围非常广。
GPT-4也没能逃过
实验阶段，研究人员在有害行为数据集AdvBench中选出了一个具有代表性的、包含50个不同类型任务的测试集，在多种开源和闭源大语言模型上测试了PAIR算法。
结果PAIR算法让Vicuna越狱成功率达到了100%，平均不到12步就能攻破。
在封闭源代码模型中，GPT-3.5和GPT-4的越狱成功率约为60%，平均所需步骤不到20步。而在PaLM-2模型中，越狱成功率达到了72%，所需步骤约为15步
在Llama-2和Claude上，PAIR的效果较差，研究人员认为这可能是因为这些模型在安全防御方面进行了更严格的微调
他们还对不同目标模型的可转移性进行了比较。研究结果显示，PAIR的GPT-4提示在Vicuna和PaLM-2上的转移效果更佳
研究人员认为，PAIR生成的语义攻击更能暴露语言模型固有的安全缺陷，而现有的安全措施更侧重防御基于token的攻击。
就比如开发出GCG算法的团队，将研究结果分享给OpenAI、Anthropic和Google等大模型厂商后，相关模型修复了token级攻击漏洞。
大模型针对语义攻击的安全防御机制还有待完善。
论文链接：https://arxiv.org/abs/2310.08419
先说一件事。今年7月，微软安全团队盯上了macOS的一款安全机制——Gatekeeper，发现它藏着一个能让恶意软件溜进来的漏洞。而问题的严重性在于，Gatekeeper原本是用来“守门”的，结果这道门本身被绕过了。 苹果公司接到微软的报告后，在9月13日更新的几个版本里打上了补丁：macOS 13
毒液漏洞（VENOM）一出，整个虚拟化圈都炸了。这个漏洞有多严重？几乎覆盖了所有基于KVM和XEN的虚拟化产品。为什么影响如此严重根源在于KVM/XEN的虚拟硬件都靠QEMU模拟。安全研究员Jason Geffner发现QEMU的虚拟软盘控制器存在一个安全漏洞，代号VENOM（CVE-2015-34
工信部紧急提醒：苹果设备高危漏洞来袭，用户需立即行动 最近，工业和信息化部网络安全威胁和漏洞信息共享平台（NVDB）监测到一则需要所有苹果用户警惕的动态。有攻击者正在利用针对苹果终端产品的现成漏洞工具，展开有组织的网络攻击活动。这可不是普通的系统警告，背后潜藏着真实而迫切的威胁。 一旦中招，后果相当
智东西 编译 刘煜编辑 陈骏达 今天，AI界一则人事变动引发了广泛关注：被誉为“GPT-4o之母”的Joanne Jang宣布从OpenAI离职，结束了其长达四年半的任职。作为公司模型行为（Model Beha vior）领域的创始负责人及OpenAI Labs总经理，她的离开略显突然，目前并未透露
11月13日，Intel发布了全新的CPU微码更新，版本号为20251111，适用于第12代至第14代酷睿、酷睿Ultra移动处理器，同时涵盖第四代到第六代Xeon处理器系列。此次更新聚焦于功能性问题的修复，解决了PCIe链路宽度无法正常降低的问题，并修复了内存模块在特定指令下可能返回错误数据的缺陷。此外，Intel还集中发布了高达30项新的安全通告，涉及CPU、GPU、LAN、Wi-Fi等多个产品线，漏洞等级从中等到严重不等，用户需通过升级微码和相关驱动程序来确保系统安全。部分关键安全公告包括：Inte
Composer通过SHA-256算法验证第三方库完整性，以防范安全漏洞。通过更新和验证依赖，它提供了有效的解决方案：使用composerupdate--lock更新依赖并锁定版本。检查安全警告（composerdiagnose）。更新受影响的库（composerrequire<库名>）。
修复Linux系统中的常见漏洞是确保系统安全性的重要步骤。以下是修复常见漏洞的一般教程：更新系统补丁：及时更新操作系统的补丁是防止漏洞利用的关键步骤。使用包管理器（如yum、apt-get）检查并安装可用的系统更新。安装最新软件版本：更新系统上安装的软件到最新版本，因为新版本通常修复了已知漏洞。确保使用包管理器安装最新软件包。禁用不必要的服务和端口：检查系统上运行的服务和打开的端口，禁用不必要的服务和关闭未使用的端口。这减少了系统暴露给潜在攻击的机会。配置防火墙：设置和配置防火墙以限制网络流量和保护系统。
如何使用PHP和Vue.js开发防御恶意文件下载漏洞的最佳实践引言：在当前互联网环境下，恶意文件下载漏洞已经成为一种常见的网络攻击手法。黑客利用这种漏洞，通过钓鱼邮件、恶意广告、恶意链接等方式，诱导用户点击或下载文件，从而在用户设备上执行恶意代码。为了保护用户的隐私和安全，开发者需要采取一系列措施来预防和防御这种漏洞。本文将介绍如何使用PHP和Vue.js开
微软在本月的补丁星期二活动中发布了适用于Windows11的KB5034765和适用于Windows10的KB5034763累积更新。这些更新修复了73个安全漏洞和2个零日漏洞。IT之家基于微软2月累积更新日志，附上修复的漏洞数量如下：30个远程代码执行漏洞16个权限提升漏洞10个欺骗安全问题9个拒绝服务漏洞5个信息披露问题3项可绕过安全功能安全漏洞除了修复上述漏洞，微软还发布了关于安全启动的重要公告，计划在2023年推出新的密钥来加强安全性。“安全启动”是PC行业中的一项UEFI安全功能，最早在Wind
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
