当前位置:

首页 > 业界资讯 > 微软员工报告DALL-E 3模型存在“不当内容”漏洞后,遭到“封口令”

微软员工报告DALL-E 3模型存在“不当内容”漏洞后,遭到“封口令”

2月2日消息,微软软件工程部门经理ShaneJones最近发现OpenAI旗下的DALL-E3模型存在漏洞,据称可以生成一系列不适宜内容。ShaneJones向公司上报了该漏洞,但却被要求保密。然而,他最终还是决定向外界披露了这个漏洞。▲图源ShaneJones对外披露的报告本站注意到,ShaneJones在去年12月通过独立研究发现OpenAI文字生成图片的DALL-E3模型存在一项漏洞。这个漏洞能够绕过AI护栏(AIGuardrail),导致生成一系列NSFW不当内容。这个发现引起了广泛关注,并引发了

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

2月2日消息,微软软件工程部门经理Shane Jones最近发现OpenAI旗下的DALL-E 3模型存在漏洞,据称可以生成一系列不适宜内容。Shane Jones向公司上报了该漏洞,但却被要求保密。然而,他最终还是决定向外界披露了这个漏洞。

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

▲ 图源 Shane Jones 对外披露的报告

本站注意到,Shane Jones 在去年 12 月通过独立研究发现 OpenAI 文字生成图片的 DALL-E 3 模型存在一项漏洞。这个漏洞能够绕过 AI 护栏(AI Guardrail),导致生成一系列 NSFW 不当内容。这个发现引起了广泛关注,并引发了对于 AI 系统安全性和道德问题的深入讨论。OpenAI 公司已经表示他们将尽快修复这个漏洞,以确保其系统的正确和安全运行。这个事件再次提醒了我们在开发和应用人工智能技术时需要高度重视安全性和伦理问题。

Shane Jones随后将漏洞上报给微软和OpenAI,并在领英上发布了一封公开信。他声称这些漏洞可能会给大众带来安全风险,并呼吁OpenAI在解决漏洞之前暂时下架DALL-E 3模型。

随后 Shane Jones 被微软法务部及高管找上门,并警告他立即删除领英公开信并停止对外披露任何内容,但却并未给予任何解释说明,此后 Shane Jones 屡次寻求公司内部沟通,但均未得到公司回应,而漏洞也未修复,之后 Shane Jones 便向媒体及有关部门披露了相关漏洞。

Shane Jones 提到,近日网络上出现 AI 生成的知名歌手 Taylor Swift(泰勒・斯威夫特)不雅照便与该漏洞有一定关联,这些不雅照据称是使用微软 Designer AI 功能生成,而 Designer 底层模型正是 DALL-E 3,因此微软在本次事件中下达“封口令”存在重大过失。

此后微软官方回应 Engadget 等媒体,声称将解决相关员工的疑虑,并修复相关漏洞,不过微软同时声称 Shane Jones 披露的漏洞实际上成功率较低,“无法绕过微软为模型设置的所有安全机制”、“目前还不清楚该漏洞与 Taylor Swift 不雅照事件是否有关联性”

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 微软 漏洞
上一篇: Agent善于合作分工,并通过“群聊”交流信息
下一篇: Photoshop快捷键修改在哪里?PS2020快捷键设置方法
相关文章 更多
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析

OpenAI GPT-6 Astra 模型通过 MCP 协议与 SourcePauseTool 控制《传送门》游戏,完成 3336 次工具调用并自主通关。实验耗时约 24 小时,API 成本约 571 美元,展示了多模态 AI 在 3D 解谜领域的突破性进展。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

微软再遭噩梦!黑帽研究员连发两枚零日漏洞:Defender成突破口
微软再遭噩梦!黑帽研究员连发两枚零日漏洞:Defender成突破口

匿名黑客“夜行星球”连续披露两枚严重Windows零日漏洞:RoguePlanet利用Defender竞争条件实现本地权限提升,GreatXML可完全绕过BitLocker加密。微软尚未发布安全补丁,目前无大规模利用迹象,但实际威胁较大,需进一步评估与密切关注。

微软DirectX高级着色器交付正式商用,全平台加速游戏
微软DirectX高级着色器交付正式商用,全平台加速游戏

微软DirectX高级着色器交付功能正式商用,整合进XboxPC应用。支持Windows1124H2及以上系统及AMD全系RDNA显卡。以《极限竞速:地平线6》为例,加载时间从90秒缩至4秒,并减少画面卡顿。已适配多款游戏,未来将扩展更多设备。

微软 XBOX《使命召唤》游戏核心工作室换帅:22 年 Treyarch 负责人马克 · 戈登退休
微软 XBOX《使命召唤》游戏核心工作室换帅:22 年 Treyarch 负责人马克 · 戈登退休

动视旗下Treyarch工作室长达22年的负责人马克·戈登宣布了退休,他曾主导《使命召唤:战争世界》以及《黑色行动》系列开发。凯文·亨德里克森与耶尔·米勒正式出任联席工作室负责人,两位共同接替其后续工作。

OpenAI:数据中心容量在 2025 年增至 1.9 GW,增长三倍
OpenAI:数据中心容量在 2025 年增至 1.9 GW,增长三倍

OpenAI算力总量预计2025年达1.9GW,较2023年增长9.5倍,年经常性收入同步增至200亿美元。推理成本已压至每百万token不到1美元,采取训练性能优先、推理效率优先的双轨策略。未来营收将拓展技术授权与按成效付费模式,并优先研发AIAgent与工作流自动化。

Transformer之父NoamShazeer离开谷歌加入OpenAI
Transformer之父NoamShazeer离开谷歌加入OpenAI

Transformer核心作者NoamShazeer离开谷歌加入OpenAI,担任架构研究负责人。他曾参与创办Character.AI,后因谷歌交易回归,如今再次转投。此举折射出行业对Transformer架构局限性的反思,以及下一代模型架构创新的迫切需求。

突发!谷歌技术巨牛Noam跳槽OpenAI
突发!谷歌技术巨牛Noam跳槽OpenAI

Transformer论文共同一作、谷歌元老级AI专家NoamShazeer再次离开谷歌,加盟OpenAI。他拥有高达35万余次论文引用,近期专利涉及结构化工具调用、神经架构搜索及混合专家模型等关键方向。OpenAI借此补齐构建超级智能体与底层模型架构的核心能力。

谷歌Transformer之父跳槽OpenAI,沙泽尔究竟在想什么?
谷歌Transformer之父跳槽OpenAI,沙泽尔究竟在想什么?

AI传奇人物诺姆·沙泽尔离开谷歌加入OpenAI。作为Transformer架构之父,他因不满谷歌严格的审批流程和“大公司病”,再次出走。选择OpenAI因其快速迭代理念和开放氛围,契合其推动AGI落地的核心诉求。

鲍尔默曾嘲讽Chrome只是数据误差!17年过去Edge市占仅5%
鲍尔默曾嘲讽Chrome只是数据误差!17年过去Edge市占仅5%

在2009年,微软CEO鲍尔默曾经嘲讽Chrome为“舍入误差”。十七年之后,Chrome以百分之七十点二五的份额统治浏览器市场,而微软Edge却仅占百分之五点一四。IE已于二零二四年退场,Edge即便基于Chromium重构也始终未能突破个位数份额。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。