当前位置:

首页 > 业界资讯 > OpenAI:我们正努力减少ChatGPT偏见和不良行为

OpenAI:我们正努力减少ChatGPT偏见和不良行为

2月17日消息,热门聊天机器人ChatGPT背后的AI研究公司OpenAI表示,它正在努力减少系统中存在的偏见和不良行为,并将允许用户自定义聊天机器人的部分行为。此前,有大量关于ChatGPT与用户互动不当和结果错误的报告。OpenAI在发布在其公司网站上的博客文章中承认:”自从推出ChatGPT以来,用户已经分享了许多他们认为有偏见、冒犯性或其他令人反感的输出。在许多情况下,我们认可了这些担忧,它们揭示了我们系统的真正局限性,因此我们希望解决这些问题。“该公司继续写道:“我们正在投资于研究和工程,以减少

OpenAI:我们正努力减少ChatGPT偏见和不良行为

2月17日消息,热门聊天机器人ChatGPT背后的AI研究公司OpenAI表示,它正在努力减少系统中存在的偏见和不良行为,并将允许用户自定义聊天机器人的部分行为。此前,有大量关于ChatGPT与用户互动不当和结果错误的报告。

OpenAI在发布在其公司网站上的博客文章中承认:”自从推出ChatGPT以来,用户已经分享了许多他们认为有偏见、冒犯性或其他令人反感的输出。在许多情况下,我们认可了这些担忧,它们揭示了我们系统的真正局限性,因此我们希望解决这些问题。“

该公司继续写道:“我们正在投资于研究和工程,以减少ChatGPT在回应不同输入时存在明显和微妙的偏见。在某些情况下,ChatGPT目前拒绝了它不应该拒绝的输出。而在其他情况下,在它应该拒绝的时候却没有拒绝。“

OpenAI此举旨在回应有关ChatGPT自身存在偏见、结果不准确和不当行为​的报道,以及微软​和谷歌对目前正在测试的新AI搜索产品的更广泛批评。据报道,在周三发布的博客文章中,微软详细介绍了其基于OpenAI技术的新必应聊天工具的局限性,同时谷歌也已要求员工投入更多时间手动改进其Bard系统的答案。

OpenAI还表示,该公司正在加大对ChatGPT的开发力度,包括允许每个用户进行有限的定制,以适应他们的品位、风格和视图。

OpenAI在博文中写道:“我们认为,AI应该是对每个人都有用的工具,因此每个人都应该可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。将定制发挥到极致可能会导致恶意使用我们的技术,或者催生出盲目放大人们现有信念的‘马屁精式AI’,在这方面取得适当的平衡将是具大的挑战。因此,系统行为总是需要限制。“

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯
相关文章 更多
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析

OpenAI GPT-6 Astra 模型通过 MCP 协议与 SourcePauseTool 控制《传送门》游戏,完成 3336 次工具调用并自主通关。实验耗时约 24 小时,API 成本约 571 美元,展示了多模态 AI 在 3D 解谜领域的突破性进展。

OpenAI:数据中心容量在 2025 年增至 1.9 GW,增长三倍
OpenAI:数据中心容量在 2025 年增至 1.9 GW,增长三倍

OpenAI算力总量预计2025年达1.9GW,较2023年增长9.5倍,年经常性收入同步增至200亿美元。推理成本已压至每百万token不到1美元,采取训练性能优先、推理效率优先的双轨策略。未来营收将拓展技术授权与按成效付费模式,并优先研发AIAgent与工作流自动化。

Transformer之父NoamShazeer离开谷歌加入OpenAI
Transformer之父NoamShazeer离开谷歌加入OpenAI

Transformer核心作者NoamShazeer离开谷歌加入OpenAI,担任架构研究负责人。他曾参与创办Character.AI,后因谷歌交易回归,如今再次转投。此举折射出行业对Transformer架构局限性的反思,以及下一代模型架构创新的迫切需求。

突发!谷歌技术巨牛Noam跳槽OpenAI
突发!谷歌技术巨牛Noam跳槽OpenAI

Transformer论文共同一作、谷歌元老级AI专家NoamShazeer再次离开谷歌,加盟OpenAI。他拥有高达35万余次论文引用,近期专利涉及结构化工具调用、神经架构搜索及混合专家模型等关键方向。OpenAI借此补齐构建超级智能体与底层模型架构的核心能力。

谷歌Transformer之父跳槽OpenAI,沙泽尔究竟在想什么?
谷歌Transformer之父跳槽OpenAI,沙泽尔究竟在想什么?

AI传奇人物诺姆·沙泽尔离开谷歌加入OpenAI。作为Transformer架构之父,他因不满谷歌严格的审批流程和“大公司病”,再次出走。选择OpenAI因其快速迭代理念和开放氛围,契合其推动AGI落地的核心诉求。

Codex兼容国产开源模型!实测DeepSeek接入:门槛还是太高
Codex兼容国产开源模型!实测DeepSeek接入:门槛还是太高

OpenAI的Codex工具开放第三方模型接入,但实际门槛高,仅支持ResponsesAPI协议。DeepSeek等国产模型无法直接接入,需通过本地转接桥,响应速度慢于官方模型,但成本极低。此举为国产模型提供成熟Agent容器机会,但OpenAI仍掌握核心标准。

AI制药迎来标准化评估时代,OpenAI入局催化创新药赛道估值重塑
AI制药迎来标准化评估时代,OpenAI入局催化创新药赛道估值重塑

OpenAI发布LifeSciBench基准测试,为AI制药建立标准化评估工具,推动行业规范。港股创新药板块短期承压,但AI制药从概念验证走向产业落地趋势不变,研发效率成核心竞争维度,板块估值有望修复。

Getty Images与OpenAI达成“展示协议”,股价盘前暴涨141%
Getty Images与OpenAI达成“展示协议”,股价盘前暴涨141%

GettyImages与OpenAI签署展示协议,股价盘前暴涨141%,空头回补放大涨幅,市场反应强烈。此次合作标志着双方从对抗转向合作,OpenAI授权版图持续扩张,但公司基本面压力犹存。

OpenAI发布首款自研芯片:大模型直接参与设计与优化
OpenAI发布首款自研芯片:大模型直接参与设计与优化

OpenAI联合博通推出首款自研AI芯片Jalapeño,专为大语言模型推理设计,开发周期仅9个月。芯片采用软硬件协同设计,并用AI优化自身架构,每瓦性能大幅领先业界。计划2026年商用,通过全栈布局降低AI使用门槛。

思科与 OpenAI 深度合作,将在内部大规模使用 AI 编程 Agent “Codex”
思科与 OpenAI 深度合作,将在内部大规模使用 AI 编程 Agent “Codex”

思科与OpenAI深化合作,将AI编程智能体Codex集成至企业级开发体系,实现跨代码仓库构建效率提升20%、缺陷修复提速10-15倍、前端框架升级周期从数周缩短至数天,成为AI驱动研发的核心支柱。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。