当前位置:

首页 > 业界资讯 > OpenAI:我们正努力减少ChatGPT偏见和不良行为

OpenAI:我们正努力减少ChatGPT偏见和不良行为

2月17日消息,热门聊天机器人ChatGPT背后的AI研究公司OpenAI表示,它正在努力减少系统中存在的偏见和不良行为,并将允许用户自定义聊天机器人的部分行为。此前,有大量关于ChatGPT与用户互动不当和结果错误的报告。OpenAI在发布在其公司网站上的博客文章中承认:”自从推出ChatGPT以来,用户已经分享了许多他们认为有偏见、冒犯性或其他令人反感的输出。在许多情况下,我们认可了这些担忧,它们揭示了我们系统的真正局限性,因此我们希望解决这些问题。“该公司继续写道:“我们正在投资于研究和工程,以减少

本文目录

    OpenAI:我们正努力减少ChatGPT偏见和不良行为

    2月17日消息,热门聊天机器人ChatGPT背后的AI研究公司OpenAI表示,它正在努力减少系统中存在的偏见和不良行为,并将允许用户自定义聊天机器人的部分行为。此前,有大量关于ChatGPT与用户互动不当和结果错误的报告。

    OpenAI在发布在其公司网站上的博客文章中承认:”自从推出ChatGPT以来,用户已经分享了许多他们认为有偏见、冒犯性或其他令人反感的输出。在许多情况下,我们认可了这些担忧,它们揭示了我们系统的真正局限性,因此我们希望解决这些问题。“

    该公司继续写道:“我们正在投资于研究和工程,以减少ChatGPT在回应不同输入时存在明显和微妙的偏见。在某些情况下,ChatGPT目前拒绝了它不应该拒绝的输出。而在其他情况下,在它应该拒绝的时候却没有拒绝。“

    OpenAI此举旨在回应有关ChatGPT自身存在偏见、结果不准确和不当行为​的报道,以及微软​和谷歌对目前正在测试的新AI搜索产品的更广泛批评。据报道,在周三发布的博客文章中,微软详细介绍了其基于OpenAI技术的新必应聊天工具的局限性,同时谷歌也已要求员工投入更多时间手动改进其Bard系统的答案。

    OpenAI还表示,该公司正在加大对ChatGPT的开发力度,包括允许每个用户进行有限的定制,以适应他们的品位、风格和视图。

    OpenAI在博文中写道:“我们认为,AI应该是对每个人都有用的工具,因此每个人都应该可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。将定制发挥到极致可能会导致恶意使用我们的技术,或者催生出盲目放大人们现有信念的‘马屁精式AI’,在这方面取得适当的平衡将是具大的挑战。因此,系统行为总是需要限制。“

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 OpenAI
    相关文章 更多
    sora使用指南国内使用的具体操作步骤教程
    sora使用指南国内使用的具体操作步骤教程

    本文详细解析Sora在国内的使用现状,指出目前官方未对公众开放注册,提醒用户警惕虚假链接,并提供关注官方动态及替代方案的实用建议。

    OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析
    OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析

    OpenAI GPT-6 Astra 模型通过 MCP 协议与 SourcePauseTool 控制《传送门》游戏,完成 3336 次工具调用并自主通关。实验耗时约 24 小时,API 成本约 571 美元,展示了多模态 AI 在 3D 解谜领域的突破性进展。

    OpenAI:数据中心容量在 2025 年增至 1.9 GW,增长三倍
    OpenAI:数据中心容量在 2025 年增至 1.9 GW,增长三倍

    OpenAI算力总量预计2025年达1.9GW,较2023年增长9.5倍,年经常性收入同步增至200亿美元。推理成本已压至每百万token不到1美元,采取训练性能优先、推理效率优先的双轨策略。未来营收将拓展技术授权与按成效付费模式,并优先研发AIAgent与工作流自动化。

    Transformer之父NoamShazeer离开谷歌加入OpenAI
    Transformer之父NoamShazeer离开谷歌加入OpenAI

    Transformer核心作者NoamShazeer离开谷歌加入OpenAI,担任架构研究负责人。他曾参与创办Character.AI,后因谷歌交易回归,如今再次转投。此举折射出行业对Transformer架构局限性的反思,以及下一代模型架构创新的迫切需求。

    突发!谷歌技术巨牛Noam跳槽OpenAI
    突发!谷歌技术巨牛Noam跳槽OpenAI

    Transformer论文共同一作、谷歌元老级AI专家NoamShazeer再次离开谷歌,加盟OpenAI。他拥有高达35万余次论文引用,近期专利涉及结构化工具调用、神经架构搜索及混合专家模型等关键方向。OpenAI借此补齐构建超级智能体与底层模型架构的核心能力。

    谷歌Transformer之父跳槽OpenAI,沙泽尔究竟在想什么?
    谷歌Transformer之父跳槽OpenAI,沙泽尔究竟在想什么?

    AI传奇人物诺姆·沙泽尔离开谷歌加入OpenAI。作为Transformer架构之父,他因不满谷歌严格的审批流程和“大公司病”,再次出走。选择OpenAI因其快速迭代理念和开放氛围,契合其推动AGI落地的核心诉求。

    Codex兼容国产开源模型!实测DeepSeek接入:门槛还是太高
    Codex兼容国产开源模型!实测DeepSeek接入:门槛还是太高

    OpenAI的Codex工具开放第三方模型接入,但实际门槛高,仅支持ResponsesAPI协议。DeepSeek等国产模型无法直接接入,需通过本地转接桥,响应速度慢于官方模型,但成本极低。此举为国产模型提供成熟Agent容器机会,但OpenAI仍掌握核心标准。

    AI制药迎来标准化评估时代,OpenAI入局催化创新药赛道估值重塑
    AI制药迎来标准化评估时代,OpenAI入局催化创新药赛道估值重塑

    OpenAI发布LifeSciBench基准测试,为AI制药建立标准化评估工具,推动行业规范。港股创新药板块短期承压,但AI制药从概念验证走向产业落地趋势不变,研发效率成核心竞争维度,板块估值有望修复。

    Getty Images与OpenAI达成“展示协议”,股价盘前暴涨141%
    Getty Images与OpenAI达成“展示协议”,股价盘前暴涨141%

    GettyImages与OpenAI签署展示协议,股价盘前暴涨141%,空头回补放大涨幅,市场反应强烈。此次合作标志着双方从对抗转向合作,OpenAI授权版图持续扩张,但公司基本面压力犹存。

    OpenAI发布首款自研芯片:大模型直接参与设计与优化
    OpenAI发布首款自研芯片:大模型直接参与设计与优化

    OpenAI联合博通推出首款自研AI芯片Jalapeño,专为大语言模型推理设计,开发周期仅9个月。芯片采用软硬件协同设计,并用AI优化自身架构,每瓦性能大幅领先业界。计划2026年商用,通过全栈布局降低AI使用门槛。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。