选择性风险可以提高AI的公平性和准确性
麻省理工人工智能实验室的研究人员发表了一篇新论文，旨在谴责在某些场景下使用选择性回归，因为这种技术会降低数据集中代表性不足的群体模型的整体性能。这些代表性不足的群体往往是女性和有色人种，这种对他们的忽视导致了一些关于人工智能种族主义和性别歧视的报道。在一个账户中，用于风险评估的人工智能错误地将黑人囚犯标记为白人囚犯的两倍。在另一项案例中，没有任何背景的男性照片被认定为医生和家庭主妇的比例高于女性。通过选择性回归，人工智能模型可以对每个输入做出两个选择：预测或弃权。只有在对决策有信心的情况下，该模型才会做出
麻省理工人工智能实验室的研究人员发表了一篇新论文，旨在谴责在某些场景下使用选择性回归，因为这种技术会降低数据集中代表性不足的群体模型的整体性能。
这些代表性不足的群体往往是女性和有色人种，这种对他们的忽视导致了一些关于人工智能种族主义和性别歧视的报道。在一个账户中，用于风险评估的人工智能错误地将黑人囚犯标记为白人囚犯的两倍。在另一项案例中，没有任何背景的男性照片被认定为医生和家庭主妇的比例高于女性。
通过选择性回归，人工智能模型可以对每个输入做出两个选择：预测或弃权。只有在对决策有信心的情况下，该模型才会做出预测，在几次测试中，通过排除无法正确评估的输入来提高模型的性能。
然而，当输入被删除时，它会放大数据集中已经存在的偏见。一旦AI模型被部署到现实生活中，这将导致代表性不足的群体进一步不准确，因为它无法像在开发过程中那样删除或拒绝代表性不足的群体。最终希望确保以明智的方式考虑跨组的错误率，而不是仅仅最小化模型的一些广泛的错误率。
麻省理工学院的研究人员还引入了一种新技术，旨在提高模型在每个子组中的模型性能。这种技术被称为单调选择性风险，一种模型没有弃权，而是包含种族和性别等敏感属性，而另一种则不包含。同时，两个模型都做出决策，没有敏感数据的模型被用作数据集中偏差的校准。
为这个特定问题提出正确的公平概念是一项挑战。但是通过执行这个标准，单调的选择风险，我们可以确保当减少覆盖范围时，模型性能实际上在所有子组中都变得更好。
当使用医疗保险数据集和犯罪数据集进行测试时，新技术能够降低代表不足的群体的错误率，同时不显著影响模型的整体性能。研究人员打算将这项技术应用到新的应用中，比如房价、学生平均学分绩点和贷款利率，看看它是否可以用于其他任务。
想了解Claude怎么收费？本文梳理了Claude Free、Pro及Team版的最新月费价格、消息限额与高级功能权益，并对比了不同层级的性价比，助你快速找到适合的AI办公伙伴。
本文详细解析Sora在国内的使用现状，指出目前官方未对公众开放注册，提醒用户警惕虚假链接，并提供关注官方动态及替代方案的实用建议。
南京邮电大学“光擎智算”团队联合南京大学，攻克GaN基Micro-LED器件技术，成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段，实现了图像识别等算力任务验证，推动光计算技术从理论走向工程落地。
苹果与铠侠签署为期3-5年的NAND闪存长期供应协议，且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张，从单纯压价转向确保稳定供货。
本教程指导大数据分析师在Linux环境中安装Hadoop，通过配置环境变量、验证版本及启动服务，确保Java和Hadoop命令可用。最终利用jps命令检查NameNode等核心进程状态，为后续学习HDFS和Spark打下基础。
一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源：反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声，在MTEB49项任务上显著提升性能，且无需重新训练，兼容多种基线方法。
麦富迪与达索系统联合举办技术公开日，展示数智化研发系统。通过WarmData大数据中心采集犬猫天性数据，结合达索系统仿真能力，实现配方模拟优化，缩短研发周期，推动宠物食品行业从经验驱动转向数据驱动。
2026年世界人工智能大会将于7月17日至20日举办，超过300款人工智能新品全球首发，1400多位嘉宾参会，近140场论坛，展览面积超过10万平方米，促成意向合作金额达162亿元，并且推出首个自主举办的国际顶级人工智能学术会议。
618”期间，AI全面渗透电商，超百万商家使用AI工具提升效率。政策补贴拉动绿色智能家电及汽车消费，市场回暖。供应链升级实现仓配一体化，时效大幅提升，多链协同激活内需活力。
AI生成作品虽完美却缺乏“活人感”，这一悖论贯穿艺术史。《红楼梦》中已批判套路化创作。真正活人感源于创作者内化形式美规律后的即兴发挥与平衡，而非单纯拒绝美化。能否尊重生活细节、容忍碰撞，决定作品是否鲜活，这也是艺术的根本功用。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
