面壁智能联合清华大学、OpenBMB开源社区联合发布并开源两大最新数据集
作者:吹吹风会发光
时间:2026-05-29
来源:正软商城
浏览:3
5月29日,面壁智能联合清华大学、OpenBMB开源社区,一口气开源了两大最新数据集:Ultra-FineWeb-L3与UltraData-SFT-2605。这可不是一般的更新——Ultra-FineWeb-L3包含了高质量的中文+英文网页合成数据,总量突破600B Tokens,其中中文数据就占了
本文目录
5月29日,面壁智能联合清华大学、OpenBMB开源社区,一口气开源了两大最新数据集:Ultra-FineWeb-L3与UltraData-SFT-2605。这可不是一般的更新——Ultra-FineWeb-L3包含了高质量的中文+英文网页合成数据,总量突破600B Tokens,其中中文数据就占了200B+ Tokens,是目前开源社区规模最大的中文预训练合成数据集。而UltraData-SFT-2605,则是国内首次开源的千万级、同时包含深思考与非思考标注的SFT数据集。
如果你关注过MiniCPM5-1B的训练过程,就会发现这正是UltraData分级治理体系的一次完整实践。这次上新的两大数据集,其实已经在MiniCPM5-1B的训练流程中得到了完全验证,覆盖了从预训练退火到后训练SFT的全链路。换句话说,这不是纸上谈兵的理论成果,而是实打实地跑通了整个流程。

作者最新文章
AO3官网中文入口最新地址公布
2026-11-19 10:44
AO3镜像网站一键入口链接
2026-11-18 13:04
手机修复PDF失败怎么办?PDF电脑修复怎么选
2026-11-18 12:23
腾讯文档误删内容怎么恢复历史版本 找回方法
2026-11-17 13:42
如何进入Wattpad?正版官方入口与中文用户网站入口说明
2026-11-16 17:02
热门文章
更多
精品专题
更多
Mac软件
更多
火山引擎 网页版
Windows/ macOS/ Linux
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。
















