10万美元+26天，一个低成本千亿参数LLM就诞生了
包括仅解码器结构（如GPT和LLAMA系列模型）、仅编码器结构（如BERT）和编码器-解码器结构（如T5）以及它们的变体模型在内的大型语言模型（LLM）已经取得了非凡的成功，并已被广泛用于各种语言处理和多模态任务。尽管如此成功，训练LLM的成本还是过于高昂，以至于仅有少数公司能承受其训练成本。此外，当前的趋势说明未来还会使用更大规模的训练数据，这会进一步推升大模型的研发成本。举个例子，LLAMA-1训练使用了1-1.4TBtoken，而Llama2更是达到了2TB。研发LLM的另一大关键性挑战是评估。主流
论文：https://arxiv.org/pdf/2309.03852.pdf
需要重写的内容是：模型链接：https://huggingface.co/CofeAI/FLM-101B
语言本质上是符号的。已经有一些研究在使用符号而非类别标签来评估 LLM 的智能水平。类似地，该团队使用了一种符号映射方法来测试 LLM 在未曾见过的上下文上的泛化能力。
人类智能的一大重要能力是理解给定的规则并采取相应的行动。这种测试方法已被广泛用在各种等级的测验中。因此，规则理解成为这里的第二项测试。
重写后的内容：模式挖掘是智能的重要组成部分，它涉及到归纳和演绎。在科学发展历史中，这种方法起着至关重要的作用。此外，各种竞赛的测试题也常常需要这种能力才能解答。出于这些原因，我们选择了模式挖掘作为第三个评估指标
最后一个也很重要的指标是抗干扰能力，这也是智能的核心能力之一。已有研究指出，语言和图像都很容易被噪声干扰。考虑到这一点，该团队把抗干扰用作了最后一个评估指标。
研究者表示，这是一个使用增长策略从头开始训练超过千亿参数的LLM研究尝试。同时，这也是目前成本最低的千亿参数模型，仅需10万美元成本
通过改进 FreeLM 训练目标、有潜力的超参数搜索方法和功能保留型增长，这项研究解决了不稳定问题。研究者相信该方法也能为更广大的科研社区提供助力。
研究人员还对新模型与之前的强大模型进行了实验比较，包括使用面向知识的基准和新提出的系统性IQ评估基准。实验结果显示，FLM-101B模型具有竞争力且稳健
该团队会发布模型检查点、代码、相关工具等，以推进千亿参数规模的汉语和英语双语 LLM 的研究开发。
马斯克回应称中国大模型或于2027年一季度达到Fable级别。智谱GLM-5.2多项评测与海外头部模型差距缩小至1%-4%，在CodeArena获全球可用模型第一。智谱股价单日涨26%，市值破9000亿港元。科创板拟扩大第五套标准支持AI企业上市。
6月19日，我国首个水产育种专用智能大模型平台“蓝鲲智种”在海南发布，由青岛蓝色种业研究院联合中国海洋大学等打造，标志着水产育种领域拥有专属科学智能模型和基础平台。
研究团队提出并行循环Transformer，让70亿参数模型通过两次内部循环思考，在代码任务上超越数百亿参数的大模型，第三次循环后性能因收益-代价失衡而下降。结合显式推理链可进一步提升效果。
英伟达提出ZPPO方法，让大模型智慧以题目背景而非答案形式辅助小模型学习，通过二元候选、负面候选及回放缓冲区三大组件，在0.8B模型上视觉语言理解提升9.3%，全面超越现有方法。
闭源API成本高、依赖性强，开放权重模型因可部署、可控、低成本而受青睐。2026年智谱GLM-5.2在特定任务接近美国前沿水平，标志前沿能力通过开放权重扩散。企业转向混合路线，模型调度层成为新机会，核心问题从“谁最强”变为“谁还愿意一直租用AI能力”。
大模型监督微调SFT，过去一直被当作一个“数据越多越好”的活儿。但如果你真的在一线跑过训练，就会知道这个直觉有多离谱。2026年的产业数据很清楚：国内大模型训练的整体算力有效利用率，连五成都不到。大量GPU资源，其实都消耗在那些重复、低信息量、甚至带偏见的冗余样本上。 从根子上讲，全量样本训练不仅直
CLSR提出让大模型智能体自主生成演化机器语言符号体系，将推理链视为带宽受限的状态传输。实验表明，该方法在多种基准上将生成端token降低约3-6倍，基本维持原始CoT准确率，并改善accuracy-token帕累托前沿。
6月30日国产算力板块拉升，寒武纪涨超8%市值破万亿。美团发布LongCat-2.0，为首个完全基于国产算力训推的万亿参数大模型，参数超1.6万亿，测试版调用量全球前三，训练峰值算力超5万卡，成本低于同类模型。
前苹果AI平台技术负责人田野回国创立RoboScience机器科学，发布VLOA架构，通过物体轨迹解耦硬件，利用互联网视频和仿真生成海量数据，将单条数据成本降至几分钱，实现机器人读说明书拼装家具等复杂任务。
纳睿雷达发布两款新品：S波段全极化多功能有源相控阵雷达可实时监测超460公里范围内中小尺度强对流天气并预警灾害；超精细化短时临近AI气象大模型实现0-24小时致灾强对流天气精准预报，分辨率达分钟级街道级。
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
