基于Adaptor和GPT的时间序列多任务一体化大型模型
今天跟大家聊一聊大模型时间序列预测的最新工作，来自阿里巴巴达摩院，提出了一种基于adaptor的通用时间序列分析框架，在长周期预测、短周期预测、zero-shot、few-shot、异常检测、时间序列分类、时间序列填充等7项时间序列任务上都取得了显著的效果。论文标题：一刀切：使用预训练语言模型和特别设计的适配器进行通用时间序列分析可下载链接：https://arxiv.org/pdf/2311.14782v1.pdf1、背景时间序列预测领域中，搭建大型模型的难点之一在于缺乏如NLP或CV领域那样的充足的训
今天跟大家聊一聊大模型时间序列预测的最新工作，来自阿里巴巴达摩院，提出了一种基于adaptor的通用时间序列分析框架，在长周期预测、短周期预测、zero-shot、few-shot、异常检测、时间序列分类、时间序列填充等7项时间序列任务上都取得了显著的效果。
论文标题：一刀切：使用预训练语言模型和特别设计的适配器进行通用时间序列分析
可下载链接：https://arxiv.org/pdf/2311.14782v1.pdf
1、背景
时间序列预测领域中，搭建大型模型的难点之一在于缺乏如NLP或CV领域那样的充足的训练数据。本文提出了一种解决方案，即以NLP或CV领域中训练好的大型模型为基础，并结合Adaptor技术，将其适配到时间序列中，以解决各种时间序列问题
Adaptor在NLP、CV等领域应用很广泛，尤其是最近大模型应用中，adaptor经常被用来进行大模型的轻量级finetune。Adaptor是一个轻量级网络，通过将其插入到大模型中的一些模块中，然后fix大模型参数，只更新adaptor的参数，就可以实现轻量级的大模型finetune。
图片
下面，给大家介绍阿里达摩院这篇工作中，是如何利用adaptor结合预训练的NLP、CV模型搭建统一时间序列模型的。
2、整体结构
本文提出的模型基于Freeze参数的预训练语言模型，结合4种类型的adaptor实现。整体模型结构如下图所示。
图片
首先，对于输入的时间序列，我们将使用RevIN的方法进行归一化。这意味着我们会从每个时间序列中减去均值，并除以方差。接下来，我们将使用PatchTST的方法，将时间序列通过滑动窗口切分成多个片段，生成片段嵌入。处理好的时间序列将被输入到一个NLP领域的预训练语言模型中。在整个训练过程中，语言模型的原始参数将保持不变，我们只会更新新增的4类适配器参数
3、Adaptor设计
本文介绍了四种类型的适配器，这些适配器可以插入到NLP和CV领域的大型模型的不同位置，以实现对时间序列进行适配的目标。这四种适配器分别是时间适配器、通道适配器、频率适配器和异常适配器
时间适配器：时间适配器是一个MLP网络，用于融合时间维度的信息。在文中，我们采用了瓶颈结构，先将时间维度或空间维度的高维信息映射到低维空间，然后再映射回高维空间。这样做的目的是在提取时序关系的过程中避免过拟合的风险
Channel Adaptor：channel adaptor的结构和temporal adaptor相似，区别在于在空间维度进行，用来提取多元序列各个变量之间的关系，也采用了bottlenect；
图片
Frequency Adaptor：frequency adaptor在频域进行时间序列的信息提取，这部分将时间序列映射到频域，在频域做MLP，然后再映射回时域，以此实现频域这种全局信息的提取。
Anomaly Adapter：这部分主要是实现了一种新的时间序列异常检测方法，这里利用了attention score矩阵，对于正常序列attention score矩阵呈现周期重复的特性，而异常序列则没有，因此文中使用一个高斯核作为anomaly adaptor，用attention的输出结果和其计算KL散度进行时间序列异常检测。
图片
另外，不同的数据会受到各个适配器的影响程度不同，因此，在文中采用了一个门控网络，以有选择地使用适配器
4、实验效果
对7种时间序列任务进行了效果对比，本文提出的时间序列统一大模型在各个任务中取得了超出业内各个SOTA模型的效果。以长周期预测任务为例，基于GPT2+Adaptor的统一模型表现最优
图片
想给硬盘换个分区表格式，但又不想重装系统、丢失数据？这事儿其实挺常见的。无论是为了用上超过2TB的大容量硬盘，还是想切换到更现代的UEFI启动模式，将MBR无损转换为GPT都是一个关键操作。好消息是，现在有好几种成熟的方法可以帮你安全实现这个目标，下面就来详细聊聊。 一、使用 MBR2GPT 工具（
5月30日，华为推出了全新的AI模型——盘古UltraMoE，该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型，它在整个训练过程中完全基于华为的昇腾AI平台完成，标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如，Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入，显著改善了超大规模模型训练期间出现的梯度异常及
AI视频生成正迎来属于“通义”的高光时刻！就在昨晚，阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频，就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频，效果惊艳。实际效果展示如下：△来自@AIMIRAI46487更令人振奋的是，这款新模型一经发布便全面开源，现在所有人都可以免费在通义万相官网体验使用。据官方介绍，Wan2.2-S2V的核心优势包括：支持最长分钟级的单次视频生成，画面稳定且具有一致性；具备影院级别的音
近日，有汽车领域博主爆料，特斯拉的FSD（完全自动驾驶）辅助系统将迎来一次重要升级，或将实现更真实的环境场景还原。在最新曝光的软件代码中，发现了大量新增的渲染模型，涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人，以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息，日本方面已为特斯拉FSD系统的落地扫
大语言模型面对加密数据，即便最新的Qwen3也会感到压力！尽管当下各类推理模型在多种基准测试中表现优异，但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域，模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链，还需要其能够精准辨识复杂加密模式中的潜在规律；成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评，使用大量真实隐私场景数据和多种密码算法，严苛挑战当前最先进的大模型。CipherBank的测评结果显示，目前的大语言模型
强化学习（RL）结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而，这一方法面临两大挑战：搜索引擎返回的文档质量不稳定，导致训练过程中的噪音和不稳定性；RL训练需要频繁部署，产生大量API开销，限制了可扩展性。针对这些问题，阿里通义实验室推出了开源解决方案ZeroSearch，这是一个无需与真实搜索引擎交互的强化学习框架。实验表明，ZeroSearch只需使用3B参数的LLM作为检索模块，就能有效提升搜索能力，并大幅节省API成本。ZeroSearch让LLM实现自给自足
编辑|萝卜皮OpenAI的GPT和MetaAI的Llama等大型语言模型（LLM）因其在化学信息学领域的潜力而日益受到认可，特别是在理解简化分子输入行输入系统（SMILES）方面。这些LLM还能够将SMILES字符串解码为矢量表示。加拿大温莎大学（UniversityofWindsor）的研究人员比较了GPT和Llama与SMILES上的预训练模型在下游任务中嵌入SMILES字符串的性能，重点关注两个关键应用：分子特性预测和药物-药物相互作用预测。该研究以「Canlargelanguagemodelsun
编辑：桃子【新智元导读】第二代Ameca升级亮相，搭载GPT-4技术，实现实时对话。人形机器人Ameca迎来了它的第二代版本！近期，在2024年世界移动通信大会（MWC）上，全球最先进的机器人Ameca再度亮相。Ameca在会场周围吸引了大量观众。通过GPT-4的增强，Ameca能够即时回应各种问题。「展示一段舞蹈吧」。当被问及是否有情感时，Ameca通过一系列逼真的面部表情作出回应。就在几天前，开发Ameca的英国机器人公司EngineeredArts展示了他们团队的最新成果。视频中，Ameca具备了
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
