当前位置:

首页 > 编程开发 > TensorFold 1.2.7更新:改进长会话缓存恢复,加入Responses WebSocket模式

TensorFold 1.2.7更新:改进长会话缓存恢复,加入Responses WebSocket模式

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

TensorFold 1.2.7改进长会话续接和缓存恢复,并加入Responses API的WebSocket模式。它是Apache-2.0开源推理引擎,适合在Apple Silicon和NVIDIA GPU上部署自有模型;模型权重的许可需要单独确认。

本文目录

    TensorFold 1.2.7改进长会话续接和缓存恢复,并加入Responses API的WebSocket模式。它是Apache-2.0开源推理引擎,适合在Apple Silicon和NVIDIA GPU上部署自有模型;模型权重的许可需要单独确认。

    Apple Silicon怎样安装并启动本地模型

    官方README提供Homebrew安装入口,以及一个已固定模型修订的起步示例:

    brew install ashhart/tensorfold/tensorfold
    tensorfold pull mlx-community/Qwen3.5-2B-MLX-4bit@93760be4f1f69842a46bc13dbdc0f19e291392a3
    tensorfold serve mlx-community/Qwen3.5-2B-MLX-4bit --name local-model --context 8192 --no-thinking

    这些命令会下载模型权重。启动后应按现有客户端配置连接本地服务,先用小模型验证端到端请求,再尝试更长上下文或其他模型。使用Homebrew安装时还应核对实际安装版本,不能默认仓库镜像已经同步到目标版本。

    TensorFold 1.2.7更新:改进长会话缓存恢复,加入Responses WebSocket模式官方版本说明
    对应版本的官方更新与使用说明。

    Linux与CUDA环境先检查什么

    选择与CPU匹配的linux-aarch64或linux-x86_64发布压缩包,并保留包内目录结构。当前官方文档要求glibc 2.28以上和提供libcuda.so.1的NVIDIA R580以上驱动;内核按CUDA 13构建,过旧驱动会在启动时被拒绝。

    先用nvidia-smi核对已安装驱动,再按官方运行手册检查运行库和GPU支持。服务本身不要求安装Python或MLX,不能把驱动缺失当成Python包问题反复安装依赖。

    长对话怎样验证缓存续接

    本版针对Metal上的Qwen3.8-27B改进了客户端省略早期推理内容时的后续会话恢复;磁盘状态恢复失败时会回落到内存中已有状态。CUDA上的GLM-5.3-Flash续接使用显式的TF_GLM_REQUEST_STARTS=1开关,不是默认对所有模型自动开启。

    使用自己的会话样本分别检查首次请求与后续轮次,并通过仪表板或/stats核对提示缓存和磁盘层。官方提供了特定M3 Ultra等环境的测量结果,不能将这些数字直接当成所有GPU上的性能承诺。

    Responses WebSocket和图像聊天怎么选

    新增模式允许对GET /v1/responses执行WebSocket升级,供使用client.responses.connect()的兼容客户端连接。部署在反向代理之后时,还需要现有代理正确传递WebSocket升级请求;普通HTTP请求能通,不代表WebSocket链路已经可用。

    LightOnOCR-3的0.8B和4B版本可在CUDA上从发布方BF16权重提供图像聊天。选择模型、权重格式和后端时应匹配这项支持范围,不把一个模型的CUDA支持泛化到全部Metal或其他权重格式。

    依据:官方版本说明;官方安装和使用说明

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 AI
    相关文章 更多
    workbuddy怎么用模板?模板库在哪里打开
    workbuddy怎么用模板?模板库在哪里打开

    WorkBuddy 的模板不在独立菜单里,而在「新建任务」页:标题下方选办公、开发、设计场景,场景标签下方那一排按钮就是模板。悬停输入框显示灰色预览,点击才真正填入,改完发送即可。本文用真实界面截图讲清模板位置、预览机制、场景与胶囊的差别、六步操作流程,以及找不到模板时的五条排查方法。

    workbuddy怎么用AI生成内容?生成步骤有哪些
    workbuddy怎么用AI生成内容?生成步骤有哪些

    WorkBuddy 用 AI 生成内容只需一句话:把要生成什么、输出成什么格式写进输入框,它会自主拆分步骤并把成品放进右侧「产物」,可生成文档、表格、PPT、图片、网页和视频。本文按 12 步演示模式选择、需求写法、素材与技能准备、查看产物与变更、另存与继续修改,并附效果不理想时的调整顺序。

    workbuddy怎么用才高效?有哪些使用技巧
    workbuddy怎么用才高效?有哪些使用技巧

    WorkBuddy 高效使用的关键在于给足上下文、选对工作模式、把重复流程固化为技能与定时任务。本文用 8 张真实界面截图演示工作空间设置、三种模式切换、「+」菜单里调用技能与专家、定时任务配置,并附 8 个高频坑清单与一周上手路线。

    workbuddy如何导入文件?支持哪些文件格式
    workbuddy如何导入文件?支持哪些文件格式

    WorkBuddy 导入文件有四种方式:拖到页面任意位置、点输入框添加入口选择、Ctrl/Cmd+V 粘贴截图,或把目录设为工作空间让 AI 读取。官方支持 PDF、Word、TXT、Markdown、RTF、Excel、CSV、TSV、PPT、JPG、PNG、GIF、BMP、ZIP、RAR 和常见代码文件,拖拽单次最多 50 个、单个文件大小不限,但不支持直接拖文件夹。本文按 12 步演示四种方式,并附格式限制对照与读不出文件时的排查顺序。

    美团12.69.201更新:小团首页入口与外卖组件使用方法
    美团12.69.201更新:小团首页入口与外卖组件使用方法

    美团12.69.201的iOS版本说明列出小团独立首页入口、升级后的外卖组件与控制中心快捷入口。想用AI助手找吃喝玩乐或优惠,可先从美团首页进入小团;常用外卖服务也可以放到系统桌面。

    美图秀秀12.23.0更新:AI助手支持圈选修改,美化强度可调
    美图秀秀12.23.0更新:AI助手支持圈选修改,美化强度可调

    美图秀秀国际iOS版Meitu 12.23.0强化了局部编辑:AI助手支持圈选后描述修改目标,一键美化新增橡皮擦,丰盈与提拉效果支持强度调整。视频编辑还增加低光修复、色彩增强和降噪。

    Wink 3.21.1更新:新增去肿修饰,增强照片AI消除
    Wink 3.21.1更新:新增去肿修饰,增强照片AI消除

    Wink 3.21.1的iOS版本说明列出去肿修饰、发缝填充Max强度、瘦手臂和照片AI消除扩展,并支持通过Siri打开功能。处理人像或清理照片时,可以先按目标选择对应工具,再查看局部细节是否自然。

    GitHub Copilot CLI 1.0.111-0预发布:扩展托管权限规则,修复MCP重连与用量显示
    GitHub Copilot CLI 1.0.111-0预发布:扩展托管权限规则,修复MCP重连与用量显示

    GitHub Copilot CLI 1.0.111-0是预发布版本,新增企业托管Shell、Bash和PowerShell权限规则的正则表达式支持,并提供单次启动允许远端创建会话的开关。MCP授权重连、用量刷新和多项终端显示问题也有修复。

    Codex Security 0.10.0更新:支持扫描续跑与批量预算,MCP注册参数需迁移
    Codex Security 0.10.0更新:支持扫描续跑与批量预算,MCP注册参数需迁移

    Codex Security 0.10.0可以从检查点继续中断的Standard扫描,并为批量扫描设置共享的预估预算。升级前还应检查MCP注册脚本和包含符号链接的旧扫描路径;预算参数不是保证不会超支的硬上限。

    Rust 1.100.0发布:never类型稳定,旧版edition与Cargo缓存需检查
    Rust 1.100.0发布:never类型稳定,旧版edition与Cargo缓存需检查

    Rust 1.100.0稳定了never类型和自定义分配器核心API,并带来Cargo未使用依赖提示、构建目录布局调整和依赖冷却配置。升级时应优先验证旧edition的类型推断,以及自行依赖Cargo缓存路径的构建脚本。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?