AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现可在本地运行 LLM 和 AI 聊天机器人
本站3月7日消息,AMD公司今天发布公告,表示用户可以本地化运行基于GPT的大语言模型(LLM),从而构建专属的AI聊天机器人。AMD表示用户可以在包括采用AMD新XDNANPU的Ryzen7000和Ryzen8000系列APU,以及内置AI加速核心的RadeonRX7000系列GPU设备上,本地运行LLM和AI聊天机器人。AMD在公告中详细介绍了运行步骤,例如运行70亿参数的Mistral,搜索并下载“TheBloke/OpenHermes-2.5-Mistral-7B-GGUF”;如果运行70亿参数的
本站 3 月 7 日消息,AMD 公司今天发布公告,表示用户可以本地化运行基于 GPT 的大语言模型(LLM),从而构建专属的 AI 聊天机器人。
AMD 表示用户可以在包括采用 AMD 新 XDNA NPU 的 Ryzen 7000 和 Ryzen 8000 系列 APU,以及内置 AI 加速核心的 Radeon RX 7000 系列 GPU 设备上,本地运行 LLM 和 AI 聊天机器人。

AMD 在公告中详细介绍了运行步骤,例如运行 70 亿参数的 Mistral,搜索并下载“TheBloke / OpenHermes-2.5-Mistral-7B-GGUF”;如果运行 70 亿参数的 LLAMA v2,搜索并下载“TheBloke / Llama-2-7B-Chat-GGUF”。



AMD 并不是第一个这样做的公司,英伟达(NVIDIA)最近也推出了 "Chat with RTX",这是一个由 GeForce RTX 40 和 RTX 30 系列 GPU 支持的人工智能聊天机器人。它采用 TensorRT-LLM 功能集进行加速,基于本地化数据集提供快速生成的人工智能结果。
本站附上公告原文地址,感兴趣的用户可以访问阅读。
Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。













