当前位置:

首页 > 业界资讯 > Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

Llama3来了!就在刚刚,Meta官网上新,官宣了Llama380亿和700亿参数版本。并且推出即为开源SOTA:Meta官方数据显示,Llama38B和70B版本在各自参数规模上超越一众对手。8B模型在MMLU、GPQA、HumanEval等多项基准上均胜过Gemma7B和Mistral7BInstruct。而70B模型则超越了闭源的当红炸子鸡Claude3Sonnet,和谷歌的GeminiPro1.5打得有来有回。Huggingface链接一出,开源社区再次沸腾。眼尖的盲生们还第一时间发现了华点:M

本文目录

    Llama 3来了!

    就在刚刚,Meta官网上新,官宣了Llama 3 80亿和700亿参数版本。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    并且推出即为开源SOTA:

    Meta官方数据显示,Llama 3 8B和70B版本在各自参数规模上超越一众对手。

    8B模型在MMLU、GPQA、HumanEval等多项基准上均胜过Gemma 7B和Mistral 7B Instruct。

    而70B模型则超越了闭源的当红炸子鸡Claude 3 Sonnet,和谷歌的Gemini Pro 1.5打得有来有回。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    Huggingface链接一出,开源社区再次沸腾。

    眼尖的盲生们还第一时间发现了华点:

    Meta更藏了一手4000亿参数+的Llama 3版本,不逊于Claude 3超大杯Opus的那种!

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    AI写作助手创企HyperWriteAI的CEO见此已忍不住感慨:

    我们正在步入一个新世界,一个GPT-4级别的模型开源并且可以自由访问的世界。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    英伟达科学家Jim Fan则认为,还在训练中的Llama 3 400B将成为开源大模型的分水岭,改变很多学界研究和初创公司的发展方式。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    全面取得SOTA,但8k窗口

    更多技术细节,Meta在博客文章中给出。

    架构层面,Llama 3选择了经典的仅解码(decoder-only)式Transformer架构,采用包含128K token词汇表的分词器。

    训练数据上看,Llama 3的训练数据规模达到了15T tokens,全部来自于公开信息,其中5%为非英文数据,涵盖30多种语言。

    Llama 3的数据量比Llama 2的训练数据多7倍,其中代码比Llama 2多4倍。

    此外,为了提高 Llama 3 模型的推理效率,Meta AI还采用了分组查询注意力 (GQA)机制,在8192个tokens的序列上训练模型,并使用掩码确保自注意力不会跨越文档边界。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    结果,无论是8B还是70B版本,Llama 3相较于近似规模的上一代Llama 2,都取得了重大飞跃。

    在迄今为止的8B和70B参数规模的模型中,Llama 3都成为了新的SOTA模型。

    在语言(MMLU)、知识(GPQA)、编程(HumanEval)、数学(GSM-8K、MATH)等能力上,Llama 3几乎全面领先于同等规模的其他模型。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    除了这些常规的数据集,Meta AI还评估了Llama 3在现实场景中的性能,并为此研发了一套高质量的测试数据集。

    这个测试集包含了1800条数据,涵盖代码、推理、写作、总结等12 个关键用例,并针对开发团队保密。

    结果,Llama 3不仅大幅超越Llama 2,也战胜了Claude 3 Sonnet、Mistral Medium和GPT-3.5这些知名模型。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    而在AGIEval、BIG-Bench、ARC-Challenge这些更高阶、更困难的数据集上,Llama 3的表现同样可圈可点。

    8B版本在这些任务上超越了Mistral和Gemma,70B版本则战胜了Gemini Pro和MoE架构的Mixtral,分别斩获相应规模的SOTA。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    不过美中不足的是,Llama 3的上下文窗口只有8k,这与现在动辄几十上百万窗口的大模型相比,仿佛还停留在上一代(手动狗头)。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    但也不必过度担忧,Matt Shumer就对此持乐观态度,他表示相信在开源社区的努力下,窗口长度很快就会扩展上去。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    Llama迎来官方网页版

    目前,Llama 3两种参数量的基础和Instruct版本都已上线Hugging Face可供下载。

    此外,微软Azure、谷歌云、亚马逊AWS、英伟达NIM等云服务平台也将陆续上线Llama 3。

    同时,Meta还表示Llama 3会得到英特尔、英伟达、AMD、高通等多家厂商提供的硬件平台支持。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    值得一提的是,此次与基础模型一同发布的,还有基于Llama 3的官方Web版本,名字就叫Meta AI。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    目前该平台有对话和绘画两大功能,只用对话的话无需注册登录、即开即用,使用绘画功能则需要先登录账号。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    不过,目前该平台还不支持中文,也暂未上线文本上传等功能。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    代码方面,该平台也能够运行一些简单的Python程序,但似乎只能输出文本,涉及到绘图这样的任务就无法运行了。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    总的来看,这个网页版本还比较初级,但也不妨期待一波后面的更新。

    One More Thing

    一个小插曲是,其实在Meta官宣前几个小时,微软的Azure市场已经偷跑了Llama 3 8B Instruct版本的消息。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    开源模型机器学习在线平台Replicate上的Llama 3价格表也被网友们第一时间扒拉了出来。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

    但很快,这些“小道消息”就都被404了。

    好在乌龙完了,官方也没拖着,关心开源大模型的小伙伴们,可以造作起来了(doge)。

    Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来


    参考链接:
    [1]https://ai.meta.com/blog/meta-llama-3/。
    [2]https://about.fb.com/news/2024/04/meta-ai-assistant-built-with-llama-3/。
    [3]https://huggingface.co/meta-llama/Meta-Llama-3-70B。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯
    上一篇: 学剪辑电脑要求的配置
    下一篇: oCam(屏幕录像软件)怎么设置水印位置_oCam(屏幕录像软件)设置水印位置教程
    相关文章 更多
    扎克伯格承诺Meta今年不会再裁员:未来可能更艰难
    扎克伯格承诺Meta今年不会再裁员:未来可能更艰难

    Meta多轮裁员致员工士气降至冰点,上月裁员约8000人。幸存员工被迫承担AI训练杂活,对CEO扎克伯格提出的黑客松活动反应冷淡。扎克伯格承诺今年不再裁员,但承认可能犯更多错误。

    Meta 士气跌至历史冰点,高管承认管理失误并推零食福利试图挽回
    Meta 士气跌至历史冰点,高管承认管理失误并推零食福利试图挽回

    Meta首席技术官承认员工士气跌至历史最低点,源于AI转型中裁员8000人及强制调派员工从事枯燥数据标注。管理层致歉并推出涨零食预算、限制管理幅度等福利,但外界对效果持保留态度。

    Meta 新 AI 团队已在内部交付首批关键模型
    Meta 新 AI 团队已在内部交付首批关键模型

    Meta新AI团队MSL成立不到半年,已完成首批核心模型内部交付并进入测试阶段,涵盖文本与图像处理能力。工程化落地仍是难点,公司已重组架构、引进人才并集中资源,计划2026至2027年推出搭载自主AI的终端产品,包括Ray-BanDisplay智能眼镜,目前暂停海外铺货以保障美国订单。

    Meta推出60美元不锈钢快充底座为智能眼镜充电
    Meta推出60美元不锈钢快充底座为智能眼镜充电

    Meta推出一款60美元不锈钢充电底座,专为雷朋联名款及OakleyMetaHSTN智能眼镜设计,但不支持雷朋Display。底座重108克,支持20分钟充至50%、一小时充满,采用USB-C接口但需自备充电线,主打随手一放的便捷体验。

    Meta收回工程师强制调入AI团队指令,承认重组存在决策失误
    Meta收回工程师强制调入AI团队指令,承认重组存在决策失误

    Meta收回强制工程师加入AI团队的指令,承认重组存在失误。此前调动7000名员工,现改为尊重个人选择,并给予调岗优先安置权。员工曾抱怨工作类似数据标注,士气跌至近二十年最低。

    AI早报 |豆包大模型2.1 Pro正式发布;Meta推出299美元智能眼镜新系列Meta
    AI早报 |豆包大模型2.1 Pro正式发布;Meta推出299美元智能眼镜新系列Meta

    豆包大模型2.1Pro正式发布,多项基准测试接近GPT-5.5等水平,日均Tokens调用量达180万亿。Meta推出299美元智能眼镜新系列。甲骨文上财年裁员约2.1万人,部分岗位被AI取代。高通拟40亿美元收购AI芯片初创公司Modular。

    Meta因数据安全问题暂停一项训练AI的内部计划
    Meta因数据安全问题暂停一项训练AI的内部计划

    Meta公司近日暂停了一项内部计划,该计划原拟通过追踪员工鼠标移动及数字活动来训练AI模型,但由于存在数据安全漏洞——敏感数据可被所有员工访问,已承认正就此展开调查,但未透露暂停将持续多久。

    Meta收紧内部AI工具使用政策 害怕蒸馏进自家产品
    Meta收紧内部AI工具使用政策 害怕蒸馏进自家产品

    Meta公司今年五月发布内部指南,严格禁止工程师使用Anthropic的ClaudeCode和OpenAI的Codex等外部AI工具生成编程挑战、分析安全漏洞或测试自家模型,以防模型蒸馏引发法律纠纷与事态升级。

    Meta 利用自研芯片在新服务器中重复使用旧 DDR4 内存
    Meta 利用自研芯片在新服务器中重复使用旧 DDR4 内存

    Meta公司自主研发的Vistara定制芯片,利用CXL2.0和PCIeGen5接口,将退役服务器中的DDR4内存接入新一代DDR5服务器,从而延长硬件使用寿命、降低资本支出。这一方案计划部署于超大规模AI数据中心,有效缓解内存资源紧缺与浪费问题。

    Meta被曝使用AI取代人工审核员 大模型已接管50%请求
    Meta被曝使用AI取代人工审核员 大模型已接管50%请求

    Meta正用大语言模型替代人工内容审核,已接管约50%的审核请求,每年可节省数十亿美元。计划年底进一步减少人工参与,部分内容的人工审核比例可能削减超90%。同时扎克伯格投入巨资开发个人超级智能技术。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。