调教 av 从零复现，全面开源：360 Light-R1-14B/7B带来端侧AI平权时刻

发布日期：2025-07-06 00:37    点击次数：178

调教 av

性能最初、开源普惠、国产易获取的三重势能，缓助了岁首 DeepSeek 的技巧平权狂热，掀翻 AI 普惠海浪。

有关词，当许多东说念主想在端侧部署 DeepSeek 模子时，却际遇了挑战：部署满血版大模子需数万元硬件参加，退而求其次选拔蒸馏版 14B 版块，又会出现性能断崖式着落与反映蔓延。

就在 AI 用户堕入"高资本部署"与"低质料融合"的两难窘境时，端侧 AI 的破局时刻，暗暗被 360 掀开了。

近期，360 智脑团队发布了最强 14B 推理模子：Light-R1-14B-DS，是业界初次在 14B 模子上复现强化学习遏抑。数学能力上，推崇向上 DeepSeek-R1-Distill-Llama-70B 和 DeepSeek-R1-Distill-Qwen-32B。

尽管只考研了 MATH 数据，但在 GPQA 科学学问评测中，7B/14B 双版块均特出对标居品，展现出"小参数大聪敏"的泛化能力。

此外，合作 360 的全面开源计谋（模子 / 数据 / 代码 / 技巧陈说全怒放），这场端侧 AI 平权畅通，意味着 14B 模子能在手机端开通初始，意味着企业无需天价算力即可部署专科级 AI。

AI 端侧民主化的风暴眼，正在酝酿之中。

咱们第一时期研读了 360 放出的技巧陈说，发现端侧 AI 的技巧拐点照旧出现。360 开源的 Light-R1-14B-DS 创造了三项行业记录：

一是能力复现。Light-R1-14B-DS 初次在数学能力上，用 14B 模子复现了强化学习遏抑，通过多阶段课程学习 SFT和强化学习，Light-R1-14B-DS 的推崇向上 DeepSeek-R1-Distill-Llama-70B 和 DeepSeek-R1-Distill-Qwen-32B，是现在最优的 14B 模子，这考据了 RL 强化学习计谋的有用性，RL 对端侧模子考研的收益很大，仍有进一步挖掘后劲。

（Light-R1 考研经过）

二是服从改进。Light-R1-14B-DS 经过长念念维链强化学习后考研，在 AIME 24 和 25 上分辨取得了74.0 和 60.2的得益，数学部分推崇特出 DeepSeek 的 70B（72.6 分）和 32B（54.9 分）蒸馏模子，取得了很是权臣的晋升，这标记着推理能耗进一步裁汰。另一版块的 Light-R1-7B-DS，无需量化即可端侧部署。这次探索，在低资本复现 DeepSeek-R1 方面迈出了伏击一步。

三是泛化能力增强。Light-R1-14B-DS 在科学学问评测 GPQA 上升，艰涩了模子"恶运性淡忘"的魔咒，具有较好的泛化性，开辟模子优化新旅途。

最强 14B 端侧推理模子，撕开了 DeepSeek 70B 的性能顽固线，端侧 AI 迎来了界限化普及的拐点。不外，在 AI 与环球之间，还差一个开源。

若是仅有技巧突破，但莫得开源机制，那么端侧推理模子再好，也无法被环球粗放获取、低资本用起来。

这次，360 汲取了全栈式的开源计谋——模子权重、22 万条数学数据集、RL 考研代码、技巧陈说等，齐统共公开。这种开源深度，远远向上了常界限型权重怒放。

也即是说，中小团队仅需少许算力，就能从数据清洗到强化学习全链路复现，完成端侧 AI 的后考研与部署。

端侧 AI 的民主化，高度依赖于科技企业的开源计谋，为什么说 360 这次怒放端侧推理模子很伏击？

对企业来说，传统端侧 AI 部署，会靠近闭源模子腾贵的授权用度（如 OpenAI API 调用资本）与硬件适配的边缘资本（需定制化芯片或工作器），资本难以承受。此前 openai 也发布过蒸馏版 o1-mini，但腾贵的订阅费依然让大齐开发者退缩三舍。此外，闭源模子存在弗成解说性风险，医疗、法律等行业因合规条款无法接受"输入－输出"不透明的 AI 决策。因此，Light-R1-14B-DS 这么低资本、全开源的国产端侧推理模子，有望撤销企业对 AI 的畏怯，粗放迈入智能化。

对个东说念主来讲，云霄模子需要上传数据，这会激勉秘密显露的畏怯。而在端侧离线初始大模子，又对算力 / 内存有更高的条款，传统端侧 AI 需要旗舰级开拓，买不起旗舰机，就用不到好 AI，这酿成了一种 AI 期间的"开拓脑怒"。

360 开源最强 14B 端侧模子，让端侧 AI 能力不再是少数机型的特权，也不错下千里到普惠机型上，为环球所用。而用户界限的扩大，也会鞭策 AI 诈欺及大模子居品的增长。

由此看到，360 开源计谋所带来的技巧民主化，不错激活 AI 的长尾需求，加快 AI 普惠的到来。

末端开拓，是用好 AI 的载体。推理模子下千里到端侧，诈欺空间也十分无边，掀开了端侧 AI 的无穷联想空间。

推断一下，现在这两个最强端侧 14B/7B 推理模子，可能会开头落地在买卖价值高的场景，然后一步步渗入进各行业。

首当其冲的，即是耗尽电子领域。智高手机、腕表、平板、PC、眼镜等末端开拓，近两年齐在加快 AI 化。

但此前 AI 化有两种决策：一是纯端侧，保证土产货秘密安全，但内存条款高，功耗大；另一种是端云聚首，部分任务上云处理。Light-R1-7B-DS 无需量化即可部署于末端开拓（如手机、IoT 开拓），标记着耗尽级硬件也能初始复杂 AI 任务。对比传统需要 32B 以上参数的端侧模子，其 7B 界限大幅裁汰内存占用和能耗。为 AI 末端带来了更大的创新空间，比如在手机土产货初始复杂数学指引、法律晓谕知道等任务，处分秘密和蔓延痛点。

360 的技巧突破与全栈开源，不错为耗尽电子领域的 AI 探索带来很是有利的鉴戒。

下一个即是重心行业、垂直领域。金融、政务、医疗、法律等数字化基础较好的行业，积极拥抱 AI，又但愿在土产货化初始专科级 AI，幸免敏锐数据上传云霄，这就需要格外模子 + 后考研，最强端侧 14B/7B 推理模子不错大幅裁汰端侧格外模子的考研、推理等硬件门槛，加快行业智能化探索。

更进一步，传统行业壁垒也将被端侧普惠 AI 撕开。比如聪敏城市经管，通过部署端侧 AI 的边缘智能琢磨，不错极大减少智能化的开拓和升级运维资本；农业智能化，搭载 14B 模子的农业无东说念主机，道路自动避障、精确识别大地等能力，齐会跟着推理能力的增强而大幅晋升。

通过端侧 AI 的普惠道路图，来进行推演，不丢丑到，360 的技巧突破与开源计谋，一定会诱惑大齐行业开发者或个东说念主开发者前来试用，与丰富的场景集中首，催生大齐智能化的长尾诈欺。

也即是说，通过开源轻量级推理模子，360 有望回避 AI 六小强在千亿参数级的竞争。基于开源怒放的技巧公信力，构建开发者生态护城河。从这个角度看，360 掀翻的端侧 AI 飓风，也将卷出一个大模子竞争的新形态。

端侧推理模子的平权时刻已到，万亿级边缘智能市集正蓄势待发、乘风远航。

调教 av