四分之一体量，反杀万亿大哥！Inkling-Small：开源AI的“性价比屠夫”来了🔥

兄弟们，最近AI圈的大瓜，比追剧还刺激！😱 就在OpenAI刚把翁荔“挖”回去的第三天，前东家Thinking Machines直接甩出一记王炸——开源模型Inkling-Small。这操作，妥妥的“你走了，但我更强了”的爽文剧本啊！

但咱普通开发者/数码爱好者最关心的不是宫斗，而是：这玩意儿到底牛在哪？我能不能用得起？ 今天咱就抛开晦涩的论文，用人话聊聊这个号称“四分之一体量反杀万亿大哥”的新物种。

不是“缩水版”，是“浓缩精华版”💪

先说结论：Inkling-Small不是简单的“青春版”，而是用更小的体量，实现了对初代Inkling的性能反超。

怎么理解？初代Inkling是个总参数9750亿的“万亿巨兽”，跑起来得用8张B300或者16张H200服务器集群，这配置对咱普通工作室来说，简直是天文数字。💸

而Inkling-Small呢？总参数2760亿（276B），但单次推理只激活120亿（12B）参数。这就像什么？以前你开的是满载的重型卡车，虽然马力大但油耗吓人；现在换了一辆轻量化跑车，百公里加速更快，油耗还低得离谱。

官方数据显示，在数学、推理、智能体编码等核心基准测试中，Inkling-Small不仅追平了老大哥，甚至在HLE（人类最后考试）、Terminal-Bench（终端操作）、IFBench（指令遵循） 这三个关键指标上，每一FLOP（算力单位）换来的性能都高于Inkling。翻译成人话就是：花更少的钱，办更多的事，而且办得更漂亮！

凭什么“学生”能反超“老师”？🧠

这就要说到Thinking Machines的“骚操作”了。他们没藏着掖着，直接把后训练方法公开了，核心就两步：

1. 用初代Inkling当“老师”，进行on-policy蒸馏，先产出一个“预习版”检查点。
2. 在这个基础上，跑了整整两周的“智能体编码强化学习”。

这就好比，老师傅把毕生功力传给徒弟，徒弟不仅全盘接收，还自己加练了两周“实战搏击”，最后青出于蓝。这证明了Thinking Machines已经跑通了一条能稳定产出顶尖模型的流水线。第一个模型是“作品”，第二个模型就是“产能证明”。

真正的“分水岭”：120亿激活，让AI定制不再是巨头特权！🚀

对于咱们这些搞开发的，最关心的永远是：我能用得起吗？

初代Inkling的BF16检查点，最低要求2TB聚合显存，这门槛直接劝退99%的人。但Inkling-Small把门槛整个往下拽了一大截！

LMSYS（大模型系统组织）的评价很精准：276B总参数配12B激活，是强化学习的“甜点位”。这意味着什么？意味着LoRA（低秩适配）和全参数微调，现在一个中等规模的团队也能“够得着”了。

以前，你想微调一个属于自己的专属大模型，得求爷爷告奶奶借算力。现在，用Inkling-Small，你甚至可以在自己的工作站上试试水。实测数据也很亮眼：在8张B200、TP8、NVFP4量化、batch size 1的环境下，用SGLang推理引擎，开启DSpark加速能跑到648 tok/s（每秒生成648个token）的解码速度，不开也有288 tok/s。这速度，无论是做实时聊天机器人还是代码补全，都绰绰有余了。

多模态也没落下，几乎全能！🎨

别以为它只擅长文本推理。在图表理解、视觉推理、语音理解、长音频推理等多模态基准测试中，Inkling-Small的表现也“接近”原版Inkling，但推理成本却低得多。

这意味着，你可以用它来做更丰富的应用，比如： 智能客服：不仅能听懂话，还能看懂用户发的截图，理解情绪。 AI助手：帮你总结PDF、分析财报图表，甚至听写会议录音并提炼重点。 多模态Agent：让它“看”着屏幕帮你操作软件，执行复杂任务。

适合谁？ AI应用开发者：想基于开源模型做二次开发、微调，但预算有限的团队或个人。 高校/科研机构：需要强大推理能力，但买不起顶级GPU集群的实验室。 企业级用户：需要私有化部署，对数据安全要求高，且追求极致性价比的CTO们。

预算怎么算？ 推理部署：相比初代动辄8卡B300的配置，Inkling-Small的部署成本大幅下降。一张H100/A100 80G显卡跑量化版，或许就能获得不错的体验。具体预算取决于并发量，但门槛已经降到了“中等团队踮踮脚能够到”的水平。 微调训练：虽然12B激活参数很友好，但全参数微调依然需要多卡集群。建议先从LoRA等参数高效微调方法入手。

一句话总结：如果你需要顶级开源模型的能力，但又不想被硬件成本压垮，Inkling-Small绝对是目前市面上最值得关注的“性价比之王”。它不仅是技术上的胜利，更是开源精神的胜利——让强大的AI不再是少数巨头的专利。

产品图集