32GB 内存能跑 GPT-OSS-120B：Nextorage 将推外接式 AI 加速硬件

真的假的？32GB内存也能跑120B大模型？

别急着骂标题党。

我清楚你当下正在思索的内容, 即有着 120B 参数的大模型, 而那东西难道不是需要几百 GB 的显存吗?

但群联这次搞的东西，路子野得有点意思。

他们不是要给你变魔术，而是想了个“借”的思路。

内存不够，硬盘来凑？

说白了，就是把高耐久NAND闪存，当成内存来用。

听着有点扯？

只不过认真思索一番, 苹果所具备的统一内存架构, 难道说并非是已经将内存以及显存相互连通了吗?

群联所施展的这般举措称作, 其根本实质乃是要在本机的DRAM与外接存储二者之间, 达成动态的调配操作。

那个小盒子长啥样？

名字暂定叫 ，长得应该就是个U盘样。

USB-C接口，便携设计。

支持Windows和Linux。

今年内先在日本市场推。

谁需要这玩意儿？

目标客户很明确——那些买了32GB内存AI笔记本的人。

没错, 正是那些因“AI PC”概念而被误导从而参与进来, 最终却发觉运行本地模型卡顿得如同播放PPT一般的不走运之人。

你不是内存不够吗？

我给你插个外挂。

但速度真的能行吗？

内存和闪存的读写速度，差了不止一个量级。

群联的方案，大概率是靠缓存命中率和预加载机制来弥补。

并非每个场景都适宜, 然而特定的任务比如说运行GPT-OSS-120B这种专属模型或许真的能够运作起来。

配套软件才是灵魂

硬件只是壳。

群联还规划了预构建软件包方案。

这真是属于纯正的技术含量范畴了, 究竟如何方能够使系统以聪慧的方式去判别, 哪些数据适合放置于内存之中, 而哪些又是能够丢弃至外挂存储空间里面的呢。

调度算法写得好，体验就能糊弄过去。

总结一下

这不是什么革命性技术。

但确实是个很务实的解决方案。

对于那些预算有限, 然而又怀揣着想要尝试新鲜本地大模型想法的人而言, 或许会比再次花费两万块去购置一台拥有64GB内存的本子更加划算。

当然，前提是——你别指望它能跑出3090的效果。

够用就行。

毕竟，便宜没好货，但好货也不一定非要贵到离谱。

相关标签： # aiDAPTIVStation # Nextorage # 外接式AI加速硬件 # 32GB内存 # GPT-OSS-120B