一台工作站,竟可装下「1800 亿参数」大模型

作者:云头条 发布:2026-11-04 12:30 收录:2026-11-04 13:07 2 次阅读 约 819 字
摘要:近日, 业内首款国产 TokenStation W50X 工作站 引发关注 , 该产品将 180B 级模型 的本地推理能力落到桌面级形态 。 对工业设计、视频创作和开发者来说,过去要排队上云才能调动的专业级 AI 算力,现在在桌面本地就能承接。…
推荐理由:本文围绕「大模型」、「多模态」等主题展开。
近日,业内首款国产 TokenStation W50X 工作站引发关注,该产品将 180B 级模型的本地推理能力落到桌面级形态。
对工业设计、视频创作和开发者来说,过去要排队上云才能调动的专业级 AI 算力,现在在桌面本地就能承接。
中科可控在桌面端实现百 B 级模型运行这一突破,正推动国产AI在端侧本地推理迈上新台阶。 

端侧 AI 的真实门槛:不是“能跑”,是“好用”

过去受算力与显存限制,端侧部署模型通常不超过 27B 级。小参数稠密模型每次计算需遍历全量参数,知识覆盖与可靠性存在硬上限,长文档提取、多轮追问、多模态与复杂推理表现不足。

百 B 级 MoE 模型知识覆盖更广,每次仅激活少量专家参数,质量与效率兼得,但需足够大的内存 + 显存让权重全量驻留,方能在真实场景稳定输出,而非仅实验室条件下的表现。

本地支持 180B 大模型,不是参数数字,而是端侧AI从“能用”跨到“好用”的分水岭。

W50X 如何将 180B 大模型真正留在本地

W50X 解决的正是端侧 AI 平台的最大痛点。

配置上,W50X 支持最高 1TB 企业级内存与国产 AI 算力卡的高速显存,搭配全新推理架构部署方式,让专家权重全量驻留,通过超大容量内存提供的足够大驻留底座配合高速显存承担高频访问的加速层,W50X 让 180B 级 MoE 大模型真正高效运行:长上下文 KV Cache 有充足余量,长文档多轮问答稳定执行,多模型切换与领域知识库并行驻留有空间,避免触发 SSD 流式加载导致延迟抖动和低效 token 输出,并且为后续大模型参数进一步提升预留了足够的硬件能力。

高可靠、高扩展:支撑端侧长期运行

W50X 采用企业级部件与服务器级 RAS 机制,从硬件层面保障本地业务长期稳定运行、数据资产安全可控;处理器最高支持 64 线程,可应对复杂并行任务;扩展高性能显卡后,在工业建模、视频剪辑、3D 绘图等场景实现本地 AI 提效,设计师资产全程不上网,知识产权更有保障。

相比云端 AI 服务器集群,W50X 有足够内存与显存组合支撑大参数模型全量驻留,满载噪音低于 40dB,可部署于办公桌旁不扰人,更高性价比进一步降低个人与工作室获得高质量 AI 算力门槛。

开放试用 + 生态招募,加速端侧算力普惠落地

为加速前沿技术的普惠应用,中科可控全面开放 W50X 免费试用申请通道。

同时,中科可控工作站渠道招募“引力计划”持续进行中,诚邀渠道生态伙伴报名加入! 

扫码加入【引力计划】 扫码申请免费试用  

转载声明:本文转载自原发布平台 (作者:云头条), 原文标题《一台工作站,竟可装下「1800 亿参数」大模型》, 查看原文。 版权归原作者及原发布平台所有,本站仅作收录与展示,未对正文内容作实质性修改; 若涉及侵权请联系本站处理。