AMD Threadripper Halo Station - 2.6TB内存的桌边AI工作站

产品定位

Threadripper Halo Station是一台把数据中心级AI算力放到桌边的工作站原型。它面向无法完全装进普通AI PC、又希望避免共享云端环境的大模型推理、微调和高并发Agent任务。

最高配置

• CPU：96核、192线程Ryzen Threadripper PRO 9995WX。
• GPU：最多4张Instinct MI350P工作站加速器。
• HBM：最高576GB HBM3e GPU内存。
• 系统内存：最高2TB DDR5 RDIMM，总内存容量约2.6TB。
• 带宽：官方最高标称16.4TB/s总内存带宽。
• 散热：原型采用液冷方案，整机配置可能因制造商而异。

能做什么

大容量内存允许系统保持更大的模型、上下文和并发缓存，适合万亿参数级模型的量化推理、LoRA微调、多个Agent长期运行，以及需要将敏感数据留在本地的企业研发。

部署建议

1. 先按模型权重、KV缓存、并发和训练优化器估算真实内存需求。
2. 明确单机推理、微调还是团队共享服务，避免为参数规模盲目堆硬件。
3. 规划供电、液冷、噪声、机房温度和高带宽存储。
4. 设置用户隔离、凭据管理、作业队列和监控，工作站也应按服务器治理。
5. 用每小时有效Token、并发成功率和三年总拥有成本与云端方案比较。

上市状态

AMD将其描述为IFA 2026首次展示的原型系统，官方页面标注2027年推出。最终售价、整机厂商、地区、加速器数量和软件认证仍可能变化。

使用提醒

“能装下万亿参数模型”不代表能以交互速度运行所有万亿参数模型。量化方式、互联带宽、并行策略、上下文长度和软件优化都会显著影响实际性能。