产品定位
Threadripper Halo Station是一台把数据中心级AI算力放到桌边的工作站原型。它面向无法完全装进普通AI PC、又希望避免共享云端环境的大模型推理、微调和高并发Agent任务。
最高配置
- CPU：96核、192线程Ryzen Threadripper PRO 9995WX。
- GPU：最多4张Instinct MI350P工作站加速器。
- HBM：最高576GB HBM3e GPU内存。
- 系统内存：最高2TB DDR5 RDIMM，总内存容量约2.6TB。
- 带宽：官方最高标称16.4TB/s总内存带宽。
- 散热：原型采用液冷方案，整机配置可能因制造商而异。
能做什么
大容量内存允许系统保持更大的模型、上下文和并发缓存，适合万亿参数级模型的量化推理、LoRA微调、多个Agent长期运行，以及需要将敏感数据留在本地的企业研发。
部署建议
- 先按模型权重、KV缓存、并发和训练优化器估算真实内存需求。
- 明确单机推理、微调还是团队共享服务，避免为参数规模盲目堆硬件。
- 规划供电、液冷、噪声、机房温度和高带宽存储。
- 设置用户隔离、凭据管理、作业队列和监控，工作站也应按服务器治理。
- 用每小时有效Token、并发成功率和三年总拥有成本与云端方案比较。
上市状态
AMD将其描述为IFA 2026首次展示的原型系统，官方页面标注2027年推出。最终售价、整机厂商、地区、加速器数量和软件认证仍可能变化。
使用提醒
“能装下万亿参数模型”不代表能以交互速度运行所有万亿参数模型。量化方式、互联带宽、并行策略、上下文长度和软件优化都会显著影响实际性能。