
颠覆 AI 硬件格局:AMD 宣布收购 Taalas,将模型“刻进硅片”解锁极致推理性能
为打破英伟达(Nvidia)在 AI 硬件领域的垄断地位,“Zen 架构之父” AMD 宣布收购总部位于多伦多的 AI 芯片初创公司 Taalas。该交易旨在通过将 AI 模型权重直接“固化/蚀刻”到硅片中的突破性技术,将大语言模型的推理性能提升数量级,进一步降低高端 AI 智能体(Agent)的算力与运行成本。
彻底摆脱 HBM 依赖:针对特定模型的集成电路(MSIC)
不同于传统 GPU 或主流的“数据流架构”(如 Groq LPU 或 Cerebras),Taalas 采用了一种极其独特且激进的技术路线:摒弃高带宽内存(HBM),直接将模型权重蚀刻在硅片上。这种设计实际上开创了一种新型芯片类型——特定模型集成电路(Model-Specific Integrated Circuit, 简称 MSIC)。
Taalas 的处理器架构主要由两大核心区域组成:
- Mask-ROM 检索架构:用于直接蚀刻并永久存储模型的固定权重。
- SRAM 检索架构:用于动态存储 KV 缓存(KV Cache)以及微调适配器(Fine-tuning Adapters)。
实测性能惊人:17,000 Token/秒的跑分突破
Taalas 的技术并非停留在概念阶段。早在今年 2 月,该公司便展示了基于台积电(TSMC)6nm 工艺制造的首款测试芯片 HC1。
- 实测表现:在运行 Meta 的 Llama 3.1 8B 模型时,HC1 的吐字速度达到了 16,960 Token/秒。
- 对比差距:这一速度达到了同时期英伟达 GPU 的 48 倍,以及 Cerebras 加速器的 8.5 倍。
针对即将于今年夏季推出的第二代 HC2 芯片,Taalas 计划将单芯片参数支持提升至 200 亿。利用流水线并行(Pipeline Parallelism)技术,仅需 50 颗此类芯片即可支撑万亿参数规模的顶级模型,在能效和空间占用上远优于同等规模的 GPU 或 LPU 阵列。
架构整合:GPU 与 MSIC 的“双剑合璧”
据了解,AMD 计划将其基于 Instinct 的Helios 机架系统与 Taalas 的芯片技术进行深度结合,构建异构解耦架构:
- 提示词处理(Prompt Processing):由计算密集型的 AMD Instinct GPU 负责。
- Token 生成(Token Generation):外包给高吞吐、低延迟的 Taalas 加速器。
AMD 负责 AI 业务的高级副总裁 Vamsi Boppana 表示:“AMD 正致力于构建全栈 AI 平台,为客户提供极具灵活性的计算解决方案,以适配各种不同的 AI 工作负载。”
优势与挑战并存:“流片成本”与“模型迭代”的博弈
虽然“固化模型”带来了前所未有的推理速度和极低的单 Token 成本,但其最大挑战在于灵活性受限:一旦芯片制造完成,其对应的模型结构便无法进行大幅修改(除非仅通过 LoRA 等适配器微调)。任何重大模型升级都需要进行“重新流片(re-spin)”。
不过,Taalas 表示,更新模型时无需全盘重来,仅需修改其中的两层金属层(metal layers),成本比重新训练一个前沿基座模型要便宜 100 倍。
行业影响与未来展望
分析认为,该技术将极大受益于 OpenAI、Anthropic 和 Meta 等拥有超大规模推理需求的模型厂商,同时也将推动测试时扩展(Test-time scaling)技术的普及——通过极低的 Token 成本和毫秒级响应,允许 AI 模型在回答前进行更长时间的“深度思考”,大幅减少“幻觉”现象。
如果获得监管部门批准,这笔收购预计将在今年第四季度正式完成。
