SkillPkg Logo
颠覆 AI 硬件格局:AMD 宣布收购 Taalas,将模型“刻进硅片”解锁极致推理性能

颠覆 AI 硬件格局:AMD 宣布收购 Taalas,将模型“刻进硅片”解锁极致推理性能

未知作者/

为打破英伟达(Nvidia)在 AI 硬件领域的垄断地位,“Zen 架构之父” AMD 宣布收购总部位于多伦多的 AI 芯片初创公司 Taalas。该交易旨在通过将 AI 模型权重直接“固化/蚀刻”到硅片中的突破性技术,将大语言模型的推理性能提升数量级,进一步降低高端 AI 智能体(Agent)的算力与运行成本。

彻底摆脱 HBM 依赖:针对特定模型的集成电路(MSIC)

不同于传统 GPU 或主流的“数据流架构”(如 Groq LPU 或 Cerebras),Taalas 采用了一种极其独特且激进的技术路线:摒弃高带宽内存(HBM),直接将模型权重蚀刻在硅片上。这种设计实际上开创了一种新型芯片类型——特定模型集成电路(Model-Specific Integrated Circuit, 简称 MSIC)

Taalas 的处理器架构主要由两大核心区域组成:

  1. Mask-ROM 检索架构:用于直接蚀刻并永久存储模型的固定权重。
  2. SRAM 检索架构:用于动态存储 KV 缓存(KV Cache)以及微调适配器(Fine-tuning Adapters)。

实测性能惊人:17,000 Token/秒的跑分突破

Taalas 的技术并非停留在概念阶段。早在今年 2 月,该公司便展示了基于台积电(TSMC)6nm 工艺制造的首款测试芯片 HC1

  • 实测表现:在运行 Meta 的 Llama 3.1 8B 模型时,HC1 的吐字速度达到了 16,960 Token/秒
  • 对比差距:这一速度达到了同时期英伟达 GPU 的 48 倍,以及 Cerebras 加速器的 8.5 倍

针对即将于今年夏季推出的第二代 HC2 芯片,Taalas 计划将单芯片参数支持提升至 200 亿。利用流水线并行(Pipeline Parallelism)技术,仅需 50 颗此类芯片即可支撑万亿参数规模的顶级模型,在能效和空间占用上远优于同等规模的 GPU 或 LPU 阵列。

架构整合:GPU 与 MSIC 的“双剑合璧”

据了解,AMD 计划将其基于 Instinct 的Helios 机架系统与 Taalas 的芯片技术进行深度结合,构建异构解耦架构:

  • 提示词处理(Prompt Processing):由计算密集型的 AMD Instinct GPU 负责。
  • Token 生成(Token Generation):外包给高吞吐、低延迟的 Taalas 加速器。

AMD 负责 AI 业务的高级副总裁 Vamsi Boppana 表示:“AMD 正致力于构建全栈 AI 平台,为客户提供极具灵活性的计算解决方案,以适配各种不同的 AI 工作负载。”

优势与挑战并存:“流片成本”与“模型迭代”的博弈

虽然“固化模型”带来了前所未有的推理速度和极低的单 Token 成本,但其最大挑战在于灵活性受限:一旦芯片制造完成,其对应的模型结构便无法进行大幅修改(除非仅通过 LoRA 等适配器微调)。任何重大模型升级都需要进行“重新流片(re-spin)”。

不过,Taalas 表示,更新模型时无需全盘重来,仅需修改其中的两层金属层(metal layers),成本比重新训练一个前沿基座模型要便宜 100 倍

行业影响与未来展望

分析认为,该技术将极大受益于 OpenAI、Anthropic 和 Meta 等拥有超大规模推理需求的模型厂商,同时也将推动测试时扩展(Test-time scaling)技术的普及——通过极低的 Token 成本和毫秒级响应,允许 AI 模型在回答前进行更长时间的“深度思考”,大幅减少“幻觉”现象。

如果获得监管部门批准,这笔收购预计将在今年第四季度正式完成。

颠覆 AI 硬件格局:AMD 宣布收购 Taalas,将模型“刻进硅片”解锁极致推理性能 | 技能包 SkillPkg