AMD收购Taalas AI芯片公司，推理性能提升至原级10倍以上

AMD于8月7日宣布收购AI芯片初创公司Taalas，旨在增强其AI推理领域能力。此次交易涉及将机器学习模型权重直接嵌入硅片技术，该方案宣称较传统内存方案效率提升超过十倍。

技术方案突破

Taalas采用的模型权重蚀刻技术，通过半导体工艺将算法数据转化为物理结构。这种直接集成方式省去了数据传输环节，较依托高带宽内存的方案效率提升一个数量级甚至更多。

「我们正在通过半导体创新实现场景优化，」Taalas技术负责人在声明中表示，「这种集成方式能降低10%的功耗并提升30%的响应速度。」

市场影响评估

该技术可能对边缘计算设备产生显著影响。根据行业分析，AI推理芯片市场将在2024年达到67亿美元规模，而直接集成方案或推动该领域产品迭代周期缩短。

• Taalas是专注于AI专用芯片研发的初创企业
• AMD强调本次收购将加速其GPU产品线迭代
• 交易涉及的硅片蚀刻技术需特定制造条件

实施路径解析

收购协议显示，Taalas技术将在现有代工厂进行验证。据公司披露，工艺适配周期预计需6至12个月，但能实现30%以上的能效优化。该方案或首先应用于数据中心级AI推理设备。

AMD收购Taalas公司拟将参数量提升至200亿

加拿大初创企业Taalas成立于2023年，总部设于多伦多。该公司研发的芯片架构摒弃了传统GPU与Groq LPU、Cerebras晶圆级加速器采用的数据流模式，转而将模型权重直接蚀刻进硅片。

芯片结构与性能表现

Taalas芯片由两个专用存储结构组成：掩膜ROM召回区域用于存储模型权重，SRAM召回区域则负责KV缓存和微调适配器的存放。

2023年2月发布的HC1测试芯片在运行Meta Llama 3.1 8B模型时，token生成速度达每秒16960个，超过英伟达GPU48倍、Cerebras加速器8.5倍。

该技术将模型权重固化于硅片，意味着芯片发布后无法通过软件更新更换模型。任何超过LoRA适配器容量的调整都需要重新流片。

AMD与Taalas合作模式

AMD计划将Taalas技术与Instinct系列GPU结合，形成计算分离架构。提示词处理由GPU执行，token生成任务转交Taalas加速器。

• 客户可先在Instinct加速器上验证模型
• 再迁移至Taalas架构进行部署
• 形成类似tick-tock的迭代模式

据消息人士透露，这项技术使模型开发成本降低100倍。AMD已与OpenAI、Anthropic、Meta等主要模型厂商建立合作关系。

行业影响与技术挑战

当前AI模型更新频率高达每月一次，而Taalas方案要求模型选择必须精确。据公司披露，仅需修改两层金属层即可支持新模型。

该技术或将改变模型开发逻辑。长期推理可提升回答准确性，但需要权衡token消耗与用户等待时间。

此次收购交易尚待监管批准，预计第四季度完成。交易包含完整技术整合，目标是优化AI推理效率与成本。