内存带宽瓶颈催生专用推理芯片：每瓦特token成为竞争新标尺

文章阐述AI推理正成为计算机历史上最大规模的工作负载，遵循计算领域“专业化转向“规律——当工作负载足够大且稳定时，通用GPU将被专用推理硬件取代。GPU虽因灵活性促成AI时代，但推理需持续从内存读取数百GB参数并执行简单操作，内存带宽成为瓶颈，GPU在灵活性和功耗上的浪费不可接受。文章引用Google 2026年5月每月处理3.2万亿token（两年增长300倍）、OpenAI约10亿月活用户等数据论证推理需求急剧增长。Etched由三位哈佛退学生于2022年创立，获得a16z投资，雇佣400余名来自Nvidia、Google TPU、Broadcom、Apple、SK Hynix、TSMC的工程师，首颗芯片在TSMC N4P工艺上首次流片成功（行业标准6-9个月），今年夏天开始出货，10兆瓦站点在建。其核心创新包括低电压推理（功耗降至约一半）和集群级内存（跨芯片池化内存实现超低延迟），这些突破需覆盖晶体管到数据中心层面的全栈设计。