全球首款Transformer专用AI芯片Sohu发布：比英伟达H100快20倍(transceiver芯片)

新书6月26日消息，据媒体报道，美国新兴芯片创业公司Etched发布了其首款AI芯片——Sohu。

该芯片在运行大型模型时表现出惊人的性能，其速度是行业巨头英伟达H100的20倍。即使与今年3月推出的顶级芯片B200相比，Sohu也表现出了超过10倍的优越性能。

Sohu芯片最大的突破是它将Transformer架构直接嵌入芯片中。Etched公司负责人Uberti表示，Sohu采用台积电先进的4纳米工艺制造，不仅在推理性能上远远超过GPU等通用人工智能芯片，而且在能耗控制方面也达到了新的高度。

对于Transformer技术来说，Sohu无疑是目前市场上最快的芯片，其性能与其他产品存在显著的量级差异。值得一提的是，ChatGPT等主流AI产品，、Claude、Gemini和Sora等，都是基于Transformer架构驱动的。

作为世界上第一款Transformer ASIC(应用型专用集成电路)芯片，Sohu的集成应用更加抢眼。根据测试，一台配备8个Sohu芯片的服务器的性能可与160个H100相媲美 GPU集群。

具体来说，集成8个Sohu芯片的服务器每秒可处理高达50万的Llama 7B tokens，这一数据在业内是前所未有的。

Etched公司位于美国加州的库比蒂诺，打造了这款优秀的芯片，虽然成立仅两年，团队规模只有35人，但创始人——哈佛辍学生Gavin Uberti(前OctoML和前Xnor.与Chriss员工) Zhu，与资深技术专家Robert Wachen和前赛普拉斯半导体公司首席技术官Mark 在Ross的共同领导下，Ross成功开发了这款专为大型人工智能设计的芯片，展现了其强大的技术实力和无限的潜力。

[本文结尾]如需转载，请务必注明出处：新书

负责编辑：鹿角

文章内容报告