AMD前高管领衔24人团队逆袭:硬编码『芯片』HC1实现每秒17000 token新突破(amd公司全球高级副总裁)

一款名为HC1的AI推理『芯片』近日在硅谷引发广泛关注。这款由初创公司Taalas研发的『芯片』,凭借每秒17000个token的峰值推理速度,成为当前AI『芯片』领域的现象级产品。与传统方案相比,HC1不仅将推理速度提升10倍,更将成本压缩至二十分之一,功耗降低至十分之一,为LLM(『大语言模型』)的实时应用开辟了新可能。

HC1的核心突破在于其“『芯片』即模型”的架构设计。与传统将模型加载至内存的方式不同,Taalas团队直接将Llama 3.1 8B模型固化在硅片上,通过掩模ROM技术实现模型与硬件的深度融合。这种设计虽牺牲了部分灵活性,却换来了极致的能效比——单颗『芯片』典型功耗仅250W,10颗『芯片』组成的『服务器』集群总功耗也不过2.5kW,可直接采用常规空气冷却方案部署。

性能对比数据凸显了HC1的颠覆性。在相同模型测试中,Cerebras的推理速度为2000 token/s,SambaNova约为900 token/s,Groq为600 token/s,而『英伟达』Blackwell架构的B200仅350 token/s。HC1的17000 token/s表现,相当于将行业标杆性能提升了数个数量级。这种优势源于其结构化ASIC设计理念:通过固定底层电路、仅调整两层掩模的方式,将『芯片』开发周期从传统6个月缩短至2个月,同时保持设计成本可控。

技术实现层面,HC1采用台积电N6工艺,『芯片』面积815mm²,支持开源生态。其创新性的存储架构包含可编程SRAM区域,用于保存微调权重(如LoRA)和KV缓存,而模型主体则通过掩模ROM固化执行。为弥补量化带来的精度损失,研究团队开发了LaRA适配器进行重新训练,并配置可调上下文窗口,在灵活性与性能间取得平衡。这种“硬连线”设计虽面临模型迭代风险,却为特定场景提供了前所未有的效率优势。

Taalas的野心不止于单『芯片』突破。针对『DeepSeek』R1-671B等超大模型,团队提出了多『芯片』协同方案:将SRAM部分拆分至独立『芯片』,使单片HC1的存储密度提升至约20位参数。30颗定制『芯片』组成的集群可实现每用户每秒12000 token的处理速度,且成本不到同等GPU方案的50%。即使考虑HC1每年更新的假设,其四年总成本仍优于GPU的四年更新周期。

这家成立仅两年的公司,拥有堪称“AMD梦之队”的创始阵容。联合创始人Ljubiša Bajić曾任AMD集成电路设计总监,主导过高性能GPU研发;Leila Bajić拥有AMD、ATI、Altera的跨平台技术管理经验;Drago Ignjatović则是AMD前ASIC设计总监。三位技术领袖的深厚积淀,使Taalas在创立初期即获得2亿美元💵融资,目前团队规模仅24人,产品研发投入仅3000万美元💵。

市场对HC1的评价呈现两极分化。支持者认为其亚毫秒级延迟将推动具身智能、实时交互等前沿领域发展;批评者则指出硬编码架构可能加速『芯片』过时,尤其在模型迭代速度日益加快的背景下。这种争议恰恰反映了AI『芯片』设计的核心矛盾:通用性与专用性的永恒博弈。Taalas的选择,无疑为行业提供了一条激进却值得深思的新路径。

特别声明:[AMD前高管领衔24人团队逆袭:硬编码『芯片』HC1实现每秒17000 token新突破(amd公司全球高级副总裁)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

航大阀门申请高压流介质平面密封止回阀专利,降低杂质对密封面的磨损和卡阻风险(航大阀门集团)

国家知识产权局信息显示,航大阀门集团有限公司申请一项名为“一种高压流介质平面密封止回阀”的专利,公开号CN121557319A,申请日期为2026年1月。 专利摘要显示,本发明属于止回阀技术领域,且公开了一种…

航大阀门申请高压流介质平面密封止回阀专利,降低杂质对密封面的磨损和卡阻风险(航大阀门集团)

花120万上星光大道,淘汰后负债40万,如今她的境遇却令人唏嘘(花120万上星光大道)

谁能想到,为了那个遥不可及的『明星』️梦,崔苗竟然把全家老小的命运都押上去了?后来,她到西安去卖酒,凭借着那副好嗓子,留住了不少客人,虽然日子过得拮据,但至少能凑合度日。如今,39岁的她,每天过得简单而踏实,早晨煮…

花120万上星光大道,淘汰后负债40万,如今她的境遇却令人唏嘘(花120万上星光大道)

寻麻疹艾灸哪里(寻麻疹艾灸哪里最好)

荨麻疹作为一种常见的皮肤疾病,在沿海地区尤为多发,患者常遭受极度瘙痒和皮肤起疹的困扰。幸运的是,荨麻疹可以通过艾灸这一传统中医治疗方法得到缓解。艾灸利用温热作用于皮肤,旨在清热解毒、疏风止痒

寻麻疹艾灸哪里(寻麻疹艾灸哪里最好)

潮牌Supreme开始卖棺材?豹纹内饰引发热议(supreme是潮牌老大吗)

潮流品牌Supreme近日公布了2026春夏系列配件阵容,其中一款豹纹内饰棺椁引起了广泛关注。根据Supreme官方销售平台的商品页介绍,这款“耐用棺材”由20号钢材打造,表面覆以高光漆和漆面徽标

潮牌Supreme开始卖棺材?豹纹内饰引发热议(supreme是潮牌老大吗)

女儿起诉父母返还彩礼 法院判决返还10万(女儿起诉母亲要抚养费)

当前国家与社会倡导抵制高价彩礼、简约婚嫁,但彩礼纠纷仍时有发生。一旦产生争议,应该如何合理分割?近日,浙江省台州市黄岩区人民法院审理了一起因彩礼引起的保管合同纠纷案

女儿起诉父母返还彩礼 法院判决返还10万(女儿起诉母亲要抚养费)