10月23日,聆思科技与此芯科技在北京签署战略合作协议。双方将围绕CPU主控芯片与端侧大模型推理芯片开展异构协同,面向算力盒子、AIPC、工作站等智能计算设备联合打造软硬件一体化方案,推动端侧大模型算力从“芯片适配”走向“架构共定”。

端侧大模型进入规模化落地,异构算力成为关键支撑。​推理从单点功能走向完整设备运行后,专用AI芯片难以独立承担操作系统运行、数据处理、任务调度等通用任务;CPU单独处理推理又难以兼顾效率与功耗,内存带宽、数据传输与散热同样构成实际制约。端侧算力竞争正从单颗芯片性能,转向架构、软硬件协同与整机落地的一体化设计。

CPU主控与专用NPU协同一体。​此芯科技专注高性能智能体CPU研发,旗舰芯片此芯P1综合算力达45 TOPS,已进入全球PC巨头核心产品线,为推理芯片融入算力盒子、AIPC提供成熟主控平台与产业化入口。聆思科技以AI原生NPU为核心,构建覆盖芯片、算法、方案与工具的完整推理体系,累计出货超1.5亿片,落地超100款终端。

新一代NPU芯片按端侧大模型算法特征原生设计,内存带宽达1TB/s,7B模型Decode速度达100 tokens/s,双芯片级联可运行27B稠密模型,典型功耗控制在5至15W。

从真实需求出发联合落地。​合作将率先落地Agent算力盒子,并向AIPC、工作站、汽车座舱、机器人等设备延展。双方联合完成硬件连接、运行环境与模型工具链适配,共同定义产品硬件形态、系统架构与参考设计,破解端侧、边缘大模型持续运行与多任务处理的算力痛点。

此前,聆思已与国内头部端侧模型企业开展软硬件协同,并与联想、海尔、美的等终端厂商启动联合预研。此次签约是其推进产业链协同、加速产品化落地的又一实践。

以CPU主控与专用NPU异构协同为路径,双方共同夯实面向Agent时代的端侧算力底座。

免责声明:凡注明为其它来源的信息均转自其它平台,目的在于传递更多信息,并不代表本站观点及立场。若有侵权或异议请联系我们处理。

相关推荐