近日，端侧AI推理芯片企业聆思科技完成近5亿元B轮融资。本轮融资由安徽省与合肥市多家国资平台联合战略领投，深报一本、天智投资、科讯创投、盈科投资、东瑞投资、永鑫方舟等跟投，泰合资本担任聆思科技长期财务顾问。
本轮资金将重点投入新一代端侧大模型AI推理芯片研发，推动聆思的产品体系从感知模型AI推理芯片向认知大模型AI推理芯片进一步升级。
作为这一战略布局的核心产品，聆思首颗端侧大模型AI推理芯片Nebula系列已进入关键研发阶段，并将于2026年底正式推出，为端侧大模型在机器人、AIPC、智能汽车座舱、全屋智能等终端场景中的规模化部署提供核心算力支撑。作为长三角重要的科技创新和先进制造业高地，安徽省及合肥市近年来围绕芯片、人工智能、智能终端等方向持续完善产业生态。
此次安徽省与合肥市多家国资平台联合战略领投聆思，不仅是对聆思技术路线、产品能力和长期成长价值的认可，也意味着端侧AI推理芯片正在成为AI芯片和智能终端产业链布局中的关键一环。
这轮融资背后，是产业对一个明确趋势的共同判断：大模型正在从云端走向终端，AI推理算力也在从集中式部署，扩展到更广泛、更高频、更实时的设备侧分布。当大模型能力真正进入机器人、AIPC、智能汽车座舱、智慧家庭等终端设备，端侧大模型AI推理芯片将成为下一代智能设备升级的核心算力基础。
大模型走向终端
端侧AI推理芯片迎来关键窗口随着AI Agent、多模态交互和智能终端应用加速发展，AI产业重心正在从训练转向推理。过去几年，大模型能力的提升主要依靠更大参数规模、更大云端集群和更高训练投入。但当模型能力逐步成熟，产业关注的重点已经不再只是如何训练更大的模型，而是如何让模型更高效、更低成本、更安全地被使用。
这一变化正在推动AI推理需求快速增长。2025年，中国AI推理数据量首次超过训练数据量，IDC预测，到2029年，中国推理算力占比将接近八成。推理，正在成为AI产业规模化落地的主战场。而当前主流的云端推理模式，也开始面临新的挑战。
一方面，机器人、AIPC、智能家电、智能座舱等终端设备，对实时响应、设备协同、本地决策的要求越来越高，许多场景并不能完全依赖云端完成判断和反馈，尤其是在弱网、断网、低时延和高可靠要求下，终端侧必须具备更强的本地智能化能力。
另一方面，高频调用云端大模型带来的长期Token成本、网络稳定性、数据安全和隐私保护问题，也成为智能终端规模化落地过程中必须解决的现实约束。端侧大模型推理的价值也因此迅速凸显。它可以显著降低高频交互带来的云端调用成本，提供更低时延和更稳定的实时响应；可以在弱网、断网场景下持续运行；也可以让更多用户数据在本地完成处理，为隐私保护和数据安全提供更可靠的基础。当大模型能力真正开始进入终端，智能设备的能力边界也将被重新定义。未来的终端设备，需要在本地完成多模态感知、复杂推理、任务规划和连续执行。端侧大模型AI推理芯片，将成为智能终端新一轮升级的关键基础设施。
抢占端侧大模型时代
聆思全面展开新一代端侧大模型AI推理芯片布局面向大模型进入终端的关键窗口，聆思科技首颗端侧大模型AI推理芯片Nebula系列将于2026年底正式推出，重点面向机器人、AIPC、智能汽车座舱、智能家电等领域，服务下一代终端设备对本地大模型推理能力的需求。
相比传统端侧AI算法，大模型推理所需要的不仅是峰值算力，更多是能效、带宽、功耗和系统调度能力的综合平衡。终端设备无法照搬云端GPU高功耗、高带宽、高成本来换取性能的路径，而必须在有限资源和体积下，稳定高效地完成本地大模型推理。当前大多数的通用AI芯片仍是面向传统机器学习模型设计，难以高效支撑大模型对算子适配、内存带宽和多任务调度的系统性需求。
市场需要真正面向端侧大模型需求而打造的AI推理芯片，在高性能、低功耗、低成本和大模型亲和力之间实现平衡。面向端侧大模型推理的核心瓶颈，聆思围绕“算力底座、存力底座、引擎底座”构成了新一代芯片技术体系，从计算架构、内存访问到推理部署进行系统级优化，以此实现端侧大模型推理的数量级性能释放。在算力底座上，聆思基于AI原生NPU架构和大模型数据流特征，结合自研算子指令集、DSA专用领域架构、多核NPU和自适应任务调度机制，数倍提升大模型推理中的有效算力利用率和能效表现。
在存力底座上，聆思科技针对端侧大模型推理的“内存墙”问题，构建高带宽内存系统。开创性地采用 3D-DRAM 堆叠技术，实现大容量内存的存算一体，突破传统 HBM 技术在端侧部署中的限制，显著提升内存带宽，进而带来推理性能与能效比的跨越式提升。
在引擎底座上，聆思通过推理引擎协同优化提升端侧部署效率。公司自研推理引擎与编译优化框架，支持主流开源模型快速适配与部署，并通过自动图优化、算子融合和自适应调度降低推理延迟，能够充分满足智能终端对实时交互和连续推理的要求。
基于上述架构，聆思首颗Nebula芯片相较于当前主流通用AI芯片方案，预计可实现10倍计算加速性能提升、10倍模型参数规模支持，并达到超过100 tokens/s的推理速度，有望在功耗、体积、性能等方面达到行业领先水平。目前，聆思科技已联合联想、聆动机器人、海尔、美的、面壁等企业，在AIPC、机器人、智慧家庭、智能座舱等方向启动联合预研，推动端侧大模型AI推理芯片在真实终端场景中的产业化布局。这些方向也是端侧大模型最早具备商业化价值的典型场景。
AIPC需要本地智能助理和多模态办公能力，机器人需要实时感知与动作规划的大小脑融合，智慧家庭需要本地家庭智能中枢，智能汽车座舱需要低时延、高可靠和隐私安全的交互体验。端侧大模型AI推理芯片，将成为这些场景智能升级的关键硬件支撑。
1.5亿片出货验证
聆思已打通端侧AI推理的产业化路径聆思科技自2020年成立以来，始终深耕端侧AI推理赛道。公司最早切入的，是智能终端从“连接能力”到“感知智能”的关键阶段。在感知模型时代，终端设备已经开始具备语音、视觉、多模态等AI能力，但行业长期面临三类问题：一是通用芯片难以在低功耗、低成本条件下稳定承载AI算法；二是算法适配高度碎片化，不同场景、不同设备需要重复开发和调优，开发难度大，周期长；三是大量终端依赖云端能力，难以满足实时响应、离线可用和隐私保护要求。聆思作为业内少数同时具备芯片设计和AI算法能力的企业，从AI算法源头计算需求出发，以AI原生NPU重构端侧AI计算架构，通过芯片算法协同设计持续提升端侧推理效率。
目前，聆思NPU算力利用率已可达到80%，远高于行业平均水平，在有限算力、功耗和成本下，为智能终端本地运行AI算法提供了高效算力支撑。基于领先的NPU架构和多维算法能力，聆思已推出23款系统级端侧AI推理芯片，覆盖本地、在线、离在线等多类终端场景，并打造芯+端+云的一体化方案，成为智能终端升级的最优选择。经过多年产业落地，聆思产品及方案已广泛应用于家居家电、教育办公、消费电子、智能车载等领域，客户覆盖海尔、美的、海信、联通、移动、电信、安克、浩瀚、淘云、新东方等多个行业头部企业，累计出货已突破1.5亿片。
1.5亿片出货，验证了聆思在芯片定义、算法适配、系统集成和规模量产上的完整能力。对于端侧大模型AI推理芯片来说，这些能力尤为关键。新一代芯片要进入机器人、AI PC、智能座舱、智能家电等真实终端场景，既需要架构创新，也需要对场景、成本、供应链和量产节奏有长期理解。从感知模型推理到认知大模型推理，聆思沿着同一条端侧AI推理主线持续演进。既有的NPU架构积累、算法适配经验、产品矩阵、客户基础和量产能力，将成为新一代端侧大模型AI推理芯片落地的重要支撑。
让AI真正进入终端
构建智能设备时代的AI基础设施AI正在从云端走向终端，从数字世界进入物理世界，从对话交互走向决策执行。在这一过程中，端侧AI推理芯片将成为连接大模型能力与真实设备场景的关键底座。它决定了智能终端能否以更低成本、更高效率、更安全可靠的方式获得AI能力，也决定了大模型能否真正进入千家万户和千行百业。
本轮融资后，聆思将进一步加大端侧大模型AI推理芯片的研发投入，加快Nebula系列产品化和场景验证进程。
依托安徽省及合肥市在芯片、人工智能和先进制造领域的产业生态支持，聆思将在芯片研发、供应链建设、客户协同和规模化落地等方面获得更强支撑。面向大模型进入终端的关键窗口，聆思正在以Nebula系列为起点，构建面向智能设备时代的端侧大模型推理基础设施。
未来，公司将继续围绕“芯片 + 算法 + 平台 + 场景”强化全栈能力，推动大模型能力在机器人、AIPC、智能座舱、智慧家庭等更多终端设备中规模化落地，让AI真正进入终端，服务真实场景。
