欢迎来到亿配芯城! | 免费注册
你的位置:IOR(国际整流器IR)功率半导体IC芯片全系列-亿配芯城 > 芯片资讯 > 边缘设备运行生成式AI内存解决方案
边缘设备运行生成式AI内存解决方案
发布日期:2024-01-06 08:04     点击次数:135

华邦电子将在2024年继续强化其市场地位,通过技术创新和市场适应力,在全球存储解决方案市场保持领先。

成立于 1987 年的华邦电子,是全球领先的半导体存储解决方案提供商。华邦电子的主要产品线包括利基型动态随机存取内存(DRAM)、行动内存、编码型闪存和 TrustME 安全闪存,广泛应用于通讯、消费性电子、工业以及车用电子和计算机周边领域。

e7b2efec-a0b1-11ee-8b88-92fbcf53809c.png

华邦电子 DRAM 产品市场地位,来源:Omida

专注利基市场

NOR Flash 全球排名第一

华邦电子拥有自己的制程、产能和晶圆厂,是一家真正的 IDM 内存企业。Flash 产品主要为 Code Storage 类别,其中 NOR Flash 全球排名第一。与三星、美光等全球头部存储厂商相比,华邦电子在市场上主要聚焦中小容量利基型存储。根据 Omdia 的数据,截至 2022 年第四季度,华邦电子在全球小于等于 1Gbit 容量市场中份额最高,其中 1Gbit 市占份额达 33%,小于等于 512bit 市场的份额达 47%。公司的新晶圆厂产能扩充为其在更大容量市场上争取更高份额奠定了基础,特别是在看重品质和供应的 KGD 合封市场中全球领先。

第三方调研机构数据显示,华邦在全球 NOR Flash 市场中排名第一,2021 年市场占比近 30%。此外,华邦电子约三成营收来自中国大陆市场,显示其在中国大陆的业务布局和深耕程度。

华邦的 NOR Flash 产品目前市占率全球第一,正从 5V、3V 演进至 1.2V,以适应低功耗需求。华邦还在 NAND Flash 领域创新,推出了 OctalNAND 新产品系列,特别适用于汽车车机系统和可穿戴设备,提供高带宽和快速启动速度。华邦电子产品中的 NOR Flash,虽不主攻如 AI 服务器、数据中心等存储市场,却在 PCB 板上的小容量存储领域占有显著市场份额。

此外,华邦电子在支持客户对 8Mb Serial Flash 需求方面拥有丰富经验,其产品应用领域包括仪器仪表、联网设备、PC、打印机、车用及游戏设备。W25QxxRV 的推出,进一步支持了更多新兴应用和用例,例如利用 KGD 和 WLCSP 解决方案在先进技术中实现无线连接性,并采用更小的引脚封装。

近日,华邦电子产品总监朱迪接受了与非网记者的专访,在详细介绍了华邦电子的产品线及技术路线之外,也对 2022 年及 2023 年的存储产业进行了回顾和展望。

e7cf510a-a0b1-11ee-8b88-92fbcf53809c.png

华邦的 DRAM 产品以小尺寸、低功耗和低引脚数封装等特点著称,可简化器件互连并节省 PCB 成本,是嵌入式设备的理想选择。今年三月,华邦电子宣布与全球顶级半导体公司意法半导体 (STMicroelectronics) 达成合作,将华邦的利基型内存芯片和内存模块集成到意法半导体STM32 系列微控制器 (MCU) 和微处理器 (MPU) 中。这次合作旨在优化集成和性能,确保双方设备的长期可用性,满足工业市场客户的需求。

STM32 系列是基于 Arm Cortex 内核的 32 位 MCU 和 MPU 产品,融合高性能、高能效、超低功耗和先进外设等优点,与 STM32 的广泛生态系统完美对接,简化并加速开发进程。意法半导体的 STM32MPU 生态系统产品营销经理 Kamel Kholti 强调了与华邦电子建立密切合作伙伴关系的重要性,尤其是在将 STM32 系列扩展到 MPU 领域时。

e7e03254-a0b1-11ee-8b88-92fbcf53809c.png

HYPERRAM: MCU 外部 RAM 的理想选择

来源:华邦电子

重点合作内容包括将华邦的 DDR3 内存与意法半导体的 STM32MP1 系列微处理器相结合,以支持工业网关、智能电表、条形码扫描器等需要高性能和先进安全性的应用。华邦还引入 HYPERRAM 产品为意法半导体新推出的基于 Cortex-M33 内核的 STM32U5 MCU 提供支持。HYPERRAM 的低功耗和高性能特点,使其成为 STM32U5 的理想内存解决方案,支持智能工业和消费级应用的发展。

满足新需求

HYPERRAM 成新兴 IoT 理想选择

e7f7f38a-a0b1-11ee-8b88-92fbcf53809c.png

HYPERRAM主要应用,来源:华邦电子

随着 MCU 的制程节点从 55nm、40nm 朝 28nm 甚至 16nm 转移,虽然尺寸符合 IoT 微型化趋势,但应用对运算能力的高要求使得需要新一代外部内存作为数据缓冲。传统 SDRAM 和 pSRAM 无法满足这些新兴 IoT 应用的需求,故华邦推出采用 38nm 制程的 HYPERRAM,并计划向 25nm 制程转移。这一先进制程不仅适应了车用和工规应用的长期供货需求,还使 HYPERRAM 成为新兴 IoT 装置的理想选择。

e8189d60-a0b1-11ee-8b88-92fbcf53809c.png

HYPERRAM 性能优势,来源:华邦电子

HYPERRAM 技术是一种适用于需要扩充记忆体以用于暂存或缓冲的高性能嵌入式系统的高速、低引脚数、低功耗 pseudo-SRAM。这项技术最早由英飞凌推出,现已获得多家 MCU、MPU 和 FPGA 合作伙伴及客户的认可与支持,生态系统日益成熟。HYPERRAM 的三大特性主要包括:低脚数、低功耗、易于应用设计,这些特性显著提升了终端装置的效能。与传统 SDRAM 相比,HYPERRAM 在待机功耗和封装尺寸上都具有明显优势。其简化控制接口,基于 pSRAM 架构,并具有自我刷新功能,使得系统端的内存使用更为简便,简化了固件和驱动程序的开发。

已有多家公司推出了优化的 HyperBus 记忆体控制IP。目前,包括 NXPRenesasSTTI 等领先业者已支持 HyperBus 接口的 MCU,并将继续支持其新产品。控制接口开发平台已就绪,Cadence、Synopsys 及 Mobiveil 已提供HyperBus内存控制 IP,加速芯片业者设计时程。HYPERRAM 将纳入 JEDEC 标准规范,成为兼容技术。华邦作为 HYPERRAM 的供应商之一,提供客户更多选择。现已成为高性能嵌入式系统中额外 RAM 需求的理想解决方案。新一代 HYPERRAM 3.0 产品在 1.8V 下能达到 200MHz的最高工作频率,数据传输率高达 800MBps。

据介绍,目前华邦电子的 HYPERRAM 产品线包括32Mb、64Mb、128Mb 和 256Mb 等多种容量,提供多种封装选项,如 24BGA、49BGA 和 15BGA WLCSP 封装,适用于不同的市场需求,包括汽车、工业应用和消费性产品。恩智浦的 i.MX RT 系列 MCU已全面支持 HYPERRAM 接口,以适应不同应用场景的需求。对于穿戴式产品,RT500/700 搭配 WLCSP 封装的 HYPERRAM 提供低功耗和小封装优势。而在工业和汽车类应用中,RT1170/1180 与 BGA 封装的 HYPERRAM 结合,实现少引脚和高可靠性。华邦已将 HYPERRAM 产品容量扩展至 256Mb 和 512Mb,采用 25nm 制程,低至 35μW 的待机功耗在混合睡眠模式下优化了性能。

华邦电子产品总监朱迪对与非网记者表示,“HYPERRAM 是一个 8 位串行接口产品,具备功耗低、引脚少、占用空间小等特点,非常适合中小容量市场,是未来发展的趋势。”随着 HYPERRAM 技术的发展,华邦电子提供了多样化的产品线和封装选项,为不同应用场景提供解决方案,如车用电子、工业电子、智能家居以及穿戴装置等。预计随着市场的不断增温,将有更多客户采用这一新世代内存技术。

从 KGD 到 CUBE华邦如何应对边缘 AI 新挑战?

作为利基型内存领域的领先企业,华邦电子专注于 KGD (良品裸晶圆) 技术的应用,区别于市场上普遍的普通封装产品。华邦电子的 KGD 解决方案已超过十年,产品成熟且经过严格测试,与封装产品具有同等的可靠性水平。

据介绍,华邦 KGD 2.0 产品采用的 TSV (Through-Silicon Via) 技术在深宽比 (aspect ratio) 能力上表现出色,能达到 1:10 的比例,目前可以实现 50 微米的深度,相当于需要将芯片打磨至 2 mil。通过 Hybrid Bonding 工艺,华邦有望进一步实现更高的精度和更低的功耗。KGD 2.0 的信号完整性/电源完整性 (SI/PI) 表现优异,且功耗低于 LPDDR4 的四分之一,同时带宽可实现 16-256GB/s,为客户在 AI-ISP 和 CPU 设计中提供了高效的替代方案。

华邦电子致力于设计创新和差异化的 Serial Flash KGD 和 WLCSP 解决方案。这些解决方案适用于需要 MCU 和 So C的小尺寸与非易失性存储的特殊应用。通过其先进的 KGD 2.0 产品和 3DCaaS 服务平台,华邦电子为客户提供从 DRAM 到封装测试再到 IP 的完整一站式解决方案,不断推动行业技术的发展和创新。

在加入 UCIe (Universal Chiplet Interconnect Express) 联盟时,华邦就宣布将提供 3DCaaS (3D CUBE as a Service) 一站式服务平台,为客户提供包括 3D TSV DRAM (CUBE) KGD 内存芯片在内的领先标准化产品解决方案。此外,华邦通过其平台合作伙伴提供的技术咨询服务,让客户能够全面享受 CUBE 产品支持,以及 Silicon-Cap、Interposer 等技术的附加服务。凭借在 KGD 技术上的深厚经验,华邦成功将其应用于 CUBE 产品中,推出了 KGD 2.0 产品。这一步骤标志着华邦在内存技术和封装领域的重要进展。

华邦电子产品总监朱迪深入分析了 HBM (高带宽内存) 的崛起及其与 AI 发展的紧密联系。他指出,尽管整个内存市场不景气,但 HBM 市场却因 ChatGPT 应用而快速增长。他预计,未来 3-5 年内,HBM 在 DRAM 市场的占比将从 1% 增长至 5%-7% 左右。朱迪认为,HBM 的毛利比较高,这在财务方面对头部大厂非常有利。朱迪进一步讨论了端侧 AI 对 HBM 需求的影响, 电子元器件采购网 他认为,端侧 AI 和云端计算是相辅相成的关系。云端计算需要 HBM 和大算力 GPU 进行计算和训练,而终端设备依赖于中小容量的内存需求,例如 HYPERRAM 和华邦新推出的 CUBE 产品。

华邦的 CUBE (Customized Ultra-Bandwidth Elements) 是一种针对 SoC (System on Chip) 在 DRAM 合封上遇到的挑战所设计的创新内存产品。这种紧凑超高带宽 DRAM 专为边缘计算领域设计,通过将 SoC 裸片置于 DRAM 裸片上方,CUBE 技术能够在不采用 SoC 的 TSV (Through-Silicon Via) 工艺的同时,达到降低成本和尺寸的目的。此外,它还改进了散热效果,并特别适用于对低功耗、高带宽以及中低容量内存有需求的应用场景。作为一种半定制化的紧凑超高带宽 DRAM,CUBE 技术是针对当前 SoC 在 DRAM 合封上遇到的挑战而设计的创新产品。这种技术为边缘计算和 AI 应用领域提供了革新性的解决方案,标志着华邦在内存技术方面的重要进步。

CUBE 利用了 3D 堆栈技术和异质键合技术,优化了在混合云和边缘云应用中运行生成式 AI 的性能。它的设计目标是满足边缘 AI 计算设备日益增长的需求,提供单颗 256Mb 至 8Gb 的高带宽低功耗内存。CUBE 还利用 3D 堆栈技术强化带宽,降低数据传输时的电力需求。

它支持包括 chip-on-wafer、wafer-on-wafer 以及 2.5D/3D chip-on-Si-interposer 在内的封装技术。这些技术增强了前端 3D 结构的性能,并提供了后端基板和扇出解决方案。CUBE 的设计目标是满足边缘 AI 计算设备日益增长的需求,提供单颗 256Mb 至 8Gb 的高带宽低功耗内存解决方案。

CUBE 的主要特性包括:

01

节省电耗:CUBE 提供卓越的电源效率,功耗低于 1pJ/bit,延长运行时间并优化能源使用。

02

卓越性能:其带宽范围在 32GB/s 至 256GB/s,远高于行业标准。

03

较小尺寸:基于 20nm 标准,提供每颗芯片 256Mb-8Gb 容量,2025 年预计将有 16nm 标准。

04

高经济效益、高带宽:IO 速度可高达 2Gbps,与成熟工艺 SoC 集成时,带宽可达 32GB/s 至 256GB/s。

CUBE 的推出是华邦电子实现跨平台与接口无缝部署的重要一步,适用于包括可穿戴设备、边缘服务器设备、监控设备、ADAS 以及协作机器人等高级应用。华邦电子的创新和合作承诺有望推动各行业的发展,并通过 3DCaaS 平台进一步发挥 CUBE 的潜力。结合现有技术,华邦能够为行业提供尖端解决方案,支持企业在 AI 驱动转型的关键时代蓬勃发展。

华邦电子产品总监朱迪对与非网记者介绍了 CUBE 的应用场景及其特点。他指出:“华邦 CUBE 的应用场景主要集中在边缘计算领域,如 AR、VR 这类轻薄、尺寸小且需大量数据传输的产品。此外,摄像头等智能设备也是 CUBE 的重要应用领域,未来这些设备将进化得更智能、高清,并容纳更多算法。”

关于 CUBE 的大模型应用,朱迪补充道:“CUBE 也适用于大模型,特别是边缘计算中的系统训练任务。随着本地化计算需求增加,对内存和存储的需求、算力和带宽需求也相应提高。CUBE 在这方面提供了高效的解决方案。”

CUBE 的架构不仅将 SoC 裸片置于 DRAM 裸片上方,从而减小 SoC 尺寸、降低成本,还通过华邦的 DRAM TSV 工艺将 SoC 的信号引至外部。这一设计提供了低功耗、高集成度等优势。

CUBE 的推出也标志着华邦在制造和封装领域的独特能力。朱迪指出:“华邦在封装领域与封装厂合作,并提供 Die 的 TSV 穿孔技术和 Interposer,有效地帮助 3D 封装实现更低的功耗和更高的集成度。”

CUBE 被视为一种服务而非单一产品,因为它不仅包括存储功能,还涵盖 TSV 穿孔、硅中介层、硅电容等。朱迪解释:“CUBE 是一套整体的解决方案,‘一站式服务’,而非单独销售的一个产品。”

华邦电子在 CUBE 技术上的创新,不仅是对内存技术的重要贡献,也是对边缘计算和 AI 领域的重大推动。CUBE 的发展契机在于其与边缘侧芯片性能的强大配合,提供非常规的内存产品以支持这些强大的边缘设备。华邦电子的 CUBE 架构有望在未来的技术发展中发挥关键作用,推动边缘计算和 AI 的发展。

华邦电子产品总监朱迪表示,CUBE 是基于华邦多年芯片级合封技术的发展。过去的 Die-to-Die 合封技术逐渐演变为现在的 2.5D/3D 封装技术,如 Chip on Wafer 或 Wafer on Wafer。这些技术使得 SoC 和内存之间可以通过数千个 Microbump 进行高速、高带宽的数据交换。CUBE 的 SoC 裸片置上、DRAM 裸片置下的设计,提供了更好的散热效果和更优化的封装效果。朱迪对与非网记者介绍,“CUBE 技术可以理解为Chiplet,HBM 的本质也是一样的,它们都算是Chiplet 下面的子集。华邦在今年 2 月份加入了UCIe 这个 Chiplet 联盟,并且华邦在这个联盟中是一个独特的存在,也是联盟内唯一一个提供 CUBE 产品的。”

华邦电子与 UCIe 产业联盟

随着摩尔定律的放缓,芯片行业面临性能提升的挑战,其中 Chiplet 技术成为一个焦点。然而,不是所有的集成芯片都需要使用极先进的制程,如 5 纳米或 3 纳米。Chiplet 允许不同功能的芯片采用不同制程,例如运算核心使用 5 纳米,而 IO 芯片可能使用 7 纳米或 12 纳米,这种方法能有效降低 SoC 的成本结构。Chiplet 的推广和存在的价值在于,它使得不同制程的芯片能够有效结合在一起,但如何连接这些不同制程的芯片成为关键问题,正是 UCIe 联盟致力于解决的难题。

作为 DRAM 供应商的行业领导者,华邦从 DRAM 的角度为 Chiplet 技术的普及做出了独特贡献。Chiplet 技术面临的挑战包括封装技术、连接设计和热管理。2.5D/3D 垂直堆叠方式对封装技术提出了更高要求,需要在更小的封装空间内封装尺寸更小的芯片。同时,芯片堆叠的顺序和走线方式的优化设计是降低整体风险的关键。另外,散热问题在芯片堆叠后变得更加复杂,需要采用尖端的散热技术来保证芯片性能和寿命。

华邦电子不仅加入 UCIe 联盟,还提供 3DCaaS (3D CUBE as a Service) 一站式服务平台,为客户提供 3D TSV DRAM (CUBE) KGD 内存芯片和优化多芯片设备的 2.5D/3D 后段工艺,如 CoW/WoW 技术。此外,华邦的合作伙伴还提供技术咨询服务,使客户可以轻松获得完整的 CUBE 产品支持,并享受 Silicon-Cap、Interposer 等技术的附加服务。2.5D/3D 封装技术能进一步提升芯片性能,满足严格的前沿数字服务要求。随着 UCIe 规范的普及,2.5D/3D 技术在云端到边缘端的人工智能应用中将发挥更重要的作用。华邦电子产品总监朱迪对此表示:“华邦在 UCIe 中是一个比较独特的存在,CUBE 的概念对联盟里的一些厂家非常具有吸引力,包括封测、主控等企业,未来合作的机会非常大,甚至现在既有的客户也是这些伙伴。相信华邦能够在这个联盟里面发挥自己的独特作用,能够带来一些新的产品和新的形态出现。”

积极开拓 AIoT、汽车新兴市场

回顾2023

华邦电子产品总监朱迪对与非网记者表示,疫情期间家用电子产品需求增加,但随着疫情缓解,需求开始下降。新兴应用领域如服务器、数据中心、电动汽车及工业数字化转型对存储的需求仍然强劲。尽管市场部分电源相关组件交货延迟,但多数存储芯片供应和交付时间已恢复正常。全球经济通胀导致存储市场供应过剩,影响消费者和企业需求。

在 2023 年的业务表现中,尽管面临全球经济不确定性和疫情余波,但华邦电子在 DRAM、NAND Flash 和 NOR Flash 市场中稳定发展。随着物联网的扩张,华邦的 3V 8Mb Serial NOR Flash 产品在汽车和物联网领域显示出巨大潜力。由于多家厂商减产,市场出现涨价趋势。2023 年第四季度预计为市场反弹期,库存水位正常化后将进行市场修正。

展望2024

展望未来,华邦电子市场策略受欧盟通胀、美国加息和地缘政治等因素影响,预计在动荡市场环境中保持稳定发展。华邦电子产品总监朱迪预测,未来市场趋势将受多方面综合影响,总体看宏观经济状态和大环境。公司将从 25nm 和 25Snm 制程演进到 20nm,专注于中小容量产品的先进制程。华邦将关注宏观经济状态,适应市场需求变化,致力于技术创新和市场拓展,尤其在 AIoT 和电动汽车等新兴市场。

据介绍,华邦电子积极适应市场变化,2023 年在汽车领域取得不小成绩。华邦电子获得 ISO/SAE 21434 道路车辆网络安全管理体系认证,展现其在汽车网络安全领域的领先地位。该认证涵盖汽车设计、开发、生产到使用和报废的整个生命周期,强调信息安全在抵御网络攻击中的重要性。华邦的 TrustME W77Q 安全闪存已获多项安全认证,满足汽车系统的人车安全和网络安全需求。2024 年,华邦电子计划进行关键技术升级,将 NOR Flash 产品从 58nm 升级到 45nm,并在高雄厂量产 20nm 大容量 DDR4 产品。公司还将发展 2Gbit 和 4Gbit 高容量 Flash 产品,丰富 1.2V 产品线。面对 DDR3 停产情况,华邦将继续生产并计划 2025 年升级至 16nm。

综上,华邦电子预计在 2024 年将继续强化其市场地位,通过技术创新和市场适应力,在全球存储解决方案市场保持领先。