台积电如何推动人工智能节能:逻辑和封装的创新
关键摘要:
陆志强博士强调,随着人工智能的普及,人工智能应用从数据中心扩展到边缘设备,电力需求大幅增加。
台积电解决能源效率问题的战略包括先进逻辑、3D 封装创新和生态系统合作,以及提高各个节点能效的路线图。
3D 封装技术,包括台积电的 3D Fabric 和 HBM 进步,有望显着提高效率,3D SoIC 的效率是 2.5D 解决方案的 6.7 倍。
台积电高级研究员兼研发/设计与技术平台副总裁陆志强博士在台积电OIP生态系统论坛的主题演讲中强调了人工智能扩散推动的电力需求指数级增长。人工智能正在无处不在,从超大规模数据中心到边缘设备,推动日常生活中的新应用。
不断发展的模型,包括具身人工智能、思维链推理和代理系统,需要更大的数据集、更复杂的计算和更长的处理时间。这种激增导致人工智能加速器在五年内每个封装消耗的电力增加了 3 倍,部署规模在三年内扩大了 8 倍,这使得能源效率对于人工智能的可持续增长至关重要。
台积电的战略侧重于先进的逻辑和 3D 封装创新,以及生态系统合作,以应对这一挑战。从逻辑扩展开始,台积电的路线图是稳健的:N2 将于 2025 年下半年进入量产,N2P 计划于明年投入,A16 将于 2026 年底提供背面供电,A14 进展顺利。
N3 和 N5 的增强功能继续增加价值。从 N7 到 A14,等功率下的速度提高了 1.8 倍,而电源效率提高了 4.2 倍,每个节点的功耗比其前身降低了约 30%。A16 的背面电源针对具有密集网络的 AI 和 HPC 芯片,与 N8P 相比,速度提升 10-15% 或节省 20-2% 的功耗。
N2 Nanoflex DTCO 优化了双高速和低功耗电池的设计,实现了 15% 的速度提升或 25-30% 的功耗降低。基础知识产权创新进一步提高效率。优化的传输栅极触发器以最小的速度 (2%) 和面积 (6%) 权衡将功率降低 10%,有时性能优于状态栅极变体。
具有涡轮/标称模式的双轨 SRAM 可将效率提高 10%,Vmin 降低 150mV,并优化了面积损失。内存计算脱颖而出:台积电基于数字CIM的深度学习加速器与传统的4纳米DLA相比,可提供4.5倍TOPS/W和7.8倍TOPS/mm²,可从22纳米扩展到3纳米及以上。台积电邀请合作伙伴以进一步推进 CIM。
人工智能驱动的设计工具放大了这些收益。新思科技的 DSO。AI 是 PPA 优化强化学习的领导者,在 APR 流中将电源效率提高了 5%,在金属堆栈中提高了 2%,总计提高了 7%。对于模拟设计,与台积电 API 的集成可实现 20% 的效率提升和更密集的布局。AI 助手通过自然语言查询将分析速度提高 5-10 倍,以获得配电洞察。
转向 3D 封装,台积电的 3D Fabric 包括用于硅堆叠的 SoIC、用于移动/HPC 小芯片的 InFO、用于逻辑-HBM 集成的 CoWoS 以及用于晶圆级 AI 系统的 SoW。节能通信使 2.5D CoWoS 提高了 1.6 倍,微凸间距从 45μm 到 25μm. 3D SoIC 将效率提高了 6.7 倍,但集成面积更小(1 倍光罩对 9.5 倍)。符合 UCIE 标准的芯片到芯片 IP 可从 AlphaWave 和 Synopsys 等合作伙伴处获得。
HBM 集成进步:台积电 N12 逻辑基芯片上的 HBM4 提供比 HBM3e DRAM 芯片高 1.5 倍的带宽和效率。N3P 定制基极将电压从 1.1V 降低到 0.75V。与可插拔器件相比,通过共封装光学器件的硅光子学可提供 5-10 倍的效率、10-20 倍的低延迟和紧凑的形式。Synopsys/ANSYS 的 AI 优化通过协同设计将这一点提高了 1.2 倍。
使用超高性能金属-绝缘体-金属加嵌入式深沟槽电容器的去耦电容创新可实现 1.5 倍的功率密度,而不会损失完整性,由 Synopsys/ANSYS 工具建模。EDA-AI 可自动执行 EDTC 插入(10 倍生产率)和基板布线(100 倍,具有最佳信号完整性)。
底线:摩尔定律还活着。逻辑扩展提供了从 N7 到 A14 的 4.2 倍效率,CIM 增加了 4.5 倍的 IP/设计创新,贡献了 7-20%。封装从 2.5D 到 3D 的产量提高了 6.7 倍,光子学产量提高了 5-10 倍,HBM/去耦电容器的产量提高了 1.5-2 倍,人工智能将生产率提高了 10-100 倍。
台积电授予合作伙伴在 A14/A16 基础设施、多芯片解决方案、AI 设计、射频迁移、IP、3D 结构和云服务方面的贡献,荣获 2025 年 OIP 奖。这绝对与生态系统有关。
指数级的人工智能需求需要这样的创新。台积电的合作推动了 5-10 倍的收益,促进了高效、高效的人工智能生态系统。展望未来,更深入的合作伙伴关系将为可持续的人工智能进步带来更多迭代。

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW
或用微信扫描左侧二维码