面向边缘AI的可转置存内计算芯片研究进展

1

面向边缘AI的可转置存内计算芯片研究进展

随着人工智能的飞速发展，AI在人们生活中起着越来越重要的作用。大量的边缘智能传感器被部署在人们的生活环境中，用于收集数据并自主做出决策。虽然这些智能设备带来了便利，但同时也带来了泄露个人隐私数据的风险。用户通常需要使用个人数据来重新训练或调整模型以适应其个人健康状况或生活习惯。在边缘端的功耗和计算资源限制下，用户仍需将个人数据上传到云端进行模型重训练。如果云服务提供商不可信，则可能导致隐私数据泄露。因此，人们希望能够直接在边缘端完成神经网络的重训练，从而避免将数据上传至云端。

尽管存内计算技术在处理AI推理时因为能够显著减少数据搬运功耗而被广泛使用针对这一挑战，唐希源课题组提出了一种可同时实现高能效模型推断前馈计算与训练反向传播计算的可转置存内计算电路设计，但是由于反向传播需要读取模型权重矩阵的转置，传统的存内计算方案无法支持网络训练任务。随着智能应用快速推进，边缘端数据安全与网络训练高功耗、高成本的冲突日益严峻。

为了在高密度的6T SRAM阵列中支持高精度可转置计算，该工作提出一种基于分簇结构的电荷域局域阵列设计。在分簇结构中，8个6T SRAM单元共用一个电荷域计算单元在位线电容上完成高精度的电荷域计算。因此，该工作的功能单元面积仅为6T SRAM的1.37倍，额外硬件开销很小。此外，该设计可以通过比特串行映射的方法对计算精度进行扩展。如图3所示，课题组基于28nm标准 CMOS工艺完成了可转置存内计算电路的芯片原型验证，芯片在前馈计算时的能效达到257.1TOPS/W，在反向传播计算时的能效达到31.8 TOPS/W，达到世界先进水平，并在CIFAR-10与MNIST数据集完成性能验证。该技术为边缘端智能提供了低功耗、高鲁棒性的AI加速器解决方案。

出版信息

标题:

A 28 nm 16 Kb Bit-Scalable Charge-Domain Transpose 6T SRAM In-Memory Computing Macro

出版信息:

IEEE Transactions on Circuits and Systems I: Regular Papers ，14 February 2023

DOI:

10.1109/TCSI.2023.3244338

2

微电子所在Chiplet热仿真模型及工具研究方面取得进展

后摩尔时代，依靠缩小尺寸提升器件集成度的硅基CMOS技术面临物理原理和工艺技术的巨大挑战，具有高性能、低功耗和低成本优势的Chiplet技术成为延续摩尔定律的重要选择之一。

该技术利用先进封装工艺，将多个异构芯片集成为特定功能的系统芯片，从而满足人工智能等领域的应用需求。但由于Chiplet异构集成密度大幅增加，热耗散问题对异构系统的可靠性造成严峻挑战。如何针对Chiplet异构集成系统的复杂性，提出新的热分析方法，实现高精准封装热模拟和散热结构设计，开发与Chiplet应用场景适配的热仿真模型和工具已成为Chiplet热分析领域的重要方向。

基于以上问题，微电子所EDA中心多物理场仿真课题组通过引入传导、对流和辐射效应，提出了芯粒异构集成复杂互连结构（TSV、bump和RDL）通用等效热导解析方法和一种改进型交替方向隐式浮点优化算法。

通过快速精确求解超大规模稀疏矩阵离散方程，首次构建了芯粒异构集成三维网格型瞬态热流仿真模型和计算流程。在此基础上，课题组进一步将其拓展应用于更大规模和尺度的异构集成温度仿真。以上模型和求解器能够实现Chiplet异构集成系统瞬态热流的高效精确仿真，为芯粒异构集成系统温度热点检测工具和温感布局优化算法的开发奠定了核心技术基础。

通过在芯粒热流仿真模型上改进数值离散格式和虚拟点构造算法，使浮点运算效率提升了2.74倍。与有限元方法相比，在满足计算精度的前提下，Chiplet热仿真器的计算效率提升了27倍。

出版信息

标题:

Efficient transient thermal analysis of chiplet heterogeneous integration

出版信息:

Applied Thermal Engineering，30 April 2023

DOI:

10.1016/j.applthermaleng.2023.120609

转自：“科研之友 ScholarMate”微信公众号

如有侵权，请联系本站删除！