DIGITAL 3T-EDRAM BASED CIM MACRO FOR ACCELERATING MATRIX MULTIPLICATIONS IN TRANSFORMER MODEL WITH HIGH-ACCURACY AND HIGH COMPUTE-EFFICIENCY

Abstract

트랜스포머 모델의 행렬곱 연산 가속을 위한 높은 정확도 및 연산 효율성을 갖는 디지털 기반 3T-eDRAM CIM 매크로 기술이 개시된다. 3T(three transistors) eDRAM(embedded DRAM) 셀 기반의 CIM(compute-in-memory) 매크로 구조로서 가중치 데이터 저장을 위한 메모리 어레이, 메모리 주변회로, MAC(multiply-accumulate) 연산을 위한 연산기, 및 매크로 컨트롤러를 포함하고, 상기 메모리 어레이는 동시에 읽기 동작을 수행하는 복수 개의 서브 어레이로 구성되고, 상기 연산기는 상기 메모리 어레이에서 동시에 읽어온 가중치 데이터(weight)와 상기 매크로 컨트롤러를 통해 입력된 입력 데이터(activation)의 MAC 연산을 수행하는 근접 셀 맥 트리로 구성될 수 있다