Multithreaded systolic computation: A novel approach to performance enhancement of systolic arrays
R. Sernec, Matej Zajc · 2001
In this paper we propose a synergy of processing on parallel processor arrays (systolic or SIMD) and multithreading named multithreaded systolic computation. Multithreaded systolic computation enables simultaneous execution of independent algorithm data sets, or even different algorithms, on systolic array level. This approach results in higher throughput and improved utilization of programmable systolic arrays, when processing elements are designed with pipelined functional units. The real benefit of multithreaded systolic computation is that it increases the throughput of systolic arrays without changing systolic algorithm. The multithreaded systolic computation principle is demonstrated on a programmable systolic array executing a set of linear algebra algorithms. A cycle accurate simulation presents throughput improvement results for three different processing element models. We demonstrate that multithreaded systolic computation can provide throughput improvements that asymptotically approach the number of simultaneously executable threads. Povzetek V članku je predstavljen pristop, ki združuje vzporedna procesorska polja ter večnitnost, imenovan večnitno sistolično računanje. Večnitno sistolično računanje pomeni hkratno izvajanje neodvisnih podatkovnih nizov istega algoritma ali več različnih algoritmov na sistoličnem polju. Pristop omogoča povečanje prepustnosti in boljšo izrabo programljivih sistoličnih polj s cevovodnimi funkcionalnimi enotami. Prednost podanega pristopa je povečanje prepustnosti brez spreminjanja sistoličnega algoritma. Večnitno sistolično računanje je predstavljeno na programljivem sistoličnem polju, ki izvaja nabor algoritmov linearne algebre. Povečanje prepustnosti sistoličnega polja predstavljajo rezultati simulacij treh različnih modelov procesorskih elementov. Izboljšanje prepustnosti se asimptotično približuje številu niti.