Samsung parrebbe essere riuscita nella coniugazione di due differenti tecnologie, l’IA e le memorie HBM2, creando un prodotto che forse in determinati ambiti potrebbe nel corso del tempo, rimpiazzare i SoC. La nuova tecnologia di Samsung è denominata HBM-PIM, in cui il PIM sta per Processing in Memory.
Il chip IA è integrato direttamente nel modulo HBM2 e può raggiungere una potenza di calcolo di ben 1,2 TFLOPs. Le unità dedicate ai calcoli IA sono denominate PCU (Programmable Computing Unit) e presentano una frequenza di 300 MHz e presentano la capacità di effettuare calcoli in FP16.
Il Chip PIM si fa carico delle operazioni che altrimenti sarebbero affidate completamente alla sola HBM ed alla CPU.
A detta di Samsung, se si associa la HBM-PIM a sistemi che usano HBM2 Aquabolt, si ottiene addirittura il raddoppio delle prestazioni riducendo il consumo di energia del 70%.
HBM-PIM non richiede inoltre cambiamenti hardware o software, permettendo una più veloce integrazione nei sistemi esistenti.
Di certo la tecnologia è estremamente interessante ed i campi di applicazione possono essere molteplici, andando a velocizzare i calcoli in scenari in cui è necessario un supporto nei carichi di Intelligenza Artificiale, come ad esempio negli Acceleratori IA.