Samsung pokazał pierwszą pamięć z wbudowaną AI

Samsung Electronics Co., Ltd., lider w dziedzinie zaawansowanych technologii pamięci, opracował pierwszą w branży pamięć o dużej przepustowości (High Bandwidth Memory, HBM) zintegrowaną z układami przetwarzania wyposażonymi w sztuczną inteligencję (AI) - HBM-PIM. Nowa architektura przetwarzania wbudowana w pamięć (Processing-in-Memory, PIM) zapewnia potężne możliwości obliczeniowe AI a jej przeznaczeniem jest przyśpieszenie przetwarzania danych na dużą skalę w centrach danych, systemach obliczeniowych o wysokiej wydajności (HPC) i aplikacjach mobilnych, wykorzystujących sztuczną inteligencję.

Kwangil Park, wiceprezes ds. rozwoju pamięci Samsung Electronics, stwierdził: ‘Nasz przełomowy HBM-PIM to pierwsze w branży programowalne rozwiązanie PIM, dostosowane do różnych zadań opartych na wykorzystaniu sztucznej inteligencji. Będziemy dalej rozwijać tego typu rozwiązania w oparciu o współpracę z dostawcami rozwiązań AI’.

Większość dzisiejszych systemów komputerowych jest oparta na architekturze von Neumanna, która wykorzystuje oddzielne jednostki procesora i pamięci do wykonywania milionów skomplikowanych zadań przetwarzania danych. To sekwencyjne podejście do przetwarzania wymaga ciągłego przesyłania danych pomiędzy podsystemami, co skutkuje powstaniem zwalniającego cały system wąskiego gardła, zwłaszcza podczas obsługi stale rosnących ilości danych.

Zamiast tego HBM-PIM przenosi moc obliczeniową bezpośrednio do miejsca przechowywania danych, umieszczając zoptymalizowany pod kątem pamięci DRAM silnik AI w każdym banku pamięci - podjednostce pamięci - umożliwiając równoległe przetwarzanie i minimalizując ruch danych. Nowa architektura zastosowana w istniejącym rozwiązaniu HBM2 Aquabolt firmy Samsung jest w stanie zapewnić ponad dwukrotnie większą wydajność systemu, jednocześnie zmniejszając zużycie energii o ponad 70%. HBM-PIM nie wymaga również żadnych zmian sprzętowych ani programowych, co pozwala na szybszą integrację z istniejącymi systemami.