Katarzyna Petru
Jak informuje techradar, współzałożyciel id Software, John Carmack, zasugerował, że bardzo długi światłowód mógłby zastąpić klasyczny RAM w systemach AI. Chodzi o nawet 200 km kabla, który przy przepustowości 256 Tb/s byłby w stanie „przechowywać” około 32 GB danych w transmisji. Według Carmacka modele AI korzystają z przewidywalnych wzorców dostępu do wag, więc można wyobrazić sobie architekturę bez tradycyjnego DRAM, gdzie dane są stale strumieniowane do cache przez zapętlony światłowód. To odpowiedź na rosnący problem ograniczeń pamięci w centrach danych. Na razie to koncepcja, ale pokazuje alternatywny kierunek rozwoju infrastruktury AI.
przyszłość pamięci AI pod lupą
Obecny rynek pamięci jest pod ogromną presją. Popyt napędzany przez AI znacząco przewyższa podaż, a chodzi nie tylko o serwerowy RAM w centrach danych, lecz także o pamięć w akceleratorach i kartach graficznych. To właśnie dlatego John Carmack szuka alternatyw w postaci infrastruktury światłowodowej, która mogłaby odciążyć klasyczne moduły pamięci i ograniczyć efekt domina cenowego widoczny dziś w całym segmencie PC.
Sam pomysł ma jednak poważne bariery. Potrzebna byłaby ogromna ilość światłowodu, a utrzymanie jakości sygnału w takiej pętli nie jest trywialne. Carmack wskazuje też bardziej przyziemną opcję, czyli łączenie wielu tanich modułów flash w równoległy system o wysokiej przepustowości, pod warunkiem stworzenia szybkiego interfejsu bezpośrednio współpracującego z akceleratorami AI.
To rozwiązanie wydaje się bliższe realizacji, ale wymaga współpracy producentów GPU i pamięci masowych. Tymczasem kryzys RAM może potrwać jeszcze wiele miesięcy, dlatego szukanie nowych architektur dla modeli AI przestaje być eksperymentem, a zaczyna być koniecznością.
źródło: techradar.com
