Globalny sektor pamięci flash i pamięci odnotował w weekend wzmożoną aktywność, co obejmowało spór Micron-Apple, rozmowy Anthropic w sprawie pozyskiwania chipów z SK Hynix, nowe partnerstwo Nvidia-SK Hynix, postęp SK Hynix w zakresie 3D DRAM oraz innowację firmy Samsung w zakresie łączenia pamięci CXL.
SK Hynix zdominowało ostatnie nagłówki branżowe. Analityk Citrini, Jukan, potwierdził, że firma opracowuje stosowaną pamięć DRAM 3D, wspartą strategicznym zatrudnianiem inżynierów zajmujących się projektowaniem pamięci DRAM-on-logic wykorzystujących technologię 3D za pośrednictwem swojej spółki zależnej w San Jose w USA. Rekrutacja skierowana jest do talentów zdolnych do współprojektowania układów logicznych DRAM typu stacked 3D z wieloma klientami z USA.
Nowa architektura warstw 3D DRAM osadzona jest na systemowych procesorach półprzewodnikowych. Integracja pamięci DRAM i logiki na jednej kości zapewnia szybszą łączność między chipami i niższe zużycie energii w porównaniu z tradycyjnym łączeniem oddzielnych pakietów pamięci i logiki metodą pakiet na pakiecie (PoP).
Jukan zauważa, że technologia jest przeznaczona dla urządzeń obsługujących sztuczną inteligencję, wymagających dużej przepustowości pamięci i niskiego zużycia energii, w szczególności procesorów do aplikacji mobilnych w smartfonach, co pozycjonuje Apple jako kluczowego potencjalnego klienta SK Hynix.
SK Group rozszerzyła swoje strategiczne partnerstwo z firmą Nvidia poprzez formalne listy intencyjne, tworząc współpracę o wartości ponad 500 miliardów dolarów. SK Telecom zbuduje fabrykę Nvidia Vera Rubin DSX AI o mocy 2 gigawatów jako nowy dostawca usług w chmurze, aby sprostać globalnemu zapotrzebowaniu na moc obliczeniową. Chipy Vera Rubin będą wykorzystywać pamięć HBM4 firmy SK Hynix, a uruchomienie pierwszej fabryki sztucznej inteligencji zaplanowano na 2027 rok.
Celem partnerstwa jest przyspieszenie rozwoju infrastruktury sztucznej inteligencji na dużą skalę, obejmującej usługi sztucznej inteligencji suwerennej, fizycznej, agentycznej i korporacyjnej, a także zaspokojenie rosnącego zapotrzebowania na sztuczną inteligencję w Korei Południowej i szerzej rozumianym regionie Azji i Pacyfiku. SK Hynix nawiąże także długoterminową współpracę z firmą Nvidia dotyczącą pamięci AI, zapewniając Nvidii stabilne dostawy pamięci AI nowej generacji, jednocześnie zwiększając moce produkcyjne SK Hynix. Obie strony będą wspólnie opracowywać i optymalizować rozwiązania pamięci HBM i inne rozwiązania pamięci AI na potrzeby szkoleń LLM, scenariuszy agentycznych i fizycznych AI.
Prezes SK Group, Chey Tae-won, stwierdził, że współpraca wykorzysta pamięć SK Hynix dotyczącą sztucznej inteligencji i mocne strony infrastruktury SK Telecom do zbudowania światowej klasy fabryki sztucznej inteligencji, przekształcając Koreę Południową z kraju wdrażającego sztuczną inteligencję w globalne centrum innowacji w zakresie sztucznej inteligencji.
Były dyrektor generalny Intela, Pat Gelsinger, otwarcie skrytykował HBM podczas czatu przy kominku koreańskiej branży, nazywając go niedoskonałym rozwiązaniem pamięci. Wskazał kluczowe wady HBM: problemy z układaniem ciepła, ograniczenia łączności ograniczone przez brzegi GPU, słaba wydajność energetyczna i nieefektywność bitowa – poświęcanie około czterech bitów pamięci na każdy efektywny bit operacyjny. Niemniej jednak Gelsinger przyznał, że HBM jest obecnie najlepszym możliwym rozwiązaniem.
Wiceprezes SK Hynix, Hoshik Kim, częściowo poparł pogląd Gelsingera, stwierdzając, że HBM nie jest w stanie zasadniczo rozwiązać problemu wąskiego gardła ściany pamięci nieodłącznie związanego ze sztuczną inteligencją. Wyjaśnił, że HBM służy jedynie jako tymczasowy środek łagodzący, podczas gdy SK Hynix aktywnie opracowuje alternatywne rozwiązania, aby stawić czoła wyzwaniu związanemu z rdzeniową ścianą pamięci.
Per Bloomberg, wiodąca amerykańska firma zajmująca się sztuczną inteligencją, Anthropic, negocjuje z SK Hynix dostawę dedykowanych układów pamięci do obsługi niestandardowych, wewnętrznych procesorów AI. Prezes SK Group, Chey Tae-won, ujawnił tę wiadomość podczas szczytu AI w San Francisco w lipcu 2024 r., podczas którego przemawiał także dyrektor generalny Anthropic, Dario Amodei, chwaląc ambitne cele firmy Anthropic w zakresie rozwoju sprzętu w ramach szeroko zakrojonych wysiłków branży mających na celu przełamanie dominacji procesorów graficznych Nvidii. Amodei nie odpowiedział publicznie na komentarze.
Jak podaje oficjalny blog technologiczny, Samsung osiągnął niemal natywną wydajność pamięci DRAM dla obciążeń wnioskowania AI, korzystając z zewnętrznej pamięci zbiorczej CXL do odciążania pamięci podręcznej KV. LLM korzystają z pamięci podręcznej KV do przechowywania obliczonych kluczy i wartości uwagi, aby ograniczyć opóźnienia wnioskowania i redundantne obliczenia, jednak duże modele wymagają setek gigabajtów pamięci podręcznej, z łatwością przekraczając pamięć wbudowanego procesora AI. Konwencjonalny dysk SSD lub odciążanie sieciowe zmniejszają ograniczenia pojemności, ale powodują dodatkowe opóźnienia i obciążenie przepustowości.
Technologia CXL przełamuje tradycyjne ograniczenia fizyczne pamięci DRAM poprzez spójne połączenia wzajemne PCIe o dużej przepustowości, umożliwiając skalowalne łączenie pamięci między wieloma urządzeniami za pośrednictwem przełączników CXL. Moduł CMM-D (CXL Memory Module-DRAM) firmy Samsung został stworzony specjalnie dla tej rozszerzonej architektury pamięci.
Firma Samsung przetestowała swoje moduły CMM-D z procesorami graficznymi Nvidia RTX PRO 6000 Blackwell na platformie PCIe Gen5, tworząc pulę pamięci CXL o pojemności 1 TB z optymalizacjami oprogramowania vLLM i LMCache. Testy potwierdziły, że pula obsługuje odciążanie pamięci podręcznej KV na dużą skalę z wydajnością bliską DRAM. W konfiguracjach z jedną kartą graficzną zoptymalizowane łączenie CXL odpowiadało wydajności DRAM jako zaplecza LMCache. W środowiskach z wieloma procesorami graficznymi z ośmioma procesorami graficznymi zachował 92% natywnej przepustowości pamięci DRAM przy znacznie większej pojemności pamięci.
W dalszych testach porównano konfigurację lokalnej pamięci DRAM o pojemności 512 GB i pulę CXL o pojemności 1 TB przy rosnącym obciążeniu pamięci podręcznej KV. Lokalna pamięć DRAM doświadczyła poważnego spadku wydajności w wyniku powtarzającego się ponownego obliczania pamięci podręcznej po przekroczeniu pojemności, podczas gdy pula CXL utrzymywała stabilną wydajność i obsługiwała znacznie większe rozmiary pamięci podręcznej. Pełne szczegóły testu można znaleźć w białej księdze firmy Samsung, którą można pobrać.
Samsung zauważa, że obecne wdrożenia przełączników CXL wymagają dostosowania jądra na poziomie hosta i oprogramowania dla LMCache i innych komponentów. Mimo to łączenie pamięci oparte na CXL 3.0 wykazuje duży potencjał aplikacyjny, wraz z ciągłym dojrzewaniem ekosystemu za pośrednictwem Intel DMR, AMD Venice i nowych platform przełączników CXL 3.0 w celu wyeliminowania istniejących ograniczeń technicznych.
Wreszcie pojawił się rosnący rozłam między Micronem a Apple. Powołując się na raporty WSJ, Jukan z Citrini ujawnia, że Apple lobbuje w Białym Domu w celu uzyskania zgody na wdrożenie w swoich urządzeniach chińskiej pamięci DRAM CXMT, natomiast Micron składa kontrapelacje w sprawie zablokowania przyjęcia chipów CXMT. Spór wynika z utrzymującej się od dawna urazy dyrektora generalnego Micron, Sanjaya Mehrotry, sięgającej czasów jego kadencji w Sandisk, kiedy Apple narzuciło niskie ceny pamięci flash na rynku nabywców. Ponieważ obecny rynek pamięci faworyzuje dostawców, według doniesień Mehrotra nie chce złagodzić ograniczeń cenowych i dostaw dla Apple.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storageserver.com
Koncentracja biznesowa:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami, aby dostarczać niezawodne produkty i profesjonalne usługi.
„Wykorzystanie technologii do budowy inteligentnego świata”Twój zaufany dostawca usług produktów ICT!
Twoja wiadomość musi mieć od 20 do 3000 znaków!
Polish
