Krajobraz pamięci masowej do szkolenia i wnioskowania AI jest zdominowany przez skalowalną pamięć masową plików i obiektów średniej klasy, która obsługuje technologię NVIDIA GPU Direct, pamięć podręczną KV i architekturę STX, aby procesory graficzne mogły przetwarzać dane tokenów. Jednak ogromne ilości danych korporacyjnych przechowywane są na wysokiej klasy monolitycznych macierzach firm Dell PowerMax, Hitachi Vantara VSP One Block High End, IBM DS6000 i Lenovo InfiniBox — z których żadna nie obsługuje formatu STX i powiązanych z nim komponentów.Aby zbadać tę lukę, przeprowadziliśmy wywiad z Davidem Chapą, głównym strategiem AI w Hitachi Vantara.
Chapa stwierdził, że NVIDIA BlueField-4 STX oznacza szerszą ewolucję architektury infrastruktury AI. Tradycyjne macierze korporacyjne są budowane z myślą o wydajnej obsłudze żądań pamięci masowej, podczas gdy STX zmienia sposób tworzenia wartości w infrastrukturze AI. W starszych, wysokiej klasy macierzach priorytetem jest trwałość, odporność, wydajność, czas pracy i scentralizowane usługi danych. Z kolei STX zapewnia większą inteligencję w procesach przetwarzania danych, przybliżając bezpieczeństwo, orkiestrację, lokalizację danych, koordynację pamięci i usługi danych do procesorów graficznych i środowisk wykonawczych AI.
Nie skupiamy się głównie na tym, czy te możliwości muszą działać natywnie na macierzach pamięci masowej, ale na tym, jak optymalnie je wdrożyć w potokach danych AI. Hitachi Vantara nie postrzega obecnej niezgodności jako ograniczenia swoich macierzy, ale jako naturalny wybór architektury w obliczu ewoluującej infrastruktury sztucznej inteligencji. Wysokiej klasy macierze dla przedsiębiorstw pozostają niezbędne do zapewniania niezawodnych usług danych, w tym odporności, dostępności, wydajności, trwałości i ujednoliconego zarządzania.
Ponieważ potoki danych AI w coraz większym stopniu opierają się na usługach akcelerowanych przez DPU, warstwach orkiestracji, buforowaniu i wykonywaniu uwzględniającym lokalizację, niektóre funkcje zostaną przesunięte bliżej zasobów obliczeniowych, podczas gdy macierze korporacyjne będą w dalszym ciągu koncentrować się na swojej podstawowej sile: zaufanych usługach danych.
Zapytany, czy wysokiej klasy macierze Hitachi Vantara zostaną ostatecznie zintegrowane z NVIDIA STX, Chapa stwierdził, że STX i CMX reprezentują znaczące osiągnięcia inżynieryjne. Dyskusja w mniejszym stopniu dotyczy planów rozwoju produktów, a bardziej pozycjonowania architektonicznego dla ewoluujących systemów sztucznej inteligencji.
Nowoczesna infrastruktura sztucznej inteligencji ujawnia ograniczenia, których nie uwzględniano w tradycyjnych architekturach przedsiębiorstw. Dzisiejszym wyzwaniem nie jest samodzielna pamięć masowa, wydajność procesora graficznego lub sieci, ale synergia danych, pamięci, obliczeń, bezpieczeństwa i orkiestracji w miarę skalowania wdrożeń sztucznej inteligencji.
STX konsoliduje większą część potoku danych AI w zintegrowany stos NVIDIA za pośrednictwem procesorów DPU BlueField, projektów sieciowych i referencyjnych, które kształtują integrację i różnicowanie dostawców. CMX celuje w szczególności w pamięć kontekstową, pamięć podręczną KV i stany wnioskowania. Hitachi Vantara nie postrzega tych technologii jako próby ominięcia korporacyjnej pamięci masowej, ale jako podział branży na dwie odrębne kategorie danych: przejściowe dane wykonawcze dla zadań AI oraz trwałe, zarządzane dane przedsiębiorstwa, które istnieją długo po zakończeniu zadań AI.
Te dwa typy danych niosą ze sobą różne ograniczenia operacyjne. Pamięci podręczne KV i konteksty wnioskowania są krótkotrwałe i wrażliwe na opóźnienia, dzięki czemu lepiej nadają się do działania w pobliżu procesorów graficznych, warstw pamięci lub środowiska wykonawczego AI. Dla porównania, podstawowe dane biznesowe, kontrole zgodności i usługi danych obejmujące całe przedsiębiorstwo wymagają solidnej infrastruktury zbudowanej z myślą o długotrwałym użytkowaniu, zarządzaniu, odporności i operacjach przedsiębiorstwa na dużą skalę.
Dla Hitachi Vantara włączenie obsługi STX w wysokiej klasy macierzach to znacznie więcej niż zwykła aktualizacja oprogramowania sprzętowego. Obejmuje podstawowe rozważania dotyczące lokalizacji danych, obciążenia pamięci, trwałości danych, granic bezpieczeństwa, orkiestracji i optymalnego rozmieszczenia usług infrastrukturalnych.
Priorytetem jest zdefiniowanie pozycjonowania funkcjonalnego w miarę dojrzewania infrastruktury AI, identyfikacja punktów różnicujących, określenie rozsądnego zakresu integracji i alokacja zasobów inżynieryjnych w celu maksymalizacji wartości dla klienta.
Firma NVIDIA skutecznie rozwiązała problem kluczowych wąskich gardeł w infrastrukturze sztucznej inteligencji, jednak jej podejście architektoniczne nie pasuje do wszystkich klientów, obciążeń i strategii platform. Hitachi Vantara odróżnia trwałe zmiany w architekturze od krótkoterminowych trendów funkcjonalnych, ocenia integrację przynoszącą wymierną wartość i kieruje wysiłkami rozwojowymi w taki sposób, aby zapewnić użytkownikom największe korzyści.
Hitachi Vantara umieszcza swoje wysokiej klasy macierze dla przedsiębiorstw poza łańcuchem bezpośredniego dostarczania danych do serwerów GPU, uznając taką integrację za nieodpowiednią pod względem architektonicznym. Platformy te służą jako podstawowe systemy rekordów zoptymalizowane pod kątem trwałości, zarządzania, odporności i operacji na skalę przedsiębiorstwa, a nie przejściowych pamięci podręcznych KV i kontekstów wnioskowania o krytycznym opóźnieniu.
Wierzymy, że wysokiej klasy macierze dla przedsiębiorstw, takie jak VSP One Block High End, będą wykorzystywać narzędzia AI, takie jak wewnętrzni inteligentni agenci, w celu usprawnienia zarządzania. W miarę jak agentyczna sztuczna inteligencja i wnioskowanie głównego nurtu zyskają na popularności, przedsiębiorstwa będą wymagać dostępu do podstawowych danych rekordowych na potrzeby obciążeń AI. Docelowo potoki danych AI zostaną rozszerzone i będą obejmować wysokiej klasy macierze korporacyjne jako kluczowe źródła danych.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storageserver.com
Koncentracja biznesowa:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami, aby dostarczać niezawodne produkty i profesjonalne usługi.
„Wykorzystanie technologii do budowy inteligentnego świata”Twój zaufany dostawca usług produktów ICT!
Twoja wiadomość musi mieć od 20 do 3000 znaków!
Polish
