logo
Dom Aktualności

wiadomości o firmie Majestic Labs chce rozwiązać problem ograniczonych zasobów pamięci GPU

Orzecznictwo
Chiny Beijing Qianxing Jietong Technology Co., Ltd. Certyfikaty
Chiny Beijing Qianxing Jietong Technology Co., Ltd. Certyfikaty
Opinie klientów
Pracownicy sprzedaży Beijing Qianxing Jietong Technology Co., Ltd są bardzo profesjonalni i cierpliwi. Mogą szybko dostarczyć wyceny. Jakość i opakowanie produktów są również bardzo dobre. Nasza współpraca przebiega bardzo sprawnie.

—— 《Festfing DV》LLC

Kiedy pilnie szukałem procesora Intel i dysku SSD firmy Toshiba, Sandy z Beijing Qianxing Jietong Technology Co., Ltd udzieliła mi dużej pomocy i szybko dostarczyła mi potrzebne produkty. Naprawdę ją doceniam.

—— Kitty Jen

Sandy z Beijing Qianxing Jietong Technology Co.,Ltd jest bardzo uważnym sprzedawcą, który przy zakupie serwera potrafi przypomnieć mi o błędach konfiguracyjnych. Inżynierowie są również bardzo profesjonalni i mogą szybko zakończyć proces testowania.

—— Strelkin Michaił Władimirowicz

Jesteśmy bardzo zadowoleni z naszej współpracy z firmą Beijing Qianxing Jietong. Jakość produktu jest doskonała, a dostawy zawsze na czas. Ich zespół sprzedaży jest profesjonalny, cierpliwy i bardzo pomocny we wszystkich naszych pytaniach. Naprawdę doceniamy ich wsparcie i oczekujemy długoterminowej współpracy. Gorąco polecamy!

—— Ahmad Navid

Jakość: “Wielkie doświadczenie z moim dostawcą. MikroTik RB3011 był już używany, ale był w bardzo dobrym stanie i wszystko działa doskonale.i wszystkie moje obawy zostały szybko rozwiązaneBardzo niezawodny dostawca.

—— Geran Colesio

Im Online Czat teraz
firma Aktualności
Majestic Labs chce rozwiązać problem ograniczonych zasobów pamięci GPU

Początek Majestic Labs ma na celu rozwiązanie wąskich gardeł wynikających z pamięci podręcznej LLM KV poprzez wyeliminowanie zależności wnioskowania AI od pamięci o dużej przepustowości.

najnowsze wiadomości o firmie Majestic Labs chce rozwiązać problem ograniczonych zasobów pamięci GPU  0

Jego projekt serwera Prometheus zastępuje kosztowne procesory graficzne zastrzeżonymi jednostkami przetwarzania AI Ignite (AIU):monolityczne matryce hybrydowe zintegrowane z rdzeniami ARM klasy centrum danych oraz silnikami wektorowymi i tensorowymi RISC-V zoptymalizowanymi dla LLM. Wszystkie AIU działają w ramach pojedynczej wspólnej pamięci zbudowanej na LPDDR6 DRAM. Jeden serwer obsługuje od 1 do 12 AIU uzyskujących dostęp do 8128 TB zbiorczej pamięci zunifikowanej.Wielkość pasma maksymalna 6 TB/s.

Natomiast serwer NVIDIA DGX B300 AI wyposażony w 8 procesorów Blackwell zapewnia tylko 2,3 TB pamięci HBM3e GPU plus do 4 TB pamięci systemowej DDR5, wraz z 14.4 TB/s szczytowa przepustowość połączeń międzysystemowych o niskiej opóźnieniuPlatforma Prometheus zapewnia ponad 50 razy większą pojemność pamięci GPU NVIDIA i 1,7 razy większą przepustowość.

Współzałożyciele Majestic's twierdzą, że pary GPU-HBM łączą wysokiej jakości, kosztowne obliczenia z poważnie ograniczoną pojemnością pamięci.krótkie długości okablowania, oraz praktyczne bariery w skalowaniu HBM po 12 warstwach.

Architektura GPU-HBM jest ślepym zaułkiem.Firma proponuje kosztowo efektywne procesory połączone z znacznie rozszerzonymi pulami pamięci za pośrednictwem skalowalnych niestandardowych chipletów agregaty pamięci (MAC) połączonych przez miniaturowe miedziane kable o długości do jednego metra. MAC znajdują się obok wbudowanych chipów pamięci, z każdym chipletem zasilającym liczne druty DRAM.

najnowsze wiadomości o firmie Majestic Labs chce rozwiązać problem ograniczonych zasobów pamięci GPU  1

Jednostki AI komunikują się za pośrednictwem pamięci współdzielonej w topologii siatkowej związanej z MAC, których całkowita liczba jest nieujawniona.

Prosta matematyka ilustruje skalę pamięci: standardowe 2 GB LPDDR6 oznaczają, że 128 TB serwer Prometheus wymaga do 64 000 indywidualnych LPDDR6 umieszcza, co wymaga dziesiątków, prawdopodobnie setek,liczby chiplets MAC na jednostkę.

Standardowy stojak 40U może pomieścić do czterech serwerów Prometheus, z których każdy jest zalany 12 AIU.Majestic twierdzi, że jeden taki rack dostarcza taką samą pamięć o wysokiej prędkości jak 25 NVIDIA NVL72 Vera Rubin racków przy ułamku zużycia energiiJego konstrukcja zapewnia do 1000 razy więcej pamięci na procesor.

Usunięcie wąskich gardeł pamięci umożliwia efektywne hostingu najnowocześniejszych gigantycznych modeli granicznych z ultra-długimi oknami kontekstowymi.Modele tabeli, generowanie wideo i rozwijające się architektury sztucznej inteligencji, obsługujące 100 razy więcej użytkowników na rack przy jednoczesnym zmniejszeniu zużycia energii.systemy agentów i ramy MoE na jednym serwerze z znacznie niższymi kosztami energii i kapitału.

Majestic przewiduje, że jego sprzęt będzie kosztował od 10 do 50 razy mniej niż serwery GPU o równoważnej wydajności po wprowadzeniu w przyszłym roku, obok wyższej wydajności energetycznej.Serwer Prometheus jest zgodny ze standardami OCP i obsługuje PyTorch, vLLM i OpenAI's Triton frameworks inference dla płynnej migracji istniejących modeli sztucznej inteligencji.

Wskazówka

Majestic Labs została założona w Tel Awiwie w 2023 roku przez trzech byłych pracowników Google i Meta, weteranów projektowania, produkcji i wysyłki chipów: dyrektora generalnego Ofera Shachama, prezesa Sha Rabii i dyrektora operacyjnego Masumi Reynders.Firma zatrudnia około 40 pracowników w Tel Awiwie i biura w Los Angeles.Firma licencjonuje sprzęt intelektualny akceleratora zewnętrznego i opracowuje niestandardowe rdzeń dla swojego Ignite AIU.Majestic zgłasza znaczne zamówienia z przedsiębiorstw, chmury prywatnej i klientów docelowych hyperscaler.

Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang, dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storagesserver.com
Skoncentruj się na biznesie:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami w celu dostarczania niezawodnych produktów i profesjonalnych usług.
Używanie technologii do budowy inteligentnego świata•Twój zaufany dostawca usług produktów ICT!
Pub Czas : 2026-07-24 13:49:55 >> lista aktualności
Szczegóły kontaktu
Beijing Qianxing Jietong Technology Co., Ltd.

Osoba kontaktowa: Ms. Sandy Yang

Tel: 13426366826

Wyślij zapytanie bezpośrednio do nas (0 / 3000)