logo
Dom Przypadki

Dell Pro Precision 9 T4 Review: 86 rdzeni Xeon i dwie karty RTX PRO 6000 dla modeli zbyt dużych dla jednej karty

Orzecznictwo
Chiny Beijing Qianxing Jietong Technology Co., Ltd. Certyfikaty
Chiny Beijing Qianxing Jietong Technology Co., Ltd. Certyfikaty
Opinie klientów
Pracownicy sprzedaży Beijing Qianxing Jietong Technology Co., Ltd są bardzo profesjonalni i cierpliwi. Mogą szybko dostarczyć wyceny. Jakość i opakowanie produktów są również bardzo dobre. Nasza współpraca przebiega bardzo sprawnie.

—— 《Festfing DV》LLC

Kiedy pilnie szukałem procesora Intel i dysku SSD firmy Toshiba, Sandy z Beijing Qianxing Jietong Technology Co., Ltd udzieliła mi dużej pomocy i szybko dostarczyła mi potrzebne produkty. Naprawdę ją doceniam.

—— Kitty Jen

Sandy z Beijing Qianxing Jietong Technology Co.,Ltd jest bardzo uważnym sprzedawcą, który przy zakupie serwera potrafi przypomnieć mi o błędach konfiguracyjnych. Inżynierowie są również bardzo profesjonalni i mogą szybko zakończyć proces testowania.

—— Strelkin Michaił Władimirowicz

Jesteśmy bardzo zadowoleni z naszej współpracy z firmą Beijing Qianxing Jietong. Jakość produktu jest doskonała, a dostawy zawsze na czas. Ich zespół sprzedaży jest profesjonalny, cierpliwy i bardzo pomocny we wszystkich naszych pytaniach. Naprawdę doceniamy ich wsparcie i oczekujemy długoterminowej współpracy. Gorąco polecamy!

—— Ahmad Navid

Jakość: “Wielkie doświadczenie z moim dostawcą. MikroTik RB3011 był już używany, ale był w bardzo dobrym stanie i wszystko działa doskonale.i wszystkie moje obawy zostały szybko rozwiązaneBardzo niezawodny dostawca.

—— Geran Colesio

Im Online Czat teraz

Dell Pro Precision 9 T4 Review: 86 rdzeni Xeon i dwie karty RTX PRO 6000 dla modeli zbyt dużych dla jednej karty

November 17, 2026

Dell Pro Precision 9 T4 to flagowy jednoprocesorowy komputer typu tower z linii Pro Precision firmy Dell, a ta jednostka testowa jest skonfigurowana pod kątem lokalnej sztucznej inteligencji w skali nieosiągalnej dla większości stacji roboczych. Łączy 86-rdzeniowy procesor Intel Xeon 698X z 256 GB pamięci DDR5-6400 ECC, dwie karty NVIDIA RTX PRO 6000 Blackwell Max-Q o mocy 300 W z 96 GB GDDR7 każda, dwa dyski SSD 2 TB Gen5 i dwuportowy adapter 25 GbE, czerpiący z zasilacza o mocy 2400 W.


najnowsza sprawa firmy na temat Dell Pro Precision 9 T4 Review: 86 rdzeni Xeon i dwie karty RTX PRO 6000 dla modeli zbyt dużych dla jednej karty  0


Kluczowe dania na wynos


  • 1,Drugi procesor graficzny zamienia model, który nie mieści się na jednej karcie, w użyteczny. MiniMax M2.7 przy 129,3 GB wygenerował 83,7 tokenów/s dla jednego użytkownika po podzieleniu na obie karty, co stanowi 2,8 razy więcej niż 30,3 tokenów/s osiągnięte w przypadku jednej karty i pozostałej części modelu w pamięci systemowej.
  • 2. Drugi procesor graficzny skalował wyświetlanie o 1,85–2,02× i osadzanie o 1,92×. Szczytowa wydajność llama.cpp wzrosła z 582,5 do 1176,1 tokenów/s na Ministral 3 3B i z 424,8 do 787,9 tokenów/s na gpt-oss 120B z jednym serwerem na procesor graficzny, podczas gdy osadzanie miliona fragmentów Wikipedii spadło z 890 do 464 sekund.
  • 3. Drugi procesor graficzny skrócił epokę LoRA o 37%: jedna epoka na Ministral 3 8B trwała 31,5 minuty na jednym GPU i 19,7 minuty na dwóch, kończąc się utrzymującymi się stratami na poziomie 1,169 i 1,167.Przepustowość pamięci to obszar, w którym Xeon przoduje. STREAM Triad osiągnęła 328 GB/s, o 53% więcej niż Threadripper PRO 9995WX w Precision 7875, a T4 ukończył rozwiązanie OpenFOAM driveAer w 293 sekundy w porównaniu z 556, a 10-miliardowy wynik y-cruncher przebiegł w 53,9 sekundy w porównaniu z 83,7.
  • 4, Precision 7875 przoduje w pracy procesora związanego z rdzeniem: jej 96-rdzeniowy Threadripper uzyskał 37% przewagi w 7-Zip i 30% przewagi w Blender Monster, a także ukończył kompilację LLVM w 43,7 sekundy w porównaniu z 58,4.


Gdzie siedzi T4


Dell pozycjonuje T4 jako swoją flagową jednogniazdową stację roboczą w obudowie typu tower dla organizacji potrzebujących maksymalnej gęstości obliczeniowej i możliwości rozbudowy, a rozwój sztucznej inteligencji, symulacje inżynieryjne i obliczenia naukowe znajdują się na szczycie listy zadań. Znajduje się nad Pro Precision 9 T2, która wykorzystuje tę samą platformę stacji roboczej Xeon 6 w mniejszej obudowie z jednym procesorem graficznym. T4 dodaje procesory ośmiokanałowe z najwyższej półki, do 86 rdzeni i miejsce na maksymalnie cztery karty graficzne, w zależności od modelu.


Opcje procesorów zaczynają się od 12-rdzeniowego Xeon 634 i obejmują 64-rdzeniowy Xeon 696X aż do 86-rdzeniowego Xeon 698X w tej jednostce, która ma 336 MB pamięci podręcznej, zegar bazowy 2,0 GHz, maksymalnie 4,8 GHz i moc znamionową 350 W. Pamięć można skalować do 4 TB pamięci DDR5 RDIMM w 16 gniazdach, a ta jednostka wypełnia osiem z nich modułami 32 GB przy 6400 MT/s. Grafika zaczyna się od pojedynczego RTX A400, a liczba kart jest powiązana z modelem: konfigurator firmy Dell wyświetla cztery karty RTX A1000, trzy karty RTX PRO 4000 Blackwell, dwie karty RTX PRO 6000 Max-Q o mocy 300 W lub jedną kartę RTX PRO 6000 o mocy 600 W.


Podstawowa konfiguracja kosztuje 5925 dolarów. Ta kompilacja dodaje 8300 USD za Xeon 698X, 15 000 USD za 256 GB pamięci i 30 820 USD za parę kart RTX PRO 6000 Max-Q, przed przechowywaniem, obsługą sieci i 36-miesięczną aktualizacją ProSupport, którą firma Dell automatycznie stosuje na tym poziomie.


Budowa, projekt i specyfikacje


T4 to pełna wieża o wysokości 449,8 mm, szerokości 203,7 mm i głębokości 617,5 mm, a jej minimalna waga to 24,1 kg i maksymalna 33,6 kg, w zależności od konfiguracji. To urządzenie korzysta z zasilacza Platinum o mocy 2400 W, który konfigurator firmy Dell wybiera dla wersji z dwoma procesorami RTX PRO 6000, przy czym w lżejszych konfiguracjach domyślnym zasilaczem jest 1500 W.


Łatwość serwisowania to mocna strona, począwszy od beznarzędziowego wejścia przez zatrzask na panelu bocznym, a skończywszy na zasilaczu o mocy 2400 W, który można ręcznie wysunąć z górnej części obudowy. Wszystko inne, łącznie z kartami graficznymi i dyskami SSD, wyjmuje się za pomocą śrubokręta krzyżakowego, a niebieskie punkty dotykowe firmy Dell oznaczają części, które można zwolnić ręcznie. Laboratorium stwierdziło, że platformę można łatwo naprawić w terenie, co ma znaczenie przy tej cenie.


Chłodzenie to najlepsze wykonanie, jakie widzieliśmy u firmy Dell w tej klasie wież. Powietrze przepływa od przodu do tyłu, a duże, dopasowane osłony kierują je w dół i w poprzek procesora i pamięci, jednocześnie oddzielając ten kanał od obszaru PCIe. Dzięki temu obie karty o mocy 300 W mają niezależny strumień powietrza, dzięki czemu nie pobierają powietrza ogrzanego przez kartę Xeon o mocy 350 W. Dwa wentylatory znajdują się pomiędzy strefą procesora a wnęką na kartę, a zespół wentylatorów ma te same niebieskie punkty dotykowe i jest wysuwany, aby uzyskać dostęp do pamięci.


Rozszerzenie odbywa się poprzez sześć gniazd PCIe o pełnej wysokości: dwa gniazda Gen5 x16, w których znajdują się procesory graficzne, jedno Gen5 x8, jedno Gen4 x8 i dwa gniazda Gen4 ze złączami x8 i okablowaniem x4. Pamięć masowa obejmuje trzy wewnętrzne gniazda M.2 Gen5 i jedno gniazdo Gen4, dwie wewnętrzne 3,5-calowe wnęki SATA oraz przednią wnękę FlexBay mieszczącą maksymalnie cztery dyski NVMe lub dwa 3,5-calowe dyski wraz z opcjonalnym wąskim napędem optycznym. To urządzenie uruchamia się z wewnętrznego dysku 2 TB Gen5 i przenosi drugi dysk 2 TB Gen5 w innym wewnętrznym gnieździe M.2.


Na panelu przednim znajduje się gniazdo słuchawkowe, dwa porty USB-A 10 Gb/s, port USB-C 20 Gb/s z funkcją PowerShare, port USB-C 10 Gb/s i opcjonalne gniazdo kart SD. Z tyłu znajdują się porty 10GbE i 1GbE RJ-45, cztery porty USB-A 10 Gb/s, dwa porty USB-C 10 Gb/s, port USB-C 20 Gb/s, port szeregowy, dwa porty PS/2 i wyjście liniowe. To urządzenie zawiera dwuportowy adapter Intel E810-XXV 25GbE SFP28, moduł MediaTek Wi-Fi 7 MT7925 z Bluetooth 5.4, czytnik kart multimedialnych i podwójną kartę rozszerzeń Dell USB-C.


Bezpieczeństwo i zarządzanie obejmują moduł TPM 2.0, Dell SafeBIOS, wykrywanie naruszenia obudowy, obsługę dysków samoszyfrujących, bezpieczne kasowanie BIOS-u i technologię Intel vPro Enterprise. Dell podaje, że T4 zawiera aż do 85% plastiku pochodzącego z recyklingu w kluczowych komponentach, 90% aluminium pochodzącego z recyklingu w uchwytach i 11% stali pochodzącej z recyklingu w obudowie, a konfiguracja spełnia kryteria ENERGY STAR.



Przedmiot Specyfikacja
Model Dell Pro Precision 9 T4 (PW9T4260)
Procesor (jak przetestowano)

Intel Xeon 698X, 86 rdzeni / 172 wątki, 336 MB pamięci podręcznej,Bazowe 2,0 GHz, do 4,8 GHz, 350 W

Opcje procesora Xeon 634 (12 rdzeni) do Xeon 698X (86 rdzeni)
Pamięć 256 GB (8 × 32 GB) DDR5-6400 RDIMM ECC; 16 gniazd, do 4 TB
Grafika 2× NVIDIA RTX PRO 6000 Blackwell Max-Q, 96 GB GDDR7 każda, 300 W każda
System operacyjny Windows 11 Pro dla stacji roboczych (testowany na Ubuntu 26.04.1 LTS)
Pamięć zgodnie z konfiguracją 2 × 2 TB M.2 2280 Gen5 x4 TLC SED (oba w wewnętrznych gniazdach M.2)
Wewnętrzne gniazda pamięci 3× M.2 2230/2280 Gen5 NVMe; 1× M.2 2230/2280 Gen4 NVMe; 2x 3,5-calowe dyski SATA
FlexBay Do 4 dysków NVMe plus opcjonalny wąski napęd optyczny lub 2 × 3,5-calowe dyski SATA
Gniazda PCIe 2× Gen5 x16; 1× Gen5 x8; 1× Gen4 x8; 2× Gen4 x8 (elektryczne x4)
Sieć

Dwuportowa karta Intel E810-XXV 25GbE SFP28 (dodatek);

wbudowane 10GbE i 1GbE RJ-45;MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4

Przednie porty

1× USB-C 20 Gb/s z funkcją PowerShare; 1× USB-C 10 Gb/s;

2× USB-A 10 Gb/s; gniazdo zestawu słuchawkowego; opcjonalne gniazdo kart SD

Tylne porty

1× USB-C 20 Gb/s; 2× USB-C 10 Gb/s;

4× USB-A 10 Gb/s; seryjny; 2x PS/2; wyjście liniowe

Zasilanie 2400 W Platinum (opcja 1500 W)
Wymiary 449,8 × 203,7 × 617,5 mm
Waga Od 24,1 kg do 33,6 kg w zależności od konfiguracji
Bezpieczeństwo i zarządzanie

TPM 2.0, Dell SafeBIOS, wykrywanie naruszenia obudowy,

obsługa dysków samoszyfrujących, bezpieczne kasowanie BIOS-u, Intel vPro Enterprise

Zrównoważony rozwój

Kluczowe elementy wykonane w 85% z plastiku pochodzącego z recyklingu, uchwyty z aluminium w 90% z recyklingu,

Podwozie ze stali pochodzącej w 11% z recyklingu; Certyfikat ENERGY STAR

Gwarancja ProSupport z serwisem na miejscu po zdalnej diagnozie, 36 miesięcy
Cena podstawa 5925 USD; około 66 600 USD zgodnie z konfiguracją


Konfiguracja i metodologia testów

Wszystkie cztery systemy działały pod kontrolą Ubuntu 26.04.1 LTS na jądrze 7.0.0-43 ze sterownikiem NVIDIA 595.99.02, CUDA 13, llama.cpp build b11716 i Ollama 0.40.3 na profilu wydajności i wydajności systemu Linux. Wyniki pochodzą z sr-client dla lokalnej sztucznej inteligencji i obciążeń klientów, sr-harness dla kompilacji, kompresji, kryptografii, serwowania stron internetowych i y-crunchera oraz sr-suite r5.28 dla GROMACS, OpenFOAM, ClickHouse, Valkey i przepustowości pamięci; każda liczba jest medianą powtarzających się przejść. Wszystkie systemy działały z trybem termicznym BIOS-u ustawionym na Ultra Performance, a T4 z BIOSem 1.2.0.


Każdy system porównawczy to wieża Dell z grafiką RTX PRO 6000 Blackwell. Precision 7875 łączy 96-rdzeniowy procesor Threadripper PRO 9995WX z tymi samymi dwiema kartami Max-Q i 512 GB pamięci DDR5-5600, co czyni go najbliższym dopasowaniem. Pro Precision 9 T2 obsługuje 24-rdzeniowy procesor Xeon 658X z jedną kartą Max-Q, a Pro Max Tower T2 obsługuje 24-rdzeniowy procesor Core Ultra 9 285K z kartą RTX PRO 6000 o mocy 600 W, co pokazuje wyższy limit mocy zwiększany na procesor graficzny.


Wydajność lokalnej sztucznej inteligencji


Każdy system wyposażony jest w co najmniej jedną kartę RTX PRO 6000 Blackwell z 96 GB pamięci GDDR7, więc wyniki z pojedynczą kartą graficzną mierzą kartę, jej limit mocy i szybkość, z jaką platforma ją zasila. T4 wyróżnia się dwiema kartami, a testy z dwoma procesorami graficznymi uruchamiają każdy model na trzy sposoby, tam gdzie ma to zastosowanie: dwa niezależne serwery, po jednym na procesor graficzny, w celu sprawdzenia przepustowości; jeden model podzielony według warstw na obu kartach; a dla MiniMax M2.7 jedna karta z resztą modelu w pamięci systemowej.


Na jednym GPU T4 ląduje tam, gdzie stawia go limit 300 W. Wygenerowała 166,9 tokenów/s dla jednego użytkownika na gpt-oss 120B i osiągnęła szczyt na poziomie 424,8 w 64 jednoczesnych żądaniach, co stanowiło od 1 do 9% identycznej karty Max-Q w Precision 7875 we wszystkich czterech modelach i było na poziomie Pro Precision 9 T2. Karta o mocy 600 W w Pro Max Tower T2 jest od 13 do 25% szybsza w szczycie w każdym modelu, osiągając 520,7 tokenów/s na gpt-oss 120B.


Uruchomienie jednego serwera na procesor graficzny podniosło szczytową moc wyjściową T4 o 1,85 do 2,02× w czterech modelach: 582,5 do 1176,1 tokenów/s w przypadku Ministral 3 3B, 383,6 do 765,7 w modelu 8B i 158,1 do 310,8 w przypadku Qwen3.8 27B. gpt-oss 120B skalował się z 1,85× do 787,9 tokenów/s na T4 i 1,98× do 905,8 na Precision 7875, osiągając szczyt przy 128 jednoczesnych żądaniach w porównaniu z 64 w przypadku T4.


Podział gpt-oss 120B na warstwy na obie karty to wolniejszy sposób wykorzystania drugiego procesora graficznego, gdy model już mieści się na jednym: obsługiwał jednego użytkownika z prędkością 170,6 tokenów/s, w granicach 3% pojedynczej karty, i osiągnął szczyt na poziomie 539,2, 27% powyżej jednego procesora graficznego, ale znacznie poniżej 787,9 dostarczonych przez dwie repliki. Podział układu zasługuje na swoje miejsce w przypadku modeli, które nie mieszczą się na jednej karcie, i tu właśnie pojawia się MiniMax M2.7.


MiniMax M2.7 to model złożony z 230 miliardów parametrów, opracowany przez ekspertów, a ta 4-bitowa kwantyzacja zajmuje 129,3 GB, czyli więcej niż 96 GB na jednym RTX PRO 6000. Na jednej karcie, która pozostała w pamięci systemowej, T4 wygenerował 30,3 tokenów/s dla jednego użytkownika, a zwrócenie pierwszego tokenu zajęło 16,2 sekundy. W podziale na obie karty wydajność pojedynczego użytkownika wzrosła do 83,7 tokenów/s, czyli 2,8 razy więcej niż w przypadku jednej karty; czas do pierwszego tokena spadł z 16,2 do 3,1 sekundy, a szczytowa przepustowość wzrosła z 35,5 do 127,3 tokenów/s.


Liczby dotyczące jednego procesora graficznego pokazują, jak duże znaczenie ma platforma hosta, gdy model rozleje się do pamięci systemowej. Dzięki ośmiu kanałom pamięci DDR5-6400 T4 jest o 34% lepszy od czterokanałowego Pro Precision 9 T2 z szybkością 22,6 tokenów/s i 1,9 razy lepszy od dwukanałowego Pro Max Tower T2 z szybkością 15,8, mimo że karta o mocy 600 W tego systemu jest szybsza w każdym pasującym modelu. Precision 7875 przewyższał T4 z szybkością 32,8 tokenów/s przy przepustowości pamięci o 35% mniejszej, więc sama przepustowość nie wyjaśnia wyniku; zgłaszamy pomiar przewodu 7875 bez izolowania jego przyczyny.


Obciążenia modeli na zimno faworyzują dyski Gen5: ładowanie gpt-oss:120b T4 z dysku SSD SK hynix Gen5 w 15,2 sekundy, co odpowiada Pro Precision 9 T2 i znacznie szybciej niż w 25,8 i 28,2 sekundy w przypadku Precision 7875 i Pro Max Tower T2 wyposażonych w Gen4. Ładowanie na gorąco z pamięci podręcznej strony odwraca tę kolejność, przy czym 7875 wynosi 5,0 sekund w porównaniu z 7,5 na T4, a ładowanie kopii na każdy procesor graficzny jednocześnie trwało 26,5 sekundy na T4.


RAG, dostrajanie i generatywna sztuczna inteligencja


Test RAG na dużą skalę ukrywa pytania SQuAD wśród milionów fragmentów Wikipedii, osadza je w tekście nomic-embed, tworzy indeks HNSW i odpowiada za pomocą Phi-4-mini. Dwa procesory graficzne skróciły czas osadzania T4 z 890 do 464 sekund, co oznacza przyspieszenie o 1,92 razy w porównaniu z 423 sekundami w przypadku Precision 7875; karta o mocy 600 W w Pro Max Tower T2 była najszybszą pojedynczą kartą graficzną z czasem 722 sekund.


Tworzenie indeksów i wyszukiwanie wektorów odbywa się na procesorze i to właśnie do tego prowadzi T4. Indeks HNSW zbudował w 27,3 sekundy w porównaniu z 34,8 w przypadku Precision 7875 i 118,6 w Pro Max Tower T2 i przeszukał przy 98 503 zapytaniach/s przy ef 64, 1,51× w przypadku systemu 7875 i 5,6× w przypadku systemu Core Ultra. Przy ef 256 zawierał 32 149 zapytań/s z 97,6% przypominaniem w porównaniu z wyszukiwaniem dokładnym, a odpowiedzi zwracane były w medianie 0,12 sekundy.


Jednoepokowy test LoRA dostraja Ministral 3 8B w BF16 na Dolly 15k w 1849 krokach i ocenia 200 trzymanych przykładów co 100 kroków. Każdy system rozpoczął się od utrzymującej się straty na poziomie 1,534, a zakończył pomiędzy 1,167 a 1,172, więc różnica sprowadza się do czasu w poszczególnych epokach. Jeden procesor graficzny T4 działał w 31,5 minuty przy 1584 tokenach/s, co stanowi o 3% mniej niż w przypadku Pro Precision 9 T2 na tej samej karcie Max-Q; w przypadku Precision 7875 trwało to 27,2 minuty, a karty 600 W w Pro Max Tower T2 – 22,3 minuty. Dodanie drugiego procesora graficznego skróciło epokę T4 do 19,7 minut przy 2528 tokenów/s, co oznacza przyspieszenie o 1,60 razy w porównaniu z 22,3 minuty pojedynczej karty 600 W, podczas gdy Precision 7875 zakończyło epokę dwóch procesorów graficznych w 18,1 minuty, co oznacza przyspieszenie 1,50 razy.


Obie karty przesyłają dane równolegle z dwoma przykładami na procesor graficzny i gradientami zgromadzonymi do tej samej globalnej partii ośmiu, więc w przypadku pracy z dwoma procesorami graficznymi te same przykłady są widoczne na każdym kroku i kończą się tą samą stratą. Przy dwóch krótkich przykładach na każdy procesor graficzny w każdym przebiegu druga karta ma niewiele pracy do wchłonięcia, a wymiana gradientów zajmuje większą część każdego kroku. Szczyt tej epoki wynosił 19,5 GiB pamięci GPU na jednej karcie i 19,7 GiB na kartę na dwóch, co stanowi ułamek dostępnych 96 GB.


T4 przeszedł także pomyślnie każdy agent kodujący na każdym poziomie modelu, w tym wszystkie trzy uruchomienia gpt-oss:20b w kontekście 64 KB, podczas gdy pozostałe trzy systemy pomyślnie przeszły dwa z trzech i wygenerowały 161,5 tokenów/s na gpt-oss:120b. Generowanie obrazu odbywa się na jednym procesorze graficznym, więc prędkość 40,96 obrazów/min na FLUX.2 klein w BF16 plasuje się w porównaniu z innymi systemami Max-Q, a za kartą 600 W wynosi 54,25.


Wyniki procesora, pamięci masowej, temperatury i serwisu


Wyniki procesora porównują 86 rdzeni Xeon procesora T4 z 96 rdzeniami Threadripper procesora Precision 7875, przy czym punktami odniesienia są dwa 24-rdzeniowe procesory T2. T4 prowadzi tam, gdzie o wyniku decyduje przepustowość pamięci, a 7875 prowadzi tam, gdzie liczy się liczba rdzeni i zegary.


T4 uzyskał 619,8 GIPS w 7-Zip i 961,8 próbek/min w Blender Monster, 2,2 i 2,4 razy 24-rdzeniowy Pro Precision 9 T2, podczas gdy Precision 7875 uzyskał 37% przewagi w 7-Zip i 30% przewagi w Blenderze, ukończył kompilację LLVM w 43,7 sekundy w porównaniu z 58,4, a wbudowana funkcja allmodconfig jądra Linux 264 sekundy w porównaniu z 312. Szybkość na rdzeń to słaby punkt T4, z najniższym w tej grupie wynikiem 7-Zip dla jednego wątku wynoszącym 8,85 GIPS.


Kodowanie x265 w HandBrake jest tutaj odstające, a przyczyną jest bardziej koder niż procesor: wszystkie pozostałe trzy systemy osiągnęły pomiędzy 40,0 a 41,7 kl./s przy 24 lub 96 rdzeniach, więc x265 przy tym ustawieniu wstępnym nie skaluje się wraz z liczbą rdzeni, a 31,4 kl./s T4 jest zgodne z niższą prędkością na rdzeń w wątkach używanych przez x265. Podczas kodowania T4 miał średnio około 1 GHz w swoich 172 wątkach w temperaturze od 51°C do 64°C, pokazując większość chipa w stanie bezczynności. SVT-AV1 skalował się lepiej, przy 159,4 fps na T4 w porównaniu z 255,8 na 7875.


Osiem kanałów pamięci DDR5-6400 zapewnia T4 328 GB/s w STREAM Triad, o 53% więcej niż DDR5-5600 w modelu Precision 7875 i 2,3 razy więcej niż czterokanałowy Pro Precision 9 T2. Praca z ograniczeniami przepustowości wygląda następująco: T4 rozwiązał sprawę sterownika OpenFOAM DriveAer z 3 milionami komórek w 293 sekundy w porównaniu z 556 na modelach 7875 i 826 na Pro Precision 9 T2, podczas gdy Pro Max Tower T2 nie ukończył pracy w limicie 150 minut pakietu; T4 również przetestował obudowę zawierającą 22,6 miliona ogniw w 6851 sekund.


GROMACSbenchPEP, duży przypadek dynamiki molekularnej obejmujący wszystkie rdzenie, działał z szybkością 1,243 ns/dzień na T4 w porównaniu z 1,034 na 7875, a rozwiązanie LU osiągnęło 1660 GFLOPS w porównaniu z 1172. y-cruncher obliczył 10 miliardów cyfr Pi w 53,9 sekundy w porównaniu z 83,7 i 25 miliardów w 155,6 sekundy w porównaniu z 259,6. Gęste obliczenia pozostające w pamięci podręcznej faworyzują Threadripper, który zapewnił OpenBLAS DGEMM wynik 4745 GFLOPS w porównaniu z 3664.


ClickHouse wykonał 43 zapytania ClickBench w czasie 3,21 sekundy na gorąco i 6,45 sekundy na zimno na T4, 0,33 sekundy za modelem 7875 w trybie na gorąco i 0,64 sekundy przed nim w trybie na zimno. Valkey faworyzuje szybkie rdzenie zamiast wielu rdzeni, a liczba żądań SET T4 wynosząca 666 714 żądań/s przewyższa wszystkie trzy systemy porównawcze, przy czym Core Ultra 9 285K prowadzi z wynikiem 1,72 miliona — wzór ten odpowiada wynikom jednowątkowym T4 i warto go rozważyć w przypadku usług ograniczonych opóźnieniami. Przy załadowanych wszystkich 172 wątkach i średniej temperaturze procesora wynoszącej 87°C, T4 przeszukał 68,21 miliona węzłów/s w Stockfish, 1,5 razy więcej niż 48-wątkowy Pro Precision 9 T2 i znacznie mniej niż połowę 168,27 węzłów 7875 w 192 wątkach.


Dysk rozruchowy SK hynix Gen5 w modelu T4 zapewnia sekwencyjne odczyty z szybkością 14 152 MB/s i zapisy z szybkością 10 078 MB/s, czyli mniej więcej dwa razy więcej niż dyski Gen4 w modelach Precision 7875 i Pro Max Tower T2, przy maksymalnej wydajności losowej wynoszącej 2,31 miliona IOPS przy odczycie i 1,83 miliona IOPS przy zapisie. Prędkość odczytu sekwencyjnego komputera Pro Precision 9 T2 na poziomie 20 914 MB/s przekracza prędkość jednego łącza Gen5 x4, co pasuje do paskowej macierzy dysków Samsung PM9E1 tego systemu; tutaj testowano sam dysk rozruchowy, bez drugiego dysku 2 TB.


W BIOSie ustawionym w trybie Ultra Performance, Xeon 698X osiągnął temperaturę maksymalną 93°C w 7-Zip i 96°C w GROMACS, a wartości taktowania są średnimi wartościami dla wszystkich 172 procesorów logicznych. Blender i Stockfish ładują każdy wątek i utrzymują od 2,5 GHz do 2,6 GHz, powyżej podstawowego 2,0 GHz. GROMACS i OpenBLAS obciążają 64 i 86 rdzeni fizycznych, a pozostałe wątki pozostawiają bezczynne w okolicach 0,8 GHz, dlatego ich średnie wartości wynoszą około 1,3 GHz. Dzięki pracom wykonywanym przez procesor graficzny procesor był chłodzony na średnim poziomie od 61°C do 65°C podczas obsługi LLM, dostrajania i RAG, ponieważ testy te opierają się na kartach.


Wniosek


Dell Pro Precision 9 T4 jest przeznaczony do lokalnej pracy ze sztuczną inteligencją, a drugi RTX PRO 6000 jest tam, gdzie to widać. Dwie karty Max-Q podniosły szczytową przepustowość obsługi z 1,85 do 2,02× w czterech modelach i przepustowość osadzania 1,92×, skróciły epokę LoRA na Ministral 3 8B z 31,5 do 19,7 minuty i zwiększyły MiniMax M2.7 — model za duży na jedną kartę — z 30,3 do 83,7 tokenów/s dla jednego użytkownika. Na gpt-oss 120B jeden serwer na procesor graficzny osiągnął łącznie 7091 tokenów/s przy 64 żądaniach, a podzielenie modelu na obie karty zwróciło pierwszy token pojedynczego użytkownika w 719 ms w porównaniu z 1189 ms.


najnowsza sprawa firmy na temat Dell Pro Precision 9 T4 Review: 86 rdzeni Xeon i dwie karty RTX PRO 6000 dla modeli zbyt dużych dla jednej karty  1


Osiem kanałów pamięci DDR5-6400 zapewniło Xeonowi 698X przewagę w przepustowości pamięci o 53% w porównaniu z Threadripper PRO 9995WX. Dzięki tej przepustowości T4 osiągał szybsze wyniki wyszukiwania OpenFOAM, GROMACSbenchPEP, y-cruncher i HNSW niż Precision 7875, a pamięć masowa Gen5 ładowała duże modele szybciej. Na pochwałę zasługuje także obudowa, z najlepszym układem chłodzenia, jaki widzieliśmy u Della w tej klasie i beznarzędziowym dostępem do zasilacza.


Model 7875 pozostaje liderem w zakresie renderowania, kompresji i kompilacji związanego z rdzeniem o 18–38% i o 60% w przypadku SVT-AV1. Szybkość procesora Xeon na rdzeń była gorsza od wszystkich systemów w tej grupie, co pokazało się w Valkey i innych usługach o niewielkiej liczbie wątków. Dostrajanie na pojedynczym procesorze graficznym było również wolniejsze na T4, gdzie epoka LoRA trwała 31,5 minuty w porównaniu z 27,2 minut na 7875 i 22,3 minuty na karcie 600 W w Pro Max Tower T2, a każdy system kończył się w granicach 0,005 tej samej utrzymywanej straty.


Kosztujący około 66 600 dolarów w konfiguracji model T4 jest odpowiedni dla zespołów, które chcą udostępniać, osadzać i dostrajać modele lokalnie – w tym modele wymagające więcej niż 96 GB pamięci GPU – wraz z symulacjami i analizami związanymi z pamięcią na tej samej maszynie. Kupujący, których praca polega głównie na renderowaniu i kompilacji, szybciej znajdą platformę Threadripper, a kupujący, którzy potrzebują jednego procesora graficznego, mogą otrzymać tę samą kartę w mniejszym Pro Precision 9 T2.


Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storageserver.com
Koncentracja biznesowa:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami, aby dostarczać niezawodne produkty i profesjonalne usługi.
„Wykorzystanie technologii do zbudowania inteligentnego świata”Twój zaufany dostawca usług produktów ICT!

Szczegóły kontaktu
Beijing Qianxing Jietong Technology Co., Ltd.

Osoba kontaktowa: Ms. Sandy Yang

Tel: 13426366826

Wyślij zapytanie bezpośrednio do nas (0 / 3000)