Dell Pro Precision 9 T4 to flagowy jednoprocesorowy komputer typu tower z linii Pro Precision firmy Dell, a ta jednostka testowa jest skonfigurowana pod kątem lokalnej sztucznej inteligencji w skali nieosiągalnej dla większości stacji roboczych. Łączy 86-rdzeniowy procesor Intel Xeon 698X z 256 GB pamięci DDR5-6400 ECC, dwie karty NVIDIA RTX PRO 6000 Blackwell Max-Q o mocy 300 W z 96 GB GDDR7 każda, dwa dyski SSD 2 TB Gen5 i dwuportowy adapter 25 GbE, czerpiący z zasilacza o mocy 2400 W.
![]()
Kluczowe dania na wynos
- 1,Drugi procesor graficzny zamienia model, który nie mieści się na jednej karcie, w użyteczny. MiniMax M2.7 przy 129,3 GB wygenerował 83,7 tokenów/s dla jednego użytkownika po podzieleniu na obie karty, co stanowi 2,8 razy więcej niż 30,3 tokenów/s osiągnięte w przypadku jednej karty i pozostałej części modelu w pamięci systemowej.
- 2. Drugi procesor graficzny skalował wyświetlanie o 1,85–2,02× i osadzanie o 1,92×. Szczytowa wydajność llama.cpp wzrosła z 582,5 do 1176,1 tokenów/s na Ministral 3 3B i z 424,8 do 787,9 tokenów/s na gpt-oss 120B z jednym serwerem na procesor graficzny, podczas gdy osadzanie miliona fragmentów Wikipedii spadło z 890 do 464 sekund.
- 3. Drugi procesor graficzny skrócił epokę LoRA o 37%: jedna epoka na Ministral 3 8B trwała 31,5 minuty na jednym GPU i 19,7 minuty na dwóch, kończąc się utrzymującymi się stratami na poziomie 1,169 i 1,167.Przepustowość pamięci to obszar, w którym Xeon przoduje. STREAM Triad osiągnęła 328 GB/s, o 53% więcej niż Threadripper PRO 9995WX w Precision 7875, a T4 ukończył rozwiązanie OpenFOAM driveAer w 293 sekundy w porównaniu z 556, a 10-miliardowy wynik y-cruncher przebiegł w 53,9 sekundy w porównaniu z 83,7.
- 4, Precision 7875 przoduje w pracy procesora związanego z rdzeniem: jej 96-rdzeniowy Threadripper uzyskał 37% przewagi w 7-Zip i 30% przewagi w Blender Monster, a także ukończył kompilację LLVM w 43,7 sekundy w porównaniu z 58,4.
Gdzie siedzi T4
Dell pozycjonuje T4 jako swoją flagową jednogniazdową stację roboczą w obudowie typu tower dla organizacji potrzebujących maksymalnej gęstości obliczeniowej i możliwości rozbudowy, a rozwój sztucznej inteligencji, symulacje inżynieryjne i obliczenia naukowe znajdują się na szczycie listy zadań. Znajduje się nad Pro Precision 9 T2, która wykorzystuje tę samą platformę stacji roboczej Xeon 6 w mniejszej obudowie z jednym procesorem graficznym. T4 dodaje procesory ośmiokanałowe z najwyższej półki, do 86 rdzeni i miejsce na maksymalnie cztery karty graficzne, w zależności od modelu.
Opcje procesorów zaczynają się od 12-rdzeniowego Xeon 634 i obejmują 64-rdzeniowy Xeon 696X aż do 86-rdzeniowego Xeon 698X w tej jednostce, która ma 336 MB pamięci podręcznej, zegar bazowy 2,0 GHz, maksymalnie 4,8 GHz i moc znamionową 350 W. Pamięć można skalować do 4 TB pamięci DDR5 RDIMM w 16 gniazdach, a ta jednostka wypełnia osiem z nich modułami 32 GB przy 6400 MT/s. Grafika zaczyna się od pojedynczego RTX A400, a liczba kart jest powiązana z modelem: konfigurator firmy Dell wyświetla cztery karty RTX A1000, trzy karty RTX PRO 4000 Blackwell, dwie karty RTX PRO 6000 Max-Q o mocy 300 W lub jedną kartę RTX PRO 6000 o mocy 600 W.
Podstawowa konfiguracja kosztuje 5925 dolarów. Ta kompilacja dodaje 8300 USD za Xeon 698X, 15 000 USD za 256 GB pamięci i 30 820 USD za parę kart RTX PRO 6000 Max-Q, przed przechowywaniem, obsługą sieci i 36-miesięczną aktualizacją ProSupport, którą firma Dell automatycznie stosuje na tym poziomie.
Budowa, projekt i specyfikacje
T4 to pełna wieża o wysokości 449,8 mm, szerokości 203,7 mm i głębokości 617,5 mm, a jej minimalna waga to 24,1 kg i maksymalna 33,6 kg, w zależności od konfiguracji. To urządzenie korzysta z zasilacza Platinum o mocy 2400 W, który konfigurator firmy Dell wybiera dla wersji z dwoma procesorami RTX PRO 6000, przy czym w lżejszych konfiguracjach domyślnym zasilaczem jest 1500 W.
Łatwość serwisowania to mocna strona, począwszy od beznarzędziowego wejścia przez zatrzask na panelu bocznym, a skończywszy na zasilaczu o mocy 2400 W, który można ręcznie wysunąć z górnej części obudowy. Wszystko inne, łącznie z kartami graficznymi i dyskami SSD, wyjmuje się za pomocą śrubokręta krzyżakowego, a niebieskie punkty dotykowe firmy Dell oznaczają części, które można zwolnić ręcznie. Laboratorium stwierdziło, że platformę można łatwo naprawić w terenie, co ma znaczenie przy tej cenie.
Chłodzenie to najlepsze wykonanie, jakie widzieliśmy u firmy Dell w tej klasie wież. Powietrze przepływa od przodu do tyłu, a duże, dopasowane osłony kierują je w dół i w poprzek procesora i pamięci, jednocześnie oddzielając ten kanał od obszaru PCIe. Dzięki temu obie karty o mocy 300 W mają niezależny strumień powietrza, dzięki czemu nie pobierają powietrza ogrzanego przez kartę Xeon o mocy 350 W. Dwa wentylatory znajdują się pomiędzy strefą procesora a wnęką na kartę, a zespół wentylatorów ma te same niebieskie punkty dotykowe i jest wysuwany, aby uzyskać dostęp do pamięci.
Rozszerzenie odbywa się poprzez sześć gniazd PCIe o pełnej wysokości: dwa gniazda Gen5 x16, w których znajdują się procesory graficzne, jedno Gen5 x8, jedno Gen4 x8 i dwa gniazda Gen4 ze złączami x8 i okablowaniem x4. Pamięć masowa obejmuje trzy wewnętrzne gniazda M.2 Gen5 i jedno gniazdo Gen4, dwie wewnętrzne 3,5-calowe wnęki SATA oraz przednią wnękę FlexBay mieszczącą maksymalnie cztery dyski NVMe lub dwa 3,5-calowe dyski wraz z opcjonalnym wąskim napędem optycznym. To urządzenie uruchamia się z wewnętrznego dysku 2 TB Gen5 i przenosi drugi dysk 2 TB Gen5 w innym wewnętrznym gnieździe M.2.
Na panelu przednim znajduje się gniazdo słuchawkowe, dwa porty USB-A 10 Gb/s, port USB-C 20 Gb/s z funkcją PowerShare, port USB-C 10 Gb/s i opcjonalne gniazdo kart SD. Z tyłu znajdują się porty 10GbE i 1GbE RJ-45, cztery porty USB-A 10 Gb/s, dwa porty USB-C 10 Gb/s, port USB-C 20 Gb/s, port szeregowy, dwa porty PS/2 i wyjście liniowe. To urządzenie zawiera dwuportowy adapter Intel E810-XXV 25GbE SFP28, moduł MediaTek Wi-Fi 7 MT7925 z Bluetooth 5.4, czytnik kart multimedialnych i podwójną kartę rozszerzeń Dell USB-C.
Bezpieczeństwo i zarządzanie obejmują moduł TPM 2.0, Dell SafeBIOS, wykrywanie naruszenia obudowy, obsługę dysków samoszyfrujących, bezpieczne kasowanie BIOS-u i technologię Intel vPro Enterprise. Dell podaje, że T4 zawiera aż do 85% plastiku pochodzącego z recyklingu w kluczowych komponentach, 90% aluminium pochodzącego z recyklingu w uchwytach i 11% stali pochodzącej z recyklingu w obudowie, a konfiguracja spełnia kryteria ENERGY STAR.
| Przedmiot | Specyfikacja |
|---|---|
| Model | Dell Pro Precision 9 T4 (PW9T4260) |
| Procesor (jak przetestowano) |
Intel Xeon 698X, 86 rdzeni / 172 wątki, 336 MB pamięci podręcznej,Bazowe 2,0 GHz, do 4,8 GHz, 350 W |
| Opcje procesora | Xeon 634 (12 rdzeni) do Xeon 698X (86 rdzeni) |
| Pamięć | 256 GB (8 × 32 GB) DDR5-6400 RDIMM ECC; 16 gniazd, do 4 TB |
| Grafika | 2× NVIDIA RTX PRO 6000 Blackwell Max-Q, 96 GB GDDR7 każda, 300 W każda |
| System operacyjny | Windows 11 Pro dla stacji roboczych (testowany na Ubuntu 26.04.1 LTS) |
| Pamięć zgodnie z konfiguracją | 2 × 2 TB M.2 2280 Gen5 x4 TLC SED (oba w wewnętrznych gniazdach M.2) |
| Wewnętrzne gniazda pamięci | 3× M.2 2230/2280 Gen5 NVMe; 1× M.2 2230/2280 Gen4 NVMe; 2x 3,5-calowe dyski SATA |
| FlexBay | Do 4 dysków NVMe plus opcjonalny wąski napęd optyczny lub 2 × 3,5-calowe dyski SATA |
| Gniazda PCIe | 2× Gen5 x16; 1× Gen5 x8; 1× Gen4 x8; 2× Gen4 x8 (elektryczne x4) |
| Sieć |
Dwuportowa karta Intel E810-XXV 25GbE SFP28 (dodatek); wbudowane 10GbE i 1GbE RJ-45;MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4 |
| Przednie porty |
1× USB-C 20 Gb/s z funkcją PowerShare; 1× USB-C 10 Gb/s; 2× USB-A 10 Gb/s; gniazdo zestawu słuchawkowego; opcjonalne gniazdo kart SD |
| Tylne porty |
1× USB-C 20 Gb/s; 2× USB-C 10 Gb/s; 4× USB-A 10 Gb/s; seryjny; 2x PS/2; wyjście liniowe |
| Zasilanie | 2400 W Platinum (opcja 1500 W) |
| Wymiary | 449,8 × 203,7 × 617,5 mm |
| Waga | Od 24,1 kg do 33,6 kg w zależności od konfiguracji |
| Bezpieczeństwo i zarządzanie |
TPM 2.0, Dell SafeBIOS, wykrywanie naruszenia obudowy, obsługa dysków samoszyfrujących, bezpieczne kasowanie BIOS-u, Intel vPro Enterprise |
| Zrównoważony rozwój |
Kluczowe elementy wykonane w 85% z plastiku pochodzącego z recyklingu, uchwyty z aluminium w 90% z recyklingu, Podwozie ze stali pochodzącej w 11% z recyklingu; Certyfikat ENERGY STAR |
| Gwarancja | ProSupport z serwisem na miejscu po zdalnej diagnozie, 36 miesięcy |
| Cena | podstawa 5925 USD; około 66 600 USD zgodnie z konfiguracją |
Konfiguracja i metodologia testów
Wszystkie cztery systemy działały pod kontrolą Ubuntu 26.04.1 LTS na jądrze 7.0.0-43 ze sterownikiem NVIDIA 595.99.02, CUDA 13, llama.cpp build b11716 i Ollama 0.40.3 na profilu wydajności i wydajności systemu Linux. Wyniki pochodzą z sr-client dla lokalnej sztucznej inteligencji i obciążeń klientów, sr-harness dla kompilacji, kompresji, kryptografii, serwowania stron internetowych i y-crunchera oraz sr-suite r5.28 dla GROMACS, OpenFOAM, ClickHouse, Valkey i przepustowości pamięci; każda liczba jest medianą powtarzających się przejść. Wszystkie systemy działały z trybem termicznym BIOS-u ustawionym na Ultra Performance, a T4 z BIOSem 1.2.0.
Każdy system porównawczy to wieża Dell z grafiką RTX PRO 6000 Blackwell. Precision 7875 łączy 96-rdzeniowy procesor Threadripper PRO 9995WX z tymi samymi dwiema kartami Max-Q i 512 GB pamięci DDR5-5600, co czyni go najbliższym dopasowaniem. Pro Precision 9 T2 obsługuje 24-rdzeniowy procesor Xeon 658X z jedną kartą Max-Q, a Pro Max Tower T2 obsługuje 24-rdzeniowy procesor Core Ultra 9 285K z kartą RTX PRO 6000 o mocy 600 W, co pokazuje wyższy limit mocy zwiększany na procesor graficzny.
Wydajność lokalnej sztucznej inteligencji
Każdy system wyposażony jest w co najmniej jedną kartę RTX PRO 6000 Blackwell z 96 GB pamięci GDDR7, więc wyniki z pojedynczą kartą graficzną mierzą kartę, jej limit mocy i szybkość, z jaką platforma ją zasila. T4 wyróżnia się dwiema kartami, a testy z dwoma procesorami graficznymi uruchamiają każdy model na trzy sposoby, tam gdzie ma to zastosowanie: dwa niezależne serwery, po jednym na procesor graficzny, w celu sprawdzenia przepustowości; jeden model podzielony według warstw na obu kartach; a dla MiniMax M2.7 jedna karta z resztą modelu w pamięci systemowej.
Na jednym GPU T4 ląduje tam, gdzie stawia go limit 300 W. Wygenerowała 166,9 tokenów/s dla jednego użytkownika na gpt-oss 120B i osiągnęła szczyt na poziomie 424,8 w 64 jednoczesnych żądaniach, co stanowiło od 1 do 9% identycznej karty Max-Q w Precision 7875 we wszystkich czterech modelach i było na poziomie Pro Precision 9 T2. Karta o mocy 600 W w Pro Max Tower T2 jest od 13 do 25% szybsza w szczycie w każdym modelu, osiągając 520,7 tokenów/s na gpt-oss 120B.
Uruchomienie jednego serwera na procesor graficzny podniosło szczytową moc wyjściową T4 o 1,85 do 2,02× w czterech modelach: 582,5 do 1176,1 tokenów/s w przypadku Ministral 3 3B, 383,6 do 765,7 w modelu 8B i 158,1 do 310,8 w przypadku Qwen3.8 27B. gpt-oss 120B skalował się z 1,85× do 787,9 tokenów/s na T4 i 1,98× do 905,8 na Precision 7875, osiągając szczyt przy 128 jednoczesnych żądaniach w porównaniu z 64 w przypadku T4.
Podział gpt-oss 120B na warstwy na obie karty to wolniejszy sposób wykorzystania drugiego procesora graficznego, gdy model już mieści się na jednym: obsługiwał jednego użytkownika z prędkością 170,6 tokenów/s, w granicach 3% pojedynczej karty, i osiągnął szczyt na poziomie 539,2, 27% powyżej jednego procesora graficznego, ale znacznie poniżej 787,9 dostarczonych przez dwie repliki. Podział układu zasługuje na swoje miejsce w przypadku modeli, które nie mieszczą się na jednej karcie, i tu właśnie pojawia się MiniMax M2.7.
MiniMax M2.7 to model złożony z 230 miliardów parametrów, opracowany przez ekspertów, a ta 4-bitowa kwantyzacja zajmuje 129,3 GB, czyli więcej niż 96 GB na jednym RTX PRO 6000. Na jednej karcie, która pozostała w pamięci systemowej, T4 wygenerował 30,3 tokenów/s dla jednego użytkownika, a zwrócenie pierwszego tokenu zajęło 16,2 sekundy. W podziale na obie karty wydajność pojedynczego użytkownika wzrosła do 83,7 tokenów/s, czyli 2,8 razy więcej niż w przypadku jednej karty; czas do pierwszego tokena spadł z 16,2 do 3,1 sekundy, a szczytowa przepustowość wzrosła z 35,5 do 127,3 tokenów/s.
Liczby dotyczące jednego procesora graficznego pokazują, jak duże znaczenie ma platforma hosta, gdy model rozleje się do pamięci systemowej. Dzięki ośmiu kanałom pamięci DDR5-6400 T4 jest o 34% lepszy od czterokanałowego Pro Precision 9 T2 z szybkością 22,6 tokenów/s i 1,9 razy lepszy od dwukanałowego Pro Max Tower T2 z szybkością 15,8, mimo że karta o mocy 600 W tego systemu jest szybsza w każdym pasującym modelu. Precision 7875 przewyższał T4 z szybkością 32,8 tokenów/s przy przepustowości pamięci o 35% mniejszej, więc sama przepustowość nie wyjaśnia wyniku; zgłaszamy pomiar przewodu 7875 bez izolowania jego przyczyny.
Obciążenia modeli na zimno faworyzują dyski Gen5: ładowanie gpt-oss:120b T4 z dysku SSD SK hynix Gen5 w 15,2 sekundy, co odpowiada Pro Precision 9 T2 i znacznie szybciej niż w 25,8 i 28,2 sekundy w przypadku Precision 7875 i Pro Max Tower T2 wyposażonych w Gen4. Ładowanie na gorąco z pamięci podręcznej strony odwraca tę kolejność, przy czym 7875 wynosi 5,0 sekund w porównaniu z 7,5 na T4, a ładowanie kopii na każdy procesor graficzny jednocześnie trwało 26,5 sekundy na T4.
RAG, dostrajanie i generatywna sztuczna inteligencja
Test RAG na dużą skalę ukrywa pytania SQuAD wśród milionów fragmentów Wikipedii, osadza je w tekście nomic-embed, tworzy indeks HNSW i odpowiada za pomocą Phi-4-mini. Dwa procesory graficzne skróciły czas osadzania T4 z 890 do 464 sekund, co oznacza przyspieszenie o 1,92 razy w porównaniu z 423 sekundami w przypadku Precision 7875; karta o mocy 600 W w Pro Max Tower T2 była najszybszą pojedynczą kartą graficzną z czasem 722 sekund.
Tworzenie indeksów i wyszukiwanie wektorów odbywa się na procesorze i to właśnie do tego prowadzi T4. Indeks HNSW zbudował w 27,3 sekundy w porównaniu z 34,8 w przypadku Precision 7875 i 118,6 w Pro Max Tower T2 i przeszukał przy 98 503 zapytaniach/s przy ef 64, 1,51× w przypadku systemu 7875 i 5,6× w przypadku systemu Core Ultra. Przy ef 256 zawierał 32 149 zapytań/s z 97,6% przypominaniem w porównaniu z wyszukiwaniem dokładnym, a odpowiedzi zwracane były w medianie 0,12 sekundy.
Jednoepokowy test LoRA dostraja Ministral 3 8B w BF16 na Dolly 15k w 1849 krokach i ocenia 200 trzymanych przykładów co 100 kroków. Każdy system rozpoczął się od utrzymującej się straty na poziomie 1,534, a zakończył pomiędzy 1,167 a 1,172, więc różnica sprowadza się do czasu w poszczególnych epokach. Jeden procesor graficzny T4 działał w 31,5 minuty przy 1584 tokenach/s, co stanowi o 3% mniej niż w przypadku Pro Precision 9 T2 na tej samej karcie Max-Q; w przypadku Precision 7875 trwało to 27,2 minuty, a karty 600 W w Pro Max Tower T2 – 22,3 minuty. Dodanie drugiego procesora graficznego skróciło epokę T4 do 19,7 minut przy 2528 tokenów/s, co oznacza przyspieszenie o 1,60 razy w porównaniu z 22,3 minuty pojedynczej karty 600 W, podczas gdy Precision 7875 zakończyło epokę dwóch procesorów graficznych w 18,1 minuty, co oznacza przyspieszenie 1,50 razy.
Obie karty przesyłają dane równolegle z dwoma przykładami na procesor graficzny i gradientami zgromadzonymi do tej samej globalnej partii ośmiu, więc w przypadku pracy z dwoma procesorami graficznymi te same przykłady są widoczne na każdym kroku i kończą się tą samą stratą. Przy dwóch krótkich przykładach na każdy procesor graficzny w każdym przebiegu druga karta ma niewiele pracy do wchłonięcia, a wymiana gradientów zajmuje większą część każdego kroku. Szczyt tej epoki wynosił 19,5 GiB pamięci GPU na jednej karcie i 19,7 GiB na kartę na dwóch, co stanowi ułamek dostępnych 96 GB.
T4 przeszedł także pomyślnie każdy agent kodujący na każdym poziomie modelu, w tym wszystkie trzy uruchomienia gpt-oss:20b w kontekście 64 KB, podczas gdy pozostałe trzy systemy pomyślnie przeszły dwa z trzech i wygenerowały 161,5 tokenów/s na gpt-oss:120b. Generowanie obrazu odbywa się na jednym procesorze graficznym, więc prędkość 40,96 obrazów/min na FLUX.2 klein w BF16 plasuje się w porównaniu z innymi systemami Max-Q, a za kartą 600 W wynosi 54,25.
Wyniki procesora, pamięci masowej, temperatury i serwisu
Wyniki procesora porównują 86 rdzeni Xeon procesora T4 z 96 rdzeniami Threadripper procesora Precision 7875, przy czym punktami odniesienia są dwa 24-rdzeniowe procesory T2. T4 prowadzi tam, gdzie o wyniku decyduje przepustowość pamięci, a 7875 prowadzi tam, gdzie liczy się liczba rdzeni i zegary.
T4 uzyskał 619,8 GIPS w 7-Zip i 961,8 próbek/min w Blender Monster, 2,2 i 2,4 razy 24-rdzeniowy Pro Precision 9 T2, podczas gdy Precision 7875 uzyskał 37% przewagi w 7-Zip i 30% przewagi w Blenderze, ukończył kompilację LLVM w 43,7 sekundy w porównaniu z 58,4, a wbudowana funkcja allmodconfig jądra Linux 264 sekundy w porównaniu z 312. Szybkość na rdzeń to słaby punkt T4, z najniższym w tej grupie wynikiem 7-Zip dla jednego wątku wynoszącym 8,85 GIPS.
Kodowanie x265 w HandBrake jest tutaj odstające, a przyczyną jest bardziej koder niż procesor: wszystkie pozostałe trzy systemy osiągnęły pomiędzy 40,0 a 41,7 kl./s przy 24 lub 96 rdzeniach, więc x265 przy tym ustawieniu wstępnym nie skaluje się wraz z liczbą rdzeni, a 31,4 kl./s T4 jest zgodne z niższą prędkością na rdzeń w wątkach używanych przez x265. Podczas kodowania T4 miał średnio około 1 GHz w swoich 172 wątkach w temperaturze od 51°C do 64°C, pokazując większość chipa w stanie bezczynności. SVT-AV1 skalował się lepiej, przy 159,4 fps na T4 w porównaniu z 255,8 na 7875.
Osiem kanałów pamięci DDR5-6400 zapewnia T4 328 GB/s w STREAM Triad, o 53% więcej niż DDR5-5600 w modelu Precision 7875 i 2,3 razy więcej niż czterokanałowy Pro Precision 9 T2. Praca z ograniczeniami przepustowości wygląda następująco: T4 rozwiązał sprawę sterownika OpenFOAM DriveAer z 3 milionami komórek w 293 sekundy w porównaniu z 556 na modelach 7875 i 826 na Pro Precision 9 T2, podczas gdy Pro Max Tower T2 nie ukończył pracy w limicie 150 minut pakietu; T4 również przetestował obudowę zawierającą 22,6 miliona ogniw w 6851 sekund.
GROMACSbenchPEP, duży przypadek dynamiki molekularnej obejmujący wszystkie rdzenie, działał z szybkością 1,243 ns/dzień na T4 w porównaniu z 1,034 na 7875, a rozwiązanie LU osiągnęło 1660 GFLOPS w porównaniu z 1172. y-cruncher obliczył 10 miliardów cyfr Pi w 53,9 sekundy w porównaniu z 83,7 i 25 miliardów w 155,6 sekundy w porównaniu z 259,6. Gęste obliczenia pozostające w pamięci podręcznej faworyzują Threadripper, który zapewnił OpenBLAS DGEMM wynik 4745 GFLOPS w porównaniu z 3664.
ClickHouse wykonał 43 zapytania ClickBench w czasie 3,21 sekundy na gorąco i 6,45 sekundy na zimno na T4, 0,33 sekundy za modelem 7875 w trybie na gorąco i 0,64 sekundy przed nim w trybie na zimno. Valkey faworyzuje szybkie rdzenie zamiast wielu rdzeni, a liczba żądań SET T4 wynosząca 666 714 żądań/s przewyższa wszystkie trzy systemy porównawcze, przy czym Core Ultra 9 285K prowadzi z wynikiem 1,72 miliona — wzór ten odpowiada wynikom jednowątkowym T4 i warto go rozważyć w przypadku usług ograniczonych opóźnieniami. Przy załadowanych wszystkich 172 wątkach i średniej temperaturze procesora wynoszącej 87°C, T4 przeszukał 68,21 miliona węzłów/s w Stockfish, 1,5 razy więcej niż 48-wątkowy Pro Precision 9 T2 i znacznie mniej niż połowę 168,27 węzłów 7875 w 192 wątkach.
Dysk rozruchowy SK hynix Gen5 w modelu T4 zapewnia sekwencyjne odczyty z szybkością 14 152 MB/s i zapisy z szybkością 10 078 MB/s, czyli mniej więcej dwa razy więcej niż dyski Gen4 w modelach Precision 7875 i Pro Max Tower T2, przy maksymalnej wydajności losowej wynoszącej 2,31 miliona IOPS przy odczycie i 1,83 miliona IOPS przy zapisie. Prędkość odczytu sekwencyjnego komputera Pro Precision 9 T2 na poziomie 20 914 MB/s przekracza prędkość jednego łącza Gen5 x4, co pasuje do paskowej macierzy dysków Samsung PM9E1 tego systemu; tutaj testowano sam dysk rozruchowy, bez drugiego dysku 2 TB.
W BIOSie ustawionym w trybie Ultra Performance, Xeon 698X osiągnął temperaturę maksymalną 93°C w 7-Zip i 96°C w GROMACS, a wartości taktowania są średnimi wartościami dla wszystkich 172 procesorów logicznych. Blender i Stockfish ładują każdy wątek i utrzymują od 2,5 GHz do 2,6 GHz, powyżej podstawowego 2,0 GHz. GROMACS i OpenBLAS obciążają 64 i 86 rdzeni fizycznych, a pozostałe wątki pozostawiają bezczynne w okolicach 0,8 GHz, dlatego ich średnie wartości wynoszą około 1,3 GHz. Dzięki pracom wykonywanym przez procesor graficzny procesor był chłodzony na średnim poziomie od 61°C do 65°C podczas obsługi LLM, dostrajania i RAG, ponieważ testy te opierają się na kartach.
Wniosek
Dell Pro Precision 9 T4 jest przeznaczony do lokalnej pracy ze sztuczną inteligencją, a drugi RTX PRO 6000 jest tam, gdzie to widać. Dwie karty Max-Q podniosły szczytową przepustowość obsługi z 1,85 do 2,02× w czterech modelach i przepustowość osadzania 1,92×, skróciły epokę LoRA na Ministral 3 8B z 31,5 do 19,7 minuty i zwiększyły MiniMax M2.7 — model za duży na jedną kartę — z 30,3 do 83,7 tokenów/s dla jednego użytkownika. Na gpt-oss 120B jeden serwer na procesor graficzny osiągnął łącznie 7091 tokenów/s przy 64 żądaniach, a podzielenie modelu na obie karty zwróciło pierwszy token pojedynczego użytkownika w 719 ms w porównaniu z 1189 ms.
![]()
Osiem kanałów pamięci DDR5-6400 zapewniło Xeonowi 698X przewagę w przepustowości pamięci o 53% w porównaniu z Threadripper PRO 9995WX. Dzięki tej przepustowości T4 osiągał szybsze wyniki wyszukiwania OpenFOAM, GROMACSbenchPEP, y-cruncher i HNSW niż Precision 7875, a pamięć masowa Gen5 ładowała duże modele szybciej. Na pochwałę zasługuje także obudowa, z najlepszym układem chłodzenia, jaki widzieliśmy u Della w tej klasie i beznarzędziowym dostępem do zasilacza.
Model 7875 pozostaje liderem w zakresie renderowania, kompresji i kompilacji związanego z rdzeniem o 18–38% i o 60% w przypadku SVT-AV1. Szybkość procesora Xeon na rdzeń była gorsza od wszystkich systemów w tej grupie, co pokazało się w Valkey i innych usługach o niewielkiej liczbie wątków. Dostrajanie na pojedynczym procesorze graficznym było również wolniejsze na T4, gdzie epoka LoRA trwała 31,5 minuty w porównaniu z 27,2 minut na 7875 i 22,3 minuty na karcie 600 W w Pro Max Tower T2, a każdy system kończył się w granicach 0,005 tej samej utrzymywanej straty.
Kosztujący około 66 600 dolarów w konfiguracji model T4 jest odpowiedni dla zespołów, które chcą udostępniać, osadzać i dostrajać modele lokalnie – w tym modele wymagające więcej niż 96 GB pamięci GPU – wraz z symulacjami i analizami związanymi z pamięcią na tej samej maszynie. Kupujący, których praca polega głównie na renderowaniu i kompilacji, szybciej znajdą platformę Threadripper, a kupujący, którzy potrzebują jednego procesora graficznego, mogą otrzymać tę samą kartę w mniejszym Pro Precision 9 T2.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storageserver.com
Koncentracja biznesowa:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami, aby dostarczać niezawodne produkty i profesjonalne usługi.
„Wykorzystanie technologii do zbudowania inteligentnego świata”Twój zaufany dostawca usług produktów ICT!



