Equinix rozszerzył swoje partnerstwo z NVIDIA i założył nową współpracę z Together AI w celu uruchomienia Equinix Inference Exchange.platforma przenosi obciążenia obliczeniowe bliżej podstawowych magazynów danych, użytkowników końcowych i aplikacji operacyjnych.Wspólnie platforma modelu open-source AI i globalna infrastruktura połączeń między sieciami Equinix rozwiązują problem opóźnienia, suwerenności danych i wąskich gardłach sieci.

Rozwiązywanie rozproszonych wniosków i grawitacji danychW miarę przemieszczania się sztucznej inteligencji w przedsiębiorstwach od prototypów do produkcji o wysokiej wydajności, umieszczanie wniosków kształtuje całkowite koszty, opóźnienie odpowiedzi i zgodność.prowadzenie rozproszonej infrastruktury w różnorodnych środowiskach powoduje koszty operacyjne i złożoność sieci.

Equinix łagodzi te problemy, wykorzystując ponad 280 centrów danych w 77 metrach, 230 ram chmurowych i ponad 10 500 połączonych ekosystemów przedsiębiorstw.Osiem z dziesięciu czołowych dostawców modeli sztucznej inteligencji i dziewięć z dziesięciu czołowych chmur sztucznej inteligencji znajduje się już wewnątrz witryn Equinix, co czyni platformę neutralną warstwą agregacji dla rozproszonych rurociągów AI.

Architektura i integracja stosuEquinix Inference Exchange składa się z trzech warstw: infrastruktury fizycznej, obliczeniowej i oprogramowania.zaawansowane chłodzenie płynem, bieżących operacji obiektu, a także hybrydowej łączności danych poprzez Equinix Fabric.NVIDIA dostarcza warstwę obliczeniową i walidacyjną z sprzętem AI firmy zoptymalizowanym dla wysokiej przepustowości tokenów i niższych kosztów wnioskowania na zapytanie. Razem AI dostarcza warstwę oprogramowania służącego wnioskowaniu obsługującą ponad 200 modeli open-source.Wspiera współdzielone ustawienia z wieloma najemcami w celu zwiększenia wydajności obliczeniowej oraz izolowane wdrożenia z jednym najemcą dla obciążeń roboczych wymagających dedykowanej zdolności.

Traffic przekierowywany za pośrednictwem Equinix Fabric obniża czas użytkowników regionalnych do pierwszego tokena (TTFT) i tworzy prywatne połączenia peeringowe między lokalnym magazynem a punktami końcowymi modelu.

Cele wdrażania w przedsiębiorstwie i dostępnośćMetro-edge inference uruchamia modele w lokalnych węzłach metra dla odpowiedzi API o niskim opóźnieniu wraz z scentralizowanym zarządzaniem i prywatnymi połączeniami.Migracja modelu otwartego źródła oferuje płynny przejście od zamkniętych zastrzeżonych interfejsów API do otwartych modeli, ograniczanie ograniczeń w zakresie dostawców przy jednoczesnym ponownym wykorzystaniu istniejących tkanin sieciowych.jego rozproszona konstrukcja pozwala przedsiębiorstwom zawierać wnioski i przetwarzanie danych w określonych granicach geograficznych w celu spełnienia rygorystycznych zasad przechowywania i zarządzania danymi.

Dyrektorzy Equinix, NVIDIA i Together AI twierdzą, że ta integracja zapewnia agnostyczną od dostawcy tkankę wnioskowania o wysokiej przepustowości, zrównoważającą wydajność obliczeniową i zwinność operacyjną.

Equinix Inference Exchange osiągnie ogólną dostępność w przedsiębiorstwach w I kwartale 2027 r.

Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang, dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storagesserver.com
Skoncentruj się na biznesie:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami w celu dostarczania niezawodnych produktów i profesjonalnych usług.
Używanie technologii do budowy inteligentnego świata•Twój zaufany dostawca usług produktów ICT!