Oprogramowanie DataEnclave firmy VAST Data tworzy bezpieczną enklawę, która pozwala przedsiębiorstwom udzielać modelom AI dostępu do poufnych danych, jednocześnie umożliwiając programistom modeli uruchamianie modeli bez ujawniania zastrzeżonych wag.
Rozwiązanie adresuje dwa kluczowe problemy. Przedsiębiorstwa unikają wprowadzania poufnych danych do publicznych i nowych modeli LLM w chmurze ze względu na ryzyko wycieku danych. Tymczasem właściciele modeli podstawowych wahają się przed wdrażaniem wag w niezabezpieczonych centrach danych przedsiębiorstw i obiektach kolokacyjnych.
DataEnclave można wdrożyć w siedzibie klienta lub na dedykowanym sprzęcie chmurowym, uruchamiając najnowocześniejsze modele AI tam, gdzie wcześniej nie mogły działać. Pozwala to przedsiębiorstwom na wykorzystanie najlepszych modeli do poufnych obciążeń i umożliwia twórcom modeli dotarcie do nowych środowisk klientów.
Współzałożyciel i dyrektor generalny VAST, Renen Hallak, powiedział: „Modele stają się zasobem, którym musi zarządzać system operacyjny, tak samo jak zarządza danymi. Oznacza to wiedzę, który model pasuje do danego zadania, co może zobaczyć, kto może go używać i na jakich zasadach, a wszystko to w ramach tych samych granic bezpieczeństwa i operacyjnych, które przedsiębiorstwo stosuje do wszystych innych rzeczy.
Bezpieczne udostępnianie wiodących modeli AI najpoufniejszym danym na świecie to punkt wyjścia. Prowadzi to do świata, w którym każda organizacja zarządza ekosystemem dostrojonych modeli, które reprezentują jej prawdziwą własność intelektualną. System operacyjny VAST AI zapewnia ich bezpieczeństwo, zarządzanie i użyteczność.”
Zarówno przedsiębiorstwa, jak i programiści modeli muszą ufać DataEnclave. Zapewnia on bezpieczne środowisko wykonawcze z izolacją sprzętową i poświadczanie kryptograficzne. System waliduje środowisko i zasady przed odszyfrowaniem poufnych zasobów i załadowaniem ich do bezpiecznego kontenera w celu analizy.
Współzałożyciel VAST, Jeff Denworth, powiedział: „Wagi modeli szybko stają się najcenniejszą własnością intelektualną na świecie. Wagi podstawowe definiują wartość najnowocześniejszych modeli, podczas gdy dostrojone wagi będą coraz częściej reprezentować zastrzeżoną inteligencję AI przedsiębiorstw. W miarę wzrostu stawek, zabezpieczanie danych przedsiębiorstw staje się kluczowe, aby klienci mogli uruchamiać na nich potężną sztuczną inteligencję. Dziś VAST Data, we współpracy z Nvidią, rozwija branżę dzięki ramom do walidacji niezaufanych środowisk obliczeniowych i uruchamiania dowolnego modelu na dowolnych danych, w dowolnym miejscu.”
Tradycyjne procesory GPU nie posiadają natywnej ochrony danych w użyciu, w przeciwieństwie do obliczeń poufnych x86, które od lat chronią pamięć procesora. Szyfrowanie zabezpiecza wagi w spoczynku i w transporcie, ale wagi muszą zostać odszyfrowane w pamięci GPU podczas wnioskowania. Ta pamięć jest często współdzielona i dostępna dla administratorów lub aktorów zagrożeń wykorzystujących skompromitowane hiperwizory i oprogramowanie układowe.
Bezpieczne środowisko wykonawcze i poświadczanie DataEnclave zapewniają, że zastrzeżone modele działają w poufnych maszynach wirtualnych zbudowanych na poufnych środowiskach wykonawczych procesora, w połączeniu z procesorami GPU Nvidia w trybie obliczeń poufnych. Wiceprezes ds. AI dla przedsiębiorstw w Nvidia, Justin Boitano, powiedział: „Dane przedsiębiorstw są niezbędne do dokładnej, użytecznej sztucznej inteligencji – a zachowanie poufności danych biznesowych chroni własność intelektualną w erze agentów. Integracja Nvidii Confidential Computing przez VAST chroni zarówno przedsiębiorstwa, jak i twórców modeli, zapewniając bezpieczeństwo, tożsamość, uprawnienia, zarządzanie i zgodność jako podstawę architektur agentów.”
DataEnclave obsługuje wdrożenia VAST zarówno lokalnie, jak i w chmurze. Kluczowe funkcje:
- -Izolacja sprzętowa: poufne maszyny wirtualne i kontenery szyfrują pamięć gościa, pamięć GPU i ruch NVLink, oddzielając aktywne dane i modele od administratorów i innych najemców współdzielących sprzęt.
- -Poświadczanie przed odszyfrowaniem: kryptograficznie zweryfikowana granica zaufania uwalnia poufne zasoby tylko do zatwierdzonych środowisk.
- -Niezależna kontrola kluczy: integracje BYOK pozwalają przedsiębiorstwom i dostawcom modeli zachować klucze w swoich domenach zaufania, chroniąc zarówno dostrojone wagi przedsiębiorstw, jak i wagi modeli podstawowych.
- -Wdrożenie połączone lub odizolowane: usługa poświadczania zbudowana na CNCF Trustee do zastosowań połączonych; VAST i Fortanix zapewniają lokalne poświadczanie i pośrednictwo kluczy dla środowisk odizolowanych.
- -Zarządzane i audytowalne z założenia: zabezpieczone przed manipulacją dzienniki audytu w VAST DataBase śledzą poświadczanie, wydawanie kluczy i zdarzenia cyklu życia enklawy do celów audytu bez ujawniania chronionych zasobów.
- -Bezpieczne piaskownice agentów: izolowane środowisko wykonawcze dla agentów AI egzekwuje zasady dostępu do danych, systemów i narzędzi. Agenci wymagają tożsamości, izolacji i obserwacji, ponieważ nie mogą ponosić odpowiedzialności jak ludzie.
Warstwa bezpieczeństwa wprowadza narzut obliczeniowy, zazwyczaj od kilku do kilkunastu procent, w zależności od rozmiaru modelu.
Przyjęcie zależy od podwójnego zaufania: przedsiębiorstwa ufają mu ze swoimi danymi, a programiści modeli ufają mu w hostowanie zastrzeżonych wag.
VAST jednoczy twórców modeli, dostawców usług chmurowych AI i dostawców serwerów wokół lokalnej architektury AI. Obecni zaangażowani partnerzy modelowi to Cohere, CrowdStrike, Deepgram, Factory, Fundamental, Nvidia i TwelveLabs, a nie najwięksi gracze branżowi.
John Mao, wiceprezes ds. rozwoju biznesu i sojuszy VAST, skomentował: „Rozmawiamy z wieloma firmami modelowymi, dużymi i małymi. Wszyscy dostawcy rozumieją, że tracą około połowy rynku, jeśli nie mogą przenieść AI tam, gdzie znajdują się dane przedsiębiorstw. Wiele organizacji wszystkich rozmiarów aktywnie pracuje nad tym wyzwaniem i rozmawialiśmy z większością z nich.”
Partnerzy serwerowi to Cisco i Supermicro. Obecni partnerzy chmurowi AI to Buzz, Nscale i Sharon.AI, a więcej spodziewanych jest wkrótce.
Zapytany o standardy branżowe dla bezpiecznych enklaw danych dla modeli, Mao powiedział: „Niektóre standardy już istnieją. Nasze środowisko wykonawcze jest zgodne z Kata Containers wspieranymi przez Microsoft, Red Hat i partnerów branżowych. Podążamy również za inkubującym projektem CNCF Confidential Containers w zakresie poświadczania. Procesory GPU do obliczeń poufnych firmy Nvidia stanowią trzeci filar. Przyjmujemy wielopłaszczyznowe podejście i będziemy się dalej dostosowywać w miarę dojrzewania rynku.”
DataEnclave jest w wersji zapoznawczej i zostanie wysłany w Q1 2027 za pośrednictwem VAST Data i partnerów OEM, w tym Cisco i Supermicro.
Przypis 1 Dell, HPE, Lenovo, Supermicro, ASUS, Foxconn, GIGABYTE, Pegatron, QCT, Wistron, Wiwynn, Aivres, ASRock Rack, Compal, Inventec, MiTAC, MSI, AIC i IBM budują systemy Vera Rubin NVL72 z obliczeniami poufnymi w skali szafy: GPU, procesor Vera, szyfrowanie NVLink i poświadczanie.
Przypis 2 Agenci AI zużywają modele. Mao powiedział: „Agenci znajdują się na warstwie powyżej modeli. Nasz Agent Engine to kompletna platforma orkiestracji agentów. DataEnclave umożliwia uruchamianie nowych modeli w silniku danych, do którego Agent Engine może uzyskać dostęp i z którego może korzystać. Zarządzani agenci mogą wywoływać te najnowocześniejsze modele hostowane w systemie operacyjnym VAST.”
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storagesserver.com
Fokus biznesowy:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Z ponad 20-letnim doświadczeniem w dystrybucji IT współpracujemy z wiodącymi globalnymi markami, dostarczając niezawodne produkty i profesjonalne usługi.
„Wykorzystując technologię do budowania inteligentnego świata” Twój zaufany dostawca usług produktowych ICT!
Twoja wiadomość musi mieć od 20 do 3000 znaków!
Polish
