Dostawca wektorowych baz danych Pinecone zaprezentował zoptymalizowane rozwiązanie pozwalające stawić czoła ograniczeniom tokenów i przekroczeniu budżetu dla agentów AI. Przyjmując wstępnie obliczone zbiory danych wektorowych, agenci sztucznej inteligencji mogą osiągnąć większą prędkość operacyjną, a firma udostępnia teraz te zoptymalizowane zestawy wektorów użytkownikom korporacyjnym.
Dyrektor generalny Pinecone, Ash Ashutosh oraz współzałożyciel i dyrektor ds. technicznych Edo Liberty, zauważyli w oficjalnym poście na blogu: "Agenci sztucznej inteligencji wyprzedzili ludzi, stając się głównymi konsumentami nowoczesnej infrastruktury wiedzy. W erze sztucznej inteligencji sterowanej agentami zautomatyzowani agenci wykonują powtarzalne zadania i często wpadają w sztywne pętle obliczeniowe oparte na brutalnej sile. " Przetwarzanie surowych danych wektorowych prowadzi do nieodłącznej nieefektywności i wąskich gardeł dla tych inteligentnych agentów.
Takie wady techniczne powodują stagnację wskaźników ukończenia zadań w zakresie od 50% do 60%, czemu towarzyszą nieprzewidywalne opóźnienia i nadmierne wydatki na tokeny. Branża wymaga metody wstępnego przetwarzania danych dostosowanej do scenariuszy kontekstowych agentów, wraz z wydajnym mechanizmem umożliwiającym agentom uzyskiwanie danych kontekstowych. Pinecone opracował platformę Nexus, aby sprostać dokładnie temu zapotrzebowaniu.
Silnik wiedzy Nexusa składa się z dwóch podstawowych modułów: kompilatora kontekstu i narzędzia Composable Retriever. Kompilator kontekstu generuje dostosowane artefakty danych — kontekstowe zbiory danych specyficzne dla zadania, zbudowane z surowych rekordów bazy danych wektorowych. Do artefaktów tych dołączone są kompleksowe metadane, w tym zakresy dostępu RBAC, kody wersji, źródła danych i znaczniki identyfikacyjne umożliwiające identyfikację osób. Opierając się na materiałach źródłowych i jasnych specyfikacjach zadań, kompilator początkowo tworzy dostosowane artefakty dla czterech predefiniowanych typów agentów: agentów ds. sprzedaży, finansów, marketingu i dyrektorów generalnych.
Ci inteligentni agenci wykorzystują dedykowany deklaratywny język zapytań o nazwie KnowQL do komunikacji z systemem Nexus. Język składa się z sześciu podstawowych elementów: intencji, filtra, pochodzenia, kształtu wyniku, pewności i ograniczeń budżetowych. Zamiast bezpośrednio pobierać surowe dane wektorowe, agenci przesyłają zapytania KnowQL wysokiego poziomu do platformy Nexus.
Composable Retriever firmy Nexus jest odpowiedzialny za otrzymywanie żądań KnowQL od różnych typów agentów. Zwraca dokładne odpowiedzi w oparciu o wstępnie wygenerowane artefakty przetworzone przez kompilator kontekstu. Oficjalny schemat wyraźnie ilustruje pełny przebieg działania tego mechanizmu.
Środowisko Pinecone Nexus i przebieg procesów.
Platforma zapewnia scentralizowane zarządzanie zużyciem tokenów dla wielu użytkowników i zróżnicowanych obciążeń. Ujednolicony pulpit nawigacyjny intuicyjnie wyświetla wykorzystanie tokenów, wydatki i stan zgodności, zapewniając przejrzyste monitorowanie.
Pinecone wyjaśnił, że Nexus z wyprzedzeniem wstępnie strukturyzuje, kontekstualizuje i kompiluje specjalistyczne artefakty wiedzy, w pełni przygotowując dane, zanim agenci zainicjują zadania obliczeniowe.
W odróżnieniu od konwencjonalnych kompilatorów, iteracyjny kompilator kontekstowy stale optymalizuje reprezentację danych. Prowadzi modelowanie eksperymentalne, ocenia wyniki względem celów zadań i ostatecznie łączy je w precyzyjne ramy wiedzy, które idealnie odpowiadają potrzebom operacyjnym agenta. Praktyczne przypadki użycia są wymienione poniżej:
-
Agent sprzedaży: Gromadzi zintegrowany kontekst transakcji, w tym transkrypcje rozmów Gong, fazy rurociągu sprzedaży, kluczowe rozmowy e-mailowe z klientami i informacje o konkurencji pochodzące z rekordów Slack.
-
Agent finansowy: Generuje kontekst związany z przychodami poprzez korelację klauzul umownych z cyklami rozliczeniowymi, progami wykorzystania i wskaźnikami rozwoju biznesu.
-
Agent marketingowy: Kompiluje dane atrybucji, łącząc zapisy interakcji w ramach kampanii z dziennikami sukcesów/niepowodzeń transakcji z Gong, wraz z sygnałami kwalifikacji produktów uzyskanymi z danych o zachowaniu użytkowników.
-
Agent dyrektora generalnego: Syntetyzuje spostrzeżenia między działami, łącząc wahania ARR z wynikami zdrowia klientów, postępem rekrutacji i kamieniami milowymi w rozwoju produktu.
Według dwóch dyrektorów Pinecone użytkownicy Nexusa mogą skorzystać na wyższym wskaźniku ukończenia zadań, skróconych cyklach wykonywania, niezawodnych uziemionych wyjściach i nawet o 90% niższym zużyciu tokenów. To ulepszenie technologiczne realizuje optymalizację strukturalną: przenosi złożone obliczenia rozumowania do niezależnej warstwy wiedzy, zamiast wykonywać powtarzające się obliczenia przy każdym żądaniu wnioskowania.
Wiele przedsiębiorstw branżowych, w tym Box, Unstructured, Teradata, LlamIndex i ThoughtFocus, wydało oficjalne poparcie dla platformy Nexus.
Wraz z Nexusem firma Pinecone uruchomiła zupełnie nowy Marketplace, na którym znajdują się gotowe do produkcji aplikacje oparte na wiedzy. Te gotowe rozwiązania można wdrożyć w ciągu kilku minut bez skomplikowanej konfiguracji infrastruktury AI. Katalog Marketplace zawiera ponad 90 gotowych rozwiązań obejmujących sektory przychodów ze sprzedaży, ubezpieczeń, nieruchomości, zgodności z prawem, zasobów ludzkich i obsługi klienta.
W fazie uruchamiania platforma Marketplace pozostaje całkowicie bezpłatna, a komercyjne rozwiązania innych firm mają zostać udostępnione w nadchodzącej wersji. Użytkownicy mogą uzyskać dostęp do platformy za pośrednictwem oficjalnego linku.
Pinecone zoptymalizował także ceny swoich wektorowych baz danych, wprowadzając tanią warstwę Builder za miesięczną opłatą w wysokości 20 USD. Dodatkowo firma rozszerzyła zakres wdrożeń chmurowych na region AWS Europe (Frankfurt) o strefę dostępności eu-central-1.
Co więcej, w podstawowej bazie danych wektorowych Pinecone, która jest obecnie dostępna w publicznej wersji zapoznawczej, wbudowano natywną funkcję wyszukiwania pełnotekstowego.
Program wczesnego dostępu do Nexusa i KnowQL jest teraz otwarty dla klientów i partnerów korporacyjnych. Uprawnieni użytkownicy to ci, którzy opracowują aplikacje natywne dla agentów w usługach finansowych, opiece zdrowotnej, usługach prawnych i branżach SaaS dla przedsiębiorstw – scenariusze wymagające od agentów przetwarzania złożonych, zastrzeżonych danych wiedzy.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/dyrektor ds. strategii globalnej
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Strona internetowa: www.qianxingdata.com/www.storageserver.com
Koncentracja biznesowa:
Dystrybucja produktów ICT/Integracja systemów i usługi/Rozwiązania infrastrukturalne
Dzięki ponad 20-letniemu doświadczeniu w dystrybucji IT współpracujemy z wiodącymi światowymi markami, aby dostarczać niezawodne produkty i profesjonalne usługi.
„Wykorzystanie technologii do budowy inteligentnego świata”Twój zaufany dostawca usług produktów ICT!
Twoja wiadomość musi mieć od 20 do 3000 znaków!
Polish
