Demo Jev Doom

Doom na podstawie ustrukturyzowanego tekstu

W demonstracji Doom z wpisu premierowego model otrzymuje tekstowy opis stanu gry. Jev nie widzi bufora klatek. Przy około 10 zapytaniach na sekundę koszt wynosi mniej więcej $7 na godzinę według opublikowanej ceny wejścia, a tokeny wyjściowe są bezpłatne. To wartość demonstracyjna, a nie wymagana częstotliwość QPS w środowisku produkcyjnym. Pokazuje ona, że model decyzyjny 70ms-500ms może działać w pętli, która wcześniej czekała na powolne wywołanie generatywne.

Buduj stan z danych, które silnik już zna: zdrowia, widocznych obiektów i celów. Zadawaj pytania Nouls i Choices, których wyniki wykorzysta planer — czy strzelać, które drzwi wybrać, czy ten przedmiot jest przydatny — a obliczenia ruchu zostaw silnikowi. Jeśli prosisz Jev o policzenie amunicji, trafiasz na matematyczną poszarpaną krawędź. Licz w kodzie; zapytaj Jev, czy obecna taktyka nadal pasuje do celu.

Ta sama pętla sprawdza się w innych symulacjach. Wpis typesafe/jev autorstwa Cloudflare to pozycja katalogowa dla procesów roboczych, a nie serwer Doom. Nie istnieje aplikacja na Steam. Uruchom bota przez api.typesafe.ai, przypinając jev-latest, albo użyj jev-1.13.0, jeśli masz już dostrojone progi.

Wikiracing przy dużej liczbie opcji

Wikiracing wybiera kolejny link w Wikipedii, który prowadzi do strony docelowej. Liczba dostępnych linków sięga od setek do tysięcy. Pojedynczy Choice przyjmuje tylko 255 opcji, dlatego demonstracja najpierw je ocenia, a następnie wybiera z krótkiej listy. Ten dwuetapowy schemat jest praktycznym rozwiązaniem zawsze, gdy katalog przekracza limit Choice.

Etap pierwszy: zastosuj Score lub Noul do każdego kandydata albo oceniaj ich partiami pod kątem „przydatności linku w dotarciu do celu”. Etap drugi: Choice dla K najwyżej ocenionych nazw. To kod odpowiada za K, sortowanie i odwiedzenie strony. Jev nie musi generować adresu URL jako tekstu. Przy 40 linkach wystarczy jedno Choice. Przy 800 nie zakładaj większego maxOptions — limit wynosi 255.

Przechowuj w stanie tekst bieżącej strony, a nie pełną treść wszystkich podlinkowanych artykułów. Duży stan wypełniony nieistotnymi szczegółami jest wymieniony jako przyczyna błędów. Wysyłaj podsumowanie bieżącej strony wraz z tytułami kandydatów. Jeśli wyścig zależy od dat lub liczebności, wyodrębniaj je w kodzie.

fan-out inteligentnego domu i miejsce działania Jev

Oficjalne demo asystenta inteligentnego domu porównuje każde żądanie użytkownika z długą listą pytań, z których wiele nie ma znaczenia dla większości wypowiedzi. Polecenie „Wyłącz wszystkie światła w domu” nadal sprawdza kategorię, domenę, urządzenie i czynność w jednym wywołaniu. Pytanie o czynność jest spekulacyjne: zakłada światła, zanim zostanie to ustalone. Kod zachowuje pasujące odpowiedzi, a resztę ignoruje. Sekwencyjne wywołania API czekałyby z pytaniem o czynność do rozpoznania urządzenia, tracąc przewagę opóźnienia.

TypeSafe osadza instruktaż Loom w dokumentacji dema. Obejrzyj nagranie na docs.typesafe.ai/demos/smart-home zamiast jego kopii tutaj. Połącz ten schemat z routingiem opartym na progu pewności, aby Choice o niskiej pewności rozpoznania urządzenia nie przełączyło prawdziwego włącznika. Ryzykowne czynności potwierdzaj w kontrolerze domu, nie w danych zwracanych przez Jev.

Jev działa jako API: konsola TypeSafe, HTTP i oficjalne SDK. Kanał Typesafe AI w serwisie YouTube nie ma jeszcze filmów, więc nie istnieje oficjalny zwiastun YouTube, który można tu zastępczo wyświetlić. Instagram to typesafeai. Zaproszenie Discord: WUujKYBp8s. Organizacja GitHub: typesafe-ai. Warunki wczesnego dostępu stanowią, że dane klientów nie służą do trenowania. Jeśli potrzebujesz publicznego wyniku porównania, strona główna TypeSafe podaje 193.6x większą szybkość i 444.6x niższy koszt w czterech testach przepływów pracy względem średnich Astra i Fable.

Testy przepływów pracy obok dem

evals.typesafe.ai przedstawia rodziny przepływów pracy używane przez TypeSafe w publicznych porównaniach: incydenty bezpieczeństwa, obserwowalność śladów agentów, przetwarzanie faktur i obsługa klienta. Wartości 193.6x / 444.6x ze strony głównej są średnimi względem Astra i Fable dla tych rodzin, a nie bieżącym pomiarem Twojego ruchu.

Przeglądarka testów pokazuje, jak ścieżka System One wypada obok modeli konwersacyjnych i rozumujących w tym samym zadaniu. Jev nadal zwraca wyłącznie odpowiedzi określonego typu. Zestaw testowy należy do TypeSafe; nie jest to niezależny benchmark ponownie przeprowadzony przez tę witrynę.

Tworząc własną demonstrację, pamiętaj o trzech oficjalnych pętlach: zwartej reprezentacji stanu tekstowego przetwarzanej z częstotliwością około 10 Hz (Doom), problemie wyboru spośród liczby opcji przekraczającej limit 255 dla Choice (Wikiracing) oraz spekulacyjnej mapie pytań (inteligentny dom). To właśnie takie rozwiązania udostępnił TypeSafe i żadne z nich nie przyjmuje pikseli na wejściu.

Odtwarzaj demo tylko wtedy, gdy potrafisz wskazać, do której z trzech pętli należy: stanu tekstowego z kilkoma zapytaniami na sekundę, katalogu większego niż 255 albo spekulacyjnej mapy pytań. Jeśli demo wymaga klatek obrazu, nie demonstruje jeszcze Jev 1.13.

Koszt Doom obliczono na podstawie publicznej ceny wejścia i bezpłatnego wyjścia. Dziesięć zapytań na sekundę to tempo demonstracji, a nie limit. Nie przekraczaj 1,200 RPM ani 250,000 tokenów na sekundę, chyba że dział sprzedaży podniósł twój limit. Kwota $7/hour to przykład podany przez TypeSafe, a nie rachunek wystawiony przez tę wiki.

Przejdź do wpisu premierowego dotyczącego Doom i Wikiracing oraz do dokumentacji inteligentnego domu z omówieniem fan-out. Ta strona jest praktycznym przewodnikiem, natomiast tamte zawierają nagrania opublikowane przez twórców.

Film na stronie głównej jest publicznym nagraniem. Doom, Wikiracing i inteligentny dom to trzy pętle prezentowane w tym materiale.