Stan dla Jev

Dozwolone struktury

Najprostszy stan to zwykły ciąg znaków: „Moja karta została obciążona dwukrotnie”. Użyj go, gdy przypadek składa się z jednego fragmentu tekstu. Obiektu JSON użyj dla nazwanych pól, powiązanych rekordów lub stanu aplikacji, na przykład wiadomości z identyfikatorem zamówienia. Tablicy tekstu użyj dla sekwencji wiadomości lub rekordów. W Python przekaż odpowiedni string, dict lub list do client.system_one(state=...).

Strona TypeSafe o stanie zaleca obiekt dla większości żądań, aby każda część miała opisową nazwę. Rozmowa z obsługą, zamówienie z dwoma zarejestrowanymi obciążeniami i zasady zwrotów mogą znajdować się w jednym obiekcie. Nadal jest to jeden stan. Łącz powiązane informacje, gdy decyzja wymaga ich porównania. Nie ukrywaj drugiego pytania w nazwie pola.

Jev przyjmuje wyłącznie tekst. Stan musi być ciągiem znaków, obiektem JSON lub tablicą wartości tekstowych. Obrazy, dźwięk i filmy nie są obsługiwane. Angielski jest głównym językiem treningowym; inne języki, w tym pisma CJK, są akceptowane z niższą dokładnością. Informację o językach znajdziesz w karcie modelu. Piksele najpierw przekształć w pola i nie umieszczaj ich w żądaniu.

Oddziel treść od pytań

Stan zawiera treść i fakty pomocnicze. Pytania określają oceny. Umieść prośbę o zwrot środków i zasady w stanie, a następnie zapytaj, czy klient zażądał zwrotu i czy zasady go przewidują. Jeśli wkleisz pytanie do danych stanu, Jev nadal odpowie na pole instrukcji, a prompt zostanie powielony w miejscu zużywającym limit 32k dla stanu i najdłuższego pytania.

Duży stan pełen nieistotnych szczegółów jest udokumentowanym źródłem błędów w jev-1.13. Dokładność spada, ponieważ niepowiązana treść rozprasza model, a rozdęte dane utrudniają ustalenie, które pole doprowadziło do błędnej odpowiedzi. Najpierw filtruj w kodzie. Wysyłaj tylko pola potrzebne do odpowiedzi. Jeśli filtrowanie jest niemożliwe, Noul może przed główną oceną określić trafność fragmentu, jak w poradniku TypeSafe dotyczącym klasyfikacji fragmentów RAG.

Długość kontekstu jest ograniczona. Jev 1.13 dopuszcza 64k tokenów dla całego żądania oraz 32k dla stanu wraz z najdłuższym pytaniem. Spekulatywny fan-out łączy wiele krótkich pytań ze zwięzłym stanem. Jest to tańsze i dokładniejsze niż dołączanie pełnej historii zgłoszenia, gdy potrzebujesz tylko ostatniej wiadomości klienta i dwóch pozycji obciążenia.

Zgłoszenie pomocy technicznej jako stan

Udokumentowany obiekt zawiera ticket.subject, ticket.messages jako pary from/text, order.id, order.charges z polami amount i status oraz refund_policy w formie zdania. Przypadek podwójnego obciążenia staje się wtedy zestawem Nouls i Choices opartych na tym obiekcie, a nie rozmową, w której trzeba ponownie przytaczać zasady. Twój kod zna już kwoty; Jev ocenia, czy treść zawiera prośbę o zwrot i czy dane zdanie zasad ma zastosowanie.

W pętli gry takiej jak Doom stan jest ustrukturyzowanym tekstowym opisem świata, a nie klatkami obrazu. Demo TypeSafe przekazuje ten tekst z częstotliwością około 10 zapytań na sekundę. W przypadku Wikiracing stan obejmuje stronę i linki kandydujące. Dla asystenta inteligentnego domu stanem jest wypowiedź użytkownika wraz z listą urządzeń znajdującą się już w pamięci. Żadne z tych dem nie wysyła pikseli do Jev.

Jeśli pole w bazie danych jest liczbowe, przy ocenie semantycznej (np. „czy ten kolor wygląda jak ostrzeżenie”) wyślij nazwaną kategorię albo obliczoną liczbę, a działania na wartościach szesnastkowych pozostaw w kodzie. jev-1.13 znacznie gorzej interpretuje trójki RGB i wartości szesnastkowe niż angielskie nazwy kolorów. To samo dotyczy dat: wyodrębnij ich części za pomocą Choice, a następnie porównaj je w kodzie.

Limity i język

Okno żądania o rozmiarze 64k obejmuje stan oraz wszystkie pytania. Okno 32k obejmuje stan i jedno najdłuższe pytanie. Umieszczenie w stanie pliku PDF z zasadami o rozmiarze 20k pozostawia mało miejsca na mapę pytań, a ponadto może wywołać błąd spowodowany nieistotnymi szczegółami. Najpierw wyszukaj informacje, a potem wyślij dwa akapity potrzebne do oceny.

Obecnie najwyższą dokładność zapewnia język angielski. Jeśli zgłoszenia są po japońsku lub koreańsku, przetestuj próbkę, sporządź wykresy pewności Noul i Choice oraz zachowaj weryfikację przez człowieka, dopóki histogramy nie będą przypominać tych dla języka angielskiego. Model nadal przyjmie tekst; nie odrzuci po cichu pisma CJK.

Tablice tekstu służą do przechowywania sekwencji, a nie do przemycania drugiego schematu. Jeśli potrzebujesz nazwanych części, użyj obiektu. Jeśli potrzebujesz jednego bloku, użyj ciągu znaków. Umieszczenie adresu URL obrazu w ciągu znaków nie zapewni Jev widzenia — da jedynie Jev token adresu URL, który może zostać błędnie odczytany. Pobierz i opisz zawartość w procesach roboczych, a następnie wyślij opis.

Jeśli pole służy wyłącznie do prowadzenia dzienników, pomiń je w stanie. Identyfikatory pytań już zapewniają klucze do łączenia danych. Stan powinien zawierać dowody, które przeanalizowałby zespół ludzi. Ta zasada pomaga też zmieścić się w limicie 32k na stan i najdłuższe pytanie, gdy wątek zgłoszenia jest długi.

Nazwane pola są lepsze od wymyślnych formatów kodowania. order_id, charges[].status i refund_policy są czytelne zarówno dla Ciebie, jak i dla Jev. Pojedynczy połączony ciąg zawierający te same fakty jest dozwolony, ale gorszy. Wzorem jest udokumentowany obiekt zgłoszenia: ticket, order, policy, a następnie pytania odwołujące się do tych nazw.

Usuń dane osobowe, które nie są potrzebne do wydania oceny. Jev nie jest trenowany na żądaniach klientów, ale nadal trafiają one do twoich własnych logów. Mniejszy stan to zarówno sposób rozwiązania problemu opisanego w jaggedness, jak i dobra praktyka ochrony prywatności.

Tablica tekstu jest sekwencją, a nie zestawem nazwanych pól. Jeśli potrzebujesz nazw, użyj obiektu.