Demo Jev Doom
Doom, Wikiracing và fan-out nhà thông minh — không hệ thống nào gửi dữ liệu điểm ảnh.
Các bản demo chính thức trình diễn Jev trong vòng lặp Doom thời gian thực, bộ chọn Wikiracing có số lượng phương án lớn và trợ lý nhà thông minh. Doom dùng trạng thái văn bản có cấu trúc với khoảng 10 truy vấn mỗi giây và chi phí khoảng $7 mỗi giờ, thay vì khung hình. Wikiracing trên 255 liên kết dùng hệ thống hai giai đoạn: chấm điểm rồi lựa chọn. Bản demo nhà thông minh là ví dụ speculative fan-out hoàn chỉnh của TypeSafe. Hãy xem video ra mắt trên trang chủ để xem bản ghi công khai; trang này trình bày rõ ba vòng lặp.
Doom từ văn bản có cấu trúc
Demo Doom trong bài đăng ra mắt đưa vào phần mô tả trạng thái trò chơi bằng văn bản. Jev không đọc bộ đệm khung hình. Với khoảng 10 truy vấn mỗi giây, chi phí vào khoảng $7 mỗi giờ theo giá đầu vào đã công bố, còn token đầu ra miễn phí. Tốc độ đó chỉ là số liệu của demo, không phải QPS bắt buộc khi vận hành thực tế. Điểm chính là mô hình ra quyết định trong 70ms-500ms có thể chạy trong một vòng lặp vốn từng phải chờ lệnh gọi tạo sinh chậm chạp.
Hãy dựng trạng thái từ mọi dữ liệu engine đã biết: máu, thực thể nhìn thấy, mục tiêu. Đặt các Nouls và Choices mà bộ lập kế hoạch có thể dùng — có nên bắn không, chọn cửa nào, vật phẩm này có hữu ích không — và giữ phép toán chuyển động trong engine. Nếu bạn đang yêu cầu Jev đếm đạn, nghĩa là đã chạm cạnh gồ ghề về toán học. Hãy đếm trong mã; hỏi Jev xem chiến thuật hiện tại còn phù hợp với mục tiêu hay không.
Vòng lặp tương tự cũng áp dụng cho các mô phỏng khác. Mục typesafe/jev của Cloudflare là mục danh mục dành cho worker, không phải máy chủ Doom. Không có ứng dụng Steam. Hãy chạy bot qua api.typesafe.ai với jev-latest được ghim, hoặc dùng jev-1.13.0 nếu bạn đã tinh chỉnh các ngưỡng kiểm soát.
Doom
- input
- trạng thái game dạng văn bản có cấu trúc
- rate
- khoảng 10 truy vấn/giây
- cost
- khoảng $7/giờ
- pixels
- false
Wikiracing
- input
- liên kết trang Wikipedia
- cardinality
- hàng trăm đến hàng nghìn; >255 dùng chấm điểm hai giai đoạn
Trợ lý nhà thông minh
- pattern
- speculative fan-out
- Bản demo chính thức
- true
Wikiracing với số lượng phương án lớn
Wikiracing chọn liên kết Wikipedia tiếp theo để tiến tới trang đích. Số lượng phương án dao động từ hàng trăm đến hàng nghìn liên kết. Một Choice chỉ nhận tối đa 255 phương án, nên demo chấm điểm trước rồi chọn trong danh sách rút gọn. Mẫu hai giai đoạn này là giải pháp thực tế mỗi khi danh mục vượt giới hạn của Choice.
Giai đoạn một: dùng Score hoặc Noul cho từng ứng viên, hoặc chấm điểm theo lô, với câu hỏi "liên kết này hữu ích đến mức nào để tiến tới đích". Giai đoạn hai: chạy Choice trên K tên đứng đầu. Mã của bạn kiểm soát K, việc sắp xếp và truy cập. Jev không bao giờ phải xuất URL dưới dạng văn bản được tạo. Nếu trang có 40 liên kết, một Choice là đủ. Nếu có 800, đừng tự ý tăng maxOptions — giới hạn là 255.
Chỉ giữ nội dung trang trong trạng thái, không giữ toàn bộ bản sao của mọi bài viết được liên kết. Trạng thái lớn chứa đầy chi tiết không liên quan là một dạng lỗi đã được liệt kê. Hãy gửi bản tóm tắt trang hiện tại cùng tiêu đề các ứng viên. Nếu cuộc đua phụ thuộc vào ngày tháng hoặc số lượng, hãy trích xuất chúng bằng mã.
fan-out nhà thông minh và nơi Jev chạy
Bản demo trợ lý nhà thông minh chính thức đánh giá mỗi yêu cầu người dùng theo một danh sách dài câu hỏi, trong đó nhiều câu không liên quan đến phần lớn lời nói. Lệnh "Tắt toàn bộ đèn trong nhà" vẫn hỏi về danh mục, miền, thiết bị và hành động trong một lần gọi. Câu hỏi về hành động mang tính suy đoán: nó giả định là đèn trước khi biết chắc điều đó. Mã sẽ giữ các câu trả lời phù hợp và bỏ qua phần còn lại. Nếu gọi API tuần tự, hệ thống phải đợi biết thiết bị rồi mới hỏi hành động, làm mất lợi thế độ trễ.
TypeSafe nhúng video hướng dẫn Loom trong tài liệu demo. Hãy xem bản ghi đó tại docs.typesafe.ai/demos/smart-home thay vì bản sao ở đây. Kết hợp mô hình này với định tuyến có ngưỡng độ tin cậy để một Choice thiết bị có độ tin cậy thấp không bật tắt công tắc thật. Xác nhận các hành động hệ trọng trong bộ điều khiển nhà, không phải trong payload của Jev.
Jev hoạt động dưới dạng API: bảng điều khiển TypeSafe, HTTP và các SDK chính thức. Kênh Typesafe AI trên YouTube chưa có video tải lên, nên không có trailer YouTube chính thức để dựng giao diện thay thế. Instagram là typesafeai. Mã mời Discord là WUujKYBp8s. Tổ chức GitHub là typesafe-ai. Điều khoản truy cập sớm nêu rằng dữ liệu khách hàng không được dùng để huấn luyện. Nếu cần số liệu so sánh công khai, trang chủ của TypeSafe ghi nhanh hơn 193.6x và rẻ hơn 444.6x trên bốn bài đánh giá quy trình so với mức trung bình của Astra và Fable.
Đánh giá quy trình bên cạnh các bản demo
evals.typesafe.ai hiển thị các nhóm quy trình mà TypeSafe dùng để so sánh công khai: Sự cố bảo mật, Khả năng quan sát dấu vết tác tử, Xử lý hóa đơn và Dịch vụ khách hàng. Các số liệu 193.6x / 444.6x trên trang chủ là mức trung bình so với Astra và Fable ở những nhóm này, không phải đồng hồ trực tiếp đo lưu lượng của bạn.
Dùng trình xem đánh giá để thấy một luồng System One có thể được đặt cạnh các mô hình trò chuyện và suy luận trong cùng tác vụ. Jev vẫn chỉ trả về câu trả lời có kiểu. Bộ khung đánh giá thuộc về TypeSafe, không phải một bài chuẩn thứ ba do trang này chạy lại.
Khi tự dựng demo, hãy ghi nhớ ba vòng lặp chính thức: trạng thái văn bản gọn chạy ở khoảng 10 Hz (Doom), bài toán có số lượng phương án vượt giới hạn 255 của Choice (Wikiracing), và bản đồ câu hỏi suy đoán (nhà thông minh). Đây là những dạng mà TypeSafe thực sự đã phát hành, và tất cả đều không nhận điểm ảnh làm đầu vào.
Chỉ dựng lại demo khi bạn xác định được nó thuộc vòng lặp nào trong ba loại: trạng thái văn bản với vài truy vấn mỗi giây, danh mục lớn hơn 255, hoặc sơ đồ câu hỏi suy đoán. Nếu demo cần khung hình, bạn chưa thực sự trình diễn Jev 1.13.
Cách tính chi phí cho Doom dùng giá đầu vào công khai và đầu ra miễn phí. 10 truy vấn mỗi giây là tốc độ demo, không phải hạn ngạch. Hãy giữ dưới 1,200 RPM và 250,000 token mỗi giây, trừ khi bộ phận kinh doanh đã tăng giới hạn cho bạn. Con số $7/giờ là ví dụ minh họa của TypeSafe, không phải hóa đơn từ wiki này.
Hãy mở bài đăng ra mắt về Doom và Wikiracing, cùng tài liệu nhà thông minh để xem hướng dẫn từng bước về fan-out. Trang này là cẩm nang thực hành; các trang kia chứa bản ghi chính chủ.
Video trên trang chủ là bản ghi công khai. Doom, Wikiracing và nhà thông minh là ba vòng lặp mà bản ghi đó dùng để quảng bá.
Nguồn