Mô hình System One

Điểm khác biệt so với LLM

LLM được huấn luyện để viết tiếp văn bản. Mô hình System One được huấn luyện cho các quyết định đã hiệu chuẩn: xác suất được tối ưu theo kết quả để phản ánh độ bất định trên các nhóm dự đoán. Hiệu chuẩn không đảm bảo một câu trả lời riêng lẻ là đúng, nhưng cho phép bạn đặt các ngưỡng trong mã—thực hiện, xét duyệt hoặc chuyển cấp—thay vì phân tích một đoạn văn.

Bạn không bao giờ yêu cầu Jev soạn email hay viết hàm. Bạn hỏi hàng đợi nào nên tiếp nhận phiếu hỗ trợ, khách hàng có vẻ bực bội đến mức nào hoặc tin nhắn có yêu cầu hoàn tiền hay không. Bảng trên trang khái niệm của TypeSafe dùng chính ba ví dụ đó: Choice trả về choice: "billing", Score có thể trả về 1.4 trên thang bực bội 0-2, còn Noul có thể trả về 0.95 cho phép kiểm tra hoàn tiền dạng có/không.

Tên System One bắt nguồn từ cuốn Thinking, Fast and Slow của Daniel Kahneman. System 1 nhanh và dựa vào trực giác. System 2 chậm hơn và cân nhắc kỹ hơn. TypeSafe giao phán định nhanh cho mô hình và luồng điều khiển chậm cho ứng dụng của bạn. Nếu tác vụ cần chuỗi suy luận gián tiếp dài hoặc viết tự do, phần việc đó thuộc về mô hình tạo sinh hoặc mã, không phải Jev 1.13.

Dùng RLCD thay cho RLHF

TypeSafe huấn luyện Jev bằng Reinforcement Learning for Calibrated Decisions (RLCD). RLHF là quy trình dùng để khiến mô hình trò chuyện trở nên chiều ý người dùng. RLVR là phương pháp thường dùng cho các mô hình suy luận dài. RLCD là phương pháp mà TypeSafe trình bày cho System One: thưởng cho các quyết định được hiệu chỉnh thay vì token trôi chảy. Bài đăng ra mắt cũng đề cập đến kiến trúc mới và bộ lấy mẫu song song, có thể đánh giá nhiều câu hỏi trên cùng một trạng thái.

Vì các trọng số được dùng chung, bạn không tinh chỉnh hoặc điều chỉnh Jev bằng LoRA với dữ liệu khách hàng. Hãy đưa hồ sơ độc quyền vào trạng thái. Mã hóa quy tắc chuyên ngành trong phần chỉ dẫn và tiêu chí. Chia một phán định rộng thành các câu hỏi nguyên tử rồi kết hợp các con số bằng mã. Chấm điểm tổng hợp và dùng một mô hình cổ điển ở bước sau trên xác suất của Jev là những cách chuyên biệt hóa được tài liệu hướng dẫn mà không cần huấn luyện bản sao riêng.

Jev hiện chỉ nhận văn bản. Chuỗi, đối tượng JSON và mảng văn bản đều hợp lệ; pixel và dạng sóng thì không. Tiếng Anh là ngôn ngữ huấn luyện chính; CJK và các hệ chữ khác vẫn được chấp nhận nhưng độ chính xác thấp hơn, vì vậy hãy kiểm thử trước khi chuyển tác vụ không dùng tiếng Anh vào đây. Theo dõi độ tin cậy của Choice và Score là cách thiết thực để giữ các ngôn ngữ yếu hơn sau bước duyệt của con người.

Phán định nhanh trong một quy trình lớn hơn

Với yêu cầu hoàn tiền, vòng lặp trong tài liệu là: tạo trạng thái gồm tin nhắn, giao dịch và chính sách; hỏi đồng thời các câu độc lập (có yêu cầu hoàn tiền không, bằng chứng có cho thấy tính phí trùng không, chính sách có cho phép không); sau đó kết hợp câu trả lời với các phép kiểm tra tất định rồi chuyển đi xử lý hoặc xét duyệt. Khi đã có Primitives, bạn có thể kết hợp chúng. Đầu ra có kiểu dữ liệu cho phép mã kiểm tra câu trả lời mà không cần bộ phân tích phần văn xuôi dư thừa.

fan-out suy đoán là mẫu giúp cách này ít tốn kém. Bạn gửi cả những câu hỏi có thể không cần, kể cả câu giả định một loại thiết bị hoặc ý định, rồi loại bỏ kết quả không liên quan sau lệnh gọi. Các lượt gọi tuần tự sẽ phải chờ từng bước. Jev đánh giá ánh xạ song song, nên câu hỏi bổ sung hầu như không làm tăng độ trễ. Vì vậy, bản demo nhà thông minh có thể hỏi đồng thời về danh mục, miền, thiết bị và hành động.

Gọi mô hình System One bằng typesafe-sdk, @typesafe-ai/sdk hoặc gửi POST đến https://api.typesafe.ai/v1/systemone. Trường model chọn bản dựng; các ví dụ trong tài liệu dùng jev-latest, hiện trỏ đến jev-1.13.0. Hãy bắt đầu với cấu trúc trạng thái và Primitives, rồi thêm ngưỡng độ tin cậy trước mọi tác dụng phụ tự động.

Những gì nằm ngoài System One

Theo cách gọi của Kahneman, tạo sinh, lập kế hoạch dài hạn và tác nhân dùng công cụ là công việc của System Two. Jev 1.13 sẽ không viết email hoàn tiền, câu lệnh SQL hay đoạn Wikipedia tiếp theo. Nó sẽ cho biết phiếu hỗ trợ có phải yêu cầu hoàn tiền không, hàng đợi nào nên tiếp nhận và mức độ chắc chắn của phán định đó. Hãy kết hợp nó với mô hình tạo sinh khi bạn thực sự cần đầu ra dạng token.

Việc xác định các số có giống nhau hay không cũng không phù hợp. Đếm, thứ tự ngày tháng và khoảng cách hệ thập lục phân phải được xử lý trong mã. Trang jaggedness là danh mục các trường hợp biên đó, được rà soát lần cuối vào 17 September 2026. Quy trình System One bỏ qua danh mục này có thể trông như đã được hiệu chỉnh nhưng vẫn định tuyến theo cách hiểu sai nghĩa đen.

Điểm ảnh vẫn bị loại khỏi đầu vào cho đến khi TypeSafe hỗ trợ hình ảnh. Doom, Wikiracing và trợ lý nhà thông minh đều gửi văn bản. Nếu sản phẩm của bạn dùng camera, hãy chuyển thành văn bản hoặc mô tả trước. Nếu sản phẩm dùng âm thanh, quy tắc tương tự cũng áp dụng. Ngân sách 64k và 32k dành cho token, không phải khung hình.

System One là một dòng sản phẩm hiện chỉ có một thành viên công khai. Nếu TypeSafe phát hành mô hình thứ hai trên cùng endpoint, bạn sẽ chọn mô hình bằng trường model. Cho đến lúc đó, jev-1.13.0 là ID có phiên bản đứng sau jev-latest và jev-preview. Hãy coi mọi mô hình trò chuyện hoặc suy luận khác là một lớp riêng, ngay cả khi chúng nằm trong cùng một quy trình tổng thể.

RLCD là phương pháp huấn luyện mà TypeSafe dùng để gọi lớp mô hình này, không phải tùy chọn bạn truyền trong yêu cầu. Bạn vẫn viết chỉ dẫn và tiêu chí, đồng thời vẫn kết hợp câu trả lời bằng mã. Điểm khác biệt nằm ở mục tiêu tối ưu trọng số: quyết định đã hiệu chuẩn chứ không phải token trò chuyện. Vì vậy, đầu ra là Choice, Score hoặc Noul thay vì một đoạn văn.

Dùng mô hình trò chuyện cho việc viết. Dùng Jev cho điểm cần rẽ nhánh quyết định. Cả hai có thể nằm trong cùng một quy trình nhưng không nên dùng chung lời nhắc. Sự phân chia đó chính là mục đích của việc đặt mô hình System One cạnh LLM.

Kahneman là nguồn gốc tên gọi, không phải một chế độ chạy. Bạn vẫn phải tự chọn Choice, Score hoặc Noul.