Pola dan fan-out

Empat pola yang diterbitkan

fan-out spekulatif: kirim banyak pertanyaan dalam satu panggilan, termasuk yang bersifat spekulatif, lalu biarkan kode Anda menentukan mana yang relevan. Manfaat yang dicantumkan TypeSafe adalah biaya dan kecepatan. Demo rumah pintar menjadi contoh lengkapnya. Untuk "Matikan semua lampu di rumah", Anda tetap menanyakan kategori, domain, perangkat, dan tindakan sekaligus, termasuk pertanyaan tindakan sebelum mengetahui bahwa ujaran tersebut membahas lampu. Panggilan berurutan harus menunggu. Intinya adalah evaluasi paralel ditambah filter dalam kode.

Perutean berbasis gerbang keyakinan: gunakan keyakinan sebagai sumbu kedua untuk menentukan apakah tindakan perlu dilakukan. Manfaatnya adalah keandalan dan keamanan. Label tanpa gerbang keyakinan akan terpicu pada distribusi datar. Pasangkan Choice atau Score dengan ambang yang disesuaikan menurut risiko, dan pertahankan Noul pada sumbunya sendiri.

Penskoran komposit: uraikan penilaian menjadi skor atomik lalu gabungkan bobotnya dalam kode. Manfaatnya adalah biaya, keandalan, dan kecepatan. Jangan meminta Jev menghasilkan satu angka kualitas raksasa berskala 1-100. Nilai Score bukti, kesesuaian kebijakan, dan tingkat keparahan secara terpisah, lalu jumlahkan. Perutean intensi: klasifikasikan intensi dan arahkan ke logika, LLM, atau manusia. Manfaatnya adalah biaya dan kecepatan. Jev menentukan penangan yang dijalankan; ia tidak berubah menjadi penangan yang menulis balasan.

Contoh keputusan dari peta kasus penggunaan

Peta kasus penggunaan TypeSafe mencantumkan contoh industri, bukan kumpulan primitif kedua. Dukungan pelanggan mengklasifikasikan tiket, mendeteksi urgensi dan pengembalian dana, serta merutekan antrean. Klaim asuransi mengklasifikasikan catatan FNOL dan mengeskalasi berkas berisiko tinggi. Kejahatan finansial menilai narasi peringatan dan merutekan KYC yang ambigu. Bidang hukum dan kepatuhan mendeteksi klausul yang hilang serta klaim terlarang. Lokapasar niaga elektronik menormalkan daftar produk dan menandai indikasi barang palsu.

Moderasi menerapkan kriteria khusus perusahaan beserta tingkat keparahannya. Pemeriksaan iklan menilai keamanan merek dan keselarasan iklan dengan halaman tujuan. Dalam gim, sistem memoderasi percakapan, menilai frustrasi, dan mengarahkan dukungan pemain. Perekrutan menilai resume berdasarkan kriteria eksplisit yang berkaitan dengan pekerjaan. Perolehan prospek mencocokkan profil dengan ICP. Perutean Model memilih LLM yang menerima prompt. Pengaman LLM mendeteksi jailbreak, injeksi, dan pelanggaran kebijakan.

Pencarian dan pengambilan menilai relevansi kueri terhadap kandidat. Ekstraksi fitur mengubah bahasa menjadi fitur probabilistik untuk ML klasik. Penilaian risiko mengubah catatan insiden menjadi indikator. Graf mengklasifikasikan relasi dan mendeteksi kontradiksi. Linting kode semantik menjalankan pemeriksaan khusus tim dalam CI. Peramalan permintaan mengekstrak fitur intensi dan urgensi. Setiap baris menggambarkan bentuk keputusan, bukan alur kerja yang dihosting. Kode yang mengambil tindakan tetap menjadi tanggung jawab Anda.

Komposisikan dalam kode, bukan dalam satu prompt

Fan-out plus perutean berdasarkan keyakinan adalah pasangan yang lazim di produksi: ajukan lebih banyak pertanyaan daripada yang dibutuhkan, buang Noul yang tidak relevan, lalu jalankan tindakan otomatis hanya jika keyakinan Choice melewati ambang tinggi. Penilaian komposit digunakan ketika satu Score akan menyamarkan tiga penilaian berbeda. Perutean intensi menjadi pintu masuk yang menentukan apakah Jev, LLM, atau manusia yang menangani sisa permintaan.

Rangkaian evaluasi yang diterbitkan di evals.typesafe.ai mencakup Insiden Keamanan, Observabilitas Jejak Agen, Pemrosesan Faktur, dan Layanan Pelanggan. Angka 193.6x / 444.6x di beranda TypeSafe berasal dari evaluasi alur kerja tersebut dibandingkan rata-rata Astra dan Fable. Gunakan sebagai perbandingan terbitan TypeSafe, bukan sebagai angka yang diuji ulang oleh wiki ini.

Jika pola yang Anda perlukan tidak termasuk dalam keempat pola ini, Primitives tetap dapat dirangkai. Simpan alur kontrol baru di repositori Anda. Kirim catatan kepada TypeSafe jika Anda ingin pola itu dicantumkan dalam indeks dokumentasi. Rangkaian tambahan tetap berada dalam kode aplikasi hingga TypeSafe menerbitkan pola bernama lainnya.

Memilih pola untuk alur kerja

Mulailah dengan speculative fan-out setiap kali beberapa pertanyaan memakai satu state dan sebagian mungkin tidak berlaku. Ini merupakan pilihan bawaan untuk asisten, bot tiket, dan apa pun yang menyerupai sentral pengalih. Tambahkan perutean berbasis ambang confidence begitu jawaban dapat memicu efek samping: pengembalian dana, pemblokiran, transfer dana, atau deployment.

Gunakan penilaian komposit saat satu Score akan mencampur dimensi yang berbeda. Kualitas bukti, kesesuaian kebijakan, dan tingkat keparahan pelanggan adalah tiga Score, lalu gabungkan dengan jumlah berbobot yang Anda tentukan. Gunakan perutean intensi di batas sistem campuran yang juga memiliki LLM atau antrean manusia, agar Jev menentukan tujuan alih-alih mengerjakan tugas milik tujuan tersebut.

18 contoh keputusan di halaman ini adalah peta milik TypeSafe, bukan endpoint tambahan. Dukungan pelanggan, klaim, pagar pengaman, pencarian, dan gim tetap memanggil POST /v1/systemone dengan Choice, Score, dan Noul. Salin bentuk keputusannya, lalu tulis kriteria berdasarkan teks kebijakan Anda, bukan pustaka prompt generik.

Fan-out adalah pilihan bawaan. Tambahkan pagar keyakinan jika suatu label dapat membelanjakan uang atau memblokir pengguna. Pisahkan Score jika satu legenda akan mencampur sumbu yang berbeda. Tempatkan perutean intensi di batas dengan LLM. Keempat kalimat ini mencakup seluruh kumpulan pola yang diterbitkan.

Peta kasus penggunaan berisi delapan belas bentuk keputusan, bukan delapan belas API. Setiap baris tetap menjadi satu atau beberapa pertanyaan pada POST /v1/systemone. Salin bentuknya ke domain Anda, lalu tulis kriteria berdasarkan kebijakan Anda. Prompt moderasi generik yang bukan kebijakan Anda tidak akan cocok dengan peta ini.

fan-out spekulatif adalah pola yang namanya juga menjadi H1 halaman ini karena pola inilah yang diutamakan oleh TypeSafe. Tiga pola lainnya berada di bawahnya sebagai cara menggunakan jawaban setelah satu panggilan tersebut selesai.

Delapan belas contoh keputusan memakai satu nama keluarga, automation, karena semuanya merupakan penilaian oleh perangkat lunak, bukan lini produk kedua.