Jev

แพตเทิร์นและ fan-out

รูปแบบการประกอบที่เผยแพร่และตัวอย่างการตัดสินใจของ TypeSafe

TypeSafe เผยแพร่รูปแบบการประกอบสี่แบบ ได้แก่ speculative fan-out, การกำหนดเส้นทางด้วยเกณฑ์ค่าความมั่นใจ, การให้คะแนนแบบผสม และการกำหนดเส้นทางตามเจตนา รูปแบบเหล่านี้ช่วยให้โค้ดควบคุมลำดับการทำงาน ทักษะที่เอกสารต้องการคือการคิดเป็นการตัดสินใจย่อยที่นำมาประกอบกันได้ ควรอ่านเรื่องพื้นฐานและค่าความมั่นใจก่อน หน้านี้รวบรวมรูปแบบทั้งสี่และแผนผังกรณีใช้งานของการตัดสินใจในซอฟต์แวร์ที่ฝัง Jev ได้ ตั้งแต่การส่งต่อทิกเก็ตและเคลม ไปจนถึงข้อจำกัดป้องกัน การค้นหา และเกม เริ่มจาก fan-out

รูปแบบที่เผยแพร่ทั้งสี่แบบ

fan-out แบบคาดการณ์ล่วงหน้า: ส่งคำถามจำนวนมากในการเรียกครั้งเดียว รวมถึงคำถามที่คาดว่าอาจต้องใช้ แล้วให้โค้ดตัดสินว่าอะไรเกี่ยวข้อง ข้อดีที่ TypeSafe ระบุไว้คือประหยัดค่าใช้จ่ายและรวดเร็ว โดยมีเดโมบ้านอัจฉริยะเป็นตัวอย่างแบบลงมือทำ สำหรับคำสั่ง "ปิดไฟทั้งหมดในบ้าน" คุณยังคงถามหมวดหมู่ โดเมน อุปกรณ์ และการกระทำพร้อมกัน รวมถึงถามเรื่องการกระทำก่อนจะรู้ว่าข้อความนั้นกล่าวถึงไฟ หากเรียกแบบลำดับจะต้องรอแต่ละขั้น หัวใจสำคัญคือประเมินพร้อมกันแล้วใช้ตัวกรองในโค้ด

การกำหนดเส้นทางด้วยเกณฑ์ความเชื่อมั่น: ใช้ความเชื่อมั่นเป็นแกนที่สองในการตัดสินว่าจะดำเนินการหรือไม่ ข้อดีคือความน่าเชื่อถือและความปลอดภัย ป้ายกำกับที่ไม่มีเกณฑ์ความเชื่อมั่นอาจทำงานแม้การกระจายคะแนนจะแบนราบ จับคู่ Choice หรือ Score กับเกณฑ์ที่เข้มขึ้นตามความเสี่ยง และแยก Noul ไว้เป็นอีกแกนหนึ่ง

การให้คะแนนแบบองค์รวม: แยกคำตัดสินเป็นคะแนนย่อย แล้วรวมค่าน้ำหนักด้วยโค้ด ข้อดีคือประหยัดต้นทุน น่าเชื่อถือ และรวดเร็ว อย่าขอคะแนนคุณภาพก้อนใหญ่ 1-100 จาก Jev ให้ Score ประเมินหลักฐาน ความสอดคล้องกับนโยบาย และความรุนแรงแยกกัน แล้วจึงรวม การกำหนดเส้นทางตามเจตนา: จำแนกเจตนาแล้วส่งไปยังตรรกะ LLM หรือมนุษย์ ข้อดีคือประหยัดต้นทุนและรวดเร็ว Jev ตัดสินใจว่าจะเรียกตัวจัดการใด ไม่ได้กลายเป็นตัวจัดการที่เขียนคำตอบเอง

Four published TypeSafe patterns: fan-out, confidence routing, composite scoring, intent routing
การแตกแขนง การกำหนดเส้นทางตามความเชื่อมั่น การให้คะแนนแบบองค์รวม และการกำหนดเส้นทางตามเจตนา

fan-out แบบคาดการณ์ล่วงหน้า

ทำอะไร
ส่งคำถามหลายข้อ รวมถึงคำถามเชิงคาดการณ์ ในการเรียกครั้งเดียว
ประโยชน์
ต้นทุน, ความเร็ว

การกำหนดเส้นทางแบบมีเกณฑ์ความมั่นใจ

ทำอะไร
ใช้ความมั่นใจเป็นแกนที่สองเพื่อตัดสินใจว่าจะดำเนินการหรือไม่
ประโยชน์
ความน่าเชื่อถือ, ความปลอดภัย

การให้คะแนนแบบผสม

ทำอะไร
แยกการตัดสินเป็นคะแนนย่อยระดับอะตอม แล้วรวมค่าน้ำหนักในโค้ด
ประโยชน์
ต้นทุน, ความน่าเชื่อถือ, ความเร็ว

การกำหนดเส้นทางตามเจตนา

ทำอะไร
จำแนกเจตนาแล้วส่งต่อไปยังลอจิก, LLM หรือมนุษย์
ประโยชน์
ต้นทุน, ความเร็ว
การตัดสินตระกูลสิ่งที่ Jev ตัดสิน
งานสนับสนุนลูกค้าautomationจำแนกทิกเก็ต ตรวจจับความเร่งด่วนและคำขอคืนเงิน แล้วจัดเส้นทางคิว
การเคลมประกันautomationจำแนกบันทึก FNOL และยกระดับการเคลมที่มีความเสี่ยงสูง
อาชญากรรมทางการเงินautomationใช้ Score กับคำบรรยายการแจ้งเตือน และส่งต่อกรณี KYC ที่กำกวม
มาร์เก็ตเพลซอีคอมเมิร์ซautomationปรับรายการสินค้าให้เป็นมาตรฐานและทำเครื่องหมายสัญญาณของสินค้าต้องห้ามหรือสินค้าปลอม
การกลั่นกรอง ความน่าเชื่อถือ และความปลอดภัยautomationใช้เกณฑ์กลั่นกรองเฉพาะของบริษัทพร้อมระดับความรุนแรง
การโฆษณาautomationตรวจสอบความปลอดภัยของแบรนด์และความสอดคล้องระหว่างโฆษณากับหน้าแลนดิ้ง
เกมautomationกลั่นกรองแชต ให้คะแนนความหงุดหงิด และส่งต่อคำขอช่วยเหลือผู้เล่น
การสรรหาบุคลากรautomationใช้ Score กับเรซูเม่ตามเกณฑ์ที่เกี่ยวข้องกับงานอย่างชัดเจน
การสร้างลีดautomationจับคู่โปรไฟล์กับ ICP และส่งต่อเจตนาซื้อ
การกำหนดเส้นทางโมเดลautomationเลือก LLM ที่จะรับแต่ละพรอมต์
รั้วป้องกันสำหรับ LLMautomationตรวจจับการเจลเบรก การแทรกคำสั่ง และการละเมิดนโยบาย
การค้นหาและเรียกคืนข้อมูลautomationใช้ Score ประเมินความเกี่ยวข้องระหว่างคำค้นกับตัวเลือก แล้วจัดอันดับใหม่
การสกัดฟีเจอร์automationเปลี่ยนภาษาเป็นฟีเจอร์เชิงความน่าจะเป็นสำหรับ ML แบบดั้งเดิม
การประเมินความเสี่ยงautomationแปลงบันทึกเหตุการณ์เป็นตัวบ่งชี้ความเสี่ยงเชิงความน่าจะเป็น
กราฟและกราฟความรู้automationจำแนกความสัมพันธ์และตรวจหาความขัดแย้ง
การตรวจโค้ดเชิงความหมายautomationเรียกใช้การตรวจเชิงความหมายเฉพาะทีมใน CI
การพยากรณ์อุปสงค์automationสกัดฟีเจอร์ด้านเจตนาและความเร่งด่วนเพื่อใช้พยากรณ์

ตัวอย่างการตัดสินใจจากแผนผังกรณีใช้งาน

แผนผังกรณีใช้งานของ TypeSafe แสดงตัวอย่างตามอุตสาหกรรม ไม่ใช่ Primitives ชุดที่สอง ฝ่ายบริการลูกค้าจำแนกทิกเก็ต ตรวจจับความเร่งด่วนและคำขอคืนเงิน แล้วส่งต่อเข้าคิว งานสินไหมประกันจำแนกบันทึก FNOL และยกระดับแฟ้มความเสี่ยงสูง งานอาชญากรรมทางการเงินให้คะแนนคำบรรยายการแจ้งเตือนและส่งต่อ KYC ที่กำกวม ฝ่ายกฎหมายและกำกับดูแลตรวจจับข้อกำหนดที่ขาดหายและคำกล่าวอ้างต้องห้าม มาร์เก็ตเพลซอีคอมเมิร์ซปรับประกาศสินค้าให้เป็นมาตรฐานและทำเครื่องหมายสัญญาณสินค้าปลอม

งานกลั่นกรองใช้เกณฑ์เฉพาะบริษัทควบคู่ระดับความรุนแรง งานโฆษณาตรวจความปลอดภัยของแบรนด์และความสอดคล้องระหว่างโฆษณากับหน้า Landing Page เกมใช้กลั่นกรองแชต ให้คะแนนความหงุดหงิด และส่งต่อฝ่ายช่วยเหลือผู้เล่น งานสรรหาให้คะแนนเรซูเม่ตามเกณฑ์ที่เกี่ยวข้องกับงานอย่างชัดเจน งานหาลูกค้าเป้าหมายจับคู่โปรไฟล์กับ ICP การกำหนดเส้นทางโมเดลเลือก LLM ที่จะรับพรอมต์ มาตรการป้องกัน LLM ตรวจจับการแหกข้อจำกัด การแทรกคำสั่ง และการละเมิดนโยบาย

การค้นหาและดึงข้อมูลให้คะแนนความเกี่ยวข้องระหว่างคำค้นกับรายการตัวเลือก การสกัดคุณลักษณะแปลงภาษาเป็นคุณลักษณะเชิงความน่าจะเป็นสำหรับ ML แบบดั้งเดิม การประเมินความเสี่ยงแปลงบันทึกเหตุการณ์เป็นตัวชี้วัด กราฟใช้จำแนกความสัมพันธ์และตรวจจับข้อขัดแย้ง การตรวจโค้ดเชิงความหมายเรียกใช้การตรวจเฉพาะทีมใน CI การพยากรณ์อุปสงค์สกัดเจตนาและคุณลักษณะด้านความเร่งด่วน แต่ละแถวเป็นรูปแบบการตัดสินใจ ไม่ใช่เวิร์กโฟลว์ที่ให้บริการสำเร็จรูป คุณยังต้องเป็นเจ้าของโค้ดที่นำผลไปดำเนินการ

ประกอบด้วยโค้ด ไม่ใช่รวมไว้ในพรอมต์เดียว

การแตกแขนงร่วมกับการกำหนดเส้นทางตามความมั่นใจคือคู่หูมาตรฐานในระบบจริง: ถามให้มากกว่าที่ต้องใช้ ตัด Noul ที่ไม่เกี่ยวข้องออก แล้วดำเนินการอัตโนมัติเฉพาะเมื่อความมั่นใจของ Choice ผ่านเกณฑ์สูงเท่านั้น ส่วนการให้คะแนนแบบผสมเหมาะกับกรณีที่ Score เดียวจะกลบการตัดสินที่ต่างกันสามด้าน การกำหนดเส้นทางตามเจตนาคือด่านแรกที่ตัดสินว่าส่วนที่เหลือของคำขอจะส่งให้ Jev, LLM หรือมนุษย์

ชุดการประเมินที่เผยแพร่บน evals.typesafe.ai ได้แก่ เหตุการณ์ด้านความปลอดภัย การสังเกตการณ์ร่องรอยเอเจนต์ การประมวลผลใบแจ้งหนี้ และบริการลูกค้า ตัวเลข 193.6x / 444.6x บนหน้าแรกของ TypeSafe มาจากการประเมินเวิร์กโฟลว์เหล่านี้เทียบกับค่าเฉลี่ยของ Astra และ Fable ให้ใช้เป็นผลเปรียบเทียบที่ TypeSafe เผยแพร่ ไม่ใช่ตัวเลขที่วิกินี้ทดสอบซ้ำ

หากรูปแบบที่ต้องการไม่อยู่ในสี่แบบนี้ ก็ยังประกอบพริมิทีฟเข้าด้วยกันได้ เก็บโฟลว์ควบคุมใหม่ไว้ในรีพอซิทอรีของคุณ หากอยากให้แสดงในดัชนีเอกสาร ให้แจ้ง TypeSafe การประกอบแบบอื่นควรอยู่ในโค้ดแอปพลิเคชันจนกว่า TypeSafe จะเผยแพร่รูปแบบใหม่ที่มีชื่อกำกับ

การเลือกรูปแบบให้เหมาะกับเวิร์กโฟลว์

เริ่มด้วย speculative fan-out เมื่อคำถามหลายข้อใช้ state เดียวกัน และบางข้ออาจไม่เกี่ยวข้อง นี่คือค่าเริ่มต้นสำหรับผู้ช่วย บอตจัดการทิกเก็ต และระบบที่ทำหน้าที่คล้ายแผงสับสาย เพิ่มการกำหนดเส้นทางที่มีเกณฑ์ความมั่นใจทันทีเมื่อคำตอบอาจก่อให้เกิดผลข้างเคียง เช่น คืนเงิน แบน โอนเงิน หรือดีพลอย

ใช้การให้คะแนนแบบผสมเมื่อ Score เดียวจะรวมมิติที่ต่างกัน คุณภาพหลักฐาน ความสอดคล้องกับนโยบาย และความรุนแรงของปัญหาลูกค้า ควรเป็น Score สามค่า แล้วนำมารวมแบบถ่วงน้ำหนักในโค้ดของคุณ ใช้การกำหนดเส้นทางตามเจตนาที่ขอบของระบบผสมซึ่งมี LLM หรือคิวมนุษย์ด้วย เพื่อให้ Jev เลือกปลายทางแทนการทำงานของปลายทางนั้นเอง

ตัวอย่างการตัดสินใจ 18 รายการในหน้านี้คือแผนผังของ TypeSafe ไม่ใช่เอนด์พอยต์เพิ่มเติม งานสนับสนุนลูกค้า การเคลม รั้วป้องกัน การค้นหา และเกม ยังคงเรียก POST /v1/systemone พร้อม Choice, Score และ Noul ให้คัดลอกรูปแบบการตัดสินใจ แล้วเขียนเกณฑ์จากข้อความนโยบายของคุณแทนการใช้คลังพรอมต์ทั่วไป

การแตกแขนงคือค่าเริ่มต้น เพิ่มเกณฑ์ความมั่นใจเมื่อป้ายกำกับอาจทำให้เสียเงินหรือแบนผู้ใช้ แยก Score เมื่อคำอธิบายชุดเดียวจะรวมแกนที่ต่างกัน วางการกำหนดเส้นทางตามเจตนาไว้ตรงขอบเขตที่เชื่อมกับ LLM สี่ประโยคนี้ครอบคลุมชุดรูปแบบที่เผยแพร่ทั้งหมด

แผนผังกรณีใช้งานคือรูปแบบการตัดสินใจ 18 แบบ ไม่ใช่ API 18 ชุด แต่ละแถวยังคงกลายเป็นคำถามอย่างน้อยหนึ่งข้อบน POST /v1/systemone ให้ย้ายรูปแบบนั้นมาใช้กับโดเมนของคุณ แล้วเขียนเกณฑ์จากนโยบาย พรอมต์กลั่นกรองทั่วไปที่ไม่ใช่นโยบายของคุณจะไม่ตรงกับแผนผังนี้

fan-out แบบคาดการณ์ล่วงหน้าคือแพตเทิร์นที่มีชื่อเดียวกับ H1 ของหน้านี้ เพราะเป็นแนวทางที่ TypeSafe นำเสนอเป็นอันดับแรก ส่วนอีกสามแพตเทิร์นอยู่ภายใต้แนวทางนี้ โดยเป็นวิธีใช้คำตอบหลังการเรียกครั้งเดียวส่งผลลัพธ์กลับมา

ตัวอย่างการตัดสินใจ 18 แบบใช้ชื่อกลุ่มเดียวกันคือ automation เพราะทั้งหมดเป็นการตัดสินของซอฟต์แวร์ ไม่ใช่สายผลิตภัณฑ์ที่สอง

แหล่งที่มา