เดโม Jev Doom
Doom, Wikiracing และ fan-out สำหรับบ้านอัจฉริยะ — ไม่มีรายการใดส่งข้อมูลพิกเซล
เดโมอย่างเป็นทางการแสดง Jev ในลูป Doom แบบเรียลไทม์ ตัวเลือก Wikiracing ที่มีตัวเลือกจำนวนมาก และผู้ช่วยบ้านอัจฉริยะ Doom ใช้ state แบบข้อความที่มีโครงสร้างด้วยอัตราประมาณ 10 คำขอต่อวินาทีและค่าใช้จ่ายประมาณ $7 ต่อชั่วโมง ไม่ได้ใช้เฟรม Wikiracing ที่ครอบคลุมลิงก์มากกว่า 255 รายการใช้ระบบสองขั้นตอน ให้คะแนนแล้วจึงเลือก เดโมบ้านอัจฉริยะเป็นตัวอย่าง speculative fan-out แบบละเอียดของ TypeSafe รับชมวิดีโอเปิดตัวในหน้าแรกเพื่อดูบันทึกที่เผยแพร่ต่อสาธารณะ ส่วนหน้านี้อธิบายลูปทั้งสามอย่างชัดเจน
Doom จากข้อความมีโครงสร้าง
เดโม Doom ในโพสต์เปิดตัวจะป้อนคำบรรยาย state ของเกม โดย Jev จะไม่เห็นเฟรมบัฟเฟอร์ ที่ประมาณ 10 คำขอต่อวินาที ค่าใช้จ่ายตามราคาอินพุตที่เผยแพร่จะอยู่ราว $7 ต่อชั่วโมง ส่วนโทเค็นเอาต์พุตไม่มีค่าใช้จ่าย อัตรานี้เป็นตัวเลขจากเดโม ไม่ใช่ QPS ที่ระบบใช้งานจริงต้องทำตาม ประเด็นคือโมเดลตัดสินใจที่ใช้เวลา 70ms-500ms สามารถทำงานในลูปที่เดิมต้องรอการเรียกโมเดลสร้างเนื้อหาซึ่งช้ากว่า
สร้าง state จากสิ่งที่เอนจินรู้อยู่แล้ว เช่น พลังชีวิต เอนทิตีที่มองเห็น และเป้าหมาย ถามด้วย Noul และ Choice ที่ตัววางแผนนำไปใช้ได้ เช่น ควรยิงหรือไม่ เลือกประตูไหน ไอเท็มนี้มีประโยชน์หรือไม่ และเก็บการคำนวณการเคลื่อนที่ไว้ในเอนจิน หากเริ่มขอให้ Jev นับกระสุน แสดงว่าคุณชนขอบ jagged ด้านคณิตศาสตร์แล้ว ให้นับในโค้ด และถาม Jev ว่ากลยุทธ์ปัจจุบันยังเหมาะกับเป้าหมายหรือไม่
ลูปเดียวกันนี้ใช้กับการจำลองอื่นได้ รายการ typesafe/jev ของ Cloudflare เป็นข้อมูลในแค็ตตาล็อกสำหรับเวิร์กเกอร์ ไม่ใช่โฮสต์ Doom และไม่มีแอปบน Steam ให้รันบอตกับ api.typesafe.ai โดยตรึง jev-latest หรือใช้ jev-1.13.0 หากปรับเกณฑ์คัดกรองไว้แล้ว
Doom
- input
- state เกมข้อความแบบมีโครงสร้าง
- rate
- ประมาณ 10 คำถาม/วินาที
- cost
- ประมาณ $7/ชั่วโมง
- pixels
- false
Wikiracing
- input
- ลิงก์หน้า Wikipedia
- cardinality
- หลักร้อยถึงหลักพัน; >255 ใช้การให้คะแนนสองขั้นตอน
ผู้ช่วยสมาร์ตโฮม
- pattern
- speculative fan-out
- เดโมอย่างเป็นทางการ
- true
Wikiracing เมื่อมีตัวเลือกจำนวนมาก
Wikiracing เลือกลิงก์ Wikipedia ถัดไปเพื่อมุ่งไปยังหน้าเป้าหมาย โดยมีจำนวนลิงก์ตั้งแต่หลักร้อยถึงหลักพัน Choice หนึ่งรายการรับตัวเลือกได้เพียง 255 ตัวเลือก เดโมจึงให้คะแนนก่อน แล้วค่อยเลือกจากรายชื่อที่คัดไว้ รูปแบบสองขั้นนี้เป็นทางออกที่ใช้ได้จริงเมื่อแค็ตตาล็อกมีขนาดเกินขีดจำกัดของ Choice
ขั้นแรก: ใช้ Score หรือ Noul กับผู้สมัครแต่ละรายการ หรือให้คะแนนเป็นชุดตามเกณฑ์ว่า "ลิงก์นี้ช่วยให้ไปถึงเป้าหมายได้มากเพียงใด" ขั้นสอง: ใช้ Choice กับชื่อ K อันดับแรก โค้ดของคุณควบคุม K การเรียงลำดับ และการเข้าชมเอง Jev ไม่ต้องส่ง URL ออกมาเป็นข้อความที่สร้างขึ้น หากหน้ามี 40 ลิงก์ ใช้ Choice ครั้งเดียวก็พอ หากมี 800 ลิงก์ อย่าคิดเพิ่ม maxOptions เอง เพราะเพดานคือ 255
เก็บข้อความของหน้าไว้ใน state ไม่ใช่ดัมป์บทความที่ลิงก์ถึงทั้งหมด state ขนาดใหญ่ซึ่งเต็มไปด้วยรายละเอียดที่ไม่เกี่ยวข้องเป็นหนึ่งในรูปแบบความล้มเหลวที่ระบุไว้ ให้ส่งสรุปหน้าปัจจุบันพร้อมชื่อผู้สมัคร หากการแข่งขันต้องใช้วันที่หรือจำนวน ให้แยกข้อมูลเหล่านั้นด้วยโค้ด
fan-out สำหรับบ้านอัจฉริยะ และตำแหน่งที่ Jev ทำงาน
เดโมผู้ช่วยสมาร์ตโฮมอย่างเป็นทางการประเมินคำขอของผู้ใช้แต่ละรายการกับชุดคำถามยาว ๆ ซึ่งหลายข้อไม่เกี่ยวข้องกับถ้อยคำส่วนใหญ่ แม้คำสั่ง "ปิดไฟทั้งหมดในบ้าน" ก็ยังถามหมวดหมู่ โดเมน อุปกรณ์ และการกระทำในการเรียกครั้งเดียว คำถามเรื่องการกระทำเป็นการคาดไว้ล่วงหน้า เพราะตั้งสมมติฐานว่าเป็นไฟทั้งที่ยังไม่ทราบข้อเท็จจริงนั้น โค้ดจะเก็บคำตอบที่ตรงและละทิ้งส่วนที่เหลือ หากเรียก API ตามลำดับ จะต้องรอให้ทราบอุปกรณ์ก่อนจึงถามการกระทำ และเสียข้อได้เปรียบด้านเวลาแฝง
TypeSafe ฝังวิดีโอแนะนำแบบ Loom ไว้ในเอกสารเดโม ดูวิดีโอนั้นที่ docs.typesafe.ai/demos/smart-home แทนสำเนาในหน้านี้ ใช้รูปแบบนี้ร่วมกับการกำหนดเส้นทางตามเกณฑ์ความเชื่อมั่น เพื่อไม่ให้ Choice อุปกรณ์ที่มีความเชื่อมั่นต่ำไปสับสวิตช์จริง ยืนยันการกระทำที่มีความเสี่ยงสูงในตัวควบคุมบ้านของคุณ ไม่ใช่ในเพย์โหลดของ Jev
Jev ทำงานเป็น API ผ่านคอนโซล TypeSafe, HTTP และ SDK ทางการ ช่อง Typesafe AI บน YouTube ยังไม่มีวิดีโออัปโหลด จึงไม่มีตัวอย่างทางการบน YouTube ให้นำมาแสดงแทน Instagram คือ typesafeai ลิงก์เชิญ Discord คือ WUujKYBp8s องค์กร GitHub คือ typesafe-ai ข้อกำหนดทางกฎหมายช่วงสิทธิ์เข้าถึงล่วงหน้าระบุว่าไม่นำข้อมูลลูกค้าไปใช้ฝึกโมเดล หากต้องการตัวเลขเปรียบเทียบสาธารณะ หน้าแรกของ TypeSafe ระบุว่าเร็วกว่า 193.6x และถูกกว่า 444.6x จากค่าเฉลี่ยการประเมินเวิร์กโฟลว์สี่รายการเมื่อเทียบกับ Astra และ Fable
การประเมินเวิร์กโฟลว์ควบคู่กับเดโม
evals.typesafe.ai แสดงกลุ่มเวิร์กโฟลว์ที่ TypeSafe ใช้ในการเปรียบเทียบสาธารณะ ได้แก่ เหตุการณ์ด้านความปลอดภัย การสังเกตการณ์ร่องรอยเอเจนต์ การประมวลผลใบแจ้งหนี้ และบริการลูกค้า ตัวเลข 193.6x / 444.6x บนหน้าแรกเป็นค่าเฉลี่ยเมื่อเทียบกับ Astra และ Fable ในกลุ่มเหล่านี้ ไม่ใช่มาตรวัดทราฟฟิกของคุณแบบสด
ใช้หน้าดูการประเมินเพื่อดูว่าเส้นทางของ System One ทำงานเคียงข้างโมเดลแชตและโมเดลให้เหตุผลในงานเดียวกันได้อย่างไร Jev ยังคงส่งคืนเฉพาะคำตอบแบบมีชนิด ชุดทดสอบประเมินเป็นของ TypeSafe ไม่ใช่เบนช์มาร์กจากบุคคลที่สามที่เว็บไซต์นี้นำมารันใหม่
เมื่อสร้างเดโมของคุณเอง ให้นึกถึงลูปทางการทั้งสามแบบ ได้แก่ ลูป state แบบข้อความที่ทำงานถี่ราว 10 Hz (Doom), โจทย์ที่มีตัวเลือกเกินขีดจำกัด 255 ของ Choice (Wikiracing) และแผนผังคำถามเชิงคาดการณ์สำหรับบ้านอัจฉริยะ นี่คือรูปแบบที่ TypeSafe เปิดตัวใช้งานจริง และทั้งหมดไม่รับพิกเซลเป็นอินพุต
สร้างเดโมใหม่เฉพาะเมื่อระบุได้ว่าเป็นลูปใดในสามแบบ: state ข้อความที่ยิงไม่กี่คำถามต่อวินาที แค็ตตาล็อกที่มีมากกว่า 255 รายการ หรือผังคำถามแบบคาดการณ์ล่วงหน้า หากเดโมต้องใช้เฟรม คุณก็ยังไม่ได้สาธิต Jev 1.13
การคำนวณค่าใช้จ่ายของ Doom ใช้ราคาอินพุตที่เปิดเผยต่อสาธารณะ โดยเอาต์พุตไม่มีค่าใช้จ่าย อัตรา 10 คำขอต่อวินาทีเป็นอัตราของเดโม ไม่ใช่โควตา โปรดใช้งานไม่เกิน 1,200 RPM และ 250,000 โทเค็นต่อวินาที เว้นแต่ฝ่ายขายจะเพิ่มเพดานให้แล้ว ตัวเลข $7/ชั่วโมงเป็นเพียงตัวอย่างของ TypeSafe ไม่ใช่ใบแจ้งหนี้จากวิกินี้
ไปยังโพสต์เปิดตัวเพื่อดู Doom และ Wikiracing และไปยังเอกสารบ้านอัจฉริยะเพื่อดูขั้นตอนการใช้ fan-out หน้านี้เป็นคู่มือภาคปฏิบัติ ส่วนหน้าเหล่านั้นคือบันทึกจากแหล่งข้อมูลทางการโดยตรง
วิดีโอหน้าแรกคือบันทึกที่เผยแพร่สู่สาธารณะ โดยมีไว้โปรโมตลูปทั้งสาม ได้แก่ Doom, Wikiracing และบ้านอัจฉริยะ
แหล่งที่มา