Kai 1: การตัดสินใจ ไม่ใช่การเติมข้อความ

ขั้นตอนส่วนใหญ่ในซอฟต์แวร์สำหรับงานจริงไม่ต้องการย่อหน้า สิ่งที่ต้องการคือคำตอบที่ซอฟต์แวร์นำไปทำต่อได้: จะเรียกเครื่องมือใด หลักฐานเพียงพอหรือไม่ ความเสี่ยงรุนแรงแค่ไหน และมนุษย์ต้องลงนามอนุมัติหรือไม่

วันนี้เราเปิดตัว Kai 1 โมเดลตัดสินใจของ Hanzo มอบข้อเท็จจริงของสถานการณ์และคำถามที่มีตัวเลือกให้ Kai มันจะคืนคำตอบที่มีชนิด (ทางเลือก คะแนน ใช่/ไม่ใช่ หรือ «ไม่มั่นใจ จึงเลื่อน» ที่ผ่านการปรับเทียบ) พร้อมความน่าจะเป็นของทุกตัวเลือก

Kai 1 ให้บริการแล้วบน Hanzo API น้ำหนักของโมเดลปิดไว้: Kai ให้บริการผ่าน API เท่านั้น

โมเดลภาษาใช้เหตุผล Kai ตัดสินใจ

เมื่อให้โมเดลภาษาตัดสินใจ สิ่งที่ได้กลับมาคือข้อความ คุณต้องแยกวิเคราะห์มัน เชื่อตัวเลขความมั่นใจที่โมเดลแต่งขึ้น และหวังว่าผลลัพธ์จะอยู่ในขอบเขต

Kai สร้างมาสำหรับขั้นตอนที่แบบนั้นไม่พอดี คำตอบมีขอบเขต ความน่าจะเป็นผ่านการปรับเทียบ และไม่มีอะไรต้องแยกวิเคราะห์ คำตอบทุกข้อของ Kai เป็นหนึ่งใน 4 ชนิด:

• ทางเลือก: หนึ่งตัวเลือกจากชุดที่ระบุไว้ พร้อมความน่าจะเป็นของแต่ละข้อ
• คะแนน: การให้ระดับตามขั้นที่คุณกำหนด
• ใช่/ไม่ใช่: ใช่หรือไม่ใช่ พร้อมความน่าจะเป็น
• เลื่อน: Kai มั่นใจไม่พอ และส่งการตัดสินใจให้คนหรือกฎ

หลักฐานติดไปกับคำตอบ

การตัดสินใจไม่ควรสนใจว่าหลักฐานเริ่มจากข้อความ ภาพ หรือค่าจากเซนเซอร์ Kai ออกแบบมาให้รับหลักฐานที่ปนกัน และเก็บที่มาไว้กับทุกคำตอบ

ตัวเลขที่ไม่มีที่มา เป็นเพียงตัวเลข

หลายการตัดสินใจ ในรอบเดียว

วงจรของเอเจนต์ถามครั้งละหนึ่งคำถาม Kai ออกแบบมาให้รันโปรแกรมการตัดสินใจทั้งชุดในครั้งเดียว: สถานะที่ใช้ร่วมกันหนึ่งชุด การตัดสินใจหลายรายการ โดยระบุความ의존ไว้ชัด คำตอบที่มั่นใจจะถูกล็อกก่อน และมีเพียงรายการที่ไม่แน่ใจเท่านั้นที่ได้รับการทำงานเพิ่ม

เป้าหมายคือ โปรแกรมที่มีการตัดสินใจนับพัน ไม่ควรต้องเรียกโมเดลแบบอนุกรมนับพันครั้ง

ทุกการตัดสินใจย้อนดูซ้ำได้

การตัดสินใจของ Kai แต่ละครั้งบันทึกเวอร์ชันของโปรแกรม ลายนิ้วมือของหลักฐาน รุ่นของโมเดล การแจกแจงความน่าจะเป็นทั้งหมด การอนุมัติ และร่องรอยการทำงาน เมื่อมีคนถามว่าทำไมระบบจึงทำอย่างนั้น คุณแสดงให้ดูได้

Kai เข้ากับงานใด

• เอเจนต์: การเลือกโมเดลและเครื่องมือ จะไปต่อหรือหยุด เมื่อใดควรถามมนุษย์
• งานธุรกิจ: การให้คะแนนลีด การตรวจจับเจตนา การกระทำถัดไปที่ดีที่สุด การส่งต่อให้สูงขึ้น
• ระบบกายภาพ: ยานพาหนะ หุ่นยนต์ การผลิต พลังงาน และโครงสร้างพื้นฐาน ที่ซึ่งการตัดสินใจทำงานบนข้อมูลเซนเซอร์

ส่วนหนึ่งของสแต็ก Hanzo

การสร้างข้อความกับการตัดสินใจเป็นคนละงาน Zen6 คือตระกูลโมเดลสร้างข้อความแบบเปิดน้ำหนักของเรา Kai 1 ทำการตัดสินใจที่มีขอบเขตและผ่านการปรับเทียบ Enso ส่งแต่ละงานไปยังตัวที่งานนั้นต้องการ

รันที่ใด

Kai รันบน Hanzo API ที่ POST https://api.hanzo.ai/v1/decisions ในราคา $0.021 ต่อโทเค็นขาเข้าหนึ่งล้านโทเค็น และโทเค็นขาออกฟรี น้ำหนักไม่มีการเผยแพร่ และไม่เปิดให้ติดตั้งใช้งานเอง

อะไรต่อไป

เรากำลังทำคำถามวิจัยที่ยังเปิดอยู่ 7 ข้อ และจะเผยแพร่ผลก็ต่อเมื่อทำซ้ำได้แล้วเท่านั้น:

1. การตัดสินใจบนชุดตัวเลือกที่ใหญ่ยิ่ง
2. การตัดสินใจหลายภาษา
3. การถอดรหัสสถานะที่ใช้ร่วมกัน
4. การแพร่ของการตัดสินใจ (ปรับให้ละเอียดเฉพาะคำตอบที่ไม่แน่ใจ)
5. หลักฐานหลายชนิดสื่อ
6. การปรับเทียบ และการรู้ว่าเมื่อใดควรงดตอบ
7. ความสอดคล้องระหว่างการตัดสินใจที่เชื่อมกัน

ผลชุดแรกของ Kai 1 เผยแพร่แล้ว บน 12 ชุดหลักของฮาร์เนสการตัดสินใจที่ตรึงไว้ Kai 1 ได้ความแม่นยำเฉลี่ย 85.7% เทียบกับ Jev ที่ 78.0% แม่นกว่าใน 11 จาก 12 ชุด ตามหลังใน jailbreak (91.75% เทียบกับ 94.0%) และความคลาดเคลื่อนของการปรับเทียบต่ำกว่าใน 8 จาก 12 การรันเหล่าวัดบน CUDA ส่วนคำตอบในงานจริงอยู่บน CPU Kai 1 ยังไม่สามารถแข่งขันได้ในโปรแกรมหลายคำถามที่พึ่งพากัน ในคำถามใช่/ไม่ใช่ที่ถูกปฏิเสธ เมื่อมีตัวเลือก 150 รายการขึ้นไป หรือในการปรับเทียบของการตัดสินใจที่มีชนิดและของ jailbreak และเมื่อมีตัวเลือก 1,000 รายการขึ้นไป ความแม่นยำใกล้ศูนย์ ทุกตาราง พร้อมการรันที่ตัวเลขแต่ละตัวมาจาก: hanzo.ai/kai และ เอกสารของ Kai

---