Kai 1: Quyết định, không phải phần hoàn thành
Kai là mô hình quyết định của Hanzo, do Hanzo API phục vụ. Hãy đưa cho nó trạng thái tường minh và một câu hỏi có các phương án được liệt kê; nó trả về câu trả lời đã định kiểu và đã hiệu chuẩn — một lựa chọn, một điểm số, có hoặc không, hoặc một sự trì hoãn có lý do.
Trong trang này
Hầu hết các bước trong phần mềm vận hành không cần một đoạn văn. Chúng cần một câu trả lời mà phần mềm có thể hành động: gọi công cụ nào, bằng chứng đã đủ chưa, rủi ro nghiêm trọng đến mức nào, con người có phải ký duyệt hay không.
Hôm nay chúng tôi giới thiệu Kai 1, mô hình quyết định của Hanzo. Hãy đưa cho Kai các dữ kiện của một tình huống và một câu hỏi với các phương án được liệt kê. Kai trả về một câu trả lời đã định kiểu (một lựa chọn, một điểm số, có hoặc không, hoặc «chưa chắc, chuyển tiếp» đã hiệu chuẩn) kèm xác suất cho từng phương án.
Kai 1 đã chạy trên Hanzo API. Trọng số được đóng: Kai chỉ được phục vụ qua API.
Mô hình ngôn ngữ suy luận. Kai quyết định.
Khi bạn nhờ một mô hình ngôn ngữ ra quyết định, bạn nhận lại văn bản. Bạn phải phân tích nó, tin vào một con số độ tin cậy do mô hình bịa ra, và hy vọng đầu ra nằm trong giới hạn.
Kai được xây cho những bước mà như vậy chưa đủ. Câu trả lời của nó có giới hạn, xác suất được hiệu chuẩn, và không có gì phải phân tích. Mỗi câu trả lời của Kai thuộc một trong bốn kiểu:
- Lựa chọn: một phương án từ tập đã liệt kê, kèm xác suất cho từng phương án
- Điểm số: một đánh giá theo các mức do bạn định nghĩa
- Vị từ: có hoặc không, kèm xác suất của nó
- Chuyển tiếp: Kai chưa đủ chắc và giao quyết định cho một người hoặc một quy tắc
Bằng chứng vẫn gắn liền
Một quyết định không nên quan tâm bằng chứng bắt đầu là văn bản, hình ảnh hay số đọc cảm biến. Kai được thiết kế để nhận bằng chứng hỗn hợp và giữ nguồn gốc của nó gắn với mọi câu trả lời.
Một con số không có nguồn gốc chỉ là một con số.
Nhiều quyết định, một lượt
Vòng lặp tác tử hỏi từng câu một. Kai được thiết kế để chạy cả một chương trình quyết định trong một lượt: một trạng thái dùng chung, nhiều quyết định, phụ thuộc được viết rõ. Những câu trả lời chắc được khóa trước, và chỉ những câu chưa chắc mới được làm thêm.
Mục tiêu là một chương trình với hàng nghìn quyết định không cần hàng nghìn lần gọi mô hình nối tiếp.
Mọi quyết định đều có thể phát lại
Mỗi quyết định của Kai ghi lại phiên bản chương trình, dấu vân tay bằng chứng, bản sửa mô hình, phân phối xác suất đầy đủ, các phê duyệt và vết thực thi. Khi ai đó hỏi vì sao hệ thống làm điều đó, bạn có thể chỉ cho họ.
Kai hợp ở đâu
- Tác tử: chọn mô hình và công cụ, khi nào tiếp tục hoặc dừng, khi nào hỏi con người
- Quy trình nghiệp vụ: chấm điểm khách hàng tiềm năng, phát hiện ý định, hành động tốt nhất tiếp theo, chuyển cấp
- Hệ thống vật lý: phương tiện, robot, sản xuất, năng lượng và hạ tầng, nơi quyết định chạy trên dữ liệu cảm biến
Một phần của chồng Hanzo
Sinh văn bản và ra quyết định là hai việc khác nhau. Zen6 là họ mô hình sinh có trọng số mở của chúng tôi. Kai 1 đưa ra các quyết định có giới hạn và đã hiệu chuẩn. Enso định tuyến từng tác vụ đến mô hình mà tác vụ đó cần.
Nó chạy ở đâu
Kai chạy trên Hanzo API, tại POST https://api.hanzo.ai/v1/decisions, với giá $0.021 cho mỗi triệu token đầu vào, và đầu ra miễn phí. Trọng số không được công bố, và không có tùy chọn tự lưu trữ.
Tiếp theo là gì
Chúng tôi đang làm bảy câu hỏi nghiên cứu mở, và sẽ chỉ công bố kết quả khi chúng có thể được tái lập:
- Quyết định trên các tập phương án cực lớn
- Quyết định đa ngôn ngữ
- Giải mã với trạng thái dùng chung
- Khuếch tán quyết định (chỉ tinh chỉnh các câu trả lời chưa chắc)
- Bằng chứng đa phương thức
- Hiệu chuẩn và biết khi nào nên từ chối trả lời
- Tính nhất quán giữa các quyết định liên kết
Kết quả đầu tiên của Kai 1 đã được công bố. Trên 12 bộ chính của một bộ kiểm thử quyết định đã đóng băng, Kai 1 đạt trung bình 85.7% độ chính xác so với 78.0% của Jev. Nó chính xác hơn trên 11 trong 12 bộ, thua ở jailbreak (91.75% so với 94.0%), và sai số hiệu chuẩn thấp hơn trên 8 trong 12. Các lần chạy đó được đo trên CUDA; câu trả lời sản xuất chạy trên CPU. Kai 1 chưa cạnh tranh được trên các chương trình nhiều câu hỏi phụ thuộc nhau, trên câu hỏi có/không bị phủ định, ở mức 150 phương án trở lên, hoặc ở hiệu chuẩn cho quyết định đã định kiểu và jailbreak, và ở mức 1,000 phương án trở lên độ chính xác gần bằng không. Mọi bảng, kèm lần chạy mà từng con số xuất phát: hanzo.ai/kai và tài liệu Kai.
Đừng bắt một mô hình làm mọi việc
Gọi Kai qua Hanzo API ngay hôm nay.
Đọc tiếp
Mô hình quyết định là gì?
Mô hình sinh suy luận trong những đoạn văn không bị ràng buộc. Mô hình quyết định ra quyết định bằng các chuyển trạng thái đã định kiểu và đã hiệu chuẩn. Đây là lý do biên giới tiếp theo của AI không phải là sinh nội dung, mà là các quyết định.
Tối ưu thương mại headless trong kỷ nguyên LLM dạng agent
Người mua đang trở thành agent. Cần những gì để một LLM đọc được, ký được và thanh toán được khi không có người trong vòng lặp, và Hanzo đang giao gì cho việc đó hôm nay.
AI của bạn đang lên kế hoạch giết bạn
Vì sao các mô hình tiên phong thất bại khi mạng người thật bị đặt lên bàn cân, và Hanzo Kai 1.9 áp đặt an toàn tất định như thế nào.