Dari AI Niaga ke Model Terdepan: Dekade Infrastruktur Hanzo

Sebagian besar perusahaan AI bermula pada 2022. Kami mulai pada 2014.

Jarak itu lebih berarti daripada kedengarannya. Dua belas tahun keputusan infrastruktur, eksperimen yang gagal, rancangan protokol, dan intuisi produksi yang diperoleh dengan susah payah berpadu menjadi sesuatu yang tidak dapat dibeli atau ditiru: pengetahuan arsitektur yang dalam. Inilah kisah teknis bagaimana Hanzo beranjak dari mesin rekomendasi ecommerce ke menjalankan 94+ model terdepan pada skala inferensi.

2014: Fondasi — Crowdstart dan EARLE

Hanzo diluncurkan sebagai Crowdstart, platform AI niaga dengan masalah yang tampak spesifik secara menipu: memprediksi pelanggan mana yang akan membeli, pada harga berapa, pada waktu kapan — lalu bertindak atas prediksi itu secara otomatis.

Sistem pertama yang berakibat adalah EARLE — Entity-based Adaptive Recommendation Learning Engine. EARLE bukan filter kolaboratif yang sederhana. Ia memelihara graf entitas melintasi hierarki produk, segmen pelanggan, dan urutan perilaku, memperbarui bobot sisi secara waktu nyata saat aliran transaksi tiba. Penyimpanan data di bawahnya dibangun di atas lapisan kunci-nilai terdistribusi kami sendiri — keputusan sengaja untuk mengendalikan latensi di tingkat persistensi, alih-alih menerima kompromi basis data terkelola yang tersedia.

Yang EARLE ajarkan kepada kami: latensi adalah kendala desain kelas pertama, bukan tahap optimisasi belakangan. Rekomendasi yang tiba 200ms terlambat tidak terkirim — ia ditinggalkan.

2015: Analitik Waktu Nyata di Tepi

Pada 2015, EARLE tidak lagi cukup. Pelanggan membutuhkan bukan hanya rekomendasi, melainkan pipeline analitik perilaku yang utuh: analisis corong, pelacakan kohort, dan atribusi pendapatan lintas kanal pemasaran. Kami membangun mesin analitik streaming dengan penyerapan peristiwa sub-50ms dan latensi kueri dalam kisaran milidetik satu digit.

Pekerjaan ini menetapkan pola yang kami pegang sejak itu: miliki jalur kritis. Setiap komponen di jalur panas — serialisasi, pengindeksan, perencanaan kueri — ditulis menurut spesifikasi kami. Ketergantungan eksternal hanya ditoleransi di pinggiran.

Bus peristiwa pub/sub yang kami bangun pada 2015 untuk menghubungkan EARLE ke lapisan analitik adalah leluhur langsung infrastruktur peristiwa yang menopang platform Hanzo saat ini. Antarmukanya berubah. Arsitekturnya tidak.

2016: Optimisasi Pemasaran dengan Algoritma Genetika

Algoritma genetika untuk pemasaran terasa jelas jika dilihat ke belakang. Pada 2016, hampir tidak ada yang menjalankannya di produksi.

Sistem memelihara populasi konfigurasi kampanye — strategi bid, variasi materi kreatif, pohon segmentasi audiens — dan mengembangkannya melalui tekanan seleksi dari hasil konversi yang nyata. Mutasi dibatasi: kami membutuhkan keterulangan dan keterauditan, yang tidak dapat diberikan mutasi acak murni. Fungsi kebugaran bersifat multiobjektif sejak awal, menyeimbangkan pendapatan, margin, nilai umur pelanggan, dan kendala paparan merek.

Ini pengalaman pertama kami mengelola timbal balik eksplorasi-eksploitasi pada skala produksi. Pelajaran yang kami resapi: algoritma tidak dapat lebih cerdas daripada sinyal kebugarannya. Sampah masuk, sampah keluar bukan klise dalam ML — itu hukum arsitektur.

2017: Techstars dan Peluncuran Platform

Techstars '17. Kami memakai program itu bukan untuk validasi, melainkan untuk distribusi — hubungan ke pelanggan niaga enterprise yang skalanya akan menguji tegangan apa yang telah kami bangun.

Platform Hanzo diluncurkan pada akhir 2017 sebagai rangkaian AI Niaga terpadu yang pertama: rekomendasi EARLE, mesin optimisasi genetika, analitik waktu nyata, dan lapisan orkestrasi kampanye yang baru, semuanya terhubung melalui permukaan API yang terpadu. Arsitekturnya bersumber peristiwa sejak awal; setiap perubahan keadaan kampanye adalah peristiwa yang tahan lama, memberi kami jejak audit yang utuh dan kemampuan memutar ulang riwayat untuk pelatihan ulang model.

Techstars '17 mengajarkan sesuatu yang sudah kami duga: distribusi bukan masalah produk. Ia masalah infrastruktur. Anda tidak dapat menjual ke enterprise jika sistem Anda mati.

2018: Checkout 2.0 dan Deteksi Penipuan ML

Penipuan pembayaran adalah masalah yang sudah selesai bagi bank besar. Bagi platform niaga yang melayani pedagang pasar menengah, masalah itu belum selesai pada 2018.

Checkout 2.0 memperkenalkan deteksi penipuan bertenaga ML sebagai komponen checkout kelas pertama. Arsitektur modelnya adalah ensemble: pohon berpeningkat gradien untuk fitur tabular (komposisi keranjang, kecocokan alamat pengiriman dan penagihan, sidik jari perangkat) digabung dengan model urutan atas riwayat pesanan terkini. Ensemble itu sengaja dangkal — keterjelasan adalah persyaratan produk, bukan preferensi riset. Pedagang perlu memahami mengapa sebuah transaksi ditandai.

Sistem penipuan beroperasi pada latensi sub-100ms per keputusan, termasuk ekstraksi fitur, inferensi model, dan penerapan aturan. Ini menuntut runtime inferensi ditempatkan bersama layanan checkout, alih-alih dirutekan melalui API prediksi yang terpisah. Kompleksitas operasionalnya lebih tinggi; profil latensinya tidak dapat ditawar.

2019: API Gateway V1, Kriptografi Kisi, dan Ekosistem SDK

Tiga utas bersamaan pada 2019 yang baru bertemu bertahun-tahun kemudian.

API Gateway V1 lahir dari masalah praktis: kami memiliki sepuluh layanan internal dan empat puluh integrasi eksternal. Setiap layanan punya cerita autentikasi, pembatasan laju, dan observabilitasnya sendiri. Kami membangun lapisan gateway terpadu — belum menjadi gateway AI yang kami kirim hari ini, tetapi arsitektur dasar yang sama: perutean permintaan, middleware autentikasi, pembatasan laju per konsumen, pencatatan terstruktur. Hanzo AI Gateway pada 2026 adalah iterasi besar ketujuh dari sistem ini.

Riset kriptografi kisi bermula sebagai pekerjaan latar. Proses standardisasi Kriptografi Pascakuantum NIST sedang berjalan dan kami mengamatinya. Pertanyaan yang kami ajukan: jika kami membangun infrastruktur yang tahan lama, apa model ancaman kriptografis pada horizon 15 tahun? Jawabannya menunjuk jelas ke resistansi kuantum. Kami mulai mengintegrasikan CRYSTALS-Dilithium dan CRYSTALS-Kyber ke infrastruktur penandatanganan eksperimental kami — pekerjaan yang langsung memasok infrastruktur penandatanganan pascakuantum produksi pada tahun berikutnya.

Ekosistem SDK: SDK Hanzo pertama dikirim pada 2019, mencakup Python, TypeScript, dan Go. Prinsip desainnya adalah luas permukaan yang minimal dengan komposabilitas yang maksimal. Sejak itu kami telah mengirim enam generasi SDK. Prinsipnya tidak berubah.

2020: Kriptografi Pascakuantum di Produksi

Riset kisi dari 2019 masuk ke produksi pada 2020. Premis desainnya tajam: keamanan pascakuantum dari dasar, lapisan penandatanganan yang dapat menampung logika aplikasi sebagai urusan kelas pertama, dan karakteristik kinerja yang membuat tanda tangan tahan kuantum praktis pada skala.

Mesin penandatanganan memperkenalkan ronde komitmen berbasis ambang yang memberi jaminan deterministik dalam waktu terbatas, alih-alih mengandalkan pengambilan sampel berulang untuk keyakinan probabilistik. Hasil praktisnya: tanda tangan terverifikasi dalam waktu di bawah satu detik pada kondisi normal, dengan karakteristik degradasi yang dapat diprediksi di bawah beban adversarial.

Setiap kunci penandatanganan memakai CRYSTALS-Dilithium sejak awal. Bukan sebagai jalur peningkatan opsional — sebagai persyaratan dasar. Overhead kinerja tanda tangan pascakuantum itu nyata tetapi dapat dikelola; kami menerbitkan tolok ukur kami, termasuk optimisasi verifikasi tanda tangan berkelompok yang menurunkan overhead per tanda tangan ke bawah 0.3ms.

2021: Riset Multimodal dan Draf MCP Pertama

Kemampuan arsitektur transformer yang terbukti untuk menyatukan representasi teks, gambar, dan audio menjadi jelas bagi kami pada 2021. Kami memulai program riset multimodal yang akhirnya menjadi arsitektur Jin — kerangka encoder-decoder terpadu untuk pemahaman lintas modal.

Draf pertama Model Context Protocol muncul dari utas yang sejajar: kami membangun kerangka agen dan berhadapan dengan masalah mendasar mengelola keadaan lintas interaksi banyak giliran dengan model yang tidak punya memori tetap. Protokol MCP mendefinisikan antarmuka terstruktur untuk penjendelaan konteks, pengambilan memori, dan transfer keadaan antarmodel. Draf 2021 itu kasar. Implementasi produksi 2026 telah memproses lebih dari satu miliar operasi konteks.

2022: Protokol ASO dan Penyetelan Transformer Pertama

Dua sumbangan teknis dari 2022 yang membentuk empat tahun berikutnya.

Adaptive Swarm Optimization (ASO) adalah protokol optimisasi terdistribusi yang terilhami perilaku kawanan biologis. Di mana algoritma genetika memelihara anggota populasi yang diskret, ASO memelihara medan kerapatan kontinu di atas ruang parameter, dengan aturan pembaruan yang menyeimbangkan informasi gradien lokal terhadap kendala kerapatan global. Protokol ini dirancang untuk keadaan ketika fungsi objektif mahal untuk dievaluasi dan evaluasi tersebar di komputasi yang heterogen — kecocokan alami bagi sistem AI multiagen. Publikasi ASO pertama muncul pada akhir 2022.

Jalankan produksi penyetelan transformer yang pertama: kami menyetel transformer bobot terbuka berparameter 7B untuk pemahaman dokumen yang khas niaga. Jalankan itu menelan biaya komputasi $6,200 dan memakan waktu 48 jam. Model yang dihasilkan 11% lebih baik daripada dasar pada rangkaian evaluasi kami, dan jauh lebih baik pada distribusi tugas produksi kami. Yang lebih penting, pengalaman operasional — pipeline data, penyiapan pelatihan terdistribusi, pengelolaan checkpoint, harness evaluasi — menjadi cetakan bagi setiap jalankan pelatihan berikutnya. Mutu proses berskala; jalankan ad hoc tidak.

2023: HMM, Kerangka Agen, dan Riset PoAI

Hierarchical Model Merging (HMM) adalah jawaban atas masalah yang terus kami temui: kami punya beberapa model yang disetel, masing-masing unggul pada domain sempitnya, dan kami menginginkan model terpadu yang mewarisi yang terbaik dari semuanya. Rata-rata bobot yang naif menurunkan semua spesialis. HMM menerapkan strategi penggabungan hierarkis yang mengidentifikasi representasi khas domain di ruang bobot dan menjaganya selama penggabungan, alih-alih merata-ratakannya hilang. Teknik ini menunjukkan perbaikan 4-7% atas penggabungan naif pada evaluasi domain yang ditahan.

Kerangka agen: runtime agen Hanzo yang pertama dikirim pada 2023, dibangun di atas protokol MCP dengan penggunaan alat, pengambilan memori, dan perencanaan banyak langkah. Desainnya sengaja: agen adalah proses berkeadaan, bukan penangan permintaan tanpa keadaan. Runtime mengelola seluruh siklus hidup agen — inisialisasi, pengiriman alat, persistensi keadaan, pemulihan kesalahan. Membangun ini pada tingkat protokol, bukan sebagai kode aplikasi, membuat integrasi berikutnya menjadi langsung.

Riset konsensus Proof of AI (PoAI): dapatkah komputasi AI dibuat terverifikasi dan dipakai sebagai primitif konsensus? Pertanyaan risetnya tidak sepele — komputasi AI pada dasarnya nondeterministik di tingkat floating-point. Riset PoAI kami menjawabnya melalui skema kuantisasi deterministik yang membuat lintasan maju dapat diulang lintas perangkat keras, memungkinkan konsensus berbasis ambang atas keluaran model. Riset itu memasok arsitektur zLLM pada jaringan Zoo.

2024: Zen LM Bermula, Arsitektur Jin, Alat Hanzo MCP

Proyek Zen LM bermula pada 2024 dengan tesis yang sederhana: model bobot terbuka yang terbaik seharusnya dibangun oleh orang-orang dengan pengalaman produksi terbanyak dalam menjalankannya. Kami punya pengalaman itu.

Model Zen pertama adalah penyetelan model dasar Qwen3-series, menyasar profil kemampuan yang spesifik: pembangkitan kode, penalaran konteks panjang, mengikuti instruksi. Pipeline pelatihan yang dibangun pada 2022 berkembang untuk mendukung jalankan berparameter 70B+ tanpa rancang ulang yang mendasar — investasi pada proses itu terbayar.

Arsitektur Jin memformalkan riset multimodal kami menjadi sistem produksi. Jin memakai ruang token terpadu untuk teks, potongan gambar, dan spektrogram audio — tanpa encoder khas modalitas yang membutuhkan jalur pelatihan dan inferensi yang terpisah. Penyederhanaan arsitektur menghapus satu kelas utuh kompleksitas penyajian: satu model, satu runtime inferensi, banyak modalitas.

Alat Hanzo MCP dikirim sebagai implementasi publik pertama dari Model Context Protocol. Rangkaian alatnya mencakup pencarian web, eksekusi kode, operasi berkas, pengambilan memori, dan komunikasi antaragen. Lebih dari sepuluh ribu pengembang mengintegrasikan alat MCP pada kuartal pertama ketersediaannya.

2025: Keluarga Zen pada Skala, Arsitektur MoDE, dan zenlm.org

Sembilan puluh empat model. Itulah yang dicakup keluarga Zen pada akhir 2025.

Skala itu menuntut arsitektur penyajian yang tidak dapat dirancang tanpa riset BitDelta (arXiv:2402.10193): delta model yang disetel dikompresi menjadi representasi tanda 1-bit, menurunkan memori GPU per varian dari puluhan gigabita ke gigabita satu digit. Dengan bobot dasar bersama di memori GPU dan delta perilaku per model di lapisan cache, kami dapat menyajikan 14 varian Zen dari jejak infrastruktur yang sebelumnya cukup untuk dua atau tiga.

Zen MoDE — Mixture of Distilled Experts — adalah terobosan arsitektur yang menandai 2025. Model MoE tradisional melatih pakar dari nol. MoDE menggabungkan tiga teknik: inisialisasi pakar dari distilasi (alih-alih acak), Drop-Upcycling (arXiv:2502.19261) untuk memutus korelasi bobot antar pakar, dan protokol penggabungan HMM kami untuk mengkhususkan pakar sesudahnya tanpa pelatihan ulang penuh. Hasilnya: Zen4 Max mencapai mutu kelas 13B dengan total parameter 30B dan hanya 3B yang aktif per lintasan maju.

Varian Abliterated: pekerjaan penghapusan penolakan — diterapkan dengan hati-hati dan sengaja pada model yang diperuntukkan bagi riset dan penggunaan profesional — menunjukkan bahwa sifat perilaku dapat dilokalisasi di ruang bobot. Memahami di mana perilaku tinggal di dalam model adalah pengetahuan yang mendasar, bukan jalan pintas. Seri zen4-abliterated adalah keluarga model pertama yang dikirim dengan koordinat lokalisasi perilaku yang terdokumentasi.

2026: Hanzo AI Gateway dan yang Berikutnya

Peluncuran gateway pada Februari 2026 adalah puncak pekerjaan API gateway yang dimulai pada 2019: satu titik akhir untuk 100+ model, kompatibel dengan OpenAI, tanpa margin di atas harga penyedia pihak ketiga, dengan model Zen sebagai tingkat proprietari.

Utas riset yang aktif saat ini:

GT-QLoRA: adaptasi peringkat rendah terkuantisasi dengan gerbang yang dicairkan untuk penyetelan perilaku MoE. LoRA standar yang diterapkan pada model MoE membiarkan gerbang perutean tetap beku, sehingga penyetelan tidak memengaruhi pemilihan pakar. GT-QLoRA mencairkan parameter gerbang dengan pembaruan yang terkendala — struktur perutean dapat beradaptasi sementara kekhususan pakar tetap terjaga.

DSO (Decentralized Semantic Optimization): protokol yang mendasari arsitektur zLLM milik Zoo. Adaptasi tanpa komputasi melalui injeksi pengalaman, diatur oleh mekanisme DAO. Jarak antara biaya penyetelan ($15K+) dan biaya DSO ($18) itu nyata. Arsitekturnya produksi di jaringan Zoo.

MPC aman kuantum: protokol komputasi multipartai untuk bobot model yang memakai primitif pascakuantum. Jika bobot model adalah kekayaan intelektual paling berharga dalam infrastruktur AI, mereka layak mendapat perlindungan kriptografis yang setara dengan aset keuangan yang terbaik.

Dua belas tahun adalah waktu yang panjang dalam AI. Cukup panjang untuk melihat siklus hype datang dan pergi, melihat seluruh paradigma saling menggantikan, melihat perusahaan yang dibangun di atas SOTA tahun lalu runtuh ketika SOTA bergerak. Yang bertahan adalah infrastruktur: pipeline data, sistem penyajian, implementasi protokol, dan pengetahuan operasional yang diperoleh dengan susah payah, yang memungkinkan AI benar-benar dikirim dan dijalankan pada skala.

Kami telah membangun infrastruktur itu sejak 2014. Kami belum selesai.

Hanzo AI adalah Techstars '17. Kami membangun AI terdepan dan infrastruktur untuk menjalankannya. hanzo.ai