De l'IA commerciale aux modèles de frontière : la décennie d'infrastructure de Hanzo

La plupart des entreprises d'IA ont commencé en 2022. Nous, en 2014.

Cet écart compte plus qu'il n'y paraît. Douze ans de décisions d'infrastructure, d'expériences ratées, de conceptions de protocoles et d'intuitions de production chèrement acquises se composent en quelque chose que l'on ne peut ni acheter ni imiter : une connaissance architecturale profonde. Voici le récit technique de la façon dont Hanzo est passé d'un moteur de recommandation pour le commerce électronique à l'exécution de 94+ modèles de frontière à l'échelle de l'inférence.

2014 : les fondations — Crowdstart et EARLE

Hanzo a été lancé sous le nom de Crowdstart, une plateforme d'IA commerciale dont le problème, d'une spécificité trompeuse, était le suivant : prédire quels clients achèteraient, à quel prix et à quel moment, puis agir automatiquement sur cette prédiction.

Le premier système qui a vraiment compté fut EARLE — l'Entity-based Adaptive Recommendation Learning Engine. EARLE n'était pas un simple filtre collaboratif. Il maintenait des graphes d'entités à travers les hiérarchies de produits, les segments de clients et les séquences comportementales, et mettait à jour les poids des arêtes en temps réel à mesure que les flux de transactions arrivaient. Le magasin de données sous-jacent reposait sur notre propre couche clé-valeur distribuée : un choix délibéré, pour maîtriser la latence au niveau de la persistance plutôt que d'accepter les compromis des bases de données gérées alors disponibles.

Ce qu'EARLE nous a appris : la latence est une contrainte de conception de premier ordre, pas une passe d'optimisation. Une recommandation qui arrive 200ms trop tard n'est pas délivrée : elle est abandonnée.

2015 : l'analytique en temps réel à la périphérie

En 2015, EARLE ne suffisait plus. Les clients avaient besoin non seulement de recommandations, mais de pipelines complets d'analytique comportementale : analyse d'entonnoir, suivi de cohortes, attribution du revenu entre les canaux marketing. Nous avons construit un moteur d'analytique en streaming, avec une ingestion d'événements sub-50ms et une latence d'interrogation dans la plage des millisecondes à un chiffre.

Ce travail a fixé un schéma que nous tenons depuis : posséder le chemin critique. Chaque composant du chemin chaud — sérialisation, indexation, planification des requêtes — a été écrit selon nos spécifications. Les dépendances externes n'étaient tolérées qu'à la périphérie.

Le bus d'événements pub/sub que nous avons construit en 2015 pour relier EARLE à la couche d'analytique est l'ancêtre direct de l'infrastructure d'événements qui porte la plateforme actuelle de Hanzo. L'interface a changé. L'architecture, non.

2016 : l'optimisation marketing par algorithmes génétiques

Les algorithmes génétiques appliqués au marketing semblent évidents après coup. En 2016, presque personne ne les faisait tourner en production.

Le système maintenait une population de configurations de campagne — stratégies d'enchères, variations créatives, arbres de segmentation d'audience — et les faisait évoluer sous la pression de sélection exercée par de vrais résultats de conversion. Les mutations étaient bornées : il nous fallait la reproductibilité et l'auditabilité, ce qu'une mutation purement aléatoire ne pouvait pas garantir. La fonction d'aptitude était multi-objectifs dès le départ, et équilibrait revenu, marge, valeur vie client et contraintes d'exposition de marque.

Ce fut notre première expérience de la gestion du compromis exploration-exploitation à l'échelle de la production. La leçon que nous avons intégrée : l'algorithme ne peut pas être plus intelligent que son signal d'aptitude. Garbage in, garbage out n'est pas un cliché en apprentissage automatique : c'est une loi d'architecture.

2017 : Techstars et le lancement de la plateforme

Techstars '17. Nous avons utilisé le programme non pour la validation, mais pour la distribution : les liens avec des clients du commerce d'entreprise, dont l'échelle allait mettre à l'épreuve ce que nous avions construit.

La plateforme Hanzo a été lancée fin 2017 comme la première suite intégrée d'IA commerciale : recommandations EARLE, moteur d'optimisation génétique, analytique en temps réel et une nouvelle couche d'orchestration de campagnes, reliés par une surface d'API unifiée. L'architecture était event-sourced dès l'origine ; chaque changement d'état d'une campagne était un événement durable, ce qui nous donnait une piste d'audit complète et la capacité de rejouer l'historique pour réentraîner les modèles.

Techstars '17 nous a appris quelque chose que nous soupçonnions déjà : la distribution n'est pas un problème de produit. C'est un problème d'infrastructure. Vous ne pouvez pas vendre à des entreprises si vos systèmes tombent.

2018 : Checkout 2.0 et la détection de fraude par apprentissage automatique

La fraude au paiement est un problème résolu pour les grandes banques. Pour les plateformes de commerce qui servent des marchands du marché intermédiaire, il ne l'était pas en 2018.

Checkout 2.0 a introduit la détection de fraude par apprentissage automatique comme un composant de paiement de premier ordre. L'architecture du modèle était un ensemble : des arbres boostés par le gradient pour les traits tabulaires (composition du panier, correspondance des adresses de livraison et de facturation, empreinte de l'appareil) combinés à un modèle de séquence sur l'historique récent des commandes. L'ensemble était délibérément peu profond : l'interprétabilité était une exigence produit, pas une préférence de recherche. Les marchands devaient comprendre pourquoi une transaction avait été signalée.

Le système de fraude fonctionnait avec une latence sub-100ms par décision, extraction des traits, inférence du modèle et application des règles comprises. Cela exigeait de colocaliser le runtime d'inférence avec le service de paiement, plutôt que de router vers une API de prédiction séparée. La complexité opérationnelle était plus haute ; le profil de latence n'était pas négociable.

2019 : API Gateway V1, cryptographie sur réseaux et écosystème de SDK

Trois fils concurrents en 2019, qui n'ont convergé que des années plus tard.

API Gateway V1 est né d'un problème pratique : nous avions dix services internes et quarante intégrations externes. Chaque service avait sa propre histoire d'authentification, de limitation de débit et d'observabilité. Nous avons construit une couche de passerelle unifiée — pas encore la passerelle d'IA que nous livrons aujourd'hui, mais la même architecture de fond : routage des requêtes, middleware d'authentification, limitation de débit par consommateur, journalisation structurée. La Hanzo AI Gateway de 2026 est la septième itération majeure de ce système.

La recherche en cryptographie sur réseaux a commencé comme un travail de fond. Le processus de normalisation de la cryptographie post-quantique du NIST était en cours, et nous le suivions. La question que nous nous posions : si nous bâtissons une infrastructure durable, quel est le modèle de menace cryptographique sur un horizon de 15 ans ? La réponse désignait clairement la résistance quantique. Nous avons commencé à intégrer CRYSTALS-Dilithium et CRYSTALS-Kyber dans notre infrastructure expérimentale de signature : un travail qui a alimenté directement, l'année suivante, notre infrastructure de signature post-quantique en production.

Écosystème de SDK : les premiers SDK Hanzo sont sortis en 2019 et couvraient Python, TypeScript et Go. Le principe de conception était une surface minimale pour une composabilité maximale. Nous avons depuis livré six générations de SDK. Le principe n'a pas changé.

2020 : la cryptographie post-quantique en production

La recherche sur les réseaux de 2019 est passée en production en 2020. Les prémisses de conception étaient nettes : une sécurité post-quantique depuis la base, une couche de signature capable d'héberger la logique applicative comme préoccupation de premier ordre, et des caractéristiques de performance qui rendaient pratiques, à l'échelle, les signatures résistantes au quantique.

Le moteur de signature a introduit des tours d'engagement à seuil, qui fournissent des garanties déterministes dans un temps borné, plutôt que de s'appuyer sur un échantillonnage répété pour une confiance probabiliste. Le résultat pratique : les signatures se vérifient en moins d'une seconde dans des conditions normales, avec une dégradation prévisible sous charge adversariale.

Chaque clé de signature utilise CRYSTALS-Dilithium dès l'origine. Non comme une voie de mise à niveau facultative, mais comme une exigence de base. Le surcoût de performance des signatures post-quantiques est réel, mais maîtrisable ; nous avons publié nos bancs d'essai, y compris les optimisations de vérification de signatures par lots qui ont ramené le surcoût par signature sous 0.3ms.

2021 : recherche multimodale et les premières ébauches de MCP

En 2021, la capacité démontrée de l'architecture transformer à unifier les représentations de texte, d'image et d'audio nous est devenue claire. Nous avons lancé un programme de recherche multimodale qui est devenu l'architecture Jin : un cadre unifié encodeur-décodeur pour la compréhension intermodale.

Les premières ébauches du Model Context Protocol sont nées d'un fil parallèle : nous construisions des cadres d'agents et nous heurtions au problème fondamental de la gestion de l'état au fil d'interactions à plusieurs tours, avec des modèles sans mémoire persistante. Le protocole MCP définit une interface structurée pour le fenêtrage de contexte, la récupération de mémoire et le transfert d'état entre modèles. Les ébauches de 2021 étaient frustes. L'implémentation de production de 2026 a traité plus d'un milliard d'opérations de contexte.

2022 : le protocole ASO et le premier affinage d'un transformer

Deux contributions techniques de 2022 qui ont façonné les quatre années suivantes.

Adaptive Swarm Optimization (ASO) est un protocole d'optimisation distribuée inspiré du comportement des essaims biologiques. Là où les algorithmes génétiques maintiennent des membres discrets d'une population, ASO maintient un champ de densité continu sur l'espace des paramètres, avec des règles de mise à jour qui équilibrent l'information locale de gradient et des contraintes globales de densité. Le protocole a été conçu pour les cadres où la fonction objectif est coûteuse à évaluer et où les évaluations sont réparties sur du calcul hétérogène : un ajustement naturel pour les systèmes d'IA multi-agents. La première publication d'ASO est parue fin 2022.

Première exécution d'affinage d'un transformer en production : nous avons affiné un transformer à poids ouverts de 7B paramètres pour la compréhension de documents propre au commerce. L'exécution a coûté $6,200 de calcul et a pris 48 heures. Le modèle obtenu était 11% meilleur que la base sur notre suite d'évaluation, et nettement meilleur sur notre distribution de tâches de production. Plus important encore, l'expérience opérationnelle — pipelines de données, mise en place de l'entraînement distribué, gestion des points de contrôle, harnais d'évaluation — est devenue le modèle de chaque exécution d'entraînement suivante. La qualité du processus passe à l'échelle ; les exécutions ad hoc, non.

2023 : HMM, cadres d'agents et recherche PoAI

Hierarchical Model Merging (HMM) répondait à un problème que nous rencontrions sans cesse : nous avions plusieurs modèles affinés, chacun excellent sur son domaine étroit, et nous voulions un modèle unifié qui hérite du meilleur de chacun. Le moyennage naïf des poids dégrade tous les spécialistes. HMM applique une stratégie de fusion hiérarchique qui identifie les représentations propres à un domaine dans l'espace des poids et les préserve pendant la fusion, au lieu de les moyenner jusqu'à les dissoudre. La technique a montré une amélioration de 4-7% par rapport à la fusion naïve, sur des évaluations de domaine tenues à l'écart.

Cadres d'agents : le premier runtime d'agents de Hanzo est sorti en 2023, bâti sur le protocole MCP avec usage d'outils, récupération de mémoire et planification en plusieurs étapes. Le dessin était délibéré : les agents sont des processus à état, pas des gestionnaires de requêtes sans état. Le runtime gère le cycle de vie complet de l'agent : initialisation, répartition des outils, persistance de l'état, reprise sur erreur. Le construire au niveau du protocole, plutôt qu'en code applicatif, a rendu les intégrations suivantes directes.

Recherche de consensus Proof of AI (PoAI) : le calcul d'IA peut-il être rendu vérifiable et servir de primitive de consensus ? La question de recherche n'est pas triviale : les calculs d'IA sont par nature non déterministes au niveau de la virgule flottante. Notre recherche PoAI y a répondu par des schémas de quantification déterministe qui rendent les passages avant reproductibles d'un matériel à l'autre, et permettent ainsi un consensus à seuil sur les sorties du modèle. La recherche a alimenté l'architecture zLLM du réseau Zoo.

2024 : début de Zen LM, architecture Jin et outils Hanzo MCP

Le projet Zen LM a commencé en 2024 sur une thèse simple : les meilleurs modèles à poids ouverts doivent être construits par ceux qui ont le plus d'expérience de production à les faire tourner. Nous avions cette expérience.

Les premiers modèles Zen étaient des affinages de modèles de base Qwen3-series, visant des profils de capacité précis : génération de code, raisonnement à long contexte, suivi d'instructions. Le pipeline d'entraînement construit en 2022 a tenu des exécutions de 70B+ paramètres sans refonte de fond : l'investissement dans le processus a payé.

L'architecture Jin a formalisé notre recherche multimodale en un système de production. Jin utilise un espace de tokens unifié pour le texte, les patches d'image et les spectrogrammes audio : pas d'encodeurs propres à une modalité, qui exigeraient des chemins séparés d'entraînement et d'inférence. La simplification de l'architecture a éliminé toute une classe de complexité de service : un modèle, un runtime d'inférence, plusieurs modalités.

Les outils Hanzo MCP sont sortis comme la première implémentation publique du Model Context Protocol. La suite couvre la recherche web, l'exécution de code, les opérations sur fichiers, la récupération de mémoire et la communication entre agents. Plus de dix mille développeurs ont intégré des outils MCP au cours du premier trimestre de disponibilité.

2025 : la famille Zen à l'échelle, l'architecture MoDE et zenlm.org

Quatre-vingt-quatorze modèles. Voilà ce que comprenait la famille Zen à la fin de 2025.

L'échelle exigeait une architecture de service qui n'aurait pas pu être conçue sans la recherche BitDelta (arXiv:2402.10193) : des deltas de modèles affinés, compressés en représentations de signe 1-bit, qui ramènent la mémoire GPU par variante de dizaines de gigaoctets à des gigaoctets à un seul chiffre. Avec un poids de base partagé en mémoire GPU et des deltas comportementaux par modèle dans une couche de cache, nous pouvons servir 14 variantes de Zen depuis une empreinte d'infrastructure qui suffisait auparavant à deux ou trois.

Zen MoDE — Mixture of Distilled Experts — est la percée architecturale qui a défini 2025. Les modèles MoE traditionnels entraînent les experts depuis zéro. MoDE combine trois techniques : l'initialisation des experts par distillation (plutôt qu'au hasard), Drop-Upcycling (arXiv:2502.19261) pour briser la corrélation des poids entre experts, et notre protocole de fusion HMM pour spécialiser les experts a posteriori sans réentraînement complet. Le résultat : Zen4 Max atteint une qualité de classe 13B avec 30B paramètres au total et seulement 3B actifs par passage avant.

Variantes abliterated : le travail de suppression du refus — appliqué avec soin et délibérément à des modèles destinés à la recherche et à l'usage professionnel — a montré que les propriétés comportementales sont localisables dans l'espace des poids. Comprendre où le comportement vit dans un modèle est un savoir fondamental, pas un contournement. La série zen4-abliterated est la première famille de modèles livrée avec des coordonnées documentées de localisation du comportement.

2026 : Hanzo AI Gateway et la suite

Le lancement de la passerelle en février 2026 est l'aboutissement du travail de passerelle d'API commencé en 2019 : un seul point d'accès pour 100+ modèles, compatible OpenAI, sans majoration sur les fournisseurs tiers, avec les modèles Zen comme niveau propriétaire.

Fils de recherche actifs en ce moment :

GT-QLoRA : adaptation de bas rang quantifiée à portes dégelées, pour le réglage comportemental des MoE. La LoRA standard appliquée aux modèles MoE laisse les portes de routage gelées, ce qui empêche l'affinage d'agir sur la sélection des experts. GT-QLoRA dégèle les paramètres de porte avec des mises à jour contraintes : la structure de routage peut s'adapter, tandis que la spécialisation des experts est préservée.

DSO (Decentralized Semantic Optimization) : le protocole qui sous-tend l'architecture zLLM de Zoo. Adaptation à calcul nul par injection d'expérience, gouvernée par des mécanismes de DAO. L'écart entre le coût de l'affinage ($15K+) et le coût de DSO ($18) est réel. L'architecture est en production sur le réseau Zoo.

MPC sûr face au quantique : protocoles de calcul multipartite pour les poids de modèles, à l'aide de primitives post-quantiques. Si les poids des modèles sont la propriété intellectuelle la plus précieuse de l'infrastructure d'IA, ils méritent une protection cryptographique équivalente à celle des meilleurs actifs financiers.

Douze ans, c'est long en IA. Assez long pour voir les cycles d'engouement aller et venir, des paradigmes entiers se remplacer, et des entreprises bâties sur le SOTA de l'an dernier s'effondrer quand le SOTA bouge. Ce qui survit, c'est l'infrastructure : les pipelines de données, les systèmes de service, les implémentations de protocoles et le savoir opérationnel chèrement acquis, qui rendent possible de vraiment livrer et faire tourner l'IA à l'échelle.

Nous bâtissons cette infrastructure depuis 2014. Nous n'avons pas fini.

Hanzo AI est Techstars '17. Nous bâtissons l'IA de frontière et l'infrastructure pour la faire tourner. hanzo.ai