faxl

IA souveraine

naviguez aux frontières

Si vous achetez des milliards de tokens par jour, il est temps de gérer directement votre tokenomics : louez du matériel dans votre propre VPC, faites tourner vos propres modèles derrière un seul proxy, et gardez la maîtrise du cache.

Prendre rendez-vous

Pourquoi faxl

Vos coûts d'IA et votre parc vous échappent-ils ?

Les workflows agentiques critiques demandent une architecture d'IA de niveau entreprise. Si vos POC ont montré que l'IA agentique fonctionne, il est temps de s'occuper sérieusement de la faire tourner dans la durée.

Avec les API cloud, impossible de maîtriser les coûts au niveau du cache et du prefill, qui peut représenter 90 % de votre facture. Elles vous exposent aussi à la politique étrangère, aux hausses de prix brutales, et à l'impossibilité de gérer l'audit et la gouvernance de l'IA de façon centralisée. faxl vous apporte l'IA souveraine : un produit que vous faites tourner comme un SaaS interne, dans votre VPC. Il route le trafic, optimise la tokenomics, ajoute gouvernance, facturation et suivi de l'adoption, et le fait en s'appuyant sur une connaissance fine du matériel.

Réservez un appel avec nous pour voir comment reprendre le contrôle de votre parc d'IA et optimiser votre tokenomics.

VPC de l'entreprise Calcul GPU · cloud ou sur site loué à la demande Agent batch de nuit Agent requête matinale sur le corpus Agent workflow de longue durée prompts · rares, longs intervalles proxy faxl cache de prefill à vous · sur disque bon marché jamais invalidé reprise à chaud depuis le disque GPU ● actif GPU ○ éteint GPU ○ désalloué ou reconfiguré
Tout reste dans votre VPC. Le calcul GPU, dans le cloud ou sur site, n'est loué qu'au besoin et reprend à chaud depuis un disque qui vous appartient.

Contrôle des modèles

Délibéré, sûr et fiable

Télécharger des poids de modèles depuis des sources non fiables est risqué. Écriront-ils du code volontairement vulnérable ? Le problème n'est pas nouveau. Les entreprises utilisent déjà des outils comme Artifactory ou Nexus pour gérer des copies de confiance du code open source, et faxl apporte la même tranquillité pour les modèles à poids ouverts.

Ne confiez pas la gestion de vos modèles à des hubs publics où des acteurs malveillants peuvent agir. La passerelle entreprise de faxl inclut un coffre central pour les modèles validés et leurs versions optimisées, servis depuis l'intérieur de votre réseau : moins de risques, de l'auditabilité, et une revue de sécurité moins coûteuse.

Registre de modèles
Modèles et révisions approuvés, servis depuis votre parc, et non téléchargés à l'exécution depuis un hub public.
Une seule adresse
Un point d'accès compatible OpenAI pour toute l'entreprise. Les clients changent une URL, rien d'autre.
Contrôle du prefill en cache
Vous décidez de ce qui est préchauffé et conservé pour chaque modèle, au lieu de découvrir la politique du fournisseur sur votre facture.

Contrôles d'entreprise

Ce qu'un registre vous apporte, appliqué à l'inférence

faxl est à l'état du prefill et aux modèles ce qu'un dépôt d'artefacts est aux builds. Ce sont les contrôles qu'une équipe plateforme exige avant de mettre une infrastructure partagée en production.

Piste d'audit
Chaque requête est journalisée durablement (hash du prompt, tableau de hashs de préfixes, sondes de recherche, décision de cache, résultat), dans un ordre déterministe, et rejouable.
Télémétrie par tenant
Un espace de noms canonique sur le tenant, le modèle, la révision, le backend, le dtype et la configuration est apposé sur chaque enregistrement : chaque requête du parc est attribuable. Il empêche aussi qu'un état traverse la frontière d'un modèle ou d'un moteur, là où le réutiliser serait faux.
Vérifié avant usage
Hash exact du préfixe, puis confirmation token par token avant toute reprise. Les vendeurs chargent sur la confiance ; faxl vérifie.
Politique de rétention
Vous choisissez ce qui est conservé et pour combien de temps. L'exactitude ne dépend jamais de ce choix.
Attribution des coûts
Tokens servis, tokens évités et octets stockés, par département, par modèle et par application. Le prefill refait en silence devient une ligne de coût qui a un responsable.
Refacturation interne
Un relevé mensuel par équipe des dépenses d'IA sur l'infrastructure partagée : chaque département paie ce qu'il a consommé.
Analyse de l'adoption
Qui utilise l'IA, combien, et si cela progresse. Mesuré à partir du même enregistrement, sans sondage.
Résiste aux changements
L'état est conservé hors du GPU et restauré après un redémarrage, une désallocation ou un routage entre nœuds, c'est-à-dire dans les conditions où le cache d'un fournisseur s'évapore.
Charges à longs intervalles
Un contexte préchauffé survit entre les exécutions. Un corpus figé interrogé une fois chaque matin, ou un batch qui se réveille puis se rendort, garde son cache pendant l'intervalle d'inactivité.
Portabilité
Le cache est un blob hors GPU, indexé par espace de noms, qui ne dépend pas d'un processus en cours. Déplacez une charge entre clouds ou sur site, et l'état préchauffé la suit.
Fonctionnement isolé du réseau
Aucun appel vers l'extérieur, aucun serveur de licences, aucune dépendance managée. Transportez l'ensemble sur du matériel souverain, et tous les contrôles suivent.

Feuille de route

faxl est votre passerelle vers l'IA souveraine

Une équipe IA mutualisée, dans une grande organisation, cherche à offrir une capacité d'IA sûre et souveraine à des milliers de collaborateurs et à leurs agents. Tout ce que touche une requête (quel modèle, quels documents, ce qui est mémorisé, ce que cela a coûté) se décide au niveau du proxy. Le proxy est donc le service, et non un simple composant.

La direction que nous prenons est une interface faxl que vos équipes utilisent directement : le confort d'un assistant de chat public, mais au service de vos propres modèles, avec une recherche sur vos propres corpus plutôt que sur un service externe. Même passerelle, même audit, même attribution, et rien ne sort du parc.

Mesuré

Ce qui est démontré aujourd'hui

  • Prompt répété sur Kimi Linear 48B : premier token en 5 056 ms → 246 ms, sortie identique octet pour octet.
  • Testé sur Granite 4.0-h, Kimi Linear 48B et Qwen3-Next-80B, choisis parce que des analyses publiées en déduisent que Kimi K3 partage leur conception hybride récurrente, celle qui met en échec le cache de préfixe classique. Ce qui fonctionne sur ces modèles fonctionnera sur K3 le jour où ses poids seront publiés.
  • Session de code agentique de huit tours, store préchauffé : 98 % des tokens du prompt évités, session entière 4,4× plus rapide (77,0 s → 17,6 s), 8 réponses sur 8 identiques octet pour octet — Qwen3.6-35B-A3B-4bit sur un MacBook Pro de 128 Go. Qwen3.8-Flash-Next-OptiQ-2bit : 98,1 % évités, 3,1×.
  • Rejeu exact d'une charge de 40 tâches : 92 % évités.
  • 570 décisions de réutilisation adverses sur 570 correctes ; aucun état faux ou périmé servi.
  • Le portage NVIDIA/vLLM passe les mêmes critères d'identité octet pour octet sur GPU.

Les résultats sur votre parc dépendent de vos modèles, de votre trafic et de la part de vos prompts qui se répète. Apportez votre profil de trafic et nous le mesurerons.

Limites

faxl a besoin d'accéder à vos GPU

Il se place devant le moteur d'inférence : il fonctionne donc avec vLLM auto-hébergé sur NVIDIA et avec MLX sur Apple silicon. Il ne fonctionne pas avec les services externes des fournisseurs d'IA.

Parlons-en

faxl est en alpha et progresse tous les jours. Apportez votre profil de trafic et votre mélange de modèles, et nous vous montrerons ce qu'un cache préchauffé retire de votre facture, ce qu'il faudrait pour tout faire tourner sur votre propre matériel, et comment nous pouvons vous aider à explorer cette nouvelle frontière de l'IA.

Prendre rendez-vous

Andrew Morgan, Gamakon Ltd — andrew@gamakon.ai