Mato V1.0 — el modelo insignia de Napsix
Mato es el asistente de IA entrenado en casa por Napsix —
una plataforma B2B agéntica donde los agentes corren solos: investigan, escriben,
operan herramientas y producen resultados (documentos, planillas, tableros,
formularios, sitios).
Este repositorio contiene el adapter LoRA (SFT) sobre Qwen/Qwen3.8-27B.
En producción se sirve como LoRA sobre el checkpoint FP8 del base, con
MTP speculative decoding y 256k de contexto, en GPUs spot de Daytona.
[!TIP]
¿Querés probarlo ya, gratis y sin clonar nada?
Mato está incluido en el AI Gateway de Napsix (API OpenAI-compatible):
https://www.napsix.com/api/gateway/v1 · modelo napsix/mato-v1.0
→ Crear una API key ·
Quickstart en 2 minutos
Qué puede hacer
- Tool calling nativo en el formato XML de Qwen (parser
qwen3_xml de
vLLM): llamadas correctas, argumentos válidos y recuperación ante fallos.
- Voz XIA: español neutro profesional (también portugués e inglés),
directo y conciso, sin relleno ni muletillas.
- Conocimiento de las superficies de Napsix: XIA, Agentes, Espacios
(Rooms, Projects, Inbox, CRM, Napsix Mail), Resultados (Docs, Sheets,
Dashboards, Forms, Sitios) y Conexiones (1000+ apps, WhatsApp, MCP, APIs).
- Conducta de producto: no inventa datos; pide clarificación (
ask_clarification)
cuando la tarea es ambigua; escala en vez de prometer lo que no puede.
- Heredado del base Qwen3.8-27B: contexto 256k, visión y multilingüismo.
La historia (por qué existe Mato)
Napsix cree en eficiencia, no en fuerza bruta: cada tarea va al modelo del
tamaño correcto. Pero el asistente de la casa necesitaba tres cosas que ningún
modelo externo daba juntas: control del protocolo de herramientas,
privacidad de los datos del producto y costo predecible. Entonces lo
entrenamos:
- F0–F1 · Dataset: trazas reales de la plataforma (anonimizadas) +
destilación con un teacher in-family (
qwen3.8-max) → conversaciones con
el chat template real de Qwen y tool-calls verificables.
- F2 · Entrenamiento: QLoRA (NF4, r=32, all-linear) en 1×H100 spot,
con checkpoints y resume real ante evictions.
- F3 · Evaluación: suite de tool-calling + judge LLM — mejora clara de
comportamiento sin regresión en herramientas.
- F4 · Deploy: LoRA servido en producción (FP8 + MTP + 256k) con el
mismo slug
napsix/mato-v1.0 y rollback de un comando.
- Loop: el corpus crece con la plataforma; un pipeline semanal propone
re-entrenamientos con aprobación humana.
Mato V1.0 está sirviendo en producción desde el 2026-09-17.
Cómo usarlo
Opción A — API (recomendada, gratis)
curl https://www.napsix.com/api/gateway/v1/chat/completions \
-H "Authorization: Bearer nsx_live_TU_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"napsix/mato-v1.0","messages":[{"role":"user","content":"Hola Mato"}]}'
También es drop-in con el SDK de OpenAI: cambiá baseURL y listo
(docs).
Opción B — local (transformers + peft)
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained(
"Qwen/Qwen3.8-27B", torch_dtype="bfloat16", device_map="auto"
)
tok = AutoTokenizer.from_pretrained("german-gimenez/mato-v1.0-sft")
model = PeftModel.from_pretrained(base, "german-gimenez/mato-v1.0-sft")
Opción C — vLLM (producción)
vllm serve Qwen/Qwen3.8-27B-FP8 \
--enable-lora --max-lora-rank 32 \
--lora-modules mato-tuned=german-gimenez/mato-v1.0-sft \
--tool-call-parser qwen3_xml --enable-auto-tool-choice
Ficha técnica
|
|
| Base |
Qwen/Qwen3.8-27B (Apache-2.0) |
| Adapter |
LoRA all-linear · r=32 · alpha=64 · 233M params (0.86%) |
| Entrenamiento |
QLoRA NF4, seq 4096, 6 epochs, 1×H100 spot |
| Eval (judge LLM) |
comportamiento: 6–2–1 vs base · tool-calling: sin regresión |
| Serving |
FP8 + LoRA + MTP + 256k · 3 réplicas spot auto-gestionadas |
| Idiomas |
Español (neutro B2B) · Portugués · Inglés |
Links
- Mato — https://www.napsix.com/mato
- Gateway API (gratis) — https://www.napsix.com/gateway
- Tu API key — https://www.napsix.com/dashboard/ai-gateway
- Developers — https://www.napsix.com/developers
- Status — https://www.napsix.com/status
Uso y licencia
- Licencia: Apache-2.0 (heredada del base). Atribución a Napsix y a
Qwen Team apreciada.
- Mato está pensado para asistentes B2B legítimos. No usar para spam,
desinformación, suplantación de identidad ni contenido dañino.
- "Mato" es una marca de Napsix. Si construís sobre Mato, aclará que es un
modelo de Napsix (ej. "powered by Mato V1.0 — Napsix").
About (English)
Mato V1.0 is Napsix's in-house assistant model: a LoRA SFT adapter over
Qwen/Qwen3.8-27B, trained on real (anonymized) product traces distilled with
an in-family teacher. It excels at tool calling, the XIA brand voice
(neutral professional Spanish, Portuguese, English) and Napsix product
knowledge — grounded, concise and honest. Serving: FP8 + LoRA + MTP + 256k on
spot H100s. Try it free via our OpenAI-compatible gateway:
https://www.napsix.com/api/gateway/v1 (model napsix/mato-v1.0) —
https://www.napsix.com/mato
Mato V1.0 by Napsix — https://www.napsix.com/mato
