khtst-multimodal-ptbr

KHTST — modelo multimodal PT-BR (v9: estado integral + autorregulação)

KHTST é a evolução do projeto AURORA (renomeação integral AURORA → KHTST, pedido do projeto) — um modelo multimodal compacto para PT-BR com roteamento por S-SOM, punição SGDR, punição de novidade restrita a empates de Voronoi, controle Reward/Punishment/Penalty (RPP) e janela de contexto 256K tokens (compressão indexada, doc 13).

14,89M parâmetros · vocab 16384 · 9 tarefas (lm/noticia/pontuacao/ instrucao/tts/vqa/ocr/imagem_caption/asr) · encoders imagem/áudio/vídeo.

GATE DE QUALIDADE: APROVADO (todas as métricas). O estado treinado publicado em estados/fase-v9/ superou o AURORA baseline em ppl_lm (2,76 vs 17,09 — −83,9%) e nas 9 perdas por tarefa, com treino em 3,24 h (último tempo registrado: 3,98 h — REDUZIDO em 0,74 h; teto rígido de 5 h respeitado) e RAM pico 3.262 MB ≤ 3.580 MB do AURORA. Tabela completa: comparacao_treino_v9.json (evolucao_integral).

Resultados desta corrida (estado RECARREGADO do disco — Teorema 20.2)

Todas as perdas por tarefa foram avaliadas no MESMO protocolo do baseline (3.548 registros PT-BR reais, mesmas sementes, mesmo tokenizador BPE 16k).

O que há de novo no v9 (provas em docs/matematica/20)

Como a autorregulação atuou NESTA corrida (evidência real, resumo_treino_v9.json):

1. Gate DPO: ROLLBACK. A fase DPO (93 passos) regrediu o ppl 3,28 → 10,45; o gate detectou no estado RECARREGADO e restaurou automaticamente o snapshot pre-dpo (Teorema 20.3 — o operador é não-expansivo).
2. Gate SOM: ROLLBACK. A consolidação SOM regrediu 2,44 → 2,74 (além da tolerância de 8%); rollback automático para pre-som.
3. O estado publicado (estados/fase-v9/) é o estado gate-aprovado, re-serializado com o protocolo integral v9.1 — sonda δ* = 0,0.

Verificações (tudo verde)

• Suítes herdadas v1–v6: 25+36+37+29+48 · v7: 44 · v9 (nova): 21 — captura/restauração bit-exata, sonda, higiene com tags protegidas, CIAR limitado, compatibilidade com snapshots legados.
• Item (b) no modelo treinado: APROVADO — 4 requisições recebidas ANTES da 1ª resposta, processamento serial, stop (cancelamento) e pause→continue honrados (teste_item_b_v9.json).

Treino desta corrida (dentro do teto de 5 h)

O que há de novo no v8 (itens a–j, com provas em docs/matematica/19)

ViT (evolução de video.py/blocos.py/microunidades.py): Token Merging (ToMe) com casamento bipartido único e auto-ajuste da fração de fusão; LRA-QViT com RB-LRA, WADS e STE — ramificações 1-bit ∥ 4-bit em paralelo detectando direção vetorial da iluminação (unitária) e intensidade, mapas 2-D de contorno/área; critério de vantagem da difusão (vantagem_difusao). Provas: Teos 19.19–19.24, 19.28.

Cython + C/C++: núcleos acelerado/nucleos.pyx (Kohonen sequencial + entropia/punição) com semântica sequencial exata (Teo 19.25) — speedup medido 17,89×, fallback puro-torch idêntico.

Gráficos de desempenho desta corrida (publicados apenas no card)

Nota honesta: a curva "AURORA (baseline)" refere-se à avaliação do baseline publicado (avaliacao_v6_anterior.json), corrida com a política de lr que o diagnóstico v8/v9 corrige; o KHTST v9 usa a política corrigida (SGDR com cooldown = T_0, guarda de aquecimento nas duas cláusulas, CIAR, gates).

Reprodução

python3 scripts/01_verificar_ambiente.py
python3 scripts/02_coletar_corpus.py          # retomável por fonte
python3 scripts/03_treinar_tokenizador.py
python3 scripts/04_treinar.py --orcamento 420 --teto_horas 5.0
python3 scripts/05_avaliar.py
python3 scripts/09_teste_item_b.py            # item (b) com o modelo real
python3 scripts/08_graficos_card.py           # gráficos + gates
python3 scripts/06_publicar_hf.py             # commit único (gate bloqueia estados)

Núcleos acelerados (Cython+C): o repo inclui nucleos.pyx (fonte), nucleos.c (C gerado) e o binário pré-compilado nucleos.cpython-312-x86_64-linux-gnu.so. Sem binário compatível, recompile ou use o fallback puro-torch (semântica idêntica, Teo 19.25):

cd src/khtst/acelerado && python3 setup.py build_ext --inplace
python3 -c "from khtst.acelerado import status; print(status())"
# {'backend': 'cython_c', 'cython_disponivel': True}

Estrutura

src/khtst/ — núcleo, percepção (atenção/microunidades/moe/vit_lra), memória (S-SOM + 8 variantes + janela 256K), treino (4 fases + RPP + SGDR + estado integral + CIAR + gates), servico (canal adhoc), quanta (8-bit + STE), telemetria (hub + gestor de memória), qualidade (Agente Engenheiro), acelerado (Cython+C). docs/matematica/00–20 — fundamentos, teoremas e provas. graficos/ — desempenho desta corrida (apenas no card).

Licença

MIT (herdada do projeto).