logi-1.5b-gguf

LOGI 1.5B v5 — GGUF

Versões quantizadas em GGUF do LOGI 1.5B, um modelo educacional em português brasileiro criado para o jogo Decifra.IA.

O LOGI atua como tutor de:

• lógica proposicional: AND, OR, NOT, IMPLICA, BICONDICIONAL, tabelas-verdade, equivalências, falácias e regras de inferência;
• alfabetização em inteligência artificial: modelos, dados, treinamento, inferência, vieses, alucinação, RAG, privacidade e uso responsável;
• segurança digital relacionada à IA: phishing, deepfakes, engenharia social, prompt injection e proteção de dados.

Este repositório contém as quantizações da versão v5, treinada com 13.000 exemplos. Ela substitui a versão inicial do LOGI, que utilizava 1.183 exemplos.

Arquivos disponíveis

Para computadores variados e integração no jogo, comece com Q4_K_M. Use Q6_K quando a prioridade for qualidade e a diferença de desempenho for aceitável no hardware de destino.

Modelo de origem

Resultado do treinamento

As perdas de treino e validação diminuíram durante o treinamento. O checkpoint do passo 1000 apresentou a menor validation loss entre as avaliações registradas e foi restaurado antes da exportação.

Prompt de sistema recomendado

Use o mesmo prompt de sistema empregado no treinamento:

Voce e LOGI, tutor do jogo educativo Decifra.IA.

Seu escopo inclui:
- logica proposicional: AND, OR, NOT, IMPLICA, BICONDICIONAL, tabelas-verdade, equivalencias, falacias e regras de inferencia;
- alfabetizacao em IA: modelos, dados, treino, avaliacao, vies, alucinacao, RAG, privacidade, etica e uso responsavel;
- seguranca digital relacionada ao uso de IA: phishing, deepfakes, engenharia social e protecao de dados.

Responda em portugues, com linguagem simples e correta. Em calculos de logica, mostre os passos. Nas outras perguntas, responda de forma direta e didatica. Nao invente fontes, leis, numeros ou capacidades. Quando o tema estiver fora do escopo, diga isso brevemente e redirecione para logica, IA ou seguranca no uso de IA. Voce e um modelo local e nao acessa a internet em tempo real.

Usar o mesmo template e prompt do treinamento reduz respostas inconsistentes após a conversão para GGUF.

Uso com llama.cpp

Baixe uma das quantizações e execute:

llama-cli \
  --model logi-1.5b-v5.Q4_K_M.gguf \
  --ctx-size 1024 \
  --temp 0.2 \
  --conversation

Para iniciar um servidor local compatível com a API da OpenAI:

llama-server \
  --model logi-1.5b-v5.Q4_K_M.gguf \
  --ctx-size 1024 \
  --temp 0.2 \
  --port 8080

O nome exato do arquivo pode variar. Use o nome exibido na aba Files and versions.

Uso com llama-cpp-python

from llama_cpp import Llama

llm = Llama.from_pretrained(
    repo_id="guiiwfz/logi-1.5b-GGUF",
    filename="*Q4_K_M.gguf",
    n_ctx=1024,
    n_gpu_layers=-1,
    verbose=False,
)

resposta = llm.create_chat_completion(
    messages=[
        {
            "role": "system",
            "content": "Voce e LOGI, tutor de logica proposicional, alfabetizacao em IA e seguranca digital do jogo Decifra.IA.",
        },
        {
            "role": "user",
            "content": "Dado P = Verdadeiro e Q = Falso, qual o valor de P IMPLICA Q?",
        },
    ],
    temperature=0.2,
    max_tokens=300,
)

print(resposta["choices"][0]["message"]["content"])

Defina n_gpu_layers=0 para executar somente em CPU.

Uso com Ollama

Crie um arquivo chamado Modelfile no mesmo diretório do GGUF:

FROM ./logi-1.5b-v5.Q4_K_M.gguf

PARAMETER num_ctx 1024
PARAMETER temperature 0.2
PARAMETER top_p 0.9

SYSTEM """Voce e LOGI, tutor do jogo educativo Decifra.IA. Seu escopo inclui logica proposicional, alfabetizacao em IA e seguranca digital relacionada ao uso de IA. Responda em portugues, com linguagem simples. Em calculos de logica, mostre os passos. Quando o tema estiver fora do escopo, recuse brevemente e redirecione para logica ou IA."""

Depois execute:

ollama create logi-v5 -f Modelfile
ollama run logi-v5

Exemplos

Lógica proposicional

Pergunta:

Dado P = Verdadeiro e Q = Falso, qual o valor de P IMPLICA Q?

Resposta esperada:

Falso. Uma implicacao so e falsa quando o antecedente e verdadeiro e o consequente e falso.

Alfabetização em IA

Pergunta:

Uma resposta confiante de IA e garantia de que esta correta?

Comportamento esperado: explicar que o tom confiante não comprova correção e recomendar verificação em fontes confiáveis.

Segurança digital

Pergunta:

Recebi um audio do diretor pedindo um Pix urgente. O que faco?

Comportamento esperado: não realizar a transferência antes de confirmar o pedido por outro canal conhecido.

Limitações

• O modelo possui aproximadamente 1,5 bilhão de parâmetros e pode produzir respostas incorretas ou simplificadas.
• A conclusão de um exercício pode estar correta mesmo quando algum passo intermediário contém erro. Verifique raciocínios importantes.
• A cobertura de prompt injection, privacidade e cenários adversos ainda está em expansão.
• O modelo não acessa a internet e não deve afirmar que verificou informações em tempo real.
• Não substitui profissionais em decisões médicas, jurídicas, financeiras ou de segurança.
• A quantização pode causar pequena perda de qualidade em comparação com o modelo consolidado em 16 bits.

Escolha da quantização

• Escolha Q4_K_M para maior velocidade, menor consumo de memória e distribuição ampla.
• Escolha Q6_K se o hardware comportar o arquivo maior e você quiser preservar um pouco mais da qualidade original.
• Compare as duas versões com a mesma suíte de perguntas antes de escolher a versão usada no jogo.

Licença

Distribuído sob a licença Apache 2.0. Consulte o arquivo LICENSE e a licença do modelo base para mais detalhes.

Créditos

Desenvolvido por guiiwfz como parte do projeto educacional Decifra.IA.

Modelo base: Qwen/Qwen2.5-1.5B-Instruct.