Velvet-2B-1.5
14 de outubro de 2025
Um modelo pequeno e altamente otimizado, projetado para entregar alto desempenho mesmo em implantações de borda.
A essência de Velvet-2B-1.5
A versão atualizada do menor modelo da família foi projetada para se adaptar efetivamente a tarefas específicas e a uma ampla gama de casos de uso. Seu tamanho compacto e alta otimização oferecem desempenho confiável mesmo em ambientes de implantação com recursos limitados ou na borda.
Idiomas
Arquitetura
Modelo de linguagem auto-regressivo com um design causal baseado apenas em transformadores, construído sobre 28 camadas de transformador.
Conjunto de Dados de Treinamento
3 trilhões de tokens.
Janela de Contexto
32K tokens.
Parâmetros
2 bilhões de parâmetros.
Vocabulário
127K
Fichas.
Segurança
Mais de 50 mil exemplos gerados por humanos para instruções de segurança.
Licença
Peso aberto com licença Apache 2.0.
Especialização
Exemplos sintéticos de 1M para SFT.
Frescura dos Dados
Data de corte dos dados: junho de 2025.
Capacidades
Resposta a perguntas
Tradução automática
Extração de informações
Raciocínio avançado
Classificação de texto
Implicação textual
Completação de texto
Interface de linguagem natural
RAG
Sumarização
Paráfrase
Desempenho Avaliação
Um Conselho de Avaliação Independente comparou o Velvet com outros modelos sob parâmetros 30B construídos do zero, utilizando várias métricas para avaliar o raciocínio lógico, as capacidades de resolução de problemas e a capacidade de ir além das correlações estatísticas.
Língua italiana
| Categoria | Referência | Velvet-2B |
|---|---|---|
| Geral | MMLU (5 tiros) | 39.6 |
| Bom senso | Hellaswag (0 tiros) | 54.3 |
| WinoGrande no banco ITA (0 tacadas) | 61.9 | |
| PIQA ITA - Banco (0-shot) | 67.3 | |
| SciQ ITA-supino (0-shot) com p. | 86.6 | |
| Raciocínio | ARC-Challenge (0-shot) | 41.7 |
Língua inglesa
| Categoria | Referência | Velvet-2B |
|---|---|---|
| Geral | MMLU (5 tiros) | 43.4 |
| Seguindo a Instrução | IFEval (0-shot) | 53.2 |
| Bom senso | Hellaswag (10 tiros) | 65.0 |
| WinoGrande (0 de tiro) | 60.9 | |
| Raciocínio | ARC-Challenge (25 tiros) | 50.6 |
Essas métricas avaliam seu raciocínio científico, capacidade de gerar respostas plausíveis e contextualmente relevantes baseadas no bom senso e compreensão geral em múltiplos assuntos, focando em fornecer respostas precisas e informadas.
Por que Velvet-2B-1.5
Velvet-2B-1.5 foi projetado para ajuste fino eficiente em tarefas especializadas, tornando-se uma solução flexível para diferentes casos de uso. Nem todos os desafios exigem a mesma abordagem; Alguns cenários exigem velocidade e escalabilidade, enquanto outros enfrentam restrições relacionadas ao custo ou à capacidade de hardware.
Volumes Altos
O Velvet-2B oferece uma solução ágil e responsiva para organizações que lidam com grandes volumes de dados em tempo (quase) tempo real, mantendo um equilíbrio ótimo entre velocidade e desempenho.
Escopo mais restrito
A Velvet-2B entrega resultados eficientes e econômicos, adaptados às necessidades específicas de organizações menores com recursos computacionais limitados.
Tarefas Restritas
Devido à sua capacidade de ser facilmente ajustado com hardware mínimo, o Velvet-2B é ideal para tarefas altamente específicas com objetivos bem definidos.