Velvet-2B-1.5
14 Ottobre 2025
Un modello piccolo e altamente ottimizzato, progettato per offrire prestazioni elevate anche in ambienti edge.
L'essenza di Velvet-2B-1.5
La versione aggiornata del modello più piccolo della famiglia è progettata per adattarsi efficacemente a compiti specifici e a un’ampia gamma di casi d’uso. Le sue dimensioni compatte e l’elevato livello di ottimizzazione garantiscono prestazioni affidabili anche in ambienti con risorse limitate o in scenari di deployment edge.
Lingue
Architettura
Architettura Transformer decoder-only costituita da 28 layer.
Training Dataset
3 bilioni di token.
Context Window
32K Token.
Parameters
2 miliardi di parametri.
Vocabulary
127K
Token.
Safety
Più di 50K di esempi curati a mano per le safety instructions.
Licenza
Open weight con licenza Apache 2.0.
Specialization
1 milione di esempi sintetici.
Data Freshness
Data cutoff: Giugno 2025.
Capabilities
Question
Answering
Machine
Translation
Information Extraction
Advanced Reasoning
Text
Classification
Textual
Entailment
Text
Completion
Natural Language
Interface
RAG
Summarization
Paraphrasing
Performance Evaluation
An Independent Evaluation Board compared Velvet with other models under 30B parameters built from scratch, using several metrics to assess the model’s logical reasoning, problem-solving capabilities, and ability to go beyond statistical correlations.
Italian language
| Category | Benchmark | Velvet-2B |
|---|---|---|
| General | MMLU (5-shot) | 39.6 |
| Commonsense | Hellaswag (0-shot) | 54.3 |
| WinoGrande ITA-bench (0-shot) | 61.9 | |
| PIQA ITA-bench (0-shot) | 67.3 | |
| SciQ ITA-bench (0-shot) with p. | 86.6 | |
| Reasoning | ARC-Challenge (0-shot) | 41.7 |
English language
| Category | Benchmark | Velvet-2B |
|---|---|---|
| General | MMLU (5-shot) | 43.4 |
| Instruction Following | IFEval (0-shot) | 53.2 |
| Commonsense | Hellaswag (10-shot) | 65.0 |
| WinoGrande (0-shot) | 60.9 | |
| Reasoning | ARC-Challenge (25-shot) | 50.6 |
These metrics evaluate its scientific reasoning, capacity to generate plausible, contextually relevant responses based on common sense, and overall understanding across multiple subjects, focusing on providing accurate and informed answers.
Perché Velvet-2B-1.5
Velvet-2B-1.5 è progettato per un fine-tuning efficiente su compiti specialistici, rendendolo una soluzione flessibile per diversi casi d’uso. Non tutte le sfide richiedono lo stesso approccio: alcuni scenari necessitano di velocità e scalabilità, mentre altri presentano vincoli legati ai costi o alla capacità hardware.
Volumi Elevati
Velvet-2B offre una soluzione agile per le organizzazioni che gestiscono grandi quantità di dati in tempo (quasi) reale, mantenendo un equilibrio ottimale tra velocità e prestazioni.
Risorse Limitate
Velvet-2B fornisce risultati efficaci, adattati alle esigenze specifiche di organizzazioni più piccole con risorse computazionali limitate.
Task Specifici
Grazie alla sua capacità di essere facilmente sottoposto a fine-tuning con hardware minimo, Velvet-2B è ideale per compiti altamente specifici con obiettivi ben definiti.