Skip links

Velvet2-3B Text

29 Ottobre 2026

Un modello linguistico compatto, sottoposto a un esteso post-training per comprendere istruzioni complesse, gestire task di ragionamento e generare output strutturati, bilanciando prestazioni, tempi di risposta e requisiti computazionali.

L'essenza di Velvet2-3B

Progettato per applicazioni reali, Velvet2-3B combina un esteso post-training con un’architettura compatta, offrendo una base versatile per un’ampia gamma di task linguistici.

Lingue

Italiano, inglese, tedesco, spagnolo, francese e portoghese.

Architettura

Dense autoregressive decoder-only Transformer con 38 Transformer Layer.

Training Dataset

Circa 5 mila miliardi di token provenienti da fonti pubbliche, selezionati secondo criteri di qualità, sicurezza, deduplicazione ed equilibrio multilingue.

Context Window

32K token, estendibili con YaRN.

Parametri

3 miliardi di parametri.

Vocabulary

127K token.

Specialization

3,5 milioni di esempi di istruzioni annotati da persone e sintetici.

Data Freshness

Pretraining data cutoff: Dicembre 2025 – Genaio 2026.

Training Infrastructure

Addestrato sul supercomputer italiano Leonardo, ospitato dal CINECA.

Licenza

Open weight con licenza Apache 2.0.

AI Responsabile
Misure di sicurezza integrate nella cura dei dati, nell’addestramento e nel post-addestramento, tra cui filtraggio dei dati, controlli di qualità, allineamento e valutazione della sicurezza, supportate da una governance e da una supervisione interne continue.

Capabilities

Instruction Following
Information Extraction
Long
Context Understanding
Structured Output Generation
Function
Calling
JSON and Schema Constrained Generation
Table and Semi Structured Data Understanding
Multilingual Text Generation
CoT Tasks
Multiturn Conversation
Few-Shot Generalization
Summarization
Question Answering
RAG

Performance Evaluation

Velvet2-3B è stato valutato su un’ampia gamma di benchmark relativi a conoscenza, instruction following, ragionamento, comprensione di contesti estesi, function calling, capacità multilingue e sicurezza.

Metriche

Italian language
CategoryBenchmarkVelvet-14B
GeneralMMLU (5-shot)58.6
CommonsenseHellaswag (0-shot)72.7
WinoGrande ITA-bench (0-shot)73.2
PIQA ITA-bench (0-shot)71.7
SciQ ITA-bench (0-shot) with p.91.9
ReasoningARC-Challenge (0-shot)55.2
EU languages
CategoryBenchmarkVelvet-14B
GeneralMMLU (5-shot)56.4
Instruction FollowingIFEval (0-shot) - en65.4
CommonsenseHellaswag (10-shot)72.8
WinoGrande (0-shot) - en72.5
ReasoningARC-Challenge (25-shot)57.3
MUSR (0-shot) - en12.3
Function CallingBFCL (AST summary) - en67.5

Discover Velvet AI Models

Perché Velvet2-3B?

1
Task Strutturati e Ragionamento

Gestisce task con requisiti multipli, ragiona mettendo in relazione informazioni diverse e produce output nel formato previsto.

2
Contenuti Lunghi e Complessi

Elabora documenti e conversazioni estesi; la finestra di contesto può essere ampliata fino a 128K tramite YaRN.

3
Applicazioni Sensibili e Regolamentate

Supporta applicazioni che richiedono validazione, misure di tutela e supervisione umana, anche nella Pubblica Amministrazione e nella sanità.

Scopri e scarica i modelli Velvet