Velvet-2B-1.5
14 de octubre de 2025
Un modelo pequeño y altamente optimizado, diseñado para ofrecer un rendimiento sólido incluso en despliegues en edge.
La esencia de Velvet-2B-1.5
La versión actualizada del modelo más pequeño de la familia está diseñada para adaptarse eficazmente a tareas específicas y a una amplia gama de casos de uso. Su tamaño compacto y alta optimización ofrecen un rendimiento fiable incluso en entornos de despliegue con recursos limitados o en el borde.
Idiomas
Arquitectura
Modelo de lenguaje auto-regresivo con un diseño causal basado solo en transformadores, construido sobre 28 capas de transformadores.
Conjunto de datos de entrenamiento
3 mil millones de tokens.
Ventana de contexto
32K tokens.
Parámetros
2 mil millones de parámetros.
Vocabulario
127K
Tokens.
Seguridad
Más de 50.000 ejemplos generados por humanos para instrucciones de seguridad.
Licencia
Open Weights con licencia Apache 2.0.
Especialización
1 Millon de ejemplos sintéticos para SFT.
Recencia de los datos
Fecha de corte de datos: junio de 2025.
Capacidades
Respuesta a preguntas
Traducción automática
Extracción de información
Razonamiento avanzado
Clasificación de texto
Implicación textual
Completado de texto
Interfaz de lenguaje natural
RAG
Resumen automático
Paráfrasis
Rendimiento Evaluación
Un Comité de Evaluación Independiente comparó Velvet con otros modelos bajo parámetros 30B construidos desde cero, utilizando varias métricas para evaluar el razonamiento lógico, las capacidades de resolución de problemas y la capacidad de ir más allá de las correlaciones estadísticas.
Idioma italiano
| Categoría | Índice de referencia | Velvet-2B |
|---|---|---|
| General | MMLU (5 disparos) | 39.6 |
| Sentido común | Hellaswag (0 disparos) | 54.3 |
| WinoGrande ITA-banquillo (0-shot) | 61.9 | |
| PIQA ITA-press (0-shot) | 67.3 | |
| SciQ ITA-press (0-shot) con p. | 86.6 | |
| Razonamiento | ARC-Challenge (0-disparo) | 41.7 |
Idioma inglés
| Categoría | Índice de referencia | Velvet-2B |
|---|---|---|
| General | MMLU (5 disparos) | 43.4 |
| Seguimiento de la instrucción | IFEval (0-shot) | 53.2 |
| Sentido común | Hellaswag (10 disparos) | 65.0 |
| WinoGrande (0 disparos) | 60.9 | |
| Razonamiento | ARC-Challenge (25 disparos) | 50.6 |
Estas métricas evalúan su razonamiento científico, su capacidad para generar respuestas plausibles y contextualmente relevantes basadas en el sentido común y su comprensión general en múltiples materias, centrándose en proporcionar respuestas precisas e informadas.
¿Por qué Velvet-2B-1.5?
Velvet-2B-1.5 está diseñado para un ajuste fino eficiente en tareas especializadas, lo que lo convierte en una solución flexible para diferentes casos de uso. No todos los desafíos exigen el mismo enfoque; Algunos escenarios requieren velocidad y escalabilidad, mientras que otros enfrentan limitaciones relacionadas con el coste o la capacidad del hardware.
Altos volúmenes
Velvet-2B ofrece una solución ágil y sensible para organizaciones que manejan grandes cantidades de datos en tiempo (casi) real, manteniendo un equilibrio óptimo entre velocidad y rendimiento.
Alcance más reducido
Velvet-2B ofrece resultados eficientes y rentables adaptados a las necesidades específicas de organizaciones más pequeñas con recursos computacionales limitados.
Tareas Limitadas
Debido a su capacidad de ajustarse fácilmente con hardware mínimo, Velvet-2B es ideal para tareas muy específicas con objetivos bien definidos.