Tencent ha liberado como código abierto Hy4 preview, una nueva iteración de su familia de modelos de lenguaje orientada a tareas de ingeniería, productividad y ciencia. La arquitectura adopta un esquema de Mixture-of-Experts (MoE) compuesto por 770.000 millones de parámetros totales (770B) y 49.000 millones de parámetros activos (49B), acompañado de una ventana de contexto que supera el millón de tokens.
Arquitectura MoE y eficiencia operativa#
El diseño de Hy4 preview responde al reto de escalar la capacidad de representación sin disparar linealmente los costes computacionales en el servicio de inferencia. Al emplear una estructura MoE con 49B parámetros activos por token sobre una base de 770B totales, el modelo redirige las peticiones únicamente hacia los subsistemas especializados correspondientes.
Esta relación de activación parcial permite reducir la latencia y la carga de memoria por consulta en comparación con un modelo denso del mismo tamaño global. En términos comerciales y de despliegue, Tencent ha estructurado las tarifas de la API a través de Tencent Cloud TokenHub y OpenRouter con los siguientes costes:
- Entrada: 0,834 USD por millón de tokens.
- Salida: 2,501 USD por millón de tokens.
- Aciertos de caché (cache hits): 0,042 USD por millón de tokens.
Bucle de automejora y optimización de inferencia#
Uno de los elementos más destacables del desarrollo de Hy4 preview es la integración de un ciclo inicial de automejora recursiva durante las fases de entrenamiento y posentrenamiento. Según la documentación técnica expuesta por Tencent, el propio modelo intervino en la formulación de hipótesis, la generación de código y la evaluación de métodos de entrenamiento, estrategias de selección de datos y fusión de operadores de bajo nivel.
En la infraestructura de inferencia, Hy4 preview analizó sus propios cuellos de botella operativos y ejecutó iteraciones de optimización centradas en la fusión de operadores (operator fusion) y la gestión de comunicaciones entre nodos. La compañía reporta que este proceso de auto-optimización incrementó el rendimiento end-to-end (throughput) en un 31,8% respecto a la línea base previa, manteniendo las ganancias a través de diferentes longitudes de contexto y niveles de concurrencia.
Evaluación de rendimiento y contexto comercial#
En las pruebas de rendimiento internas facilitadas por Tencent —una evaluación a ciegas compuesta por 163 expertos y 203 tareas de ingeniería de software—, Hy4 preview registró una puntuación media de 2,99 sobre 4,00. Este resultado supera ligeramente a otros modelos de origen chino evaluados bajo la misma metodología, como GLM-5.3 (2,92/4,00) y Kimi K3 (2,94/4,00).
Es necesario precisar que estas cifras proceden directamente de mediciones internas corporativas, a la espera de que la comunidad técnica independiente valide el comportamiento del modelo en conjuntos de datos abiertos como SWE-bench o MMLU-Pro.
En cuanto al enfoque aplicativo, Tencent ha ajustado el modelo para casos de uso específicos:
- Ingeniería de software y desarrollo de videojuegos: capacidad para generar prototipos jugables funcionales a partir de instrucciones en lenguaje natural e integrarse en flujos de depuración y desarrollo front-end.
- Productividad de oficina y análisis: procesamiento de entornos documentales complejos, análisis financiero y creación automatizada de informes, hojas de cálculo y presentaciones.
- Investigación científica: resolución de problemas complejos en física de la materia condensada, dinámica molecular y matemáticas fundamentales.
Disponibilidad#
Además de la liberación del modelo como código abierto y su acceso vía API, Hy4 preview se encuentra integrado de manera nativa en las plataformas de desarrollo WorkBuddy y CodeBuddy, así como en las aplicaciones Yuanbao e ima de Tencent. Como promoción de lanzamiento, el acceso a Hy4 preview en WorkBuddy y CodeBuddy se mantendrá gratuito durante dos semanas.
Fuente original: Tencent