I. Introducción

Hace poco.Moonshot AI ha presentado oficialmente su última generación de macromodelos multimodales Kimi VL A3BSe trata de un modelo ligero basado en la arquitectura Mixed Expert (MoE), con 16B de parámetros totales pero sólo 2,8B de activaciones para la inferencia. sus principales características son Ventana de contexto extra larga de 128Kycapacidad de razonamiento multimodal. Y lo que es más emocionante, el modeloAbierto bajo licencia MITEsto no sólo pone de relieve su avance tecnológico, sino que también ofrece posibilidades ilimitadas de investigación y aplicación. Este artículo profundizará en las principales características del Kimi VL A3B y su valor potencial.

II. Aspectos técnicos destacados: modelos pequeños, grandes capacidades

1. Arquitectura de ME y diseño ligero

El Kimi VL A3B emplea una arquitectura de Expertos Mixtos (MoE) que mejora significativamente la eficiencia computacional asignando dinámicamente tareas a distintas subredes de expertos. A pesar de contar con un parámetro total de 16B, sólo se activan 2,8B durante la inferencia, lo que le permite reducir significativamente la huella de memoria y los costes de inferencia manteniendo el rendimiento. Por ejemplo, en el MathVista Mathematical Reasoning Benchmark, KimiVL A3B alcanza una precisión de 68,7% con 2,8B de parámetros activos, superando a GPT-4o (68,5%) con un tamaño de parámetros mucho mayor.

2. Ventana contextual de 128K, una nueva referencia para el tratamiento de textos largos

Con una ventana contextual de 128K, el Kimi VL A3B es capaz de manejar documentos de decenas de miles de palabras, diálogos complejos o tareas interactivas de varias rondas. Esta característica le permite destacar en escenarios como el análisis de expedientes jurídicos, la interpretación de documentos técnicos y la generación de informes financieros. Por ejemplo, en la prueba de comprensión de documentos largos MMLongBench-Doc, Kimi VL A3B obtuvo una puntuación de 35,1%, por delante de modelos similares.

3. Capacidades multimodales: fusión profunda de texto, imágenes y vídeo

• • Comprensión visual: el codificador visual de resolución nativa MoonViT admite la entrada de imágenes de alta resolución para analizar diagramas complejos, fórmulas matemáticas y contenido manuscrito sin necesidad de troceado. Obtuvo una puntuación de 867 en la prueba comparativa OCRBench, logrando SOTA.
  • Análisis de vídeo: capacidad para captar detalles clave de lecciones de vídeo de una hora de duración y generar resúmenes estructurados.
  • Razonamiento multimodal: combine información de texto e imágenes para resolver problemas de geometría, analizar tablas financieras y generar código LaTeX o tablas Markdown.
  • Comparación de la capacidad de reconocimiento de imágenes (Kimi-VL-A3B vs GPT-4o): El contenido de la imagen es una captura de pantalla de Cyberpunk 2077, ambos aciertan al analizar el contenido de la imagen, y GPT-4o analiza más rápido, mientras que Kimi-VL-A3B da una respuesta más completa.

4. La licencia MIT: un nuevo comienzo para el ecosistema del código abierto

1. Comercialización de bajo coste: las empresas pueden integrar modelos en productos de código cerrado sin pagar derechos de licencia adicionales.
2. Colaboración de la comunidad: los investigadores y desarrolladores son libres de mejorar el modelo y utilizarlo junto con otros proyectos de código abierto como Hugging Face.
3. Reducción de las barreras técnicas: las PYME y las nuevas empresas pueden explorar aplicaciones multimodales de IA a un coste menor, lo que impulsa la inclusión tecnológica.

5. Comparación de resultados: superación de las referencias del sector