Publicado el — Deja un comentario

MAI-Code-1.1-Flash: Mejor, más rápido, a una cuarta parte del coste

MAI-Code-1.1-Flash: Mejor, más rápido, a una cuarta parte del coste

  • Incorporación de MAI-Code-1.1-Flash al hardware del dispositivo: Optimizado mediante cuantización de 3 bits, reduce los requisitos de memoria al mantener una ventana contextual completa de 256K y un rendimiento de codificación comparable a su homólogo de precisión total en SWE-Bench Verified y Terminal-Bench 2.1.
  • Codificación en el dispositivo, con cargos de inferencia cero por llamadas locales al modelo. MAI-Code-1.1-Flash ofrece al router de Copilot una opción en el dispositivo, para permitir que el trabajo de codificación elegible se ejecute en su hardware mientras complementa los modelos en la nube para tareas que requieren más capacidad.
  • MAI-Code-1.1-Flash está disponible para descargar y ejecutar a nivel local. Para un mejor rendimiento, recomendamos dispositivos con más de 120GB de RAM.
  • El acceso experimental estará disponible en GitHub Copilot a través de la aplicación GitHub Copilot, la CLI de GitHub Copilot y Visual Studio Code para finales de mes.

1 minuto
Dos llaves curvas blancas grandes sobre un fondo verde, superpuestas con filas de texto tenue y caracteres similares a código, que crean un efecto digital y abstracto.

Publicado en el blog de Microsoft AI.

MAI-Code-1.1-Flash produce código de mayor calidad, con un 25% más de eficiencia de token y a una cuarta parte del coste en comparación con el modelo que lanzamos en junio en Microsoft Build. Este pequeño y eficiente caballo de batalla de programación está ahora en producción en GitHub Copilot.

Aprendimos por los comentarios de los desarrolladores que las tareas de CLI y el rendimiento de .NET importaban, así que ahí fue donde nos centramos. El resultado: una mejora del 22% respecto a Terminal-Bench 2.1 en la CLI de GitHub Copilot y una mejora del 15% en las tareas .NET.

Los referentes son guías útiles, pero la producción es donde la clave se cruza. Lo más importante es que la supervivencia del código subió un 4% y las visitas de retorno un 9%.

La versión 1.1 también es mucho más eficiente. En GitHub, los tokens Copilot se transmiten un 25% más rápido y el modelo utiliza un 25% menos de tokens para completar una tarea. Eso significa respuestas más rápidas, menos espera y más trabajo útil de cada token, no solo un modelo más grande con una factura mayor.

Una mejor formación y eficiencia en el servicio nos permiten ofrecer un modelo más fuerte y rápido a una cuarta parte del precio de la 1.0, y trasladar esos ahorros de manera fiable a los clientes. Lo logramos a través de optimizar para su uso real en más de cientos de miles de entornos de aprendizaje por refuerzo en GitHub Copilot.

El bucle es sencillo: enviar, aprender, mejorar, repetir. Esa es la máquina de subir colinas de MAI.

Ayuden a moldear mejoras futuras

Prueben MAI-Code-1.1-Flash hoy mismo en GitHub Copilot y luego cuéntenos qué hay que mejorar aquí.

The post MAI-Code-1.1-Flash: Mejor, más rápido, a una cuarta parte del coste appeared first on Source LATAM.

 

​The post MAI-Code-1.1-Flash: Mejor, más rápido, a una cuarta parte del coste appeared first on Source LATAM.  

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *