Ollama v0.32.5 corrige error crítico de rendimiento en modelos NVFP4 con Metal de MLX

imagem 40

La nueva versión de Ollama, v0.32.5, llega con una corrección importante para los usuarios de dispositivos Apple equipados con aceleración Metal. Se ha solucionado un fallo en MLX Metal que, hasta ahora, podía degradar la calidad de salida de modelos que utilizan el formato NVFP4, como el popular modelo Laguna.

Esta actualización es especialmente relevante para quienes ejecutan modelos de lenguaje de manera local en sus Mac, ya que garantiza que el rendimiento y la precisión de estos modelos no se vean comprometidos por el error en la capa de hardware. Se recomienda actualizar de inmediato para disfrutar de una experiencia óptima.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *