Lanzamiento de llama.cpp b10149: mejora en pruebas y paquetes multiplataforma

imagem 37

Se ha publicado la versión b10149 de llama.cpp, que trae una mejora menor pero útil para los desarrolladores que ejecutan el conjunto de pruebas. Se ha eliminado una sincronización innecesaria en la funcionalidad de guardar y cargar estados durante los tests, lo que agiliza la ejecución de las pruebas internas sin modificar el comportamiento de la herramienta en producción.

Como de costumbre, ofrecemos binarios precompilados para una amplia variedad de plataformas. Los usuarios de macOS pueden descargar las versiones para Apple Silicon (arm64) e Intel (x64), además del XCFramework para iOS. La variante con KleidiAI habilitada para macOS Apple Silicon permanece deshabilitada en esta ocasión. En Linux, hay paquetes para Ubuntu en x64, arm64 y s390x (CPU), así como con aceleración Vulkan, ROCm 7.2, OpenVINO y SYCL (FP32 y FP16). Para Android, está disponible la versión arm64 (CPU).

En Windows, los usuarios pueden elegir entre binarios para CPU (x64 y arm64), OpenCL Adreno (arm64), CUDA 12 y CUDA 13 (con sus respectivas DLL), Vulkan, OpenVINO, SYCL y HIP. Las compilaciones para openEuler están desactivadas en este lanzamiento. Por último, también se encuentra disponible la interfaz de usuario (UI) para quienes prefieran una experiencia visual. Visite https://llama.app para más información.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *