Ollama v0.40.17-rc0: Verbesserungen für CLI, GPU-Unterstützung und MLX

imagem 3

Neue Version v0.40.17-rc0

Das Ollama-Team hat ein neues Release veröffentlicht. Es bringt gezielte Verbesserungen für die Kommandozeilenwerkzeuge, die GPU-Nutzung und die zugrunde liegenden Bibliotheken mit.

CLI und Tooling

Die Wiederherstellung und der sanfte Neustart der ChatGPT-CLI wurden optimiert. Außerdem berücksichtigen die OpenCode-Einstellungen nun die sogenannten Thinking-Metadaten, was zu präziseren Konfigurationen führt.

GPU- und Speicherverwaltung

Für integrierte Vulkan-GPUs kommt jetzt Memory Mapping (mmap) zum Einsatz, um Speicher effizienter zu nutzen. Auf Apple-Silicon-Systemen unterstützt die MLX-Laufzeit nun die gleichzeitige Erzeugung mehrerer Antworten, was parallele Anfragen beschleunigt.

Bibliotheks-Updates und Community

Die eingebettete llama.cpp-Bibliothek wurde auf den Stand b12257 aktualisiert, ebenso wurden die Versionen von MLX und MLX-C angehoben. Darüber hinaus hat ein neuer Mitwirkender seinen ersten Beitrag zu diesem Release geleistet.

Das Update trägt die Versionsnummer v0.40.17-rc0.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert