Die neueste Vorabversion von Ollama bringt vor allem für Nutzer von Apple-Hardware spürbare Leistungssteigerungen. Die MLX-Engine nutzt jetzt automatisch den MTP-Head (Multi-Token Prediction) des Qwen3.5-Modells für spekulative Dekodierung – ein Verfahren, bei dem mehrere Tokens gleichzeitig vorhergesagt werden, um die Inferenz deutlich zu beschleunigen. Gleichzeitig wurden die zugrundeliegenden MLX- und llama.cpp-Engines auf den neuesten Stand gebracht.
Für Entwickler, die Ollama mit der OpenAI-API nutzen, gibt es wichtige Anpassungen: Das Streaming-Verhalten des Endpunkts /v1/chat/completions entspricht jetzt exakt dem Wire-Format von OpenAI. Die Rolle wird nur noch im ersten Chunk gesendet, der Beendigungsgrund (finish_reason) erscheint in einem eigenen Chunk und Nutzungsstatistiken werden – sofern stream_options.include_usage gesetzt ist – in einem separaten Chunk ausgeliefert. Zudem korrigiert diese Version die Fehlermeldung bei abgeschnittenen Antworten: Anstatt fälschlich finish_reason: „tool_calls“ zu melden, wird nun korrekt „length“ ausgegeben.
Die textbasierte Benutzeroberfläche (TUI) erhält ebenfalls mehrere Feinschliffe: Texte mit senkrechten Strichen (Pipe-Symbol) werden nicht länger als Tabellen gerendert, die Eingabetaste übernimmt bei der Autovervollständigung den markierten @-Dateinamen, und das Scrollen durch /prompt-Befehle läuft nun flüssiger. Außerdem verbessert Ollama die Nutzung cloud-basierter Modelle: Für Modelle wie kimi-k3, die kein Standard-Image bereitstellen, schlägt der Befehl ollama run kimi-k3 jetzt automatisch kimi-k3:cloud vor, anstatt mit einem Fehler zu scheitern.
Die experimentelle Bildgenerierung wurde vorübergehend aus dieser Version entfernt. Anwender, die auf diese Funktion angewiesen sind, sollten vorerst bei Version 0.32.5 bleiben. Eine vollständige Liste aller Änderungen findet sich im üblichen Changelog.
