Ollama 0.32.3: Erweiterte GPU-Unterstützung und Modellverbesserungen

imagem 30

Das neueste Update der quelloffenen KI-Plattform Ollama behebt einen ärgerlichen Fehler, bei dem Modelldownloads vor der Datenübertragung hängen blieben. Außerdem wurden diverse Schnittstellen optimiert: So funktionieren die Claude Code Channels wieder wie gewohnt, die Verarbeitung von „Thinking Streams“ bei Anthropic-Modellen wurde korrigiert, und Hermes Desktop respektiert nun zuverlässig die --force-build-Option.

Erweiterte GPU-Unterstützung ist ein weiterer Schwerpunkt dieser Version. Mit CUDA auf Windows-ARM64-Geräten erschließt sich eine neue Benutzergruppe, und die B200-Architektur wird nun mittels CUDA 12 angesteuert. Zudem wurde der Speicherverbrauch auf Linux-Systemen mit integrierten CUDA- oder ROCm-Grafikeinheiten (iGPUs) gesenkt, was die Leistung auf kompakten Geräten verbessert.

Im Modellbereich ziehen die Laguna-2.1-Modelle nach: Sie unterstützen jetzt Chat, strukturiertes Denken und Tool-Aufrufe – inklusive einer wichtigen Korrektur für die Metal-Beschleunigung auf Apple Silicon. Ein weiterer Fix stellt sicher, dass Tool-Aufrufe bei GLM-Modellen nicht mehr stillschweigend am Ende der Textgenerierung verloren gehen.

Abgerundet wird das Update durch die Einbindung aktueller Versionen der Inferenz-Engines MLX und llama.cpp, was die Gesamtstabilität und Performance verbessert.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert