Apple Silicon MLX

imagem 38

Ollama-Modelle jetzt direkt in ChatGPT Desktop nutzbar

Ollama-Modelle können nun direkt in ChatGPT Desktop verwendet werden. So behalten Sie Ihren gewohnten Arbeitsablauf bei und setzen gleichzeitig auf offene Modelle. Die Einrichtung erfolgt über die Ollama-App unter macOS. Dieses Update verbessert außerdem die Leistung bei strukturierten Ausgaben auf Apple Silicon und unterstützt die Tool-Suche sowie die Antwort-Komprimierung für OpenAI-kompatible Clients. Die vollständige Liste […]

Ollama-Modelle jetzt direkt in ChatGPT Desktop nutzbar Weiterlesen »

imagem 15

Ollama-Modelle direkt in ChatGPT Desktop nutzen

Ollama-Modelle lassen sich jetzt direkt in ChatGPT Desktop nutzen – so behalten Sie Ihren gewohnten Arbeitsablauf bei, während Sie offene Modelle ausführen. Die Einrichtung erfolgt über die Ollama-App auf macOS. Diese Version verbessert außerdem die Leistung bei strukturierten Ausgaben auf Apple Silicon, unterstützt die Werkzeugsuche und Antwortkomprimierung für OpenAI-kompatible Clients und sorgt dafür, dass Bilder

Ollama-Modelle direkt in ChatGPT Desktop nutzen Weiterlesen »

imagem 50

llama.cpp Build b10189: Optimierung für M3-Grafikprozessoren und breite Plattformunterstützung

Die neue Version b10189 von llama.cpp bringt eine gezielte Verbesserung für Apple-Silicon-Systeme. Eine bisher verwendete, speziell für die CPU optimierte Operation wurde aus dem M3-Grafen entfernt und durch Standardoperationen ersetzt. Dadurch wird die Codebasis schlanker und die langfristige Wartbarkeit erhöht – ein bedeutender Schritt für alle, die llama.cpp selbst hosten oder auf M3-Prozessoren betreiben. Wie

llama.cpp Build b10189: Optimierung für M3-Grafikprozessoren und breite Plattformunterstützung Weiterlesen »

imagem 35

Ollama v0.32.5-rc0: MLX-Update optimiert lokale LLMs auf Apple Silicon

Mit dem neuen Release Candidate v0.32.5-rc0 verbessert Ollama die Unterstützung für Apples MLX-Framework. Diese Aktualisierung sorgt dafür, dass selbst gehostete Sprachmodelle auf Apple-Silicon-Macs reibungsloser und effizienter laufen. Nutzer profitieren von optimierter Hardwarebeschleunigung und besserer Kompatibilität mit neueren Betriebssystemversionen. Das Update ist vor allem für Entwickler und Unternehmen interessant, die große Sprachmodelle lokal betreiben möchten. Die

Ollama v0.32.5-rc0: MLX-Update optimiert lokale LLMs auf Apple Silicon Weiterlesen »

imagem 24

Ollama v0.32.3-rc0: Feinschliff für GLM, Laguna und Apple Silicon

Die Vorabversion 0.32.3-rc0 von Ollama liefert wichtige Stabilitäts- und Kompatibilitätsverbesserungen für selbst gehostete Sprachmodelle. Entwickler und Betreiber profitieren von optimierten Modellschnittstellen und einer aktualisierten Hardware-Anbindung. Zuverlässigere Werkzeugnutzung und aktualisierte Modelle Bei GLM-Modellen kam es bislang zu unvollständigen Werkzeugaufrufen – dieser Fehler ist nun behoben. Tool Calls werden jetzt sauber abgeschlossen, was insbesondere für interaktive Anwendungen

Ollama v0.32.3-rc0: Feinschliff für GLM, Laguna und Apple Silicon Weiterlesen »