self-hosted AI

imagem 50

Ollama v0.33.0-rc2: Claude-Desktop-Integration und verbesserte Caching-Mechanismen

Schreibe einen Kommentar / KI & Machine Learning /

Claude Desktop Integration Die neueste Vorabversion von Ollama bringt eine direkte Integration mit Claude Desktop. Nutzer können nun einzelne Ollama-Modelle direkt über die Menüleiste für die Verwendung in Claude aktivieren oder deaktivieren. Innerhalb von Claude lassen sich die verfügbaren Ollama-Modelle bequem auswählen; Cloud-Modelle erscheinen nur, wenn man angemeldet ist. Eine neue Ansicht „Apps“ verwaltet die […]

Ollama v0.33.0-rc2: Claude-Desktop-Integration und verbesserte Caching-Mechanismen Weiterlesen »

imagem 1

Neues llama.cpp Release: Tool-Aufrufe in der Denkphase für DS4-Modelle aktiviert

Schreibe einen Kommentar / KI & Machine Learning /

Das llama.cpp-Projekt hat eine neue Version veröffentlicht, die eine wichtige Neuerung für Nutzer von DS4-Modellen mit sich bringt: Tool-Aufrufe können nun auch während der Denkphase („Thinking“) des Modells erfolgen. Bisher waren solche Aufrufe von externen Werkzeugen oder APIs nur in der Antwortphase möglich. Diese Erweiterung verbessert die Fähigkeit des Modells, komplexe Aufgaben durch die Einbindung

Neues llama.cpp Release: Tool-Aufrufe in der Denkphase für DS4-Modelle aktiviert Weiterlesen »

imagem 46

LangChain Core 1.5.2: Wichtige Fehlerbehebung und Dependency-Aktualisierungen

Schreibe einen Kommentar / KI & Machine Learning /

Das LangChain-Team hat die Version 1.5.2 von langchain-core veröffentlicht. Im Mittelpunkt steht eine entscheidende Fehlerkorrektur: Gateway-Umgebungsvariablen, die einen leeren String enthalten, werden nun zuverlässig erkannt und korrekt verarbeitet. Diese Verbesserung verhindert unerwartete Laufzeitfehler und ist vor allem für selbst gehostete Umgebungen relevant, in denen solche Konstellationen häufiger auftreten können. Zusätzlich wurden mehrere interne Abhängigkeiten auf

LangChain Core 1.5.2: Wichtige Fehlerbehebung und Dependency-Aktualisierungen Weiterlesen »

imagem 45

llama.cpp Build b10176: Neuer RPC-Befehl und plattformübergreifende Binaries

Schreibe einen Kommentar / KI & Machine Learning /

Die neueste Version von llama.cpp, Build b10176, bringt eine praktische Erweiterung für das Remote Procedure Call (RPC)-System: den Befehl tensor_memset. Damit lassen sich Tensoren im verteilten Inferenzbetrieb effizient mit einem bestimmten Wert initialisieren oder zurücksetzen – ein hilfreiches Werkzeug für alle, die große Modelle selbst hosten und mehrere Rechenknoten einsetzen. Neben diesem internen Feature stehen

llama.cpp Build b10176: Neuer RPC-Befehl und plattformübergreifende Binaries Weiterlesen »

imagem 41

Neues llama.cpp-Release b10159 bringt FWHT-Kernel für Metal-Backend

Schreibe einen Kommentar / KI & Machine Learning /

Llama.cpp Build b10159 mit neuem FWHT-Kernel für Metal veröffentlicht Die neueste Build b10159 des llama.cpp-Projekts führt einen speziellen FWHT-Kernel für das Metal-Backend ein. Die schnelle Walsh-Hadamard-Transformation (FWHT) wird nun direkt auf Apple-GPUs beschleunigt, was die Inferenzgeschwindigkeit für selbst gehostete Sprachmodelle auf macOS- und iOS-Geräten spürbar verbessern kann. Diese Optimierung ist vor allem für rechenintensive Operationen

Neues llama.cpp-Release b10159 bringt FWHT-Kernel für Metal-Backend Weiterlesen »

imagem 20

Fehlerbehebung in llama.cpp: DeepSeek4 APE Tensor-Operation repariert

Schreibe einen Kommentar / KI & Machine Learning /

Die neueste Aktualisierung von llama.cpp behebt einen Fehler in der Komponente llama-arch, der die APE-Tensoroperation für das DeepSeek4-Modell betraf. Bei selbst gehosteten Setups konnte dieser Bug die korrekte Verarbeitung von Anfragen beeinträchtigen und zu unerwarteten Ergebnissen führen. Mit dem Fix wird nun die Stabilität und Genauigkeit der Modellinferenz für DeepSeek4 wiederhergestellt, sodass Benutzer ihre KI-Anwendungen

Fehlerbehebung in llama.cpp: DeepSeek4 APE Tensor-Operation repariert Weiterlesen »

imagem 19

Ollama v0.32.2-rc0: Neues Agent-System, verbesserte Integrationen und Build-Optimierungen

Schreibe einen Kommentar / KI & Machine Learning /

Ollama v0.32.2-rc0: Neues Agent-System, verbesserte Integrationen und Build-Optimierungen Diese Vorabversion bringt ein umfassend überarbeitetes Agent-System mit, das erstmals ein Skills-System einführt – damit lassen sich wiederverwendbare Fähigkeiten definieren und die Interaktion mit Cloud-Modellen wird flexibler, da standardmäßig unbegrenzte Werkzeugrunden erlaubt sind. Gleichzeitig wurde die interne Agentenlogik bereinigt: Tote Prompt-Wrapper wurden entfernt, die Arbeitsverzeichnis-Anweisung optimiert und

Ollama v0.32.2-rc0: Neues Agent-System, verbesserte Integrationen und Build-Optimierungen Weiterlesen »

RSS FEED
RSS FEED