KI & Machine Learning - blog.raem.io

Fehlerbehebung in llama.cpp: DeepSeek4 APE Tensor-Operation repariert

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Die neueste Aktualisierung von llama.cpp behebt einen Fehler in der Komponente llama-arch, der die APE-Tensoroperation für das DeepSeek4-Modell betraf. Bei selbst gehosteten Setups konnte dieser Bug die korrekte Verarbeitung von Anfragen beeinträchtigen und zu unerwarteten Ergebnissen führen. Mit dem Fix wird nun die Stabilität und Genauigkeit der Modellinferenz für DeepSeek4 wiederhergestellt, sodass Benutzer ihre KI-Anwendungen […]

Fehlerbehebung in llama.cpp: DeepSeek4 APE Tensor-Operation repariert Weiterlesen »

Ollama v0.32.2-rc0: Neues Agent-System, verbesserte Integrationen und Build-Optimierungen

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Ollama v0.32.2-rc0: Neues Agent-System, verbesserte Integrationen und Build-Optimierungen Diese Vorabversion bringt ein umfassend überarbeitetes Agent-System mit, das erstmals ein Skills-System einführt – damit lassen sich wiederverwendbare Fähigkeiten definieren und die Interaktion mit Cloud-Modellen wird flexibler, da standardmäßig unbegrenzte Werkzeugrunden erlaubt sind. Gleichzeitig wurde die interne Agentenlogik bereinigt: Tote Prompt-Wrapper wurden entfernt, die Arbeitsverzeichnis-Anweisung optimiert und

Ollama v0.32.2-rc0: Neues Agent-System, verbesserte Integrationen und Build-Optimierungen Weiterlesen »

n8n 2.32.0: KI-Agenten ausbauen, Stabilität stärken

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Die neue Version 2.32.0 von n8n konzentriert sich auf die Erweiterung der KI-Fähigkeiten, die Robustheit des Backends und eine flüssigere Bedienung im Editor. Für selbst gehostete Umgebungen bringt das Release entscheidende Fortschritte im Umgang mit Agenten, mehr Transparenz und leistungsfähigere Exportfunktionen. KI-Builder und Agenten Der KI-Builder erhält zahlreiche Fehlerbehebungen und neue Funktionen. Agenten lassen sich

n8n 2.32.0: KI-Agenten ausbauen, Stabilität stärken Weiterlesen »

LangChain-xAI 1.3.0 veröffentlicht: Neue Funktionen und umfassende Wartung

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Die Version 1.3.0 von LangChain-xAI bringt mehrere spannende Neuerungen für Entwickler, die xAI-Modelle in selbst gehosteten Umgebungen nutzen. Der Chatmodell-Parameter reasoning_effort wurde als Standardmerkmal hinzugefügt, um die Steuerung des logischen Aufwands bei Anfragen zu vereinfachen. Ein neues inhaltsblock-zentriertes Streaming (v2) liefert präzisere und strukturierte Streaming-Antworten. Zudem lässt sich die API-Basis-URL jetzt flexibel über den base_url-Alias

LangChain-xAI 1.3.0 veröffentlicht: Neue Funktionen und umfassende Wartung Weiterlesen »

Patch-Release v5.14.1: Korrekturen für Inkling-Modell und weitere Optimierungen

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Das neueste Patch-Release v5.14.1 behebt mehrere Probleme, die bei der Integration des Inkling-Modells aufgetreten sind. Insbesondere wurde ein Fehler korrigiert, der bei der assistierten Generierung mit Modellen auftrat, die einen EncoderDecoderCache verwenden. Ebenfalls behoben wurde ein Problem, das im Prefill-Schritt mit StaticCache und SDPA ohne Padding auftreten konnte, wenn das Inkling-Modell eine Positionsgewichtung (position_bias) nutzt.

Patch-Release v5.14.1: Korrekturen für Inkling-Modell und weitere Optimierungen Weiterlesen »

Neue CUDA-Optimierung beschleunigt get_rows in llama.cpp um 27 %

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Leistungsoptimierung für get_rows im CUDA-Backend Aktuelle CUDA-Optimierung: Die get_rows-Operation für gleichartige Datentypen wurde durch Vektorisierung mit int4-Kopien beschleunigt. Bisher kopierte k_get_rows_float jedes Element einzeln pro Thread und berechnete für jedes Element die zeileninvarianten Arbeiten neu. Diese redundanten Berechnungen wurden nun aus der Schleife herausgehoben. Für den Fall identischer Quell- und Zieltypen ohne Konvertierung wurde ein

Neue CUDA-Optimierung beschleunigt get_rows in llama.cpp um 27 % Weiterlesen »

Ollama 0.32.2-rc0: Agenten-Feinschliff, KI-Fähigkeiten und frische Backends

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Die neueste Vorabversion von Ollama bringt eine Reihe von Verbesserungen für das agentenbasierte Arbeiten. Ein neu eingeführtes Skills-System strukturiert die Interaktion mit Werkzeugen intelligenter und erlaubt Cloud-Modellen standardmäßig eine unbegrenzte Anzahl von Werkzeugaufrufen – so lassen sich mehrstufige Aufgaben nun ohne manuelle Eingriffe abschließen. Gleichzeitig wurde die Codebasis des Agenten gründlich aufgeräumt: überflüssige Prompt-Wrapper und

Ollama 0.32.2-rc0: Agenten-Feinschliff, KI-Fähigkeiten und frische Backends Weiterlesen »

AWS Weekly Roundup: One-Click-Lambda-Setup-Prompt, OpenAI GPT-5.6-Modelle auf Amazon Bedrock und mehr (20. Juli 2026)

Schreibe einen Kommentar / KI & Machine Learning / AI-Curated Insights

Letzte Woche besuchte mein Team Seoul, um die Leiter der AWS Korea User Group (AWSKRUG) zu treffen. AWSKRUG ist die größte Cloud-Entwickler-Community in Korea mit 20 Meetup-Gruppen, die nach Themen und Regionen organisiert sind und zusammen jährlich über 100 Veranstaltungen, vor allem in Seoul, durchführen. Mein Team besucht regelmäßig Länder im asiatisch-pazifischen Raum, hört sich

AWS Weekly Roundup: One-Click-Lambda-Setup-Prompt, OpenAI GPT-5.6-Modelle auf Amazon Bedrock und mehr (20. Juli 2026) Weiterlesen »