FP8 kernels

imagem 25

Lançamento v5.15.0 dos Transformers

Novas Adições de Modelos Meta Muse Glimmer O Muse Glimmer, lançado hoje, é o novo modelo multimodal da Meta, especialmente projetado para casos de uso agentivos. Destilado do Muse para 30 bilhões de parâmetros e licenciado sob Apache 2.0, pode ser implantado em configurações locais para aplicações que prezam pela privacidade, como codificação, análise de […]

Lançamento v5.15.0 dos Transformers Read More »

imagem 8

Transformers v5.14.1: Atualização Corrige Problemas com Modelo Inkling e Decodificação Assistida

Nova versão de patch resolve falhas críticas na integração do modelo Inkling A versão v5.14.1 do Transformers acaba de ser lançada, trazendo correções importantes para problemas que surgiram durante a integração do novo modelo Inkling. Entre as principais melhorias, destaca-se a solução de um bug que afetava modelos que utilizam EncoderDecoderCache durante a geração assistida,

Transformers v5.14.1: Atualização Corrige Problemas com Modelo Inkling e Decodificação Assistida Read More »