Todos os posts

Servidor GLM-5.3 na Nvidia, navegador Agweb para agentes e DeepSeek V3 em JAX

Compartilhe este post

Acompanhe as principais novidades da inteligência artificial prática, com foco em eficiência de infraestrutura, autonomia de agentes e simplificação arquitetural.

Imagem: NVIDIA Technical Blog

Execução local do modelo GLM-5.3 em estações Nvidia com vLLM

Segundo postagem no blog técnico da Nvidia, o modelo de linguagem GLM-5.3 NVFP4, que conta com 753 bilhões de parâmetros, foi executado de forma distribuída entre duas estações Nvidia DGX. A arquitetura utilizou a biblioteca vLLM e conexão RDMA para dividir os parâmetros entre duas GPUs GB300 sem necessidade de descarregar dados para a CPU. Em testes de desempenho, o sistema alcançou um pico de processamento de 607,8 tokens por segundo com concorrência de 16 requisições.

Como aplicar na sua empresa

Essa abordagem possibilita que empresas executem modelos de grande porte internamente, garantindo privacidade para dados sensíveis e eliminando custos recorrentes de API por token. A capacidade de servir inferência em alta velocidade em hardware local viabiliza novos fluxos corporativos complexos sem depender da nuvem.

Fale com um especialista

Navegador Agweb otimizado para agentes de código em macOS

De acordo com a documentação do projeto no GitHub por paul-nameless, o Agweb é um navegador para macOS baseado no WebKit desenvolvido especificamente para ser operado por agentes de inteligência artificial. O software executa ações sem roubar o foco do teclado ou exibir janelas pop-up, permitindo que múltiplos agentes trabalhem em paralelo em espaços isolados. Além disso, o navegador suspende abas inativas para reduzir o uso de memória a 590 MB em cinco páginas abertas e oferece um painel central para acompanhamento humano.

Como aplicar na sua empresa

A ferramenta otimiza a automação corporativa ao permitir que assistentes de IA interajam com sistemas web sem interromper o trabalho diário dos colaboradores. A redução do consumo de hardware e a navegação em segundo plano facilitam a execução paralela de tarefas de negócios.

Fale com um especialista

Implementação do DeepSeek V3 em 190 linhas de código JAX

Segundo o repositório publicado no GitHub por Vaibhaav Tiwari, a arquitetura do modelo DeepSeek V3 foi codificada em 190 linhas de JAX puro sem dependência de frameworks adicionais de redes neurais. O projeto incluiu componentes como atenção latente multicabeça (MLA), roteamento de especialistas DeepSeekMoE e previsão de múltiplos tokens. Um modelo de 36,2 milhões de parâmetros foi pré-treinado do zero em um computador portátil MacBook Air em cerca de 2,6 horas.

Como aplicar na sua empresa

A simplificação de arquiteturas avançadas facilita o aprendizado e a experimentação rápida por equipes técnicas internas. Com isso, empresas podem compreender os mecanismos internos dos modelos modernos para customizar soluções próprias de forma mais eficiente.

Fale com um especialista

Compartilhe este post

Curadoria da Versagil, com apoio de IA.

Da leitura à prática

As notícias mostram o que está mudando. Estes são os caminhos para levar o assunto à operação da sua empresa.

Ver todas as soluções

Quer saber onde a IA ajuda na sua empresa?

Em cerca de 2 minutos, o diagnóstico gratuito mostra o estágio da sua empresa e o próximo passo.