Gemma 4 12B, Nvidia RTX Spark e como funcionam os LLMs

A primeira semana de junho levou mais poder de IA aos computadores pessoais e trouxe uma boa introdução à tecnologia por trás dela.

Gemma 4 12B: modelo aberto multimodal que roda em notebooks de 16 GB

O Google lançou o Gemma 4 12B, modelo aberto intermediário que leva imagens e áudio direto para o modelo de linguagem, o primeiro Gemma desse porte com entrada de áudio nativa. Segundo o Google, ele chega perto do modelo de 26 bilhões de parâmetros com menos da metade da memória e roda localmente em notebooks com 16 GB. A licença é Apache 2.0.

Como aplicar na sua empresa

IA multimodal que entende imagens e áudio num notebook comum abre usos privados, como ler documentos, fotos e gravações.

Fale com um especialista

Fontes

• Google: Introducing Gemma 4 12B: a unified, encoder-free multimodal model

Nvidia RTX Spark leva IA de verdade a notebooks finos

A Nvidia apresentou o RTX Spark, plataforma para notebooks finos e desktops compactos com Windows que combina um processador Grace de 20 núcleos com uma GPU Blackwell RTX, com até 1 petaflop de desempenho em IA e até 128 GB de memória unificada. Ela permite criar, ajustar e rodar localmente modelos de até 120 bilhões de parâmetros. Os notebooks vêm de ASUS, Dell, HP, Lenovo, Microsoft e MSI.

Como aplicar na sua empresa

IA de nível de estação de trabalho num notebook permite testar e rodar modelos com dados sensíveis sem depender da nuvem.

Fale com um especialista

Fontes

• NVIDIA: NVIDIA RTX Spark

Um passo a passo claro de como funcionam os modelos de linguagem

Um texto muito compartilhado explica, sem matemática pesada, os mecanismos centrais dos modelos de linguagem modernos: como o texto vira tokens, como o modelo sabe a ordem das palavras, a atenção, a atenção com várias cabeças, a rede feed-forward e o fluxo residual. O objetivo é que o leitor consiga entender artigos e fichas técnicas de modelos.

Como aplicar na sua empresa

Equipes que entendem o básico da tecnologia escolhem melhor os modelos e têm expectativas mais realistas nos projetos de IA.

Fale com um especialista

Fontes

• 0xkato: How LLMs Actually Work

Curadoria da Versagil, com apoio de IA.