O Google diz que Gemma 3 é o “Melhor modelo de acelerador único do mundo”. No entanto, nem todas as versões do modelo são ideais para o processamento local. Ele vem em vários tamanhos, de um modelo pequeno de 1 bilhão de parâmetros de texto que pode ser executado em quase qualquer coisa até a versão robusta de 27 bilhões de parâmetros que devora a RAM. Nos modos de menor precisão, o menor modelo Gemma 3 pode ocupar menos de um gigabyte de memória, mas as versões de tamanho super precisam de 20 GB-30GB, mesmo com precisão de 4 bits.
Mas quão bom é Gemma 3? O Google forneceu alguns dados que parecem mostrar melhorias substanciais sobre a maioria dos outros modelos de código aberto. Usando a métrica ELO, que mede a preferência do usuário, Gemma 3 27B sopra Gemma 2, Meta llama3, Openai O3-mini e outros nos recursos de bate-papo. Não se atualiza até o Deepseek R1 neste teste relativamente subjetivo. No entanto, ele é executado em um único acelerador NVIDIA H100 aqui, enquanto a maioria dos outros modelos precisa de um grupo de GPUs. O Google diz que a Gemma 3 também é mais capaz quando se trata de matemática, codificação e seguintes instruções complexas. No entanto, não oferece nenhum número para fazer backup isso.
A pontuação subjetiva de preferência do usuário elo mostra as pessoas digitam Gemma 3 como um chatbot.
Crédito: Google
O Google tem o modelo Gemma mais recente disponível on -line no Google AI Studio. Você também pode ajustar o treinamento do modelo usando ferramentas como Google Colab e Vertex AI-ou simplesmente usar sua própria GPU. Os novos modelos Gemma 3 são de código aberto, para que você possa baixá -los em repositórios como Kagle ou Abraçando o rosto. No entanto, o contrato de licença do Google limita o que você pode fazer com eles. Independentemente disso, o Google não saberá o que você está explorando em seu próprio hardware, que é a vantagem de ter modelos locais mais eficientes como a Gemma 3.
Não importa o que você queira fazer, há um modelo Gemma que se encaixará no seu hardware. Precisa de inspiração? O Google tem um novo “Gemmer“Comunidade para destacar aplicativos criados com modelos Gemma.
