Google treu Gemma 2

Google ha anunciat el llançament de Gemma 2, la darrera iteració dels seus models d’intel·ligència artificial oberts, dissenyats per a desenvolupadors i investigadors. Gemma 2 està disponible en dues mides de paràmetres: 9 mil milions (9B) i 27 mil milions (27B), oferint rendiment d’avantguarda i eficiència en la inferència, superant significativament el seu predecessor. Aquest model no només és més potent, sinó que també integra millores significatives en seguretat i és altament eficient, aconseguint un rendiment competitiu amb models que són més del doble de la seva mida. A més, pot funcionar en una sola GPU Tensor Core H100 de NVIDIA o en un host TPU, reduint considerablement els costos d’implementació.

Característiques destacades de Gemma 2

  1. Rendiment excepcional:
    • El model de 27B ofereix el millor rendiment en la seva classe de mida i opcions competitives enfront de models més grans.
    • El model de 9B també lidera en rendiment dins de la seva categoria, superant altres models oberts de mida similar.
  2. Eficiència i estalvi de costos:
    • Dissenyat per executar inferències a precisió completa en una varietat de maquinari, inclòs el GPU Tensor Core H100 de NVIDIA, optimitzant costos sense sacrificar rendiment.
  3. Velocitat d’inferència:
    • Gemma 2 està optimitzat per córrer a gran velocitat en diferents configuracions de maquinari, des de portàtils de jocs fins a configuracions basades en el núvol.
  4. Compatibilitat i accessibilitat:
    • Compatible amb principals marcs d’IA com Hugging Face, JAX, PyTorch i TensorFlow, cosa que facilita la seva integració en fluxos de treball existents.
    • Disponible sota una llicència comercialment amigable, permetent als desenvolupadors i investigadors compartir i comercialitzar les seves innovacions.

Recursos i eines addicionals

  • Gemma Cookbook: Una col·lecció d’exemples pràctics i receptes per guiar els usuaris en la construcció d’aplicacions i ajust fi dels models Gemma 2 per a tasques específiques.
  • Google AI Studio: Permet provar les capacitats completes del model de 27B sense necessitat de maquinari addicional.
  • Kaggle i Hugging Face Models: Ofereixen els pesos del model per a descàrrega, facilitant l’accés i ús.

Desenvolupament responsable d’IA

Google es compromet a proporcionar recursos per al desenvolupament i desplegament responsable de la IA, incloent el Responsible Generative AI Toolkit i el LLM Comparator, una eina d’avaluació comparativa de models de llenguatge. A més, Google planeja fer open source la seva tecnologia de marques d’aigua de text, SynthID, per als models Gemma, reforçant el seu compromís amb la seguretat i la mitigació de riscos en IA.

Projectes i aplicacions amb Gemma

El primer llançament de Gemma va resultar en més de 10 milions de descàrregues i nombrosos projectes innovadors. Amb Gemma 2, Google espera impulsar encara més la creativitat i ambició dels desenvolupadors en els seus projectes d’IA, incloent futurs models dissenyats per balancejar accessibilitat i rendiment.

Disponibilitat i propers passos

Gemma 2 està disponible en Google AI Studio, Kaggle, i aviat en Vertex AI Model Garden. Per fomentar l’accés a la investigació i desenvolupament, Gemma 2 està disponible de manera gratuïta en Kaggle i mitjançant un nivell gratuït per a notebooks Colab. Els nous clients de Google Cloud poden ser elegibles per a 300 dòlars en crèdits. A més, els investigadors acadèmics poden sol·licitar el Gemma 2 Academic Research Program per rebre crèdits de Google Cloud que accelerin les seves investigacions.

Google segueix explorant noves arquitectures i variants especialitzades de Gemma per abordar una gamma més àmplia de tasques i desafiaments d’IA, amb la promesa de futures actualitzacions i models.