Google a lansat recent Gemma 2, cea mai nouă generație a modelelor sale deschise, marcând un pas semnificativ înainte în domeniul inteligenței artificiale. Gemma 2 este disponibilă cercetătorilor și dezvoltatorilor din întreaga lume, oferind performanțe de top în clasă și eficiență remarcabilă la inferență. Cu dimensiuni de 9 miliarde (9B) și 27 de miliarde (27B) de parametri, Gemma 2 reprezintă o alternativă competitivă la modelele de dimensiuni mai mari, fiind capabilă să livreze performanțe care până de curând erau posibile doar cu modele proprietare.
Arhitectura redesenată a Gemma 2 este proiectată pentru performanță excepțională și eficiență la inferență. Modelul de 27B se remarcă prin performanța sa, oferind alternative competitive modelelor de peste două ori mai mari. De asemenea, modelul de 9B depășește performanța altor modele deschise din categoria sa de dimensiune. Pentru detalii tehnice, puteți consulta raportul tehnic.
Unul dintre cele mai impresionante aspecte ale Gemma 2 este eficiența și economiile de cost pe care le aduce. Modelul de 27B este proiectat să ruleze inferența eficient la precizie completă pe un singur host TPU Google Cloud, NVIDIA A100 80GB Tensor Core GPU sau NVIDIA H100 Tensor Core GPU, reducând semnificativ costurile de implementare și menținând în același timp performanțe ridicate.
Gemma 2 este optimizată pentru a rula cu viteză incredibilă pe o gamă largă de hardware, de la laptopuri de gaming puternice și desktopuri high-end, până la configurații bazate pe cloud. Puteți încerca Gemma 2 la precizie completă în Google AI Studio, deblocați performanța locală cu versiunea cuantizată cu Gemma.cpp pe CPU-ul dvs., sau încercați-o pe computerul de acasă cu un NVIDIA RTX sau GeForce RTX prin Hugging Face Transformers.
Gemma 2 este construită pentru dezvoltatori și cercetători, oferind un nou standard de model deschis pentru eficiență și performanță. Cu această lansare, Google continuă să împingă limitele a ceea ce este posibil în AI, facilitând accesul la instrumente de ultimă oră pentru toți cei interesați de dezvoltarea tehnologiei.
