Google meluncurkan dua LLM terbuka baru

Terima kasih untuk gambarnya: Catherine Delahaye/Getty Images

Hampir seminggu setelah meluncurkan iterasi terbaru model Gemini, Google hari ini mengumumkan peluncuran Gemma, rangkaian baru model ringan dan berbobot terbuka. Dimulai dengan Gemma 2B dan Gemma 7B, model-model baru ini telah “terinspirasi Gemini” dan tersedia untuk penggunaan komersial dan penelitian.

Google tidak memberi kami dokumen mendetail tentang bagaimana model ini dibandingkan dengan model serupa dari Meta dan Mistral, misalnya, hanya mencatat bahwa model tersebut “canggih”. Namun, perusahaan mencatat bahwa ini adalah model padat dekoder saja, yang merupakan arsitektur yang sama yang digunakan untuk model Gemini (dan model PaLM sebelumnya), dan kita akan melihat tolok ukurnya hari ini di grafik Hugging Face.

Untuk memulai Gemma, pengembang dapat mengakses notebook Colab dan Kaggle yang siap digunakan, serta integrasi dengan Hugging Face, MaxText, dan NeMo Nvidia. Setelah pra-pelatihan dan penyetelan, model ini dapat dikendarai ke mana saja.

Meskipun Google menekankan bahwa ini adalah model terbuka, perlu dicatat bahwa ini bukan sumber terbuka. Faktanya, pada konferensi pers menjelang pengumuman hari ini, Janine Banks dari Google menekankan komitmen perusahaan terhadap open source, namun juga mencatat bahwa Google dengan sengaja merujuk pada model Gemma.

“[Open models] telah menjadi hal yang umum di industri saat ini,” kata Banks. “Hal ini sering terjadi pada model skala terbuka, di mana pengembang dan peneliti memiliki akses luas untuk menyesuaikan dan menyempurnakan model, namun pada saat yang sama, ketentuan penggunaan—hal-hal seperti redistribusi dan kepemilikan varian yang dikembangkan —Bervariasi sesuai dengan ketentuan penggunaan spesifik model. Jadi kami melihat beberapa perbedaan antara apa yang biasanya kami sebut sebagai open source, dan kami memutuskan bahwa lebih masuk akal untuk menyebut model Gemma kami sebagai open source.”

Ini berarti pengembang dapat menggunakan model tersebut untuk menyimpulkan dan menyempurnakannya sesuka mereka, dan tim Google mengatakan bahwa meskipun ukuran model ini cocok untuk banyak kasus penggunaan.

“Kualitas generasi telah meningkat secara signifikan selama setahun terakhir,” kata Direktur Manajemen Produk Google DeepMind Tris Warkentin. “Hal-hal yang dulunya merupakan bidang model yang sangat besar kini dapat dilakukan dengan model yang lebih kecil dan canggih. Hal ini membuka cara-cara baru untuk mengembangkan aplikasi AI yang sangat kami sukai, termasuk kemampuan untuk menjalankan inferensi dan debug pada desktop pengembangan lokal atau laptop dengan GPU RTX Anda, atau pada satu host di GCP dengan Cloud TPU. .”

Hal ini juga berlaku untuk model terbuka dari pesaing Google di bidang ini, jadi kita harus melihat bagaimana kinerja model Gemma dalam skenario dunia nyata.

Selain model-model baru, Google juga merilis Toolkit AI Generatif Bertanggung Jawab baru yang menyediakan “panduan dan alat penting untuk membangun aplikasi AI yang lebih aman dengan Gemma,” serta alat debugging.