Google 最近在 AI 領域內不斷掀起旋風，除了之前推出 Gemini 1.5 後，今天更宣布推出開源 AI 模型 Gemma，最輕量版甚至在筆電上就能運作！讓很多開發人員相當興奮。Gemma 不僅是一個輕量級的開源模型家族，而且還承襲了 Google DeepMind 和其他團隊在開發 Gemini模型時所使用的先進研究和技術。這個名字來自於拉丁語，意味著「寶石」，兩者不只名字像，或許也意味著 Google 對這一系列的模型寄予了厚望。
Gemma 分為 Gemma 2B 和 7B 兩個版本，其中較輕量的 2B 主要以 CPU 運行使用為主，7B 版本則是搭配 GPU 或更高性能的運算裝置使用。
Gemma的應用範圍也相當廣泛，從開發人員的筆電或工作站到 Google Cloud 的 Vertex AI 和 Google Kubernetes Engine 都可以直接運行 Gemma 預訓練模型，並進行微調。這種靈活性和易用性，結合Google Cloud提供的MLOps工具，使得Gemma成為一個極具吸引力的選擇。
效能比較，優異的數理、程式碼撰寫能力
根據 Google 進行的測試，Gemma 7B 在 LLMU 測試項目中，和目前業界最好的開源模型 Mistral 7b 性能相當接近，Gemma 7b 的分數為 64.3 分，Mistral 7b 的分數則是 62.5 分。而 Gemma 2B 由於模型規模、參數量都較小，因此在 LLMU 測試項目中表現比較差強人意。
在另一項針對問題回答、推理、數理能力、程式碼撰寫的測試中，問題回答、推理能略高於 Mistral 7b，不過數理能力及程式碼撰寫能力則明顯較 Mistral 7b 好上一截。
支援多種運行環境，小到 IoT 裝置都支援
Gemma 可以在筆電、桌機、IoT、行動裝置或雲端服務上運行，提供更廣泛的 AI 應用領域支持。
硬體優化方面，Gemma 不僅支援 Google Cloud TPU，還與 NVIDIA 合作，確保基於 NVIDIA GPU 的部署可以達到高效能。不過目前還沒有提及與 AMD、Intel 合作的消息，使用者可能還要再等等。
對於開發人員來說，Google 提供的 Kaggle notebook、Colab 免費方案以及 Google Cloud 點數，鼓勵更多的人參與到 AI 開發和研究中來。另外，研究人員還可以申請最高 50 萬美元等值的 Google Cloud 點數來加速專案開發，這些更是對研究人員的一大鼓勵。
