Google випустила Gemma 4 12B для локального запуску ШІ на ноутбуках
- Google представила відкриту модель Gemma 4 12B із 11,95 млрд параметрів.
- Модель працює локально на ноутбуках із 16 ГБ пам’яті.
- Архітектура Unified об’єднує обробку тексту, аудіо та зображень.
- Підтримується контекст до 256 тисяч токенів і функції агентів.
- Модель доступна через Hugging Face, Kaggle і Google AI Edge.
Google представила відкриту модель штучного інтелекту Gemma 4 12B із 11,95 млрд параметрів, яка може працювати локально на ноутбуках із 16 ГБ відео- або уніфікованої пам’яті. Модель доступна за ліцензією Apache 2.0 і вже поширюється через Hugging Face, Kaggle та Google AI Edge Gallery.
Однією з ключових особливостей стала архітектура Unified, яка відрізняється від традиційних мультимодальних підходів. Замість використання окремих енкодерів для зображень і аудіо, модель обробляє ці типи даних безпосередньо через мовну систему з використанням спрощених проміжних модулів. Такий підхід, за даними Google, зменшує затримки, знижує вимоги до пам’яті та спрощує процес донавчання.
Gemma 4 12B підтримує контекстне вікно до 256 тисяч токенів, функції покрокового міркування, системні інструкції та виклик зовнішніх функцій для створення агентів. За окремими тестами її продуктивність наближається до більшої моделі Gemma 4 26B.
Модель також може працювати з аудіо та відео, проте має обмеження: аудіо — до 30 секунд, відео — до 60 секунд при обробці зі швидкістю один кадр на секунду.
Gemma 4 12B позиціонується як рішення для локального використання без підключення до хмарних сервісів, що може бути актуально для задач із підвищеними вимогами до конфіденційності або роботи без постійного доступу до інтернету.
Модель уже підтримує популярні інструменти розгортання, зокрема vLLM, SGLang, MLX та llama.cpp. Також передбачена інтеграція з сервісами Google Cloud, включаючи Model Garden, Cloud Run і Google Kubernetes Engine.
