IA y automatización · Pensamiento y aprendizaje
Acaba de salir Gemma 4 de Google y creo que cambia por completo la conversación sobre cómo desplegamos IA local y en el…
Texto propio recuperado del archivo personal de LinkedIn, revisado el 26 de septiembre de 2026. Fecha contrastada con los metadatos públicos de la publicación. Título y descripción editoriales; cuerpo conservado, con formato adaptado a Markdown.
Ver publicación original ↗Acaba de salir Gemma 4 de Google y creo que cambia por completo la conversación sobre cómo desplegamos IA local y en el edge 🚀. Ya no se trata de buscar “el modelo más grande”, sino “el modelo correcto para tu hardware”.
Como alguien que viene del mundo de la automatización y busca constantemente optimizar arquitecturas para ejecuciones 24/7 a bajo costo, este lanzamiento me parece clave. Google no lanzó un solo modelo, sino un ecosistema pensado para la eficiencia:
🔹 E2B y E4B (2.3B y 4.5B efectivos): Las joyas para Edge AI. Pensados para correr nativamente en móviles y hardware modesto con contexto de 128K. Ideales para automatizaciones locales que no pueden depender de la latencia de la nube. 🔹 26B A4B (MoE): Mi favorito a nivel de arquitectura. Tiene 25.2B de parámetros totales, pero la magia del Mixture of Experts hace que solo active 3.8B por inferencia. Inteligencia de modelo grande con consumo de modelo mediano. 🔹 31B Dense: La artillería pesada. Maximiza la calidad bruta y es la base perfecta para proyectos serios de fine-tuning.
📊 Hablemos de números reales (VRAM requerida): ¿Cuánto hardware necesitas realmente para correrlos? Aquí les comparto mis estimaciones usando cuantización a 4-bits (Q4), que es lo más práctico para pruebas locales:
💻 Para Laptops estándar (8GB VRAM): Los modelos E2B (~1.2 GB) y E4B (~2.3 GB) entran sobrados, dejando espacio para el sistema y el KV cache. 🖥️ Para GPUs de gama media-alta (12-16GB VRAM): El 26B MoE (~12.6 GB de peso total) es el punto dulce. Te permite tener capacidades de razonamiento avanzado sin tener que alquilar un servidor costoso. ⚙️ Para Workstations o Cloud (24GB+ VRAM): El 31B Dense (~15.4 GB) corre sin problemas, dándote margen para aprovechar su ventana de contexto de 256K.
El futuro de la automatización inteligente no está solo en depender de APIs externas, sino en arquitecturas híbridas donde agentes locales eficientes resuelven el 80% de las tareas diarias con costo cero de inferencia.
¿Qué hardware están usando actualmente para sus pruebas locales de IA? ¿Alguien más planea probar la versión MoE este fin de semana? Los leo en los comentarios 👇
La conversación continúa.