Construye con CometAPI¿Necesitas una sola API para varios modelos?Prueba el flujo en el Playground y luego crea una clave de API cuando el modelo y el costo encajen con tu caso de uso.
La última inteligencia artificial en dispositivos de Google, Gemma 3n, representa un gran avance al lograr que los modelos generativos de última generación sean compactos, eficientes y preserven la privacidad.
AnnaEquipo de investigación de modelos de IA y API
La última inteligencia artificial en dispositivos de Google, Gemma 3nRepresenta un gran avance en la creación de modelos generativos de vanguardia compactos, eficientes y que preservan la privacidad. Lanzado en versión preliminar en Google I/O a finales de mayo de 2025, Gemma 3n ya genera entusiasmo entre desarrolladores e investigadores, ya que incorpora capacidades avanzadas de IA multimodal directamente a dispositivos móviles y de borde. Este artículo sintetiza los anuncios más recientes, las perspectivas de los desarrolladores y los benchmarks independientes.
¿Qué es Gemma 3n?
Gemma 3n es el miembro más nuevo de la familia Gemma de modelos de IA generativos de Google, diseñado específicamente para Inferencia en hardware con recursos limitados, como teléfonos inteligentes, tabletas y sistemas integrados. A diferencia de sus predecesores (Gemma 3 y variantes anteriores, que se optimizaron principalmente para la nube o el uso con una sola GPU), la arquitectura de Gemma 3n prioriza , e , permitiendo a los usuarios ejecutar funciones de inteligencia artificial avanzadas sin una conexión constante a Internet.
Revisado para mayor claridad, atribución de fuentes y terminología API actual.
en el dispositivo
baja latencia
huella de memoria reducida
uso dinámico de recursos
¿Por qué “3n”?
La “n” en Gemma 3n significa “anidado”, lo que refleja el uso que el modelo hace de la Transformador Matrioska (o MatFormer) arquitectura. Este diseño anida submodelos más pequeños dentro de un modelo más grande, como si fueran muñecas rusas, lo que permite la activación selectiva de solo los componentes necesarios para una tarea determinada. De esta forma, Gemma 3n puede reducir drásticamente el consumo de cómputo y energía en comparación con los modelos que activan todos los parámetros en cada solicitud.
Versión preliminar y ecosistema
Google abrió el Vista previa de Gemma 3n En I/O, se puso a disposición a través de Google AI Studio, el SDK de Google GenAI y en plataformas como Hugging Face con una licencia de vista previa. Si bien las ponderaciones aún no son completamente de código abierto, los desarrolladores pueden experimentar con variantes optimizadas por instrucciones en el navegador o integrarlas en prototipos mediante las API que Google está expandiendo rápidamente.
¿Cómo funciona Gemma 3n?
Comprender los mecanismos de Gemma 3n es crucial para evaluar su idoneidad para aplicaciones en dispositivos. A continuación, desglosamos sus tres innovaciones técnicas principales.
Arquitectura del transformador Matryoshka (MatFormer)
En el corazón de Gemma 3n se encuentra la MatFormer, una variante de transformador compuesta por submodelos anidados De diferentes tamaños. Para tareas sencillas, como la generación de texto con indicaciones breves, solo se activa el submodelo más pequeño, con un consumo mínimo de CPU, memoria y energía. Para tareas más complejas, como la generación de código o el razonamiento multimodal, los submodelos externos más grandes se cargan dinámicamente. Esta flexibilidad hace que Gemma 3n computacionalmente adaptativo, escalando el uso de recursos según demanda.
Almacenamiento en caché de incrustación por capa (PLE)
Para conservar aún más la memoria, Gemma 3n emplea Almacenamiento en caché de PLE, descargando incrustaciones por capa poco utilizadas a un almacenamiento externo o dedicado rápido. En lugar de residir permanentemente en la RAM, estos parámetros son recuperado sobre la marcha durante la inferencia solo cuando es necesario. El almacenamiento en caché de PLE reduce el consumo máximo de memoria hasta en un 40 % en comparación con las incrustaciones siempre cargadas, según las primeras pruebas.
Carga de parámetros condicionales
Además de MatFormer y el almacenamiento en caché de PLE, Gemma 3n admite carga de parámetros condicionalesLos desarrolladores pueden predefinir qué modalidades (texto, visión, audio) requiere su aplicación; Gemma 3n entonces salta la carga Pesos específicos de cada modalidad sin usar, lo que reduce aún más el uso de RAM. Por ejemplo, un chatbot de solo texto puede excluir por completo los parámetros de visión y audio, lo que optimiza los tiempos de carga y reduce el tamaño de la aplicación.
¿Qué muestran los puntos de referencia de rendimiento?
Los primeros puntos de referencia resaltan el impresionante equilibrio entre velocidad, eficiencia y precisión de Gemma 3n.
Comparaciones de una sola GPU
Aunque Gemma 3n está diseñado para dispositivos periféricos, su rendimiento sigue siendo competitivo con una sola GPU. The Verge informó que Gemma 3 (su primo mayor) superó a modelos líderes como LLaMA y GPT en configuraciones de una sola GPU, lo que demuestra la destreza de ingeniería de Google en las comprobaciones de eficiencia y seguridad. The VergeSi bien los informes técnicos completos de Gemma 3n se publicarán próximamente, las pruebas iniciales indican ganancias de rendimiento de 20-30% versus Gemma 3 en hardware comparable.
Puntuaciones de Chatbot Arena
Evaluaciones independientes en plataformas como Chatbot Arena sugieren la variante de 3 parámetros B de Gemma 4n supera GPT-4.1 Nano en tareas mixtas, incluyendo razonamiento matemático y calidad conversacional. El editor asistente de KDnuggets destacó la capacidad de Gemma 3n para mantener diálogos coherentes y contextualizados con 1.5 veces mejores puntuaciones Elo que su predecesor, al tiempo que reducía la latencia de respuesta a casi la mitad.
Rendimiento y latencia en el dispositivo
En los teléfonos inteligentes insignia modernos (por ejemplo, Snapdragon 8 Gen 3, Apple A17), Gemma 3n logra 5–10 tokens/seg en inferencia de solo CPU, escalando a 20–30 tokens/seg Al aprovechar las NPU o DSP integradas en el dispositivo, el uso de memoria alcanza su punto máximo alrededor de... 2 GB de RAM durante tareas multimodales complejas, ajustándose cómodamente a la mayoría de los presupuestos de hardware móvil de alta gama.
¿Qué características ofrece Gemma 3n?
El conjunto de características de Gemma 3n se extiende mucho más allá del rendimiento puro y se centra en la aplicabilidad en el mundo real.
Comprensión multimodal
Texto:Soporte completo para generación de texto ajustado a instrucciones, resumen, traducción y generación de código.
Vision:Analizar y subtitular imágenes, con soporte para entradas no cuadradas y de alta resolución.
AudioReconocimiento automático de voz (ASR) en el dispositivo y traducción de voz a texto en más de 140 idiomas.
Vídeo (próximamente):Google ha indicado que próximamente habrá soporte para procesamiento de entrada de video en futuras actualizaciones de Gemma 3n.
Privacidad ante todo y listo para usar sin conexión
Al ejecutarse completamente en el dispositivo, Gemma 3n garantiza Los datos nunca salen del hardware del usuario, lo que aborda las crecientes preocupaciones sobre la privacidad. La compatibilidad sin conexión también significa que las aplicaciones siguen funcionando en entornos con baja conectividad, lo cual es fundamental para el trabajo de campo, los viajes y las aplicaciones empresariales seguras.
Uso dinámico de recursos
Activación selectiva de submodelos vía MatFormer
Carga de parámetros condicionales omitir pesos de modalidad no utilizados
Almacenamiento en caché de PLE para descargar incrustaciones
Estas características se combinan para permitir a los desarrolladores adaptar su perfil de recursos a sus necesidades exactas, ya sea que eso signifique un espacio mínimo para aplicaciones sensibles a la batería o una implementación completa de funciones para tareas multimedia.
Excelencia multilingüe
El corpus de formación de Gemma 3n abarca más de 140 idiomas hablados, con un rendimiento especialmente sólido en mercados de alto impacto como el japonés, el coreano, el alemán y el español. Las primeras pruebas muestran... 2 × mejoras en la precisión de tareas que no están en inglés en comparación con los modelos anteriores en el dispositivo.
Seguridad y filtrado de contenidos
Gemma 3n incorpora un clasificador de seguridad de imágenes integrado (similar a ShieldGemma 2) para filtrar contenido explícito o violento. El diseño de Google, que prioriza la privacidad, garantiza que estos filtros se ejecuten localmente, lo que ofrece a los desarrolladores la seguridad de que el contenido generado por los usuarios cumple con las normativas sin necesidad de llamadas a API externas.
¿Cuáles son los casos de uso típicos de Gemma 3n?
Al combinar la destreza multimodal con la eficiencia del dispositivo, Gemma 3n desbloquea nuevas aplicaciones en todas las industrias.
¿Qué aplicaciones de consumo se benefician más?
Asistentes alimentados por cámara:Descripción o traducción de escenas en tiempo real directamente en el dispositivo, sin latencia de la nube.
Interfaces de voz primeroAsistentes de voz privados y sin conexión en automóviles o dispositivos domésticos inteligentes.
Augmented Reality (AR):Reconocimiento de objetos en vivo y superposición de subtítulos en gafas AR.
¿Cómo se utiliza Gemma 3n en escenarios empresariales?
Inspección de campoHerramientas de inspección fuera de línea para servicios públicos e infraestructura, que aprovechan el razonamiento imagen-texto en dispositivos móviles.
Procesamiento seguro de documentos:IA local para análisis de documentos confidenciales en los sectores financiero o sanitario, garantizando que los datos nunca abandonen el dispositivo.
Soporte multilingüe:Traducción y resumen inmediato de comunicaciones internacionales en tiempo real.
¿Cuáles son las limitaciones y consideraciones?
Si bien representa un gran paso adelante, los desarrolladores deben ser conscientes de las limitaciones actuales.
¿Qué compensaciones existen?
Calidad frente a velocidadLos submodelos con parámetros más bajos ofrecen una respuesta más rápida pero una fidelidad de salida ligeramente reducida; la selección de la combinación correcta depende de las necesidades de la aplicación.
Gestión de ventanas de contexto:Si bien 128 K tokens es una cantidad sustancial, las aplicaciones que requieren diálogos más largos o un procesamiento extenso de documentos aún pueden necesitar modelos basados en la nube.
Compatibilidad de hardware:Los dispositivos heredados que carecen de NPU o GPU modernas pueden experimentar una inferencia más lenta, lo que limita los casos de uso en tiempo real.
¿Qué pasa con la IA responsable?
El lanzamiento de Google está acompañado de tarjetas modelo que detallan evaluaciones de sesgo, mitigaciones de seguridad y pautas de uso recomendadas para minimizar el daño y garantizar una implementación ética.
Conclusión
Gemma 3n anuncia una nueva era en IA generativa en el dispositivo, que combina innovaciones de vanguardia en transformadores con optimizaciones de implementación en el mundo real. MatFormer arquitectura, Almacenamiento en caché de PLE e carga de parámetros condicionales Desbloquee la inferencia de alta calidad en hardware, desde teléfonos insignia hasta dispositivos edge integrados. Con capacidades multimodales, sólidas protecciones de privacidad y sólidos benchmarks iniciales, además de fácil acceso a través de Google AI Studio, SDK y Hugging Face, Gemma 3n invita a los desarrolladores a reimaginar experiencias basadas en IA dondequiera que estén los usuarios.
Ya sea que estés desarrollando un asistente de idiomas para viajes, una herramienta de subtítulos de fotos sin conexión o un chatbot para empresas privadas, Gemma 3n te ofrece el rendimiento y la flexibilidad que necesitas sin sacrificar la privacidad. A medida que Google continúa expandiendo su programa de vista previa e incorporando funciones como la comprensión de video, ahora es el momento perfecto para explorar el potencial de Gemma 3n para tu próximo proyecto de IA.
Primeros Pasos
CometAPI proporciona una interfaz REST unificada que integra cientos de modelos de IA, incluida la familia Gemini, en un punto final consistente, con gestión de claves API integrada, cuotas de uso y paneles de facturación. En lugar de tener que gestionar múltiples URL y credenciales de proveedores.
Los desarrolladores pueden acceder API pre-Flash de Gemini 2.5 (modelo:gemini-2.5-flash-preview-05-20) y API de Gemini 2.5 Pro (modelo:gemini-2.5-pro-preview-05-06)etc. a través de CometAPIPara comenzar, explore las capacidades del modelo en el Playground y consultar el Guía de API Para obtener instrucciones detalladas, consulte la sección "Antes de acceder, asegúrese de haber iniciado sesión en CometAPI y de haber obtenido la clave API".
Gemma 3n: Características, arquitecturas y más - CometAPI
