.jpg)
Si no has estado desconectado del mundo tecnológico, habrás notado el auge de la inteligencia generativa y los modelos de lenguaje a gran escala como Gemini y ChatGPT. Muchas soluciones envían datos a APIs externas para obtener respuestas, pero esto genera dudas sobre privacidad, confianza, cumplimiento legal y gobernanza. La alternativa es la inteligencia artificial en el dispositivo, donde los datos se procesan localmente y se reducen gran parte de esos riesgos. En este artículo explicamos cómo usar la API Chrome On-Device Prompt para procesar datos localmente y describimos los pasos clave para habilitar, descargar y usar un modelo en Chrome.
Paso 1 Descargar Google Chrome y activar flags necesarios. Asegúrate de usar la versión más reciente de Chrome. Estas APIs son específicas de Chrome por ahora y es necesario activar algunas banderas en chrome://flags para habilitar la API de prompt on device y el modelo integrado. Entre las flags a activar se encuentran las relacionadas con prompt api for gemini nano y optimization guide on device model. Después de activar las flags, reinicia el navegador usando el botón de relanzar que aparece en la parte inferior.
Paso 2 Comprobar disponibilidad del modelo. Una vez activadas las flags hay que verificar si el modelo ya está descargado en el equipo del usuario. Chrome expone métodos como LanguageModel.availability() que permiten saber si el modelo está listo. Si no está descargado, no se puede enviar prompts hasta completar la descarga.
Paso 3 Descargar el modelo. Si el modelo no está presente hay que iniciar la descarga, que ocupa aproximadamente 1.5 GB. La descarga debe iniciarla el usuario, por ejemplo mediante un botón que desencadene LanguageModel.create y permita mostrar el progreso. Es importante informar al usuario del tamaño y del progreso de la descarga para evitar sorpresas. En frameworks como Angular se puede propagar el progreso desde un servicio a la interfaz usando señales o estados para mostrar porcentaje y estado de descarga.
Paso 4 Enviar prompts al modelo. Con el modelo descargado se puede analizar texto localmente usando APIs como session.analyzeText(prompt). La respuesta puede emitirse en streaming en fragmentos que se van concatenando en la interfaz. También es posible definir prompts iniciales para dar una personalidad o reglas de comportamiento al modelo mediante initialPrompts al crear la sesión, por ejemplo para ajustar el tono de las respuestas o establecer restricciones de uso.
Paso 5 Limpieza. Cuando termines la interacción con el modelo es recomendable destruir la sesión para liberar recursos, por ejemplo con session.destroy().
Consideraciones prácticas. Los modelos on device son reducidos y tienen un número limitado de tokens y capacidades en comparación con modelos en la nube, por lo que conviene diseñar prompts y flujos de interacción pensando en esas limitaciones. A nivel de experiencia de usuario, siempre informar sobre la necesidad de descargar el modelo y mostrar un indicador de progreso mejora la confianza. En escenarios empresariales, la IA en el dispositivo aporta ventajas claras sobre privacidad y cumplimiento cuando se manejan datos sensibles.
Sobre Q2BSTUDIO. En Q2BSTUDIO somos una empresa de desarrollo de software y aplicaciones a medida especializada en inteligencia artificial, ciberseguridad y servicios cloud. Desarrollamos soluciones personalizadas para empresas que buscan integrar IA para empresas, agentes IA y capacidades avanzadas de automatización y analítica. Si necesitas construir una aplicación o plataforma con inteligencia en el dispositivo o en la nube, consulta nuestros servicios de software a medida y aplicaciones a medida y descubre cómo podemos ayudar con arquitecturas seguras y escalables.
Servicios complementarios. Además de desarrollo a medida ofrecemos ciberseguridad y pentesting para proteger tus aplicaciones, servicios cloud aws y azure para desplegar infraestructura confiable, y servicios de inteligencia de negocio y power bi para transformar datos en decisiones. Con un enfoque integral podemos combinar aplicaciones a medida, inteligencia artificial, ciberseguridad y servicios cloud aws y azure para proyectos que requieren garantías de privacidad y rendimiento. Para conocer nuestras capacidades en IA revisa nuestra página de inteligencia artificial.
Palabras clave relevantes para este artículo: aplicaciones a medida, software a medida, inteligencia artificial, ciberseguridad, servicios cloud aws y azure, servicios inteligencia de negocio, ia para empresas, agentes IA, power bi. Si te interesa una consultoría o un prototipo que integre on device AI y estrategias de seguridad, contacta con Q2BSTUDIO para definir el alcance y la arquitectura adecuada a tu organización.
