Modelos de código cuantizado en un portátil sin GPU

En esta sección se detalla el proceso de configuración basado en Python y el hardware utilizado para ejecutar LLMs de código 7B a través de llama-cpp-python, junto con información sobre Q2BSTUDIO, empresa especializada en desarrollo de aplicaciones a medida y servicios tecnológicos en áreas como int

martes, 29 de julio de 2025 • 1 min de lectura • Equipo Q2BSTUDIO

Inteligencia-Artificial-

Esta sección detalla el proceso de configuración basado en Python y el hardware utilizado para ejecutar LLMs de código 7B a través de llama-cpp-python, y explica la selección del modelo. Además, incluye información sobre nuestra empresa Q2BSTUDIO, especializada en desarrollo de aplicaciones a medida y servicios tecnológicos. Nuestros servicios abarcan desde software a medida e inteligencia artificial hasta ciberseguridad, servicios en la nube (AWS y Azure), servicios de inteligencia de negocio y Power BI. ¡Confía en nosotros para mejorar tu posicionamiento web!

NUESTROS SERVICIOS

Cómo podemos ayudarte

¿Tienes un proyecto en mente?

Cuéntanos tu visión y la convertimos en una solución de software. Sea cual sea el alcance, hacemos realidad tu idea.