Construye una aplicación gratuita y privada de "Chat con PDF" en 70 líneas de Python

Tienes un PDF privado con el que necesitas conversar pero no quieres subirlo a servicios externos. Puede contener datos sensibles de clientes, planes internos o información financiera personal. La alternativa es ejecutar todo en tu máquina con herramientas libres y respetuosas de la privacidad. En este artículo explico un flujo completo y funcional que usa Ollama como cerebro local, LanceDB como memoria vectorial y un conjunto de librerías que funcionan juntas sin abrir tus datos a terceros.

Por qué esta arquitectura Privacidad, potencia y coste cero. El objetivo es control total y coste nulo. Todo corre en tu equipo. Ollama permite ejecutar modelos grandes como Llama 3 o Mistral sin conexión ni claves API. LanceDB es una base vectorial open source, rápida y serverless que se integra directamente en aplicaciones Python. Resultado: todo queda en tu laptop, tus documentos no salen de tu red y las conversaciones son privadas.

Paso 1 Preparar las herramientas Descarga e instala Ollama según tu sistema operativo y abre una terminal separada para ejecutar el servidor local con el comando ollama serve Mantén esa terminal abierta. Si aparece un error indicando que el servidor ya está en ejecución, significa que la app arrancó automáticamente y está listo. Después, en la terminal, descarga los modelos necesarios con ollama pull llama3 y ollama pull nomic-embed-text

Para gestionar versiones de Python recomiendo pyenv con pyenv install 3.14.0 y pyenv local 3.14.0 Esta fue la versión estable con la que desarrollé y probé el flujo. Instala las librerías clave con pip install lancedb==0.25.3 ollama==0.6.1 pypdf==6.2.0 Esta combinación evita la temida dependency hell y permite ejecutar el código a la primera. Si necesitas una solución profesional a medida para integrar esto en tu organización consulta nuestros servicios de aplicaciones a medida en Q2BSTUDIO.

Paso 2 El flujo RAG en términos simples El patrón es Retrieval Augmented Generation. Cinco pasos lógicos: ingreso del PDF, fragmentación, generación de embeddings, almacenamiento en LanceDB, y bucle de consulta con recuperación y generación. Coloca un archivo llamado file.pdf en la carpeta del proyecto. El script leerá el PDF, extraerá todo el texto y lo dividirá en fragmentos manejables, por ejemplo de 1000 caracteres por chunk, para que el modelo pueda procesarlos.

Cada fragmento se transforma en un vector con el modelo de embeddings nomic-embed-text usando Ollama. Esos vectores y su texto original se guardan en una tabla de LanceDB en disco. Cuando haces una pregunta, el texto de la pregunta también se convierte en vector y LanceDB busca los chunks más similares. Ese contexto recuperado se envía junto a tu pregunta al modelo de generación Llama 3 para producir una respuesta precisa y con fundamento en el documento original.

Comandos y estructura recomendada En resumen los pasos clave en la consola son ollama serve ollama pull llama3 ollama pull nomic-embed-text pyenv install 3.14.0 pyenv local 3.14.0 pip install lancedb==0.25.3 ollama==0.6.1 pypdf==6.2.0 Mantén file.pdf en el directorio del proyecto y crea una pequeña aplicación Python que haga lectura con pypdf, fragmentación, llamadas a ollama.embeddings para obtener vectores y almacenamiento con lancedb.connect. El bucle de consulta toma la pregunta del usuario, obtiene el chunk más relevante con table.search y llama a ollama.generate con el contexto encontrado.

Privacidad y control Todo se ejecuta localmente. No hay envío de documentos a terceros ni claves API externas. La base de datos LanceDB vive en disco y Ollama ejecuta los modelos en tu máquina. Esta arquitectura es ideal para organizaciones que necesitan soberanía sobre sus datos, cumplimiento y confidencialidad.

Ejemplos reales de uso Resumen instantáneo de informes financieros: a partir de un informe denso la aplicación puede devolver en segundos los KPI fundamentales como ingresos, beneficio neto y usuarios activos. Preparación para reuniones de alto impacto: pide al asistente que adopte el rol de un miembro del consejo escéptico y recibe las preguntas más duras que podrías esperar junto con contraargumentos y datos de apoyo. Estos ejemplos demuestran cómo una herramienta privada y local acelera la toma de decisiones y la preparación estratégica.

Casos de uso en empresas Este patrón es perfecto para integrar en soluciones de inteligencia de negocio, agentes IA internos, asistentes para documentación legal, análisis financiero privado o respuestas a políticas internas. Si buscas llevar esto a producción con integraciones en la nube, arquitecturas híbridas y cumplimiento, en Q2BSTUDIO ofrecemos diseño e implementación de soluciones completas en inteligencia artificial y servicios cloud aws y azure. Conecta con nuestros servicios de servicios de inteligencia artificial para escalar desde un prototipo local a una plataforma empresarial segura y gestionada.

Palabras clave y ventajas competitivas aplicaciones a medida software a medida inteligencia artificial ciberseguridad servicios cloud aws y azure servicios inteligencia de negocio ia para empresas agentes IA power bi Integrar este flujo con procesos de Business Intelligence y dashboards en Power BI permite unir respuestas contextuales del PDF con visualizaciones y reporting corporativo, automatizando análisis y seguimiento de métricas clave.

Sobre Q2BSTUDIO Q2BSTUDIO es una empresa de desarrollo de software y aplicaciones a medida especializada en inteligencia artificial, ciberseguridad, servicios cloud y soluciones de inteligencia de negocio. Diseñamos y desplegamos soluciones personalizadas que combinan agentes IA, análisis avanzado y protección robusta para que tus datos y procesos estén seguros y sean productivos. Si necesitas un proyecto a medida para documentos confidenciales, evaluación de riesgos o construcción de agentes IA internos, podemos ayudarte desde el prototipo hasta la puesta en producción.

Manos a la obra La barrera para tener un asistente privado que lea tus PDFs es baja. Con Ollama y LanceDB puedes montar un motor RAG totalmente local y gratuito. Empieza hoy mismo, protege los datos de tu empresa y acelera procesos con IA. Cuando necesites profesionalizar la solución, auditoría de seguridad o despliegue escalable en nube, en Q2BSTUDIO ofrecemos servicios completos de desarrollo, ciberseguridad y automatización para llevar tu proyecto al siguiente nivel.