.jpg)
Estaba construyendo AllPub.co una herramienta inteligente de publicación multiplataforma cuando me topé con un problema que el código no podía resolver solo: qué LLM debía usar realmente.
El problema de las 3 AM. Es tarde y necesito generación de títulos con IA extracción de SEO y resúmenes para AllPub. Parece simple pero no lo fue. ¿Usar GPT-4 por su calidad aunque sea muy caro? ¿Claude 3 Haiku por su coste más bajo aunque haya dudas sobre calidad? ¿Mistral Llama Deepseek u otros? Cada modelo tiene compensaciones: velocidad frente a coste calidad frente a requisitos de infraestructura. Tres horas después tenía 47 pestañas abiertas y cero claridad. Lo frustrante es que soy desarrollador puedo programar casi cualquier cosa pero no sabía qué LLM era el adecuado para mi caso. Estoy seguro de que miles de otros creadores sienten lo mismo.
La hoja de cálculo que lo cambió todo. Así que creé una matriz de decisión. ¿Cuál es mi caso de uso real? ¿Qué compensaciones puedo aceptar? ¿Cuántas peticiones al mes? ¿Necesito autohospedaje o API? Al responder esas preguntas Claude 3 Haiku se volvió obvio no porque sea el mejor modelo en términos absolutos sino porque encajaba con las restricciones de AllPub. En ese momento pensé qué pasaría si existiera una herramienta que hiciera esto para cualquiera.
Nace ArchitectGBT. Esto es lo que construí: describes tu proyecto en lenguaje llano por ejemplo necesito un chatbot que gestione 1000 conversaciones diarias con latencia mínima. La herramienta analiza tus restricciones y recomienda los mejores modelos clasificados por velocidad coste y precisión para tu caso específico. Muestra desglose de precios y costes mensuales estimados para que sepas lo que vas a pagar. Ofrece plantillas de código para empezar a construir de inmediato. Sin hojas de cálculo sin adivinanzas sin sesgos de proveedor solo recomendaciones que tienen sentido para tu proyecto.
Por qué importa. El ingeniero medio pierde de 3 a 5 horas eligiendo un LLM pero el coste real es elegir mal y pagar de más entre un 30 y un 50 por ciento cada mes. Ya hemos recibido testimonios de usuarios tempranos. Un equipo usaba GPT-4 para resúmenes cuando Claude Haiku habría sido suficiente un ahorro de 2400 dólares al mes. ArchitectGBT corta el ruido y te da la recomendación adecuada para tu situación no lo que está de moda en redes sociales.
Qué viene. architectgbt está en BETA y necesitamos feedback. Planeamos construir un conjunto de pruebas de benchmark para que puedas evaluar tus prompts reales entre modelos un asesor de fine tuning para decidir entre autohospedaje y API un panel para equipos que alinee a toda la organización sobre elecciones de modelo alertas de presupuesto antes de sobrepasarlo y enrutamiento de modelos que elija automáticamente el modelo más barato que funcione para cada petición.
Pruébalo. Ve a architectgbt describe un proyecto real en el que trabajas y dinos si las recomendaciones aciertan o si están lejos. Apúntate a la lista de espera para las funciones completas y los testers tempranos obtendrán descuentos. Lo aburrido funciona lo caro es caro y tus restricciones realmente importan. Si alguna vez has perdido horas eligiendo un LLM esto es para ti.
Sobre Q2BSTUDIO. Somos Q2BSTUDIO una empresa de desarrollo de software especializada en aplicaciones a medida y software a medida con foco en inteligencia artificial ciberseguridad y servicios cloud. Ayudamos a empresas a diseñar e integrar soluciones de IA para empresas desde agentes IA hasta pipelines de datos y dashboards con Power BI. Si necesitas desarrollar una aplicación a medida o una solución escalable te invitamos a conocer nuestros servicios de desarrollo de aplicaciones y software multiplataforma en desarrollo de aplicaciones y software a medida y si buscas potenciar tus proyectos con IA empresarial puedes ver nuestra oferta de inteligencia artificial para empresas.
Además ofrecemos servicios de ciberseguridad y pentesting protección proactiva y auditorías para mitigar riesgos así como servicios cloud AWS y Azure para desplegar tus modelos y aplicaciones de forma segura y escalable. También proveemos servicios de inteligencia de negocio y Power BI para transformar datos en decisiones.
Si quieres que Q2BSTUDIO te ayude a evaluar elegir o integrar el LLM adecuado o a implementar pipelines de IA contacta con nosotros y te acompañamos desde la selección hasta la puesta en producción optimizando coste rendimiento y seguridad.
