En l’àmbit de la gestió de centres de transport (TMC), l’adopció de models fundacionals com els grans models de llenguatge (LLM) i els models de visió-llenguatge (VLM) s’ha tornat essencial per a tasques crítiques com la detecció d’anomalies, la generació d’informes d’incidents i la comunicació amb els viatgers. No obstant això, seleccionar el model adequat per a cada funció, decidir entre desplegament al núvol o local, i optimitzar els recursos compartits de GPU planteja un repte complex. Aquest problema, conegut com el Portfoli de Desplegament de Models Fundacionals (FMDP), es formula com un programa d’enters mixtos que minimitza el cost total de propietat (TCO) mentre compleix restriccions de qualitat, latència i seguretat per funció. La naturalesa NP-hard del problema, demostrada mitjançant una reducció del problema de la motxilla 0-1, i la proposta d’una heurística voraç polinòmica ofereixen un marc pràctic per a les empreses.
En un cas il·lustratiu amb cinc funcions de TMC i 19 parells candidats (model, mode), el FMDP identifica un portfoli mixt que costa només 34 dòlars al mes, un 97% menys que l’opció més barata basada únicament en API tancades. Això s’aconsegueix enrutant quatre funcions a API de codi obert i només una a una API tancada, on cap model obert compleix amb el llindar de qualitat requerit. L’anàlisi de punt d’equilibri revela que invertir en GPU locals només és rendible per sobre d’aproximadament 309 consultes de visió per hora, o si els preus de les API es dupliquen. Aquest enfocament demostra que una estratègia híbrida pot reduir dràsticament els costos operatius sense sacrificar el rendiment.
Per a les empreses que gestionen infraestructures de transport, la implementació d’un portfoli òptim requereix una combinació d’aplicacions a mida que integrin models d’IA de manera eficient. La personalització del programari permet adaptar els models a les necessitats específiques de cada funció, des de la detecció d’incidents fins a la informació al viatger. A més, l’ús d’agents d’IA autònoms pot automatitzar tasques repetitives, com la classificació d’esdeveniments o la redacció d’alertes, alliberant recursos humans per a decisions més estratègiques. La ciberseguretat també juga un paper crucial, ja que els models desplegats al núvol o en local s’han de protegir contra accessos no autoritzats i garantir la integritat de les dades de trànsit en temps real.
L’elecció entre infraestructura al núvol (AWS, Azure) i desplegament local depèn de diversos factors, com el volum de consultes i els costos de les API. La nostra experiència a Q2BSTudio mostra que moltes organitzacions subestimen l’estalvi potencial d’un portfoli mixt: en combinar models de codi obert amb API tancades per a les funcions més exigents, es pot aconseguir un equilibri òptim entre cost i rendiment. Per exemple, una funció de detecció d’anomalies que requereixi latència ultrabaixa es pot beneficiar d’un model lleuger executat localment, mentre que la generació d’informes complexos es pot externalitzar a una API de pagament. L’anàlisi de sensibilitat realitzat a l’estudi indica que fins i tot un petit augment en el preu de les API pot fer que la inversió en hardware local sigui atractiva.
Un altre aspecte clau és la integració amb sistemes de Business Intelligence (BI) com Power BI, que permeten visualitzar el rendiment dels models i el cost associat en temps real. Un panell de control ben dissenyat pot ajudar els gestors de TMC a monitoritzar el TCO i ajustar l’assignació de models segons la demanda. Q2BSTudio ofereix serveis de BI que converteixen dades complexes en informació accionable, facilitant la presa de decisions sobre el portfoli de models. A més, l’automatització de processos mitjançant agents d’IA pot optimitzar l’execució de tasques rutinàries, com l’actualització de models o la reasignació de recursos GPU, reduint la intervenció manual.
Des del punt de vista tècnic, l’heurística voraç proposada per al FMDP proporciona una solució ràpida i efectiva per a entorns amb múltiples funcions i restriccions. Tot i que el problema és NP-hard, l’algorisme polinòmic troba una solució propera a l’òptima en temps real, cosa que permet a les empreses adaptar-se dinàmicament a canvis en la demanda o en els preus. Aquest enfocament és especialment útil en ciutats intel·ligents, on els centres de transport gestionen volums massius de dades i requereixen respostes gairebé instantànies. La combinació de models fundacionals amb programari a mida desenvolupat per Q2BSTudio garanteix que cada funció s’executi amb el millor model disponible, dins de les limitacions de pressupost i hardware.
En conclusió, el problema del portfoli de models fundacionals per a la gestió de transport no només té una solució matemàtica sòlida, sinó que també ofereix lliçons pràctiques per a qualsevol organització que desplegui IA a gran escala. La clau està en avaluar acuradament les compensacions entre qualitat, latència i cost, i adoptar un enfocament híbrid que combini el millor dels models de codi obert i les API comercials. Empreses com Q2BSTudio, amb experiència en desenvolupament de programari a mida, cloud computing, ciberseguretat, BI i agents d’IA, estan ben posicionades per ajudar els centres de transport a implementar aquestes estratègies. La inversió inicial en un portfoli optimitzat pot generar estalvis significatius a llarg termini, millorant alhora l’eficiència operativa i la seguretat dels sistemes de transport.
