La intel·ligència artificial ha deixat de ser una tecnologia passiva que espera instruccions. Els models d'IA actuals revisen les respostes, ajusten el seu comportament en producció, s'entrenen amb dades que ells mateixos generen i comencen a participar en el propi procés de recerca. Aquest fenomen, descrit amb termes com self-refine, self-reward o self-evolve, barreja ambicions molt diferents. Per a una empresa, distingir entre refinament acotat i millora recursiva oberta no és un matís teòric: és la diferència entre optimitzar un procés amb risc controlat i obrir una porta a dinàmiques imprevisibles. La nostra lectura de la literatura recent, combinada amb la pràctica empresarial, apunta a una conclusió clara: els bucles tancats i verificables són el present, mentre que la millora recursiva sense restriccions segueix sent un problema d'enginyeria i governança, no una realitat productiva.
La diferència entre desenvolupament acotat i desenvolupament autònom té conseqüències directes sobre l'arquitectura dels sistemes. En el refinament acotat, l'objectiu és estable: reduir errors, millorar la conversió, accelerar un procés intern. La màquina pot canviar el seu comportament, però dins d'un perímetre definit per indicadors humans. En la millora recursiva oberta, en canvi, el sistema pot modificar la seva pròpia funció d'èxit, les seves dades d'entrenament i fins i tot l'agenda de recerca. Són dos mons diferents, i tractar-los amb la mateixa paraula genera expectatives irreals i riscos mal gestionats.
A Q2BSTUDIO treballem cada dia amb empreses que volen entendre aquests límits. La nostra experiència en aplicacions a mida i custom software ens mostra que la majoria d'iniciatives rendibles es basen en bucles tancats i avaluables: un sistema que corregeix les respostes a partir d'una rúbrica, un assistent que aprèn de la interacció amb clients, un motor de recomanació que es reentrena amb dades d'ús. Tots aquests casos encaixen en el que podem anomenar refinament acotat. La clau no és eliminar l'autonomia del model, sinó dissenyar al voltant del model un sistema de verificació que es recolzi en senyals externes i supervisió humana.
El refinament acotat té una propietat essencial: convergeix. Existeix un criteri extern —precisió, seguretat, satisfacció de l'usuari, cost— que permet saber si el sistema millora o no. L'avaluació pot estar automatitzada, però sempre remet a un senyal verificable. Per això ja és pràctica industrial. Les empreses ho apliquen en motors de recomanació, assistents virtuals, automatització de processos i anàlisi predictiva. El risc és baix perquè cada iteració pot auditar-se i revertir-se. És el terreny natural per als agents d'IA actuals: sistemes que executen tasques concretes, mesuren el seu resultat i ajusten la seva estratègia sense reescriure els seus objectius.
El següent nivell és la millora del propi model mitjançant l'entrenament. Un model genera dades, un avaluador les filtra i amb aquestes dades s'actualitza la política. Això és habitual en sistemes d'IA amb feedback humà i també en variants amb feedback de models. La pregunta no és si funciona, sinó quin senyal s'utilitza com a jutge. Si el jutge és un model del mateix sistema, apareix el risc d'auto-reforçar biaixos. Si el jutge és un conjunt de regles clares i verificadors automàtics, l'actualització és segura. La frontera entre tots dos casos no sempre és visible des de l'exterior, per això la traçabilitat es converteix en un requisit de negoci.
A l'extrem, la millora recursiva oberta pretén que la IA optimitzi no només el seu comportament, sinó la seva pròpia capacitat d'investigar i redirigir la seva agenda. La literatura recent assenyala límits estructurals: falta d'una base de referència estable, dinàmiques de col·lapse i restriccions de còmput. Cap mètrica mesurada fins ara demostra una escalada autònoma indefinida. El que sí que s'observa són bucles que es confirmen a si mateixos fins a perdre contacte amb la realitat. No és un problema menor: és la raó per la qual els laboratoris mantenen humans en el cicle de disseny d'experiments i en la definició d'objectius de recerca.
Per entendre aquests riscos, l'auto-avaluació és central. Cada bucle de millora conté una afirmació: aquest senyal pot substituir el judici humà. Els senyals no tenen tots la mateixa força. Existeix una jerarquia de verificació: els verificadors formals —proves matemàtiques, comprovadors d'especificacions— són els més forts; els segueixen els models de recompensa de procés, els verificadors automàtics, les rúbriques i meta-avaluacions, i en el nivell més feble es troba l'auto-avaluació intrínseca del model. A la pràctica, la força d'una iniciativa de millora automàtica depèn de la posició que ocupi en aquesta jerarquia. Com més feble és el senyal, més ràpid apareixen els biaixos i més difícil és revertir-los.
Les fallades observades a la pràctica coincideixen amb la violació d'aquesta jerarquia. Si un model s'avalua a si mateix sense contrast extern, produeix bucles auto-confermatoris. Si s'entrena amb dades generades per les seves versions anteriors sense filtrar adequadament, pot patir col·lapse de model. Si el criteri de selecció premia sempre la mateixa resposta, apareix el col·lapse de diversitat. La solució no és eliminar l'auto-avaluació, sinó col·locar-la al nivell adequat i envoltar-la de verificadors externs. El mateix principi val per a les organitzacions: una àrea de negoci que es fixa els seus propis objectius sense contrast amb l'estratègia corporativa tendeix a aïllar-se i degradar-se.
El més interessant per a la indústria és el coll d'ampolla de la direcció de recerca. Encara que els sistemes escriguin codi o proposin experiments, la definició de quin problema val la pena resoldre continua sent humana. Els relats dels laboratoris frontera insisteixen que el tancament del bucle en IA requeriria que una màquina pogués fixar objectius de recerca de manera autònoma. Fins ara, aquest lloc segueix ocupat per persones. Mesurar el grau de millora automàtica amb estàndards de governança és, probablement, el nínxol menys poblat del camp. Les empreses poden avançar avantatge competitiu adoptant mètriques de maduresa per als seus sistemes abans que els reguladors les imposin.
Què significa això per a una empresa que adopta IA? Primer, que els agents d'IA s'han de dissenyar amb senyals de verificació forts i amb supervisió humana en els punts on la decisió afecta drets, pressupost o reputació. Segon, que la infraestructura importa: una arquitectura en cloud AWS/Azure permet auditar quines dades s'usen, quina versió del model va decidir i quin criteri d'avaluació es va aplicar. Tercer, que la ciberseguretat no és un complement: un bucle de millora automàtica sense control d'integritat és una superfície d'atac. I quart, que la monitorització amb Business Intelligence i Power BI ha d'incloure no només indicadors de negoci, sinó també indicadors de deriva del model i de qualitat de l'avaluació.
A Q2BSTUDIO combinem aquests conceptes amb una visió pràctica. En construir aplicacions a mida, integrem IA generativa, automatització de processos, anàlisi amb Business Intelligence i Power BI, i entorns cloud AWS/Azure. El nostre objectiu és que el refinament automàtic millori indicadors reals —temps de procés, precisió, conversió— sense sacrificar auditabilitat. Un assistent que aprèn de cada interacció és útil si cada interacció deixa traçabilitat; un model que es reentrena és valuós si el criteri de qualitat és fora d'ell. El programari a mida és el vehicle que permet introduir aquestes garanties en l'ADN del producte, no com una capa afegida, sinó com a part del disseny.
La meta no és frenar la innovació, sinó orientar-la. El refinament acotat és una eina extraordinària per generar eficiència i coneixement. La millora recursiva oberta és un horitzó que mereix recerca seriosa, no una carrera de màrqueting. Les organitzacions que sàpiguen situar cada iniciativa al seu nivell correcte, amb verificadors adequats i mètriques de governança, construiran sistemes d'IA més robustos, més fiables i més fàcils d'explicar. En un entorn on la tecnologia avança ràpid, saber on són els límits és l'avantatge competitiu més difícil de copiar.
