En l'ecosistema actual del desenvolupament de programari, els agents autònoms han passat de ser una curiositat experimental a convertir-se en peces clau per a l'acceleració de processos. No obstant això, a mesura que aquests agents executen tasques de múltiples passos —des de l'escriptura de codi fins a la revisió i el desplegament—, sorgeix un problema fonamental: com podem confiar que realment han completat una etapa del cicle de vida? La resposta no pot basar-se únicament en la paraula de l'agent; cal evidència verificable, fresca i vinculada a l'estat actual de les fonts. Aquest és el principi que sustenta l'enfocament Proof-or-Stop, un mètode de control de cicle de vida que exigeix proves mecànicament verificables abans de permetre qualsevol transició d'estat.
El concepte, presentat en un estudi recent (arXiv:2607.14890v1), proposa tractar les sortides dels agents com a afirmacions (claims) i no com a estats de cicle de vida. Cada afirmació ha d'estar recolzada per una prova que compleixi amb una porta d'admissió (gate) definida sota un model de confiança explícit. Això no implica demostrar la correcció semàntica del programa, sinó tenir evidència admissible segons les regles del sistema. Per exemple, un agent que afirma haver completat una revisió de codi ha de presentar un registre de troballes, una empremta criptogràfica del repositori en aquell moment i una signatura d'un verificador automatitzat que validi que es va seguir el procés definit. Sense aquesta evidència, la transició a 'revisat' simplement no ocorre.
La implementació avaluada en l'estudi mostra resultats contundents: en deu escenaris amb un bucle desatès, es va aconseguir un 100 % d'encerts sense falsos estats 'DONE'. A més, un sistema de recepció de claus locals va rebutjar 18 classes de manipulació amb zero falsos positius. En una prova d'ablació amb 9.240 cel·les, la versió amb control de portes (A4 vs. A2-prime) va reduir l'amplificació de fallades visibles ocultes de 31 de cada 1.800 injeccions a només 2, una millora de l'1,6 % en la taxa de no amplificació. Aquestes dades donen suport que Proof-or-Stop actua com una capa de control independent del model i de l'amfitrió, ideal per decidir quines afirmacions d'agents autònoms pot acceptar un cicle de vida.
Per a una empresa de desenvolupament de programari com Q2BSTUDIO, aquest enfocament ofereix una perspectiva pràctica i estratègica. Quan treballem en projectes de aplicacions a mida, la integritat del procés és crítica. No n'hi ha prou que un agent d'IA generi codi; necessitem garanties que aquest codi ha passat per controls de qualitat, revisió de seguretat i proves funcionals. Aquí és on la filosofia Proof-or-Stop s'alinea amb la nostra metodologia: cada lliurable ha d'anar acompanyat d'evidència verificable, ja sigui un informe de proves automatitzades, una traça d'execució al núvol o un certificat d'anàlisi de vulnerabilitats.
L'auge dels agents d'IA en el cicle de vida del programari —des d'assistents de codificació fins a bots de revisió— multiplica la necessitat d'aquest tipus de controls. Sense una capa de verificació, un agent podria reportar erròniament una tasca com a completada, generant un fals sentit d'avenç i, pitjor encara, introduint errors o bretxes de seguretat. En implementar portes d'evidència, reduïm el risc que una fallada oculta s'amplifiqui al llarg del pipeline. A Q2BSTUDIO, integrem aquests principis en les nostres solucions de ciberseguretat, on cada pas d'un pentesting automatitzat ha de deixar una traça immutable que demostri què es va provar i amb quin resultat.
El núvol també juga un paper fonamental. Serveis com AWS i Azure proporcionen infraestructura per executar agents i emmagatzemar evidències de forma distribuïda. Un sistema Proof-or-Stop pot aprofitar serveis de llibre major immutable com AWS QLDB o Azure Confidential Ledger per segellar les proves, a més d'utilitzar funcions serverless per validar les portes de forma escalable. Des de Q2BSTUDIO dissenyem arquitectures al núvol que incorporen aquestes capacitats, garantint que cada transició d'estat estigui recolzada per dades immutables i auditables.
D'altra banda, la intel·ligència de negoci (BI) es beneficia d'aquest enfocament quan els agents autònoms generen informes o quadres de comandament. Amb Power BI, per exemple, podem vincular cada actualització de dades a una font verificada i exigir que l'agent hagi extret, transformat i carregat la informació correctament abans de marcar el dashboard com a 'publicable'. L'evidència no només dóna confiança, sinó que permet auditories posteriors i facilita el compliment normatiu.
És important destacar que Proof-or-Stop no és una eina màgica; és un patró de control que es pot implementar amb diferents tecnologies. L'estudi va avaluar un model de llenguatge específic i 24 tasques d'ablació, però els principis són transferibles a qualsevol ecosistema. Per a una empresa com Q2BSTUDIO, això significa que podem adoptar el mètode en projectes que van des d'aplicacions mòbils fins a sistemes encastats, sempre amb l'objectiu que cada afirmació d'un agent —sigui humà o màquina— estigui recolzada per proves sòlides.
En conclusió, l'evolució dels agents autònoms exigeix una evolució equivalent en els mecanismes de confiança. El control de cicle de vida basat en evidència verificable no és una opció, sinó una necessitat per a qualsevol organització que busqui escalar l'automatització sense sacrificar qualitat ni seguretat. A Q2BSTUDIO, entenem que el programari a mida no només ha de funcionar, sinó que ha de fer-ho amb la garantia que cada pas ha estat verificat. Per això, incorporem principis com Proof-or-Stop en les nostres solucions de desenvolupament, núvol, ciberseguretat i intel·ligència artificial, oferint als nostres clients la tranquil·litat que els seus processos estan sota control.
