En l'àmbit del diagnòstic mèdic assistit per intel·ligència artificial, la retinopatia diabètica representa un dels camps on més s'ha avançat en la detecció automatitzada de lesions retinianes. Tanmateix, la confiança cega en models de classificació pot resultar perillosa si no s'incorporen mecanismes que mesurin la incertesa de les prediccions. Un estudi recent explora precisament aquesta problemàtica en avaluar diferents estratègies d'adaptació d'última capa amb RETFound, un model fundacional de visió basat en transformers auto-supervisats, aplicat a la detecció de retinopatia diabètica. La investigació compara enfocaments com softmax amb calibració de temperatura, caps bayesians variacionals, aproximacions de Laplace diagonals i caps estil SNGP, tots sobre característiques congelades del model base. Els resultats mostren que els punts d'operació sensibles a la incertesa milloren la sensibilitat i el comportament de derivació selectiva al dataset APTOS 2019, aconseguint fins i tot reduir a zero els falsos negatius al subconjunt acceptat, tot i que amb un cost elevat en falsos positius. No obstant, en transferir el model a DDR, les prestacions es debiliten i el checkpoint entrenat a APTOS no aconsegueix un comportament útil de derivació externa. Això subratlla la necessitat d'una avaluació centrada en la seguretat que vagi més enllà de la precisió agregada: es requereix validació explícita sobre cobertura de seguretat i un segon conjunt de dades sota desplaçament (shift) per recolzar afirmacions de fiabilitat clínica.
La lliçó principal per al desenvolupament d'IA per a empreses en entorns crítics, com la salut, és que la incertesa no és un luxe sinó un requisit de seguretat. A Q2BSTUDIO entenem que els models predictius han de ser auditables i capaços d'indicar quan no saben respondre, especialment quan les conseqüències d'un error poden ser greus. Per això oferim solucions d'intel·ligència artificial per a empreses que integren des de l'arquitectura mateixa mecanismes de quantificació d'incertesa, adaptant les últimes capes o incorporant caps bayesians segons el cas d'ús. El nostre equip ajuda a dissenyar aplicacions a mida que incorporen aquests principis, permetent que els sistemes de cribratge visual, diagnòstic assistit o classificació d'imatges mèdiques no només donin una resposta, sinó que també informin del seu nivell de confiança. Això és especialment rellevant quan es treballa amb dades desplaçades o poblacions diferents a les de l'entrenament original.
A més, en entorns regulatoris com el de la Unió Europea amb la futura regulació d'IA d'alt risc, la capacitat d'explicar i mesurar la incertesa de les prediccions esdevé un requisit gairebé obligatori. Per això, a Q2BSTUDIO combinem serveis cloud aws i azure per desplegar aquests models de forma escalable i segura, utilitzant infraestructura certificada que compleixi amb estàndards sanitaris. També integrem serveis intel·ligència de negoci per visualitzar el rendiment dels models en temps real i detectar possibles derives. La combinació d'agents IA amb capacitat de decisió autònoma, però limitada per llindars d'incertesa ben definits, és una tendència que marcarà la propera generació de sistemes de suport al diagnòstic.
La investigació esmentada demostra que la simple calibració post-hoc o l'ús de caps bayesians no garanteixen un comportament robust davant canvis en la distribució de les dades. El fracàs del model SNGP en transferir-se d'APTOS a DDR és un advertiment clar: la validació externa és imprescindible. En aquest sentit, des de Q2BSTUDIO promovem un enfocament de desenvolupament àgil però rigorós, on cada desplegament de programari a mida inclou plans de testing amb datasets múltiples i anàlisi de cobertura de seguretat. A més, oferim serveis de ciberseguretat i pentesting per garantir que els models i les seves dades sensibles estiguin protegits davant atacs adversarials o fuites d'informació.
En definitiva, l'adaptació d'última capa amb incertesa en models fundacionals com RETFound és una línia de treball prometedora, però encara necessita madurar abans de ser traslladada a la pràctica clínica real. La comunitat científica i les empreses tecnològiques han de col·laborar per establir mètriques de seguretat clares, com la sensibilitat al subconjunt acceptat o la taxa de derivació selectiva, i validar sempre amb segons datasets sota desplaçament. A Q2BSTUDIO estem compromesos amb aquest enfocament, oferint solucions que van des de la consultoria en IA fins al desenvolupament de plataformes completes que integrin aquests filtres d'incertesa. Perquè en diagnòstic mèdic, saber dir 'no sé' pot ser tan valuós com donar la resposta correcta.
