OpenAI ha anunciat que ChatGPT Health ja està disponible per a tots els usuaris majors de 18 anys, en tots els plans inclòs el gratuït. Tot i que la notícia sona prometedora, des d'una perspectiva tècnica i empresarial cal analitzar les implicacions reals. No es tracta només d'una nova funcionalitat conversacional: implica gestionar dades sensibles de salut, cosa que exigeix estàndards de privadesa i fiabilitat molt superiors als d'un chatbot genèric. El meu escepticisme no és gratuït: he vist com la velocitat de publicació al sector de la intel·ligència artificial sovint sacrifica la maduresa necessària per a entorns crítics.
El canvi més preocupant és el retrocés en la protecció de la privadesa. Originalment, OpenAI va prometre que les converses de salut no s'usarien per a entrenament i estarien aïllades de la resta. Ara han modificat els termes: només es consideren converses protegides aquelles en què l'usuari connecta explícitament els seus registres mèdics o dades d'Apple Health. Això significa que si simplement descrius un símptoma sense adjuntar documentació, aquella conversa no gaudeix de les mateixes garanties. A la pràctica, per obtenir privadesa real has de compartir més dades, no menys. Una paradoxa perillosa que qualsevol empresa de desenvolupament de programari seriós evitaria. A Q2BSTUDIO sabem que la ciberseguretat i la transparència són pilars innegociables quan es manega informació sensible.
OpenAI presumeix del seu avaluador HealthBench per afirmar que ChatGPT supera els metges reals. No obstant això, una anàlisi tècnica revela limitacions greus. HealthBench utilitza rúbriques dissenyades per metges per qualificar respostes curtes i aïllades, però no simula converses reals on els pacients canvien de tema, usen expressions col·loquials o presenten condicions rares. Tampoc avalua la continuïtat assistencial ni el maneig de múltiples especialistes. A més, les pròpies rúbriques mostren duplicitats sospitoses: una mateixa resposta rep punts per 'aconsellar buscar atenció d'emergència' i després més punts per 'indicar que contacti amb serveis d'emergència'. Sembla més un truc per inflar puntuacions que una avaluació rigorosa. En el món del desenvolupament de aplicacions a mida, qualsevol sistema de mètriques ha de ser validat amb dades reals i escenaris d'ús variats.
Més enllà dels tests controlats, els casos de dany real són innegables. Una demanda recent d'un pastor que gairebé mor després de seguir consells de ChatGPT-4o sobre una embòlia pulmonar; altres demandes relacionen el chatbot amb suïcidis i psicosi. L'organització mèdica ECRI ja ha catalogat el mal ús de chatbots d'IA com el principal risc tecnològic sanitari per a 2026. Això no és una exageració: quan una eina genera respostes amb aparença d'autoritat, l'usuari tendeix a confiar cegament, sobretot si el sistema diu haver 'connectat les vostres dades mèdiques'. La diferència entre un assistent informatiu i un substitut mèdic és difusa, i OpenAI no fa prou per marcar-la.
Des d'una perspectiva empresarial, l'enfocament d'OpenAI recorda les presses per llançar productes mínimament viables sense la deguda verificació. Enfront d'això, empreses com Q2BSTUDIO aposten per un desenvolupament basat en necessitats reals, amb cicles de prova exhaustius i compliment normatiu (GDPR, HIPAA on apliqui). En lloc de dependre d'un model de llenguatge genèric per interpretar diagnòstics, el sensat és combinar intel·ligència artificial amb arquitectures cloud segures (com AWS o Azure) i sistemes de Business Intelligence (Power BI) que permetin visualitzar i auditar la informació. La construcció d'agents IA especialitzats en salut requereix un disseny centrat en el domini clínic, no simples prompts ajustats amb rúbriques qüestionables.
OpenAI ofereix alguns consells per mitigar riscos: utilitzar xats temporals, revisar les dades importades, desconnectar comptes amb opció de borrat en 30 dies, i exigir permís cada vegada que s'accedeixi als registres. Però tot això són pegats sobre un problema de fons. L'empresa admet que 'segueix provant' les salvaguardes addicionals, cosa que indica que no hi ha garanties sòlides. Si decideixes utilitzar ChatGPT Health, fes-ho amb extrema precaució, entén que no és un diagnòstic mèdic i mai reemplaça el criteri d'un professional. Recorda que, com va dir un expert en ciberseguretat: 'la privadesa no és una característica, és una responsabilitat'. I en l'àmbit sanitari, aquesta responsabilitat no pot delegar-se en un chatbot sense supervisió humana.
En conclusió, l'arribada de ChatGPT Health a tots els usuaris representa un avanç en accessibilitat, però també un risc calculat que OpenAI assumeix amb massa lleugeresa. Les empreses que realment entenen el sector salut saben que la tecnologia ha de posar-se al servei del pacient, no al revés. Per això, des de Q2BSTUDIO recomanem explorar solucions de BI i Power BI per a la gestió de dades clíniques, plataformes al núvol amb controls d'accés granulars, i agents d'IA entrenats amb datasets específics i validats per professionals. Només així es pot construir confiança en un àmbit on un error costa vides.
