Quan una empresa contracta un servei d’intel·ligència artificial, ho fa confiant que rebrà exactament el model pel qual ha pagat. No obstant, la realitat tècnica és molt més complexa. Avui dia, els proveïdors de models de llenguatge com Claude, GPT o Llama apliquen encaminament intel·ligent, quantificació de pesos o actualitzacions silencioses, cosa que significa que el 'model' que apareix a la vostra factura no sempre coincideix amb el que realment processa les vostres dades. Aquest fenomen, que anomenem fractura d’identitat del model, té implicacions profundes per a la integritat contractual, la ciberseguretat i la governança de dades.
A Q2BSTUDIO, com a empresa especialitzada en desenvolupament de programari a mida, hem vist de primera mà com aquesta manca de transparència afecta projectes que depenen de la consistència del model. Un sistema d’anàlisi de sentiments, un assistent virtual o un motor de recomanacions no només necessita precisió; necessita traçabilitat. I aquesta traçabilitat es trenca quan l’encaminador decideix enviar la vostra sol·licitud a un model diferent sense que ho sapigueu.
Les tres cares de la fractura
La substitució és el cas més evident. Un classificador intern detecta que la vostra consulta pertany a una categoria sensible i la redirigeix a un altre model, com va passar amb Claude Fable 5 sent reemplaçat per Opus 4.8. Pagueu per Fable 5, però rebeu la sortida d’Opus 4.8. El proveïdor pot tornar el nom del model real a la resposta, però no sempre és així. Encaminadors com Cursor Router decideixen sota criteris propietaris quin model utilitzar, i l’usuari final mai sap quin va ser.
La degradació és més subtil. El mateix model nominal se serveix amb pesos quantificats (per exemple, FP16 en lloc de FP32), cosa que redueix la qualitat de les respostes en tasques complexes. OpenRouter ofereix un paràmetre per controlar-ho, però per defecte equilibra la càrrega cap a l’opció més barata. Si el vostre contracte especifica 'model X' però el proveïdor entrega una versió degradada, està complint?
La deriva del model és la tercera variant. Els proveïdors actualitzen els pesos de manera silenciosa sota la mateixa etiqueta 'latest'. Una aplicació que funcionava perfectament amb una versió pot fallar l’endemà sense que hagi canviat el vostre codi. En enginyeria de programari, això seria una dependència no versionada inacceptable. En IA, és la norma.
Implicacions legals i contractuals
Des del punt de vista del dret mercantil, la pregunta és clara: vau comprar un nom o una capacitat? Si el vostre contracte es refereix a 'Claude Opus 4.8', la substitució per un altre model és un incompliment. Però si la negociació es va centrar en 'qualitat fronterera', llavors l’encaminament pot ser acceptable sempre que la qualitat es mantingui. El problema és que ningú ha definit legalment què significa 'qualitat fronterera' de manera que resisteixi un interrogatori judicial.
Les lleis de garanties, com la UCC §2-313 als EUA o la Sale of Goods Act a l’Índia, protegeixen el comprador quan el bé no s’ajusta a la descripció. No obstant, els serveis d’API d’IA no són 'béns' tradicionals; són serveis, i la protecció es basa en el contracte comú. Aquí resideix l’ambigüietat: els fulls de termes dels grans proveïdors solen incloure clàusules que permeten modificacions del servei sense previ avís, i l’encaminament queda enterrat a la documentació tècnica.
El paper de la transparència i la regulació
La Comissió Federal de Comerç (FTC) dels EUA considera que una representació és enganyosa si és material i probable d’induir a error a un consumidor raonable. Quan un proveïdor anuncia 'estalvi del 60 % sense pèrdua de qualitat' sense metodologia publicada, està en terreny delicat. Anthropic, almenys, va documentar que el seu classificador pot marcar consultes benignes com a sensibles, cosa que constitueix un escut de responsabilitat. Altres no ho fan.
En l’àmbit de la competència, els encaminadors que són també proveïdors de models (com Cursor o el mateix Anthropic) plantegen un risc d’autopreferència. Els reguladors comencen a considerar marcs de conducta basats en transparència, paritat de qualitat i no discriminació. A Q2BSTUDIO, ajudem els nostres clients a auditar aquests riscos en les seves integracions d’IA, especialment quan manegen dades sensibles o regulades.
Autenticació i cadena de custòdia
El punt més crític que ningú està mirant és l’autenticació forense. Les regles d’evidència federals (FRE 902) permeten que els registres generats per un sistema electrònic s’autentiquin mitjançant certificació, sempre que es pugui identificar el sistema. En un litigi, un advocat podria haver de demostrar quin model va produir una cita falsa. Si els registres de la vostra empresa diuen 'fable-5', però els del proveïdor mostren que un classificador va redirigir a 'opus-4.8', la cadena de custòdia es trenca. I si l’encaminador va ser un servei de tercers (com Cursor), és possible que no hi hagi registres.
La solució tècnica existeix: una signatura criptogràfica que acompanyi cada resposta, vinculant el token de sortida amb l’identificador del model servit, el hash dels pesos, la precisió i el hash del prompt del sistema. Això ja és possible amb maquinari de computació confidencial (com NVIDIA Confidential Computing). El que falta és que els proveïdors ho implementin de manera predeterminada.
Com protegir-se com a empresa
Per a les organitzacions que integren IA en els seus processos crítics, la recomanació és clara: no confieu únicament en el nom del model. Exigiu transparència al vostre proveïdor sobre l’encaminament, la quantificació i les versions. Si el vostre proveïdor no pot garantir que el model que heu pagat és el que executa, considereu alternatives on-premise o mitjançant núvos privades.
A Q2BSTUDIO, oferim solucions integrals que inclouen serveis d’intel·ligència artificial amb traçabilitat completa, infraestructura cloud a AWS i Azure que permet desplegar models sense intermediaris opacs, ciberseguretat per protegir dades i garantir compliment normatiu, i Business Intelligence amb Power BI per auditar el rendiment dels vostres models d’IA. El nostre equip d’enginyers dissenya agents d’IA i automatitzacions que mantenen la fidelitat del model a cada pas.
Conclusió: la identitat del model és el nou actiu digital
La comunitat d’enginyeria tracta la substitució, la degradació i la deriva com a problemes de fiabilitat. Però són també problemes d’identitat, i la identitat és la base sobre la qual es construeixen contractes, garanties, assegurances i proves judicials. Quan pagueu per un model d’IA, no esteu comprant només un servei; esteu comprant una promesa de comportament. Aquesta promesa ha de ser verificable, traçable i atestable.
L’encaminament intel·ligent no és dolent en si mateix; és una eina d’optimització vàlida. Però mentre no existeixi una forma estàndard de signar criptogràficament la identitat del model servit, el risc recau sobre el client. A Q2BSTUDIO, treballem perquè els nostres clients no hagin de preguntar-se si van rebre el que van pagar. Perquè en un món on la IA genera proves, contractes i decisions, la veritable pregunta no és quin model vau utilitzar, sinó si podeu demostrar-ho.
