GOVERN DE IA

Shadow AI: la intel·ligència artificial que el teu equip ja fa servir sense que IT ho sàpiga

El shadow AI no comença amb una decisió estratègica: comença amb algú que enganxa un Excel en un xat per acabar abans. El problema no és l'eina, és que les dades de la teva empresa surten del perímetre i les aplicacions crítiques acaben sense propietari, sense revisió i sense còpia.

Què és el shadow AI i per què apareix

Shadow AI és qualsevol ús d'intel·ligència artificial dins l'empresa que IT no ha aprovat, no veu i no pot auditar: comptes personals de ChatGPT o Claude, extensions del navegador, agents de codi instal·lats a l'ordinador i aplicacions muntades amb IA per resoldre un procés concret.

Apareix per una raó molt humana: l'eina bona és a un clic i el tiquet a IT triga setmanes. Quan l'empleat té un Excel de 4.000 files i una reunió dilluns, fa servir el que té a mà. No ho fa per saltar-se les normes; ho fa perquè ningú li ha donat un camí igual de ràpid que sigui segur.

El risc no és abstracte: dades de clients en comptes sense contracte de tractament, codi amb llicències desconegudes, aplicacions que moren quan marxa la persona que les va fer i una despesa en IA que ningú sap explicar a final de mes. Amb l'AI Act i les obligacions de RGPD a sobre, a més cal poder demostrar quins sistemes d'IA es fan servir i amb quines dades.

Prohibir no funciona: es continua fent servir, però d'amagat. El que funciona és descobrir-ho, posar regles clares i oferir un carril ràpid i governat per al que el negoci necessita de veritat.

EL REPTE

La IA ja és a la teva empresa i no passa per IT

Ningú la va aprovar, però ja s'usa a tot arreu: assistents, agents que escriuen codi i eines que generen aplicacions senceres.

  • Ús invisible

    Empleats que paguen la seva pròpia subscripció per acabar abans, sense que ningú sàpiga quines dades han enganxat ni on són ara.

  • Sense inventari

    IT no pot protegir el que no sap que existeix. Sense llista d'eines, comptes i aplicacions, no hi ha control possible ni resposta a auditoria.

  • Dades fora del perímetre

    Informació de clients en eines sense contracte d'encarregat del tractament és una bretxa a efectes de RGPD, s'hagi filtrat o no.

ENFOCAMENT

Com es posa ordre sense frenar l'equip

Prohibir no funciona: l'ús torna per la porta del darrere. El camí és donar un carril millor i governat que la drecera.

  1. Descobrir què hi ha

    Inventariem eines, comptes, aplicacions i entorns amb qui els usa i quines dades toquen, sense interrogatoris ni culpables.

  2. Classificar per risc

    Cada ús s'ordena segons la dada que tracta i l'impacte si falla: des de consultes sense dades personals fins a aplicacions que mouen diners.

  3. Obrir un carril governat

    S'habilita un camí oficial —amb identitat corporativa, registre i control de versions— perquè construir ràpid no signifiqui construir a cegues.

  4. Migrar o apagar

    El que aporta valor es migra al carril governat amb amo i repositori. El que no, s'apaga amb un pla acordat, no per decret.

ENTREGABLES

Amb què es queda la direcció

Elements concrets que converteixen una pràctica invisible en una capacitat gestionada.

  • Inventari d'IA

    Llista viva d'eines, aplicacions i agents en ús, amb amo, dades tractades i criticitat de cadascun.

  • Regles d'ús clares

    Què es pot usar, amb quines dades i amb quins proveïdors, escrit perquè l'equip ho entengui i ho apliqui sense consultar cada cas.

  • Carril oficial de construcció

    Un entorn on crear aplicacions és ràpid però queda registrat, amb codi al repositori i desplegament controlat.

  • Informe per a direcció

    Risc, cost i avenç en una pàgina: què s'ha inventariat, què s'ha migrat i què queda pendent amb data.

CONFIANÇA

Experiència en sistemes que no poden fallar

Treballem programari empresarial des del 2008 amb equips a Barcelona i Madrid i col·laboració remota a Espanya, Europa, LATAM i EUA. Pràctiques de desenvolupament segur i sensibilitat ENS, amb el codi i les dades sempre sota el teu control.

  • Inventari d'IA i aplicacions no registrades, amb riscos prioritzats per dades i criticitat.
  • Política d'ús d'IA i de creació d'aplicacions per empleats, en una pàgina que s'entén.
  • Carril governat amb Citizen: l'empleat crea la seva app a Teams i la plataforma aplica regles, rols i desplegament controlat.
  • Evidència per a auditoria: repositori, entorns separats, propietari per aplicació i registre de qui aprova què.

Dubtes

Preguntes sobre shadow AI

Tens un projecte en ment?

Explica'ns què necessites sobre shadow AI. T'ajudarem a convertir-ho en un pla viable i clar.