Un cap de setmana i una subscripció a un parell d'eines de IA, i qualsevol persona del teu equip es pot muntar un sistema intern. Un cercador de documentació, un bot que respon preguntes de clients, un panell que connecta dades que abans vivien soles. Funciona a la primera prova i la sensació és d'omnipotència: has construït sol una cosa que abans calia un equip sencer per fer-la. Aquí és on comença el problema, perquè poder fer-ho no és el mateix que saber què acabes d'assumir.
On queden les teves dades, i de qui són ara
El 2023, enginyers de Samsung van enganxar codi propietari i actes de reunions internes a ChatGPT per anar més ràpids. Aquell contingut va sortir de l'empresa i va passar a formar part d'un servei de tercers. No hi va haver cap atac ni cap error tècnic. Només algú fent servir una eina sense preguntar-se on anava a parar el que hi escrivia. Samsung és una multinacional amb departament legal i encara així va passar; en una empresa petita, ningú es fa aquesta pregunta abans de connectar el primer prompt.
Cada vegada que el teu sistema envia informació a un model de IA, aquesta informació surt dels teus servidors cap als d'una altra empresa, normalment a un altre país. Si tractes dades de clients des d'Andorra, això té un nom legal concret: transferència internacional de dades. El reglament andorrà de protecció de dades hi exigeix una anàlisi prèvia abans de fer-la, i si el risc no es pot mitigar, cal consultar l'Agència Andorrana de Protecció de Dades (APDA) abans, no després. La mateixa APDA ha reconegut públicament que bona part d'aquestes dades acaben en servidors als Estats Units i que encara falta un marc legal bilateral que ho reguli amb garanties. Si la pròpia autoritat ho diu, no és un detall menor que et puguis saltar perquè "només és un prompt".
Qui respon quan la llei ja t'afecta, encara que el sistema l'hagis fet tu
El reglament europeu d'intel·ligència artificial (el conegut com a AI Act) ja exigeix, des de febrer de 2025, que qualsevol empresa que faci servir IA garanteixi que qui la maneja en sap prou per fer-ho amb criteri. I distingeix entre qui ven un sistema de IA i qui simplement el fa servir dins la seva empresa: aquesta segona figura també té obligacions pròpies, com supervisió humana real, registre del que fa el sistema, i informar els treballadors abans de posar-lo en marxa si els afecta la feina. Muntar-ho tu mateix amb IA no et treu d'aquestes obligacions, només fa que probablement ningú les hagi mirat.
A Andorra no hi ha encara una llei pròpia d'intel·ligència artificial. El que sí hi ha és la llei de protecció de dades, i aquesta no fa distincions entre "ho ha fet un proveïdor professional" o "ho hem muntat nosaltres un divendres a la tarda". Si el sistema tracta dades de clients, pacients o empleats, la llei que ja complies abans segueix aplicant, amb l'afegit que ara les dades passen per un intermediari nou que no hi era fa un any.
Sabràs quan et doni una resposta equivocada?
Aquesta és la pregunta que menys es fa i la que més costa cara. No hi ha una xifra única i fiable de quant falla una IA en una tasca d'empresa real (qui et doni un percentatge tancat sense dir d'on surt, desconfia): depèn molt de la tasca, de les dades amb què treballa i de com s'ha mesurat. El que sí és cert, i verificable amb qualsevol model que facis servir avui, és que cap arriba a zero errors, i que respon amb la mateixa seguretat tant si l'encerta com si no. L'única manera fiable de saber el marge d'error del teu sistema és mesurar-lo contra els teus propis documents, no confiar en el que digui el fullet de l'eina.
I el motiu pel qual falla no sol ser que la IA "s'equivoqui" sense més. Sol ser que el sistema no sap que una informació ha quedat vella. Una pàgina interna deia que una funció era compatible, un fil de suport diu que té una limitació, un company diu que depèn de com s'ha configurat; si ningú ha marcat quina d'aquestes tres és la vigent avui, el sistema les tracta totes amb la mateixa seguretat. Un document corregit fa sis mesos, si ningú actualitza la font, continua sortint com si fos vàlid. Això no és un error puntual de la IA. És falta de manteniment del que l'alimenta, i mantenir això és feina contínua, no un botó que es prem un cop.
Si tu o el teu equip no teniu aquest criteri, ningú detectarà l'error fins que algú prengui una decisió basant-s'hi: un pressupost mal calculat, una dada de client malament, una resposta a un client que no tocava donar. I quan passi, no n'hi ha prou amb corregir-lo un cop. Cal algú que entengui per què va passar, actualitzi la font que ha quedat vella i deixi constància de qui ho ha validat, perquè no torni a passar la setmana següent.
El que la IA et dona en un cap de setmana, algú ho ha de vigilar, mantenir i corregir durant anys.
Construir o comprar: la pregunta no és nova, el que ha canviat és la temptació
Build versus buy és una decisió que les empreses porten dècades prenent. El que ha canviat no és la decisió, és que ara "construir-ho" sembla gratis i immediat, i per això es pren sense passar pel mateix filtre que abans. Ningú muntava un ERP un divendres a la tarda perquè era evidentment inviable. Un sistema fet amb IA en unes hores no sembla el mateix tipus de compromís, però mou les mateixes dades, cau sota la mateixa llei i es pot equivocar igual.
La pregunta correcta no és "ho puc fer jo mateix amb IA". És qui respon de les dades quan surtin del país, qui ha comprovat que compleixes la llei que ja t'aplicava abans, i qui sabrà detectar i corregir l'error quan arribi.
Un sistema que ningú va pensar per durar, dura fins que algú necessita que funcioni de debò. Aleshores es nota qui havia comprovat les dades, la llei i l'error, i qui només havia comprovat que funcionava.
Quan sí té sentit fer-ho tu mateix
No tot s'ha de comprar. Si el que necessites és petit, el fas servir tu sol o un equip reduït, no processa dades sensibles i et pots permetre que es trenqui sense que passi res greu, fes-ho amb IA i prou. És exactament per a això que aquestes eines són genials: provar una idea, automatitzar una tasca personal, guanyar temps en alguna cosa que no depèn de tu demà si falla.
El llindar és senzill de recordar: si el que construeixes toca dades de clients, pren decisions per altres persones o altres persones hi confien per fer la seva feina, ja no és un experiment. És una infraestructura, encara que l'hagis muntat en un vespre. I és una infraestructura d'un tipus concret: connectar un parell d'eines no és el mateix problema que mantenir viu el que les alimenta. Una cosa és guardar informació perquè es trobi. Una altra, molt diferent, és assegurar-se que el que es troba encara és veritat.
El que hi posem nosaltres
Fem servir IA constantment, per anar més ràpids en el que és repetitiu. Però quan un client ens demana un sistema del qual dependrà el seu negoci, les primeres preguntes que li fem no són tècniques: on quedaran les dades, quina normativa li toca complir, i com detectem i corregim un error el dia que aparegui. Si cap d'aquestes respostes existeix encara, no toca construir-lo. Toca parlar-ne abans.
Preguntes freqüents
Construir un sistema intern amb IA m'eximeix de complir la llei de protecció de dades?
No. Si el sistema tracta dades de clients, pacients o empleats, la llei que ja complies abans de fer-lo segueix aplicant. A Andorra, a més, enviar aquestes dades a un model de IA sol ser una transferència internacional de dades, amb una anàlisi prèvia exigida pel reglament de protecció de dades abans de fer-la.
Com sé si el sistema m'està donant una resposta equivocada?
Un sistema de IA respon amb la mateixa seguretat tant si encerta com si no, i sovint falla perquè una font interna ha quedat desactualitzada o es contradiu amb una altra sense que ningú ho hagi marcat. L'única manera fiable de saber el marge d'error és mesurar-lo contra els teus propis documents, no confiar en el que prometi l'eina.
Quan té sentit construir un sistema amb IA en comptes de contractar-lo?
Quan és petit, el fas servir tu sol o un equip reduït, no processa dades sensibles i et pots permetre que es trenqui sense conseqüències greus. Si el sistema toca dades de clients, pren decisions per altres persones o altres persones hi confien per fer la seva feina, ja no és un experiment personal, és una infraestructura que algú ha de mantenir.
