Un week-end et un abonnement à deux ou trois outils d'IA, et n'importe qui dans ton équipe peut monter un système interne. Un moteur de recherche documentaire, un bot qui répond aux questions des clients, un tableau de bord qui connecte des données qui vivaient chacune de leur côté. Ça marche dès le premier essai et on se sent tout-puissant : tu viens de construire seul quelque chose qui demandait avant une équipe entière. C'est là que commence le problème, parce que pouvoir le faire n'est pas la même chose que savoir ce que tu viens d'assumer.
Où finissent tes données, et à qui elles appartiennent maintenant
En 2023, des ingénieurs de Samsung ont collé du code propriétaire et des comptes rendus de réunions internes dans ChatGPT pour aller plus vite. Ce contenu est sorti de l'entreprise et a fini par faire partie d'un service tiers. Il n'y a eu ni attaque ni erreur technique. Juste quelqu'un qui utilisait un outil sans se demander où finissait ce qu'il y écrivait. Samsung est une multinationale avec un service juridique, et c'est quand même arrivé ; dans une petite entreprise, personne ne se pose cette question avant de connecter le premier prompt.
Chaque fois que ton système envoie une information à un modèle d'IA, cette information quitte tes serveurs pour ceux d'une autre entreprise, en général dans un autre pays. Si tu traites des données de clients depuis l'Andorre, cela porte un nom juridique précis : transfert international de données. Le règlement andorran de protection des données exige une analyse préalable avant de le faire, et si le risque ne peut pas être atténué, il faut consulter l'Agence andorrane de protection des données (APDA) avant, pas après. L'APDA elle-même a reconnu publiquement qu'une bonne partie de ces données finissent sur des serveurs aux États-Unis et qu'il manque encore un cadre juridique bilatéral qui l'encadre avec des garanties. Si l'autorité elle-même le dit, ce n'est pas un détail que tu peux ignorer parce que « ce n'est qu'un prompt ».
Qui répond quand la loi s'applique déjà à toi, même si tu as fait le système toi-même
Le règlement européen sur l'intelligence artificielle (l'AI Act) exige déjà, depuis février 2025, que toute entreprise qui utilise l'IA garantisse que ceux qui la manient en savent assez pour le faire avec jugement. Et il distingue celui qui vend un système d'IA de celui qui l'utilise simplement dans son entreprise : cette seconde catégorie a aussi ses propres obligations, comme une supervision humaine réelle, la traçabilité de ce que fait le système, et l'information des salariés avant sa mise en service si cela affecte leur travail. Le monter toi-même avec l'IA ne t'exonère pas de ces obligations, ça fait juste que personne ne les a probablement regardées.
En Andorre, il n'y a pas encore de loi propre sur l'intelligence artificielle. Ce qui existe, c'est la loi sur la protection des données, et elle ne fait pas de distinction entre « c'est un prestataire professionnel qui l'a fait » et « on l'a monté nous-mêmes un vendredi après-midi ». Si le système traite des données de clients, de patients ou d'employés, la loi que tu respectais déjà avant continue de s'appliquer, avec en plus le fait que les données passent maintenant par un intermédiaire nouveau qui n'existait pas il y a un an.
Sauras-tu quand il te donne une réponse fausse ?
C'est la question qu'on se pose le moins et celle qui coûte le plus cher. Il n'existe pas de chiffre unique et fiable sur le taux d'erreur d'une IA dans une tâche d'entreprise réelle (si quelqu'un te donne un pourcentage précis sans dire d'où il vient, méfie-toi) : ça dépend beaucoup de la tâche, des données utilisées et de la méthode de mesure. Ce qui est sûr, et vérifiable avec n'importe quel modèle que tu utilises aujourd'hui, c'est qu'aucun n'atteint zéro erreur, et qu'il répond avec la même assurance qu'il ait raison ou tort. La seule façon fiable de connaître la marge d'erreur de ton système est de la mesurer sur tes propres documents, pas de faire confiance à la plaquette commerciale de l'outil.
Et la raison pour laquelle il se trompe n'est généralement pas que l'IA « se plante » sans plus. C'est généralement que le système ignore qu'une information est devenue obsolète. Une page interne disait qu'une fonctionnalité était compatible, un fil de support dit qu'elle a une limite, un collègue dit que ça dépend de la configuration ; si personne n'a indiqué laquelle de ces trois versions est la bonne aujourd'hui, le système les traite toutes avec la même assurance. Un document corrigé il y a six mois, si personne ne met à jour la source, continue de sortir comme s'il était valide. Ce n'est pas une erreur ponctuelle de l'IA. C'est un manque d'entretien de ce qui l'alimente, et cet entretien est un travail continu, pas un bouton qu'on presse une fois.
Si toi ou ton équipe n'avez pas ce jugement, personne ne détectera l'erreur avant que quelqu'un prenne une décision en se basant dessus : un devis mal calculé, une donnée client erronée, une réponse à un client qu'il ne fallait pas donner. Et quand ça arrive, corriger une fois ne suffit pas. Il faut quelqu'un qui comprenne pourquoi c'est arrivé, mette à jour la source devenue obsolète et note qui a validé le correctif, pour que ça ne se reproduise pas la semaine suivante.
Ce que l'IA te donne en un week-end, quelqu'un doit le surveiller, l'entretenir et le corriger pendant des années.
Construire ou acheter : la question n'est pas nouvelle, c'est la tentation qui a changé
Build versus buy est une décision que les entreprises prennent depuis des décennies. Ce qui a changé, ce n'est pas la décision, c'est que « le construire » semble aujourd'hui gratuit et immédiat, et c'est pour ça qu'on la prend sans passer par le même filtre qu'avant. Personne ne montait un ERP un vendredi après-midi parce que c'était manifestement intenable. Un système fait avec l'IA en quelques heures ne ressemble pas au même type d'engagement, mais il déplace les mêmes données, tombe sous la même loi et peut se tromper tout autant.
La bonne question n'est pas « est-ce que je peux le faire moi-même avec l'IA ? ». C'est qui répond des données quand elles quittent le pays, qui a vérifié que tu respectes la loi qui s'appliquait déjà à toi, et qui saura détecter et corriger l'erreur quand elle arrivera.
Un système que personne n'a pensé pour durer dure jusqu'au jour où quelqu'un a besoin qu'il fonctionne vraiment. C'est là qu'on voit qui avait vérifié les données, la loi et l'erreur, et qui avait seulement vérifié que ça marchait.
Quand ça a vraiment du sens de le faire soi-même
Tout ne doit pas s'acheter. Si ce dont tu as besoin est petit, que tu l'utilises seul ou avec une équipe réduite, qu'il ne traite pas de données sensibles et que tu peux te permettre qu'il tombe en panne sans que rien de grave n'arrive, fais-le avec l'IA, point. C'est exactement pour ça que ces outils sont géniaux : tester une idée, automatiser une tâche personnelle, gagner du temps sur quelque chose qui ne dépend pas de toi demain s'il plante.
Le seuil est simple à retenir : si ce que tu construis touche des données de clients, prend des décisions pour d'autres personnes ou que d'autres personnes en dépendent pour leur travail, ce n'est plus une expérimentation. C'est une infrastructure, même si tu l'as montée en une soirée. Et c'est une infrastructure d'un type précis : connecter deux ou trois outils n'est pas le même problème que maintenir en vie ce qui les alimente. Une chose est de stocker de l'information pour qu'on la retrouve. Une autre, très différente, est de s'assurer que ce qu'on retrouve reste vrai.
Ce qu'on met, nous
On utilise l'IA constamment, pour aller plus vite sur ce qui est répétitif. Mais quand un client nous demande un système dont dépendra son activité, les premières questions qu'on lui pose ne sont pas techniques : où resteront les données, quelle réglementation s'applique à lui, et comment on détecte et corrige une erreur le jour où elle apparaît. Si aucune de ces réponses n'existe encore, ce n'est pas encore le moment de le construire. C'est le moment d'en parler avant.
Questions fréquentes
Construire un système interne avec l'IA me dispense-t-il de respecter la loi sur la protection des données ?
Non. Si le système traite des données de clients, de patients ou d'employés, la loi que tu respectais déjà avant de le faire continue de s'appliquer. En Andorre, envoyer ces données à un modèle d'IA constitue en plus souvent un transfert international de données, avec une analyse préalable exigée par le règlement de protection des données avant de le faire.
Comment savoir si le système me donne une réponse fausse ?
Un système d'IA répond avec la même assurance, qu'il ait raison ou tort, et il se trompe souvent parce qu'une source interne est devenue obsolète ou se contredit avec une autre sans que personne ne l'ait signalé. La seule façon fiable de connaître sa marge d'erreur est de la mesurer sur tes propres documents, pas de faire confiance à ce que promet l'outil.
Quand est-ce que ça a du sens de construire un système avec l'IA plutôt que de le faire faire ?
Quand c'est petit, que tu l'utilises seul ou avec une équipe réduite, qu'il ne traite pas de données sensibles et que tu peux te permettre qu'il tombe en panne sans conséquence grave. Si le système touche des données de clients, prend des décisions pour d'autres personnes ou que d'autres personnes en dépendent pour leur travail, ce n'est plus une expérimentation personnelle, c'est une infrastructure que quelqu'un doit maintenir.
