Início/Blog/Construí-lo com IA não quer dizer que o deves fazer

Opinião

Construí-lo com IA
não quer dizer que o deves fazer

Por Undercoverlab6 min de leituraoutubro 2026

Um fim de semana e uma subscrição a duas ou três ferramentas de IA, e qualquer pessoa da tua equipa pode montar um sistema interno. Um motor de pesquisa de documentação, um bot que responde a perguntas de clientes, um painel que liga dados que antes viviam sozinhos. Funciona à primeira tentativa e a sensação é de omnipotência: construíste sozinho algo que antes precisava de uma equipa inteira. É aqui que começa o problema, porque poder fazê-lo não é o mesmo que saber o que acabaste de assumir.

Onde ficam os teus dados, e de quem são agora

Em 2023, engenheiros da Samsung colaram código proprietário e atas de reuniões internas no ChatGPT para ganharem tempo. Esse conteúdo saiu da empresa e passou a fazer parte de um serviço de terceiros. Não houve nenhum ataque nem nenhum erro técnico. Só alguém a usar uma ferramenta sem se perguntar para onde ia parar o que ali escrevia. A Samsung é uma multinacional com departamento jurídico e mesmo assim aconteceu; numa empresa pequena, ninguém se faz esta pergunta antes de ligar o primeiro prompt.

Sempre que o teu sistema envia informação para um modelo de IA, essa informação sai dos teus servidores para os de outra empresa, normalmente noutro país. Se tratas dados de clientes a partir de Andorra, isto tem um nome legal concreto: transferência internacional de dados. O regulamento andorrano de proteção de dados exige uma análise prévia antes de a fazer, e se o risco não puder ser mitigado, é preciso consultar a Agência Andorrana de Proteção de Dados (APDA) antes, não depois. A própria APDA já reconheceu publicamente que boa parte destes dados acaba em servidores nos Estados Unidos e que ainda falta um quadro legal bilateral que o regule com garantias. Se a própria autoridade o diz, não é um pormenor menor que possas ignorar só porque "é apenas um prompt".

Quem responde quando a lei já te afeta, mesmo que tenhas feito o sistema tu próprio

O regulamento europeu de inteligência artificial (conhecido como AI Act) já exige, desde fevereiro de 2025, que qualquer empresa que use IA garanta que quem a maneja sabe o suficiente para o fazer com critério. E distingue entre quem vende um sistema de IA e quem simplesmente o usa dentro da própria empresa: esta segunda figura também tem obrigações próprias, como supervisão humana real, registo do que o sistema faz, e informar os trabalhadores antes de o pôr em marcha se isso afetar o trabalho deles. Montá-lo tu próprio com IA não te livra destas obrigações, só faz com que provavelmente ninguém as tenha verificado ainda.

Em Andorra ainda não existe uma lei própria de inteligência artificial. O que existe é a lei de proteção de dados, e esta não distingue entre "foi um fornecedor profissional que o fez" ou "montámo-lo nós numa sexta-feira à tarde". Se o sistema trata dados de clientes, pacientes ou colaboradores, a lei que já cumprias antes continua a aplicar-se, com o acréscimo de que agora os dados passam por um intermediário novo que não existia há um ano.

Vais saber quando te der uma resposta errada?

Esta é a pergunta que menos se faz e a que mais caro sai. Não existe um número único e fiável sobre quanto falha uma IA numa tarefa empresarial real (se alguém te der uma percentagem fechada sem dizer de onde vem, desconfia): depende muito da tarefa, dos dados com que trabalha e de como foi medida. O que é certo, e verificável com qualquer modelo que uses hoje, é que nenhum chega a zero erros, e que responde com a mesma segurança quer acerte quer não. A única forma fiável de conhecer a margem de erro do teu sistema é medi-la face aos teus próprios documentos, não confiar no que diz o folheto da ferramenta.

E o motivo pelo qual falha normalmente não é a IA "enganar-se" sem mais. Normalmente é o sistema não saber que uma informação ficou desatualizada. Uma página interna dizia que uma funcionalidade era compatível, um tópico de suporte diz que tem uma limitação, um colega diz que depende de como foi configurado; se ninguém assinalou qual destas três é a vigente hoje, o sistema trata todas com a mesma segurança. Um documento corrigido há seis meses, se ninguém atualizar a fonte, continua a sair como se fosse válido. Isto não é um erro pontual da IA. É falta de manutenção do que a alimenta, e manter isso é trabalho contínuo, não um botão que se carrega uma vez.

Se tu ou a tua equipa não tiverem esse critério, ninguém detetará o erro até alguém tomar uma decisão com base nele: um orçamento mal calculado, um dado de cliente errado, uma resposta a um cliente que não devia ter sido dada. E quando isso acontecer, não basta corrigi-lo uma vez. É preciso alguém que perceba porque aconteceu, atualize a fonte desatualizada e deixe registo de quem validou, para que não volte a acontecer na semana seguinte.

O que a IA te dá num fim de semana, alguém tem de vigiar, manter e corrigir durante anos.

Construir ou comprar: a pergunta não é nova, o que mudou foi a tentação

Build versus buy é uma decisão que as empresas tomam há décadas. O que mudou não foi a decisão, foi que agora "construí-lo" parece gratuito e imediato, e por isso toma-se sem passar pelo mesmo filtro de antes. Ninguém montava um ERP numa sexta-feira à tarde porque era claramente inviável. Um sistema feito com IA em poucas horas não parece o mesmo tipo de compromisso, mas movimenta os mesmos dados, cai sob a mesma lei e pode falhar da mesma forma.

A pergunta certa não é "consigo fazer isto sozinho com IA?". É quem responde pelos dados quando saem do país, quem verificou que cumpres a lei que já te era aplicável, e quem saberá detetar e corrigir o erro quando chegar.

Um sistema que ninguém pensou para durar, dura até ao dia em que alguém precisa mesmo que funcione. É aí que se nota quem tinha verificado os dados, a lei e o erro, e quem só tinha verificado que funcionava.

Quando é que de facto faz sentido fazê-lo tu próprio

Nem tudo se deve comprar. Se o que precisas é pequeno, és tu sozinho ou uma equipa reduzida que o usa, não processa dados sensíveis e podes permitir-te que se avarie sem que aconteça nada grave, faz com IA e pronto. É exatamente para isto que estas ferramentas são excelentes: testar uma ideia, automatizar uma tarefa pessoal, ganhar tempo em algo que não depende de ti amanhã se falhar.

O limiar é fácil de recordar: se o que constróis toca em dados de clientes, toma decisões por outras pessoas ou outras pessoas confiam nele para fazer o seu trabalho, deixa de ser uma experiência. É uma infraestrutura, mesmo que a tenhas montado numa noite. E é uma infraestrutura de um tipo concreto: ligar duas ou três ferramentas não é o mesmo problema que manter vivo o que as alimenta. Uma coisa é guardar informação para que se encontre. Outra, muito diferente, é garantir que o que se encontra continua a ser verdade.

O que nós pomos nisto

Usamos IA constantemente, para irmos mais rápido no que é repetitivo. Mas quando um cliente nos pede um sistema do qual dependerá o seu negócio, as primeiras perguntas que lhe fazemos não são técnicas: onde ficarão os dados, que normativa lhe é aplicável, e como detetamos e corrigimos um erro no dia em que aparecer. Se nenhuma destas respostas existir ainda, não é o momento de o construir. É o momento de falar disso antes.

Perguntas frequentes

Construir um sistema interno com IA isenta-me de cumprir a lei de proteção de dados?

Não. Se o sistema trata dados de clientes, pacientes ou colaboradores, a lei que já cumprias antes de o fazer continua a aplicar-se. Em Andorra, além disso, enviar estes dados para um modelo de IA costuma ser uma transferência internacional de dados, com uma análise prévia exigida pelo regulamento de proteção de dados antes de a fazer.

Como sei se o sistema me está a dar uma resposta errada?

Um sistema de IA responde com a mesma segurança quer acerte quer não, e muitas vezes falha porque uma fonte interna ficou desatualizada ou contradiz outra sem que ninguém o tenha assinalado. A única forma fiável de saber a margem de erro é medi-la face aos teus próprios documentos, não confiar no que promete a ferramenta.

Quando é que faz sentido construir um sistema com IA em vez de o contratar?

Quando é pequeno, és tu sozinho ou uma equipa reduzida que o usa, não processa dados sensíveis e podes permitir-te que se avarie sem consequências graves. Se o sistema toca em dados de clientes, toma decisões por outras pessoas ou outras pessoas confiam nele para fazer o seu trabalho, deixa de ser uma experiência pessoal e passa a ser uma infraestrutura que alguém tem de manter.

Undercoverlab
Tecnologia sem dramas. De Andorra.

Tens um sistema interno em mente e não sabes se o deves construir?

Antes de escrever código, falemos dos dados, da normativa e de quem o vai manter. Sem compromisso.

Blog Falemos do teu projeto