Por que um sistema de IA precisa de acompanhamento depois de entregue?

Um sistema de IA precisa de acompanhamento depois de entregue porque o mundo em volta dele não para. O fornecedor aposenta o modelo, os dados mudam de formato, a empresa muda o processo e o volume cresce. Sem alguém olhando, a automação que funcionava no dia da entrega vai ficando pior, quase sempre sem avisar.

Você já teve um robô de atendimento que respondia bem no primeiro mês e, meses depois, começou a errar coisas que antes acertava? Ninguém mexeu nele. Foi justamente esse o problema.

Plutarco conta, na Vida de Teseu, que os atenienses guardaram por séculos o navio em que o herói voltou de Creta depois de vencer o Minotauro. Para mantê-lo, iam tirando as tábuas velhas e pondo madeira nova no lugar. Os filósofos passaram a discutir se, trocadas todas as peças, aquele ainda era o mesmo navio. Mais tarde, Thomas Hobbes complicou a pergunta: e se alguém montasse um segundo navio com as tábuas retiradas?

A pergunta filosófica fica para os filósofos. O detalhe prático é outro: o navio só continuou de pé porque alguém trocava as tábuas. Sistemas de software em uso real funcionam do mesmo jeito. Ou alguém cuida deles peça por peça, ou eles apodrecem no cais.

Na década de 1970, o pesquisador Meir Lehman estudou como programas grandes evoluem e formulou o que ficou conhecido como leis de Lehman. A primeira, chamada de mudança contínua, diz que um sistema que resolve um problema do mundo real precisa ser adaptado continuamente, ou fica cada vez menos satisfatório. A segunda diz que a complexidade cresce com o tempo, a não ser que haja trabalho explícito para mantê-la sob controle.

Com IA, isso acelera. Em 2015, pesquisadores do Google publicaram no congresso NeurIPS o artigo Hidden Technical Debt in Machine Learning Systems. O texto alerta que é perigoso tratar as vitórias rápidas do aprendizado de máquina como se viessem de graça, e afirma que é comum sistemas reais acumularem custos de manutenção contínuos enormes. Entre os riscos listados estão dependências de dados, problemas de configuração e mudanças no mundo externo.

Há também um motivo bem concreto. A página de descontinuações da OpenAI diz que a empresa aposenta modelos antigos regularmente e que o software que depende deles pode precisar de atualizações para continuar funcionando. O aviso mínimo para modelos de uso geral é de seis meses, mas modelos em pré-visualização podem sair do ar com aviso bem mais curto, como duas semanas. Quem montou um atendimento em cima de um modelo e não acompanha esses avisos descobre a mudança quando o atendimento para.

Acompanhamento não é ficar de plantão esperando o telefone tocar. É um trabalho com escopo, que deve estar escrito no contrato. Nos projetos da DOUVRAS, ele aparece em três formatos, conforme o tamanho da operação:

• Suporte básico. Corrigir o que quebrou, responder dúvidas da equipe e manter o sistema no ar.
• Suporte com ajustes e monitoramento. Além disso, acompanhar logs e alertas, ajustar respostas, regras e integrações, e agir antes que a falha chegue ao cliente.
• Evolução contínua. Somar relatórios periódicos e melhorias planejadas, como conectar um sistema novo ou automatizar o próximo trecho do processo.

Em qualquer formato, a base técnica vem do projeto. Nas nossas automações e integrações, o escopo já inclui logs, alertas e procedimento de contingência. Nos agentes e assistentes de IA, entram logs, custos e critérios de desligamento. É isso que torna o acompanhamento possível: dá para ver o que está acontecendo em vez de adivinhar.

Uma mensalidade sem entrega visível vira custo fixo que ninguém sabe justificar. Para não cair nisso, vale exigir três coisas:

• Registro do que foi feito. Cada mês termina com uma lista do que foi corrigido, ajustado ou melhorado, e por quê.
• Números do próprio sistema. Volume processado, falhas, alertas e tempo de resposta, tirados dos logs, não de impressão.
• Critério de saída. O que acontece se a empresa decidir encerrar: onde ficam o código, os dados, as senhas e a documentação.

O último ponto é o mais esquecido. Um bom acompanhamento deixa a empresa menos dependente de quem montou o sistema, não mais. No texto sobre diagnóstico antes da automação, falamos da linha de base criada no começo do projeto. O acompanhamento é o que mantém essa linha de base atualizada mês a mês.

Se o sistema está funcionando, por que pagar acompanhamento? Porque funcionar hoje não garante funcionar daqui a seis meses. Modelos são aposentados, integrações mudam e o processo da empresa evolui. O acompanhamento existe para que essas mudanças sejam tratadas antes de virar incidente.

Dá para contratar só a correção quando algo quebrar? Dá. Para isso existe o nosso serviço de resgate técnico e suporte, com triagem, correção acordada e evidência de conclusão. A diferença é que o acompanhamento contínuo tenta evitar que a falha chegue a esse ponto.

O acompanhamento prende a empresa ao fornecedor? Não deveria. Peça documentação, acesso ao código e um critério de saída escrito desde o início.

A DOUVRAS Labs trabalha com automação e integrações, software sob medida, agentes de IA, sites e resgate técnico. Todo projeto começa com uma conversa de diagnóstico que define o gargalo, as dependências, a evidência de conclusão e o que fica fora. O formato de acompanhamento é decidido junto, depois desse recorte, de acordo com o quanto a operação depende do sistema.

E na sua empresa, quem está trocando as tábuas do navio?

Douglas Henrique, DOUVRAS Labs.

Plutarco. Vida de Teseu. Ship of Theseus, Wikipedia. wikipedia.org

Lehman, Meir M. Leis da evolução de software (1974 em diante). Lehman's laws of software evolution, Wikipedia. wikipedia.org

Sculley, D. et al. Hidden Technical Debt in Machine Learning Systems. NeurIPS, 2015. neurips.cc

OpenAI. Deprecations. openai.com

DOUVRAS Labs. Automação e integrações. douvras.com

DOUVRAS Labs. Agentes e assistentes de IA. douvras.com

DOUVRAS Labs. Resgate técnico e suporte. douvras.com