A inteligência artificial precisa de governação antes de precisar de escala. Muitas
empresas avaliam uma ferramenta pela demonstração, pelo número de funções ou pela
rapidez da resposta. Esses sinais não mostram quem responde por uma decisão, que dados
entram no sistema ou como a equipa corrige um erro. Uma análise responsável começa por
delimitar o uso. A empresa deve indicar o processo envolvido, o resultado esperado e os
casos em que a ferramenta não pode decidir sozinha.
Esta definição evita uma
suposição comum: uma resposta plausível não é necessariamente uma resposta correta. Um
sistema pode resumir um documento, classificar um pedido ou sugerir uma prioridade.
Também pode ignorar contexto, repetir informação incompleta ou apresentar uma conclusão
sem fonte clara. A revisão humana precisa de ser proporcional ao impacto da tarefa. Uma
sugestão para organizar documentos pode ter uma verificação simples. Uma decisão que
afeta um cliente, trabalhador ou parceiro exige critérios documentados e uma pessoa com
autoridade para rever o resultado.
A primeira etapa consiste em fazer um
inventário dos usos previstos e atuais. A direção deve saber quais equipas utilizam
ferramentas de inteligência artificial, que tipos de informação fornecem e onde guardam
as respostas. Este levantamento revela usos não planeados, cópias de dados e processos
sem responsável definido. Também mostra se uma aplicação é necessária ou se uma regra
mais simples resolveria o problema. A empresa não precisa de proibir toda a
experimentação. Precisa de estabelecer limites compreensíveis antes de uma experiência
passar a fazer parte do trabalho diário.
A qualidade dos dados ocupa o centro
desta análise. Registos desatualizados, documentos sem origem e critérios diferentes
entre departamentos reduzem a utilidade de qualquer sistema. A equipa deve verificar as
fontes, limitar a informação ao necessário e retirar dados pessoais quando a tarefa não
os exige. Deve também conservar informação suficiente para explicar como uma resposta
foi produzida. Sem esse registo, torna-se difícil investigar falhas ou comparar o
desempenho ao longo do tempo.
A responsabilidade precisa de ter nome, função e limite. Um modelo de governação simples
pode distribuir tarefas entre quatro papéis: direção, responsável pelo processo,
responsável pelos dados e utilizador operacional. A direção aprova a finalidade e aceita
o nível de supervisão necessário. O responsável pelo processo confirma se a ferramenta
resolve uma necessidade real. O responsável pelos dados verifica acesso, origem e
conservação. O utilizador operacional aplica o procedimento, assinala erros e encaminha
situações fora das regras.
A tabela abaixo compara controlos adequados a
diferentes usos:
Uso | Controlo principal | Pergunta de verificação
Pesquisa
interna | Fontes identificadas e acesso limitado | A resposta permite localizar o
documento original?
Classificação de pedidos | Amostra revista por uma pessoa | O
sistema trata casos fora do padrão?
Resumo de documentos | Conferência de factos
essenciais | Alguma informação importante foi omitida?
Apoio à previsão | Dados
históricos avaliados | As condições atuais diferem das anteriores?
Decisão sensível
| Aprovação humana documentada | Quem pode corrigir ou contestar o resultado?
A
comparação demonstra que não existe um único controlo para todos os projetos. Uma
ferramenta de pesquisa pode precisar de referências claras. Um sistema de classificação
pode necessitar de testes com casos raros. Um apoio à previsão exige atenção às mudanças
no contexto. Uma decisão sensível requer explicação, revisão e possibilidade de
correção. A empresa deve escolher os controlos segundo o efeito do uso, não segundo a
novidade da tecnologia.
O teste deve ocorrer num ambiente conhecido e com
objetivos limitados. A equipa regista exemplos de entrada, resultados obtidos e
correções realizadas. Depois compara a ferramenta com o procedimento anterior. Os
indicadores podem incluir consistência das respostas, tempo de revisão, quantidade de
erros e facilidade de localizar a fonte. A avaliação não deve considerar apenas
velocidade. Uma resposta rápida que exige muitas correções pode aumentar o trabalho
total. Os resultados podem variar conforme os dados, o processo e a forma de utilização.
A proteção de dados deve fazer parte da decisão desde o início. Uma empresa portuguesa
precisa de definir a finalidade do tratamento, controlar permissões e explicar às
pessoas afetadas como a informação é utilizada, quando aplicável. O acesso deve seguir a
função de cada utilizador. As respostas produzidas devem ser guardadas apenas quando
existe uma razão operacional clara. A organização também precisa de estabelecer um
procedimento para corrigir informação incorreta e responder a pedidos legítimos sobre os
dados.
A segurança não termina na escolha do fornecedor. A empresa deve
verificar onde a informação é processada, que medidas protegem o acesso e como são
comunicadas alterações relevantes. Deve avaliar se os documentos enviados contêm dados
pessoais, informação comercial sensível ou conteúdo sujeito a regras específicas. Quando
uma ferramenta externa participa no processo, as responsabilidades das partes precisam
de estar descritas. Uma avaliação inicial não substitui a revisão regular, porque os
sistemas, os dados e as necessidades da organização podem mudar.
A supervisão
deve continuar depois da implementação. Um responsável pode rever amostras, registar
incidentes e acompanhar alterações no desempenho. Se o sistema começar a produzir
respostas menos consistentes, a equipa deve investigar a causa. Pode ser necessário
atualizar os dados, alterar o procedimento ou suspender aquele uso. Esta possibilidade
não representa falha de planeamento. Representa controlo sobre uma tecnologia que
depende do contexto e da qualidade da informação.
Uma boa governação torna a
inteligência artificial mais compreensível para quem a utiliza e para quem é afetado
pelos seus resultados. Regras claras reduzem decisões improvisadas. Fontes verificadas
facilitam a correção. Responsabilidades distribuídas evitam que uma ferramenta seja
tratada como autoridade isolada. A empresa pode avançar por etapas, começando por um
processo observável e definindo critérios antes do teste. Assim, a transformação
tecnológica mantém ligação à operação, à proteção de dados e à responsabilidade
empresarial. Nenhuma abordagem serve todas as organizações; a avaliação deve acompanhar
o contexto e os resultados podem variar.
