A discussão sobre inteligência artificial nas empresas está entrando em uma fase em que a pergunta mais importante talvez já não seja o que a tecnologia consegue fazer, mas em que medida uma organização está preparada para confiar no que ela faz. À medida que agentes de IA passam a recomendar, decidir e executar ações com níveis crescentes de autonomia, o desafio deixa de estar restrito à qualidade dos modelos e passa a envolver arquitetura, segurança, governança, dados e, principalmente, as pessoas que continuarão fazendo parte dessa cadeia.
Esse foi o eixo da oitava edição do The Future Uncovered, evento promovido pela NTT DATA em São Paulo, que reuniu jornalistas, formadores de opinião e especialistas para discutir os desafios relacionados à adoção da chamada IA autônoma. E eu estive lá para fazer a cobertura do encontro.
A empresa defende que transparência, governança e explicabilidade serão determinantes para que organizações e pessoas possam confiar em sistemas que passam a participar de decisões cada vez mais críticas.
Mas duas questões levantadas durante o encontro ajudam a ampliar essa discussão para além da infraestrutura tecnológica. A primeira diz respeito a um problema bastante conhecido das empresas: o legado. A segunda está justamente no elemento que muitas vezes fica em segundo plano quando se fala em agentes, guardrails e governança: o ser humano.
MCP: quando agentes de empresas diferentes precisam conversar
Se a IA autônoma vai participar de processos que atravessam diferentes empresas, um novo desafio aparece: como fazer agentes de IA acessarem ferramentas e informações de outros sistemas de maneira padronizada e controlada?
É nesse contexto que entra o MCP, sigla para Model Context Protocol. De forma simplificada, ele funciona como um protocolo que padroniza a maneira como um modelo de IA pode se conectar a ferramentas, sistemas e fontes de dados. Em vez de cada aplicação precisar criar uma integração específica para cada agente, o protocolo estabelece uma forma comum de fazer essa comunicação.
Em um cenário corporativo, isso pode permitir que um agente de uma empresa interaja com serviços ou informações disponibilizados por outra organização. Um agente responsável por compras, por exemplo, poderia consultar sistemas externos para verificar disponibilidade, preços ou condições comerciais sem que cada nova conexão precise ser construída do zero.
A interoperabilidade, porém, também amplia a discussão sobre confiança levantada pela NTT DATA. Quando agentes passam a interagir entre organizações, não basta saber o que um agente consegue fazer. É preciso estabelecer quem pode acessar determinada informação, quais ações estão autorizadas, como as identidades são verificadas e como cada operação pode ser rastreada.
O MCP, portanto, não elimina a necessidade de governança. Ele ajuda a criar uma linguagem comum para a conexão entre sistemas, enquanto identidade, autorização, segurança, observabilidade e políticas de acesso continuam sendo fundamentais para determinar o que pode acontecer nessa comunicação.
No cenário de IA agentiva, interoperabilidade pode ser uma das peças que permitem sair de agentes isolados para ecossistemas em que diferentes sistemas e organizações trabalham de forma coordenada. E, quanto maior essa rede, maior também a necessidade de mecanismos capazes de estabelecer confiança entre seus participantes.
A IA não apaga o legado.
É fácil imaginar a transformação provocada pela inteligência artificial como uma oportunidade para começar do zero. Na prática, porém, grande parte das empresas precisa colocar novas tecnologias para funcionar sobre uma infraestrutura construída ao longo de décadas, com aplicações antigas, diferentes camadas de sistemas e bases de dados que nem sempre foram concebidas para conversar entre si.
Durante o evento, questionei os especialistas sobre esse cenário, incluindo ambientes muito antigos, como terminais desatualizados e sistemas desenvolvidos em tecnologias legadas. A resposta de Fernando Galdino, diretor de Consultoria em Cibersegurança da NTT DATA Brasil, e Daniela Griecco, head de Digital & Analytics da companhia, foi que a inteligência artificial pode potencializar problemas que já existiam nesses ambientes.
O ponto mais interessante está na maneira como um agente de IA pode interagir com esse ecossistema. Segundo os especialistas, ao definir determinado nível de acesso e autonomia para um agente, ele pode chegar a informações que a própria organização nem sabia que estavam disponíveis daquela maneira.
Isso muda a natureza do problema. O risco não está necessariamente em o sistema legado ser novo ou antigo, mas no que acontece quando uma nova camada de inteligência passa a conseguir interagir com ele.
“Quando a gente fala, por exemplo, do risco de um acesso não autorizado, quando você desenvolve um agente, você atribui a ele um nível de acesso, um grau de autonomia; ele vai acessar dados que você nem sabia que estavam disponíveis”, afirmou Galdino.
A consequência, segundo os especialistas, é que a adoção de agentes pode exigir uma transformação mais profunda da arquitetura das empresas. Não significa simplesmente substituir todos os sistemas antigos. O cenário apontado pela NTT DATA é de convivência entre novas aplicações baseadas em IA e ambientes legados, mas com uma necessidade maior de compreender quais informações existem, quem consegue acessá-las e quais permissões serão concedidas aos agentes.
É uma diferença importante em relação a uma visão mais superficial da transformação digital. A questão deixa de ser apenas adicionar inteligência artificial à infraestrutura existente e passa a ser verificar se essa infraestrutura continua adequada quando uma máquina ganha capacidade de navegar por ela.
“Vamos ter que conviver com um legado”, resumiu Galdino durante a discussão. O problema, segundo ele, é que o agente pode acessar informações do mundo legado, cuja existência ou disponibilidade não era conhecida pela organização.
O novo risco está também no que parece verdadeiro.
Se, dentro da empresa, o desafio está em controlar o que um agente pode acessar, fora dela existe uma questão igualmente complexa: controlar aquilo em que as pessoas acreditam.
Foi nesse ponto que a discussão sobre segurança chegou ao fator humano. Durante a apresentação, a maior parte da conversa havia se concentrado em arquitetura, governança, observabilidade, segurança e autonomia dos agentes. Por isso, levantei uma situação hipotética: uma secretária recebe um áudio aparentemente enviado pelo CTO da empresa, pedindo uma senha de acesso que teria esquecido. O áudio, entretanto, foi produzido por inteligência artificial.
A resposta de Daniela Griecco foi que o letramento sobre inteligência artificial precisa fazer parte da estratégia desde os primeiros estágios de adoção da tecnologia e continuar ao longo do tempo. Para ela, não basta estabelecer políticas técnicas. Todos os atores da organização precisam compreender o que representa risco ao acessar, utilizar ou compartilhar determinada informação.
A executiva destacou ainda que esse processo não deve ser tratado como uma iniciativa pontual. Pessoas mudam de função, novas equipes são formadas e as próprias empresas passam por reorganizações. Por isso, a preparação precisa acompanhar essa dinâmica.
Fernando Galdino colocou a mudança de forma ainda mais direta. Os antigos programas de conscientização em segurança costumavam ensinar funcionários a identificar phishing e engenharia social e a avaliar se deveriam clicar ou não em determinado conteúdo. Com a evolução da inteligência artificial generativa, a pergunta começa a mudar.
“A pergunta não é mais se está segura ou não, se eu posso clicar. É até que ponto eu posso confiar nessa mensagem de áudio, nesse vídeo", afirmou.
A diferença parece pequena, mas representa uma mudança importante. Um treinamento tradicional poderia ensinar alguém a desconfiar de um endereço de e-mail estranho, de um link suspeito ou de uma solicitação fora do procedimento. O problema é que uma mensagem sintética pode reproduzir elementos que antes serviam como sinais de autenticidade, incluindo voz, imagem e maneira de se comunicar.
Nesse cenário, a orientação passa a ser menos sobre reconhecer uma fraude pela aparência e mais sobre verificar o contexto. Quem enviou a mensagem? Essa pessoa realmente teria autoridade para fazer aquela solicitação? A comunicação chegou por um canal habitual? Existe algum mecanismo corporativo de confirmação? A solicitação faz sentido dentro daquele contexto?
É uma espécie de extensão do princípio de Zero Trust, conceito discutido durante o evento. Em vez de confiar automaticamente em uma solicitação, é necessário verificar antes de autorizar.
A reputação da fonte ganha importância.
Galdino também chamou atenção para uma questão que pode se tornar cada vez mais relevante à medida que o conteúdo sintético se torna mais sofisticado: a verificação da fonte.
Algumas empresas, segundo ele, já trabalham com mecanismos que identificam conteúdos verificados, criando sinais visuais para ajudar o usuário a reconhecer aquilo que foi autenticado. Mas, para o executivo, a indústria ainda precisará evoluir para lidar com um cenário no qual vídeos e áudios artificiais podem se tornar progressivamente mais convincentes.
Nesse ambiente, a confiança não dependerá apenas de olhar para o conteúdo e tentar descobrir se ele parece falso. Será necessário considerar a origem da informação, a reputação da fonte, sua autoridade e o contexto em que aquela mensagem foi recebida.
Essa mudança também aproxima a discussão de IA de um problema que já ultrapassa os departamentos de tecnologia. A confiança passa a ser uma questão organizacional. Ela envolve sistemas capazes de controlar acessos, modelos capazes de produzir respostas, mecanismos capazes de registrar evidências e pessoas capazes de questionar aquilo que recebem.
É justamente por isso que a discussão sobre autonomia da inteligência artificial não pode ser reduzida à capacidade dos modelos. Quanto mais autonomia é concedida a uma máquina, maior precisa ser a clareza sobre os limites dessa autonomia. E quanto mais convincente se torna o conteúdo produzido artificialmente, maior precisa ser a capacidade humana de verificar sua origem e seu contexto.
A NTT DATA resume esse movimento como uma mudança em direção à chamada confiança operacional. A ideia é que segurança e governança não sejam apenas barreiras colocadas no final do processo, mas façam parte da própria infraestrutura que permite à IA funcionar em escala.
No fim, existe uma espécie de paradoxo. As empresas querem agentes capazes de fazer mais sem intervenção humana, mas precisam investir cada vez mais em mecanismos que permitam saber quando esses agentes devem agir, o que podem acessar e quando precisam ser contidos. Ao mesmo tempo, os funcionários continuam sendo parte fundamental da cadeia e precisam aprender a desconfiar justamente de conteúdos que parecem confiáveis.
A questão, portanto, não é simplesmente se as empresas vão confiar na inteligência artificial. É como elas vão construir essa confiança, como poderão comprová-la e o que farão quando não houver certeza suficiente para confiar.
Essa talvez seja uma das mudanças mais profundas provocadas pela chegada da IA autônoma: em um mundo no qual máquinas ganham autonomia e conteúdos artificiais ganham aparência de autenticidade, confiança deixa de ser apenas uma percepção. Ela passa a precisar de evidências.
