A Inteligência Artificial está a tornar‑se rapidamente central no mundo do trabalho, prometendo níveis sem precedentes de produtividade, eficiência e inovação. À medida que as organizações adotam agentes de IA para desbloquear novas oportunidades e acelerar o crescimento, enfrentam também uma nova geração de ameaças à cibersegurança, sendo que os mesmos agentes que podem reforçar as defesas digitais, se forem mal geridos, também podem fragilizá‑las.
Os agentes de IA representam uma evolução significativa face ao software tradicional e, de acordo com um estudo da International Data Corporation (IDC), prevê-se que existam 1,3 milhões de agentes de IA em circulação até 2028. Estes agentes são mais dinâmicos, adaptativos e, em muitos casos, capazes de operar de forma autónoma. Além disso, interagem em linguagem natural, analisam grandes volumes de dados e executam ações automaticamente. Esta combinação de autonomia e capacidade de decisão cria um novo panorama de risco, que exige uma abordagem diferente à segurança.
Neste contexto, a Microsoft recomenda três princípios que as organizações devem ter em consideração:
- Reconhecer o novo panorama de ataque
É fundamental reconhecer que a IA pode ser usada de formas que vão além da experiência com tecnologias anteriores. Agentes concebidos para desempenhar tarefas legítimas podem, quando têm privilégios alargados, ser manipulados por agentes maliciosos para usar esse acesso de forma indevida, como a divulgação de informação sensível através de ações automatizadas. Este cenário é conhecido como o problema do “Confused Deputy” e é particularmente relevante num ambiente em que instruções e dados estão profundamente interligados, como acontece nos sistemas baseados em linguagem natural.
O risco agrava-se com a proliferação de agentes não aprovados ou “agentes‑sombra”, que operam fora dos mecanismos formais de governação. Tal como aconteceu noutras vagas tecnológicas, tudo o que não é devidamente inventariado, monitorizado e controlado amplia “ângulos mortos” e eleva o risco para as organizações.
- Adotar uma abordagem Zero Trust para agentes
Para responder a este novo cenário, a Microsoft defende a aplicação dos princípios de Zero Trust aos agentes de IA. Embora os agentes sejam relativamente novos como ferramentas de produtividade, podem e devem ser geridos com base em princípios de segurança já bem estabelecidos. Esta abordagem assenta em dois conceitos fundamentais: Contenção e Alinhamento.
A Contenção parte do pressuposto de que nenhum agente deve ser implicitamente confiável. O acesso deve ser limitado ao seu papel e propósito específicos, seguindo o princípio do privilégio mínimo, tal como acontece com colaboradores, aplicações e dispositivos. Da mesma forma, não deve haver confiança implícita nas ações ou comunicações de um agente e todas as ações devem ser monitorizadas de forma contínua. Quando este nível de controlo não é possível, o agente simplesmente não deve operar no ambiente da organização.
O Alinhamento traduz-se em garantir que cada agente atua de acordo com o seu propósito aprovado. Isto implica recorrer a modelos e prompts concebidos para resistir a tentativas de manipulação, com proteções de segurança integradas tanto no modelo como na forma como é utilizado. Os agentes devem resistir a desvios das suas funções e operar em ambientes de contenção que detetem rapidamente qualquer comportamento fora do esperado. Este modelo exige identidades fortes para os agentes e uma responsabilidade clara dentro da organização: cada agente deve ter uma identidade e um responsável claramente definido pelo seu comportamento.
Estes princípios refletem os fundamentos do Zero Trust, incluindo a lógica de “assumir intrusão”, em que nada é implicitamente confiável e todos – humanos, dispositivos ou agentes – devem comprovar quem são antes de obter acesso, limitando-o apenas ao necessário para executar uma tarefa. Num contexto em que os agentes continuarão a multiplicar‑se e a adaptar‑se, alguns poderão tornar‑se verdadeiros “agentes duplos”. Com os controlos certos, é possível mitigar esse risco.
- Promover uma cultura de inovação segura
A tecnologia, por si só, não resolve os desafios da segurança da IA. A cultura organizacional é um fator decisivo e as organizações mais preparadas são aquelas que promovem um diálogo aberto sobre os riscos e o uso responsável da IA, envolvem diferentes áreas do negócio e investem de forma contínua na capacitação das suas equipas. Criar espaços seguros para experimentar e inovar é igualmente essencial para garantir que a aprendizagem acontece sem comprometer a segurança.
A Microsoft acredita que o caminho a seguir passa por uma abordagem de segurança, integrada no quotidiano das organizações e impulsionada pela liderança. Isto implica tornar a segurança da IA uma prioridade estratégica, garantir Contenção e Alinhamento para todos os agentes, assegurar identidade, responsabilidade e governação de dados e promover uma cultura que valorize a inovação segura.
Como parte do seu compromisso com a confiança e segurança na era da IA, a Microsoft tem vindo a reforçar estas capacidades nas suas soluções. A empresa introduziu o Microsoft Entra Agent ID, que permite atribuir identidades únicas aos agentes desde o momento da sua criação, e utiliza IA defensiva no Microsoft Defender e no Security Copilot, combinando inteligência artificial com sinais de segurança à escala global para detetar e neutralizar ameaças. Paralelamente, a Microsoft mantém uma abordagem de plataforma que ajuda as organizações a gerir, de forma segura, agentes próprios e de terceiros, reduzindo complexidade e risco operacional.
Num mundo em que humanos e agentes trabalham cada vez mais lado a lado, o desafio passa por liderar com propósito e fazer da IA um aliado de confiança. O futuro da cibersegurança é traçado em conjunto numa realidade onde humanos e agentes trabalham lado a lado.