Agentes – sistemas de software capazes de tomar decisões ou executar tarefas autonomamente – não são mais experimentais. Hoje, esses agentes são operacionais, distribuídos e tomam decisões ativamente em toda a empresa. Desde a redação do código até as tarefas de agendamento, os agentes estão começando a permear todas as facetas dos negócios. O motivo é claro: os agentes prometem ganhos significativos de produtividade.
Alguns serão profundamente incorporados, dificultando a detecção ou o monitoramento. Outros funcionarão autonomamente, aprendendo e se adaptam continuamente em tempo real. Muitos podem ter privilégios de acesso amplo em nome da eficiência. Isso introduz potencial significativo para impacto e risco positivos.
E à medida que a adoção cresce, muitas organizações enfrentarão um novo desafio: garantir agentes em escala. As empresas precisarão garantir que a inovação não supere a segurança e a governança. As apostas são muito altas; Um único desalinhamento, vulnerabilidade ou comportamento não intencional pode levar a um efeito descontrolado de ações antiéticas ou prejudiciais.
Já vimos exemplos do mundo real de falhas de IA-às vezes expondo dados confidenciais ou cometem erros críticos. Um assistente de IA aconselhou notoriamente usuários a comer pedras e, em outro caso, um chatbot de atendimento ao cliente implantado por uma empresa de logística começou a emitir respostas agressivas. Ambos os exemplos mostram o risco de maus dados de treinamento – os agentes da IA não apenas aprendem fatos, aprendem comportamentos e insumos ruins levam a uma produção ruim.
Vice -presidente de desenvolvimento de software de segurança, IBM.
Cloud Déjà vu, agora com agentes
Sem supervisão consistente, os agentes podem agir fora do uso pretendido e danificar a reputação da marca. É por isso que é importante que a segurança seja assada no início. Como sal e pimenta, você sempre pode polvilhar mais mais tarde, mas se você esquecer de adicioná -lo enquanto cozinha, o sabor – e, neste caso, a proteção – simplesmente não será a mesma. A segurança deve ser integrada desde o início, aguardando até após a implantação para adaptar a segurança, é uma receita para vulnerabilidades.
Apenas considere o que aconteceu durante a migração em massa para as tecnologias de computação em nuvem. A adoção levou a graves erros de segurança, silos de dados e lacunas de visibilidade. As lacunas que foram e continuam sendo exploradas pelos atacantes hoje.
Agora, com agentes, é como um caso ruim de déjà vu. Mais uma vez, a inovação está superando a segurança. Em muitos casos, essas ferramentas autônomas estão sendo integradas em sistemas críticos com supervisão limitada e falta de segurança e controle adequados.
Se não aplicarmos as lições difíceis aprendidas da era da nuvem, corremos o risco de repetir os mesmos erros, mas desta vez com sistemas muito mais imprevisíveis. É por isso que a segurança deve estar no centro dos agentes.
Protegendo todos os pontos de contato do agente
Mas a segurança dos agentes requer uma abordagem expandida, responsável por comportamentos autônomos, incluindo as interações contínuas com dados, sistemas e usuários. Os agentes precisam de uma forte camada de confiança, onde todas as interações, desde chamadas de API para manuseio de dados sensíveis, devem ser mapeadas, protegidas e governadas em tempo real.
Uma parte central dessa camada de confiança é garantir que os agentes de dados interajam com – ingressos, saídas e tudo mais. Os dados são o combustível dos agentes e, sem segurança fundamental, o combustível se torna um grande risco. As empresas devem se concentrar nos fundamentos, como descoberta e classificação de dados, criptografia e gerenciamento de chaves.
As estratégias de gerenciamento de acesso e identidade também devem evoluir à medida que os agentes assumem funções mais avançadas na empresa. Como os seres humanos, todo agente exigirá suas próprias credenciais, funções e permissões exclusivas para garantir que toda interação seja autorizada e verificada.
As credenciais dos agentes devem ser armazenadas em um cofre de credenciais automatizado e seguro, com políticas que reforçam a rotação regular, o registro de acesso e a revogação imediata se o uso indevido for detectado. As organizações devem ser capazes de distinguir entre agentes usando credenciais gerenciadas ou não gerenciadas.
E uma vez que as credenciais dos agentes são trazidas sob gestão, é crucial proteger e aplicar o gerenciamento e a governança do ciclo de vida adequados. Ao provisionar, girar, auditar, proteger e descomissionar as organizações de credenciais podem reduzir o risco de uso indevido e roubo de credenciais.
Sem uma forte supervisão da identidade, as empresas correm o risco de perder a visibilidade das identidades humanas e de agentes e controle sobre ações autônomas.
Agentes descentralizados precisam de segurança centralizada
No entanto, em escala, os agentes gerenciais e especialmente os autônomos exigirão controle adicional para monitorar comportamentos, interações e desvios da política. Considere um tipo de agente “gerente de segurança” que traz agentes e humanos ao loop para criar confiança na maneira como os agentes operam.
Isso deve ser mais do que um painel, mais capaz de entender o que os agentes estão fazendo, por que estão fazendo isso e se o comportamento deles se alinha com políticas e limiares de risco constantemente. Ele sinaliza anomalias, aplica restrições e permite a revisão humana, quando necessário.
Essa última parte é particularmente importante. A supervisão humana permanece essencial, especialmente ao escalar agentes. Essa camada de controle se torna a consciência de segurança da sua frota de agentes: sempre assistindo, interpretando e permitindo autonomia distribuída e confiável.
À medida que os agentes continuam a proliferar, a capacidade de implantá -los com responsabilidade definirá quem pode escalar com segurança e quem introduz riscos desnecessários. Para proteger os ecossistemas de agentes, as organizações devem integrar a segurança desde o início da implantação, monitorar continuamente o comportamento e o acesso, manter uma forte supervisão humana e auditar regularmente e atualizar as políticas de segurança.
As empresas que acertarem isso desbloquearão produtividade e resiliência significativas; Não desacelerando os agentes, mas dando a eles a segurança e a governança de que precisam para operar com segurança e responsabilidade.
Listamos o melhor software de automação de TI.
Este artigo foi produzido como parte do canal especialista da TechRadarPro, onde apresentamos as melhores e mais brilhantes mentes do setor de tecnologia hoje. As opiniões expressas aqui são as do autor e não são necessariamente as do TechRadarpro ou do Future Plc. Se você estiver interessado em contribuir, descubra mais aqui:
Fique conectado