Especialistas da Bidweb Security e da Tempest analisam os episódios envolvendo agentes de IA e explicam como empresas precisam reforçar governança e proteção diante de sistemas cada vez mais autônomos
O setor de tecnologia foi sacudido nas últimas semanas após a divulgação de que modelos avançados de inteligência artificial da OpenAI, criadora do ChatGPT, e da Anthropic, desenvolvedora do Claude, realizaram ações não previstas durante testes internos, chegando a interagir com sistemas corporativos sem o conhecimento das empresas envolvidas.
No caso da OpenAI, um agente conseguiu escapar do ambiente de testes (sandbox) e acessar o sistema de uma startup em busca de informações relacionadas ao objetivo que lhe havia sido atribuído. Durante o processo, também interagiu com outros quatro serviços disponíveis publicamente.
Dias depois, a Anthropic informou que o Claude realizou ataques simulados contra três empresas durante testes, após um erro de configuração que permitiu ao modelo acessar a internet.
Os episódios rapidamente extrapolaram o universo técnico, levando o presidente dos Estados Unidos, Donald Trump, a reunir representantes das empresas para discutir os impactos da IA na segurança nacional, enquanto a União Europeia avançou nas discussões sobre a fiscalização das empresas desenvolvedoras de inteligência artificial.
Governança passa a ser prioridade
No ambiente corporativo, os incidentes levantam uma questão inevitável: as salvaguardas existentes são suficientes diante de sistemas de IA cada vez mais poderosos e autônomos?
Carlos Cabral, pesquisador de segurança da área de Cyber Threat Intelligence da Tempest Security Intelligence, empresa embarcada no Porto Digital, não considera os casos “episódios isolados”.
“Estamos testemunhando uma corrida entre diversos players para exercer dominância sobre a IA e, consequentemente, sobre eventuais espaços deixados por seus adversários. Entendo que tais escorregadas são típicas de quem corre dessa maneira.”
Segundo ele, a segurança digital depende de um conjunto amplo de medidas que vão muito além da aquisição de ferramentas. “Ataques como o desse episódio exploram rachaduras bastante finas, mas frequentes nessa fortaleza. A principal lição é que o preço pago por quem não exerce a governança de forma diligente tem se tornado cada vez mais alto.”
Flávia Brito, fundadora e CEO da Bidweb Security IT, também embarcada no Porto Digital, reforça que os casos evidenciam a necessidade de que a governança da inteligência artificial evolua no mesmo ritmo da inovação.
“Agentes de IA estão deixando de ser apenas ferramentas de apoio para executar tarefas de forma cada vez mais autônoma, interagindo com sistemas, APIs e ambientes corporativos. Isso amplia significativamente a superfície de ataque. O foco da segurança deixa de ser apenas proteger usuários humanos e passa também a controlar o que agentes inteligentes podem fazer, quais permissões possuem, quais dados acessam e como suas ações são monitoradas.”
Segundo Brito, as empresas precisarão adotar princípios como privilégio mínimo, autenticação robusta, monitoramento contínuo, auditoria das decisões tomadas pelos agentes e mecanismos capazes de interromper comportamentos inesperados.
“A segurança da IA deixará de ser um tema exclusivo das equipes de tecnologia e passará a integrar a estratégia de gestão de riscos das organizações.”
Como a IA está mudando a rotina da cibersegurança
Os impactos da inteligência artificial não se limitam aos incidentes envolvendo grandes empresas de tecnologia. Criminosos também vêm incorporando modelos de IA para ampliar a sofisticação de ataques, desde a produção de mensagens de phishing mais convincentes até operações complexas de espionagem baseadas em agentes autônomos.
Essa transformação também altera o dia a dia dos profissionais de cibersegurança.
Carlos Cabral afirma que observa um uso crescente da IA para automatizar atividades repetitivas, como a identificação de padrões em ameaças e a análise de grandes volumes de dados. “Isso tem criado a possibilidade de focar em projetos novos, que demandam maior aprofundamento humano, pelo menos neste momento.”
Ao mesmo tempo, a tecnologia cria novos desafios. “A inteligência artificial também tem criado problemas inéditos, para os quais está surgindo uma nova categoria de ferramentas, como aquelas voltadas para detectar Shadow AI — quando funcionários utilizam soluções de IA não homologadas pela empresa, criando potenciais canais para vazamento de informações.”
Futuro será uma disputa entre inteligências artificiais?
Para Flávia Brito, os próximos cinco anos serão marcados por uma corrida entre sistemas de inteligência artificial dedicados ao ataque e à defesa — um cenário que, até pouco tempo atrás, parecia restrito à ficção científica.
“De um lado, teremos agentes automatizados conduzindo ataques em escala, aprendendo continuamente e explorando vulnerabilidades quase em tempo real. Do outro, plataformas de defesa utilizando IA para detectar comportamentos anômalos, correlacionar eventos, responder automaticamente a incidentes e prever riscos antes que eles se materializem.”
Nesse contexto, o diferencial competitivo das organizações deixará de ser apenas a adoção de ferramentas de IA e passará pela construção do que a executiva chama de “confiança digital”.
“Empresas precisarão demonstrar que seus sistemas são resilientes, que seus modelos de IA são governados e que seus dados estão protegidos.”
Ela acredita que a cibersegurança deixará de ocupar apenas uma função operacional para assumir um papel estratégico nos negócios. “Assim como hoje falamos em transformação digital, em poucos anos será impossível falar em inteligência artificial sem falar, ao mesmo tempo, em segurança, governança e resiliência cibernética.”
Cibersegurança como competência estratégica
A cibersegurança, inclusive, é uma das Competências Transversais do NERD — Núcleo de Empreendedorismo e Residência Digital, nova plataforma de negócios do Porto Digital, ao lado de áreas como Inteligência Artificial, Capital, ESG e Futuro do Trabalho.
Essas competências foram definidas a partir da constatação de que os desafios da economia contemporânea são significativamente mais complexos do que aqueles enfrentados pelo ecossistema de inovação em seus primeiros anos.
“Hoje, temas como inteligência artificial, cibersegurança, saúde digital e computação avançada exigem equipes mais qualificadas, conhecimento mais profundo e maior capacidade de execução. O ecossistema precisa criar condições para que empresas nasçam com a ambição e a sofisticação compatíveis com os problemas que pretendem resolver”, afirma Pierre Lucena, presidente do Porto Digital, em artigo sobre o papel do NERD.
Curadora da área de cibersegurança do NERD, Flávia Brito reforça essa visão. “No futuro próximo, as empresas que prosperarão não serão aquelas que simplesmente adotarem mais inteligência artificial, mas as que conseguirem fazê-lo com governança, resiliência e confiança digital.”
Comments are closed, but trackbacks and pingbacks are open.