A Check Point alerta que sistemas automatizados integrados em processos sensíveis, como recuperação de contas, suporte ao cliente ou alteração de dados, devem ser tratados como parte da superfície de ataque das empresas.

Os chatbots empresariais estão a deixar de ser apenas ferramentas de resposta para passarem a influenciar processos sensíveis dentro das organizações. O alerta é da Check Point Software Technologies, que defende que os sistemas automatizados com acesso a fluxos críticos devem ser tratados como parte da superfície de ataque das empresas. A análise surge na sequência de um incidente associado ao chatbot de suporte da Meta, relatado pela 404 Media, em que hackers terão afirmado ter utilizado o sistema para obter acesso a contas de Instagram de elevado perfil. Segundo os relatos citados pela Check Point, os atacantes terão explorado o processo de alteração do endereço de email associado às contas alvo, num caso que envolveu contas ligadas à Casa Branca durante a administração Obama, à Sephora e a um responsável da Space Force.

Para a Check Point, o caso não deve ser interpretado apenas como uma falha de chatbot ou como manipulação de instruções. A questão central está no desenho dos processos, nos níveis de autorização, nos mecanismos de verificação de identidade e nos limites de ação concedidos a sistemas automatizados.

“A pergunta que as equipas de segurança devem fazer não é apenas se o chatbot pode ser manipulado, mas se deveria ter tido aquele nível de influência no processo desde o início”, afirma Rui Duro, Country Manager da Check Point Software Technologies em Portugal.

A empresa sublinha que a recuperação de contas não é uma simples interação de apoio ao cliente, mas um processo de verificação de identidade que protege acesso, propriedade e confiança digital. Quando um sistema automatizado passa a intervir neste tipo de fluxo, deixa de funcionar apenas como interface conversacional e passa a integrar a própria fronteira de segurança.

O risco aumenta à medida que estes sistemas deixam de apenas responder a perguntas e passam a acionar ferramentas, aprovar pedidos, alterar registos ou iniciar fluxos de trabalho. Para a Check Point, as organizações devem avaliar que ações podem ser iniciadas ou influenciadas por chatbots, que decisões exigem aprovação humana e que processos requerem validação independente de identidade.

“As empresas estão a entrar numa nova fase da adoção de IA. O risco já não está apenas no que a IA diz, mas no que a IA pode fazer”, afirma Rui Duro. O responsável defende que sistemas automatizados com capacidade para iniciar, influenciar ou acelerar processos sensíveis devem operar com limites claros, validação independente e visibilidade contínua.

A Check Point considera que as defesas centradas apenas em manipulação de prompts, jailbreaks ou instruções maliciosas já não são suficientes. Nos sistemas com capacidade de ação, a segurança deve abranger também as permissões das ferramentas, a lógica de negócio, os caminhos de escalamento e os mecanismos de verificação antes de qualquer alteração crítica.

Para as empresas, a principal conclusão é que a adoção de chatbots em suporte ao cliente ou processos internos deve ser acompanhada por regras de governação, controlos operacionais e supervisão humana nos pontos mais sensíveis. O risco não está apenas na possibilidade de manipular o sistema, mas também em conceder demasiada autoridade a uma ferramenta automatizada dentro de processos críticos.