Fazer modelagem de ameaças de aplicações de IA generativa exige mais do que analisar o modelo de linguagem isoladamente. O modelo é apenas um componente da aplicação.

Boa parte dos exercícios de modelagem de ameaças em projetos de IA ainda se comporta como se o modelo fosse a aplicação inteira. Toda a atenção recai sobre o prompt e a resposta. O restante do fluxo, de onde vem o dado, com que identidade a aplicação age, o que ela pode fazer depois de responder, fica fora da análise.

Por Gilmar Junior, Account Manager.

Imagine uma organização com milhares de vulnerabilidades identificadas, dezenas de sistemas, ambientes em nuvem, ativos expostos à internet, identidades e aplicações críticas. Nesse cenário, priorizar deixa de ser uma escolha e passa a ser uma necessidade.

Por Wellington Silva , Consultor de Governança em Cybersegurança.

Faça um teste rápido: pegue o Plano de Continuidade de Negócios da sua empresa e procure a palavra "Inteligência Artificial". Não vai encontrar. Em compensação, vai achar páginas inteiras sobre queda de datacenter, incêndio, pandemia, greve de transporte.

Saber como identificar Shadow AI nas empresas exige ir muito além de monitorar o uso de chatbots no navegador. Essa é, normalmente, a camada mais visível e, por isso mesmo, a mais fácil de confundir com o problema inteiro.

Entender como priorizar riscos de segurança da IA é hoje um dos maiores desafios para lideranças que já superaram a etapa de descoberta e agora enfrentam um problema diferente: muitos riscos identificados, sem um critério comum para compará-los entre si.

O resultado costuma ser previsível: controles genéricos demais para uns casos, insuficientes para outros, e investimento que não conversa claramente com o risco real de negócio.

Por Gabriela Freitas, Analista de Red Team.

Sua organização realiza pentests anuais e utiliza scanners de vulnerabilidades, mas ainda permanece exposta a ataques provenientes de fraquezas não identificadas. 

O problema pode não estar na ausência de controles, e sim na maneira como encaramos a segurança. 

Por que pentests tradicionais não são mais efetivos?

Por Willian Vieira - Consultor de AppSec & DevSecOps

Por Suzana Martins, Especialista em Conscientização

Se nós já sabemos o que é phishing, por que ainda clicamos? 

Por Suzana Martins, Especialista em Conscientização

Se nós já sabemos o que é phishing, por que ainda clicamos? 

O laboratório do golpe do Brasil