Por Leonardo Cooper*
É fato que a Inteligência Artificial (IA)
está revolucionando a cibersegurança. Recente estudo do Gartner aponta que a IA
generativa é uma das nove tendências de soluções deste ano em cibersegurança para
o aprimoramento de soluções de defesa. No entanto, como toda inovação, a IA
traz riscos relacionados ao aumento da sofisticação dos ataques e ao
compartilhamento indiscriminado de dados.
Venho observando que o
"oversharing" de dados, ou compartilhamento desnecessário de
informações, é um problema recorrente. Documentos que deveriam ter sido
excluídos, credenciais compartilhadas sem necessidade e planilhas disseminadas
sem critério são exemplos de práticas que passam despercebidas pelas pessoas,
mas que a IA pode detectar e utilizar, ampliando o problema de forma
exponencial. E para lidar com este excesso de conteúdo, é importante investir
em esforços manuais para remover dados inúteis e vulneráveis e criar processos
de classificação para dados desde a sua origem.
Nesse cenário, minha recomendação é assegurar
que qualquer aplicação de IA em produtos de segurança seja abastecida com dados
sem excessos. Além disso, a privacidade das informações precisa ser trabalhada
de forma assertiva, uma vez que os atuais modelos de IA dependem de grandes
volumes de dados para treinamento, muitas vezes incluindo informações sensíveis.
Em resumo, é preciso intensificar os cuidados com a segurança dessas
informações a fim de evitar violações e proteger a privacidade do usuário.
A IA não substitui o capital humano
Outro risco nos sistemas de IA está nas
distorções que podem amplificar preconceitos presentes nos dados de
treinamento, resultando em decisões injustas. Isso é especialmente preocupante
em contextos de segurança de identidade, em que tais decisões têm o poder de
conceder ou negar acesso a recursos. Vale considerar, ainda, que os sistemas de
IA são vulneráveis a ataques adversários, cujas pequenas alterações nos dados
de entrada podem enganar os modelos e levar a decisões incorretas. Ou seja, a falta
de clareza ou a adulteração dos dados acessados colocam em xeque a
transparência nas decisões tomadas pela IA.
Devemos levar em conta que produtos baseados
em IA precisam atender a requisitos legais, como a LGPD e outras exigências
regulatórias. Por isso, o excesso de compartilhamento de dados é um gargalo importante
na integração da IA - tornando essencial reavaliar a arquitetura da informação
antes de se implementar essa nova tecnologia.
Além disso, a dependência excessiva da IA
pode levar à negligência de outras práticas importantes de segurança. A
supervisão humana permanece fundamental para interpretar corretamente os
resultados da IA e responder de maneira eficaz a incidentes.
Oportunidades
Superar esses desafios é crucial para o
desenvolvimento de soluções de segurança robustas e confiáveis. Apesar das
dificuldades, as oportunidades oferecidas pela IA são vastas, especialmente na
gestão de identidade e acesso.
Quando bem implementada e com a utilização
correta dos dados, a IA pode revolucionar a análise comportamental na
cibersegurança, permitindo uma detecção mais precisa de anomalias nos padrões
de uso e identificando ameaças como tentativas de acesso não autorizados. Ainda,
é capaz de automatizar a avaliação de riscos em solicitações de acesso, criando
controles de acesso dinâmicos ajustados ao nível de risco.
A capacidade dos algoritmos de IA de aprender
continuamente, também permite a detecção preditiva de ameaças, assim como
promove respostas a incidentes de forma aprimorada por meio de execução
automática de ações predefinidas - como o bloqueio de acessos ou a revogação de
permissões.
A IA e o gerenciamento de acessos
privilegiados
O gerenciamento de sessões em sistemas de
Gerenciamento de Acesso Privilegiado (PAM) também se beneficia da IA, que pode
identificar comportamentos suspeitos em tempo real, emitindo alertas ou
encerrando sessões automaticamente. E a IA ainda pode analisar padrões de
acesso e recomendar permissões de forma inteligente, agilizando o processo de
provisionamento e garantindo a segurança dos recursos críticos da organização.
Em conclusão, a IA está transformando a
cibersegurança, mas é vital adotar uma abordagem cuidadosa. Questões como o
oversharing e a falta de transparência precisam ser resolvidos para que a adoção
dessa nova tecnologia seja verdadeiramente benéfica.
*Leonardo Cooper, CEO da VaultOne, empresa de cibersegurança
especializada em tecnologias de Gerenciamento de Acesso Privilegiado (PAM) e proteção
de identidades
