Como criar uma segurança de IA baseada na confiança em grande escala

A confiança, nesse contexto, tem duas dimensões. Em primeiro lugar, os funcionários e analistas devem confiar de que as ferramentas de IA auxiliam seu trabalho, em vez de comprometer seu julgamento. Em segundo lugar, os líderes devem confiar de que esses sistemas são seguros, explicáveis e resilientes em condições reais.

Sem essas duas dimensões, a segurança baseada em IA não consegue se expandir — ela se fragmenta. As organizações que obtêm sucesso tratam a confiança não como um exercício de comunicação, mas como um princípio de projeto incorporado à governança, à supervisão e à estratégia de adoção.
 

O duplo sentido da confiança 

Primeiro: o que queremos dizer quando falamos de confiança no contexto da IA e da segurança? Na verdade, esse termo tem dois significados diferentes:

• O lado humano: seus funcionários realmente confiam nas ferramentas de segurança baseadas em IA que você está escolhendo para eles, ou as veem como uma ameaça, um fardo ou algo que precisam contornar? 
• O aspecto técnico: é possível confiar que suas ferramentas de segurança baseadas em IA façam o que seus fornecedores ou desenvolvedores afirmam que elas são capazes de fazer?
  Ambos os aspectos são importantes e determinam se a IA gera valor ou simplesmente cria novos riscos.

Se você desconsiderar o lado humano da confiança ao adotar novas ferramentas de IA, corre o risco de uma baixa adesão, práticas paralelas que contornam os sistemas oficiais e uma falsa sensação de segurança que deixa sua organização mais vulnerável. Além disso, você viola a confiança de sua equipe ao escolher ferramentas que aumentam a complexidade em vez de melhorar a eficiência. Essa tensão ajuda a explicar por que a Gartner relata que 69% das organizações suspeitam ou têm evidências de que funcionários estão usando ferramentas públicas não autorizadas de IA gerativa (“IA paralela”). Quando as ferramentas aprovadas não atendem às reais necessidades operacionais, os funcionários buscam alternativas — muitas vezes sem supervisão adequada.

No âmbito tecnológico, os CIOs precisam ir além do hype exagerado e das promessas exageradas que temos visto por parte da comunidade de IA nos últimos anos. Assim como qualquer outra ferramenta de segurança, as ferramentas baseadas em IA precisam provar seu valor em condições reais, com transparência, auditabilidade e resiliência contra ameaças emergentes, como injeção de prompts e falhas no controle de acesso.
 

Incorporando a confiança na adoção da IA 

Muitas organizações enfrentam desafios de adoção ao implementar novas ferramentas de IA. Isso provavelmente se deve ao fato de que quase metade (46%) dos funcionários considera a IA uma ameaça aos seus empregos, de acordo com um relatório da BCG. Certamente não ajuda o fato de que o setor de IA continue a exagerar o potencial de suas ferramentas para redefinir o trabalho como o conhecemos. Os funcionários têm preocupações legítimas. Cabe aos líderes de TI e segurança abordar essas questões por meio de estratégias de adoção cuidadosamente planejadas.

História de sucesso em IA: MinterEllison 

Um exemplo frequentemente citado é o da MinterEllison, que introduziu um programa estruturado de alfabetização em IA para apoiar a adoção dessa tecnologia. O escritório reservou tempo dedicado ao aprendizado, alinhou o treinamento às metas de desempenho e nomeou líderes digitais internos para orientar os colegas por meio de casos práticos de uso.

Os resultados relatados incluíram um aumento significativo no uso semanal da IA e um engajamento sustentado em todos os departamentos. A principal lição a ser tirada não são os números de uso em si, mas a estrutura: a confiança aumentou porque a capacitação, a alocação de tempo e o apoio entre colegas foram deliberadamente incorporados ao processo de implementação.

Educação, transparência e comunicação
A necessidade de uma educação estruturada só tende a crescer. Em seu relatório “Predicts 2025: IA e o Futuro do Trabalho”, a Gartner afirma que, até 2028, 40% dos funcionários receberão treinamento ou orientação inicial por meio da IA ao assumirem uma nova função, contra menos de 5% atualmente. Se os funcionários esperam que a IA os oriente desde o primeiro dia, as empresas não podem se dar ao luxo de deixar a alfabetização em IA ao acaso.

A comunicação clara também é importante. Seja franco e realista sobre o que as ferramentas de IA podem e não podem fazer. Mostre à equipe o quanto a supervisão humana é importante. E não se limite a dizer “confiem na ferramenta”. Em vez disso, ensine e incentive-os a questionar e interpretar os resultados. Quando os funcionários sabem que seu julgamento ainda é valorizado, a IA passa a ser vista menos como uma ameaça e mais como um apoio.
 

Como escolher ferramentas de segurança baseadas em IA nas quais se pode confiar 

O outro lado da equação é se os líderes de TI e segurança podem confiar que os sistemas de IA funcionarão de maneira confiável e segura. Também nesse aspecto, os riscos são reais. As previsões do setor indicam que as vulnerabilidades no controle de acesso — incluindo riscos de injeção de comandos e escalonamento de privilégios — provavelmente se tornarão os principais vetores de ataque para sistemas habilitados para IA nos próximos anos. À medida que os agentes de IA ganham autonomia operacional, as lacunas de governança se transformam em brechas de segurança.

Paralelamente, as organizações devem gerenciar a perda de precisão, a exposição a viéses e o aumento dos custos com a nuvem. A segurança da IA baseada na confiança, portanto, depende não apenas da defesa contra ameaças, mas também da validação contínua, do monitoramento e da gestão de custos.

Esses desafios explicam por que a segurança cibernética continua sendo uma das três principais prioridades para os CIOs nos setores bancário, de seguros e de varejo. Mas a boa notícia é que já estão surgindo exemplos de implantações confiáveis de IA, como mostram os estudos de caso da Gartner a seguir.

O Citizens Bank, por exemplo, implementou um agente orquestrador cuidadosamente selecionado para gerenciar tarefas administrativas com segurança dentro de fluxos de trabalho controlados. No setor de seguros, uma empresa holandesa está usando IA para processar automaticamente sinistros simples de veículos, enquanto encaminha casos complexos para peritos humanos. Ambos os exemplos nos ensinam a mesma lição: os líderes podem confiar na IA quando ela for adequada ao caso de uso e tiver limites claros, e quando os seres humanos continuarem sendo responsáveis pelas decisões de alto risco.
 

Perspectivas do setor 

O desafio da confiança apresenta algumas diferenças de um setor para outro:

• Setor bancário: A confiança é indissociável da conformidade. Os líderes precisam de sistemas de IA capazes de reduzir os falsos positivos na detecção de fraudes e manter registros de auditoria que os órgãos reguladores possam acompanhar sem questionamentos. 
• Seguros: O preconceito nas decisões de subscrição ou de sinistros não é apenas um problema ético, mas também um risco regulatório e de reputação. Verificações de preconceito e ferramentas de explicabilidade são essenciais. 
• Fabricação: A segurança não é negociável. Os gerentes de fábrica não confiarão nas previsões da IA sobre falhas de equipamentos, a menos que saibam quando e como a análise humana deve ser aplicada. 
• Varejo: Com a alta rotatividade de pessoal, a IA oculta representa um grande risco. Os varejistas devem levar o conhecimento sobre IA tão a sério quanto o conhecimento sobre dados para garantir que a adoção seja segura e produtiva.
   

Tornando a confiança escalável 

Então, como os líderes conseguem ampliar a confiança ao lançar projetos de segurança com IA? Alguns padrões se destacam em todos os setores:

• Primeiro, a alfabetização em IA. Os funcionários não adotarão o que não compreendem. Programas como o da MinterEllison comprovam que o treinamento estruturado traz resultados em termos de adoção e uso seguro. 
• Regras claras de supervisão. Defina em que momentos os seres humanos devem intervir e certifique-se de que todos estejam cientes disso. Isso evita tanto a dependência excessiva da IA quanto a desconfiança em relação aos resultados gerados por ela. 
• Auditabilidade. Toda ação apoiada por IA deve deixar um rastro capaz de resistir ao escrutínio regulatório e dos clientes. 
• Governança de custos e riscos. Monitore os gastos com nuvem, o desvio de precisão e o controle de acesso com o mesmo rigor com que você monitoraria os controles financeiros. 
• Mudança cultural. A IA , sem dúvida, transformará a cultura do ambiente de trabalho nos próximos anos. Os CIOs, CISOs e CHROs desempenham um papel importante para tornar a IA confiável em grande escala.
   

A confiança na segurança da IA não surge automaticamente. Ela precisa ser construída.

As organizações que conseguem crescer com sucesso concentram-se em cinco pilares: alfabetização, clareza na supervisão, auditabilidade, monitoramento contínuo de riscos e governança multifuncional. Quando esses fundamentos estão estabelecidos, a IA passa a ser um multiplicador de força para a segurança cibernética, em vez de uma nova camada de exposição.

Os líderes que abordarem tanto a dimensão humana quanto a técnica da confiança não apenas implementarão a IA com segurança, mas também fortalecerão a resiliência, acelerarão a inovação responsável e construirão uma confiança duradoura em sua estratégia digital.