Segurança de Dados é o Maior Desafio na Adoção de IA, Aponta Estudo da Hitachi Vantara

Principais Desafios na Implementação da Inteligência Artificial

A implantação de inteligência artificial (IA) nas empresas esbarra em obstáculos que vão além da tecnologia. De acordo com um relatório global divulgado pela Hitachi Vantara, a estruturação dos dados, a governança e a infraestrutura são os três pilares que mais preocupam os executivos diante da adoção da IA. Desde o surgimento da versão generativa da tecnologia, a cibersegurança tem sido ameaçada pela falta desses elementos, problema que tende a se agravar com o uso crescente dos agentes de IA.

Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, destaca que a implementação desses agentes traz riscos adicionais. “Eles podem executar ações com consequências inesperadas se não forem monitorados constantemente, e há um grande equívoco sobre o funcionamento dessas ferramentas”, explica.

Uso Acelerado e Vulnerabilidades

Para Gibson, a empolgação das empresas com a IA tem levado à adoção precipitada de soluções, muitas vezes sem a necessidade real ou no ritmo inadequado. Isso expõe as organizações a novas vulnerabilidades. O relatório aponta que, mesmo com o avanço dos agentes, a alucinação — fenômeno em que a IA gera informações incorretas — ainda ocorre em cerca de 91% dos casos. Além disso, 76% dos dados corporativos são não estruturados, justamente o tipo mais explorado por aplicações de IA.

No entanto, esse cenário é diferente no Brasil. O país vive uma digitalização acelerada, mas com ambientes legados e heterogêneos. Os executivos brasileiros são vistos como mais cautelosos pela Hitachi Vantara. Joshua Wick, líder global de riscos e compliance da companhia, observa que os profissionais locais preferem realizar uma análise detalhada antes de investir em IA. “Existe uma apreensão quanto ao valor inicial, baseada nos estudos divulgados até agora”, comenta.

Educação como Chave para Mitigar Riscos

Especialistas consideram positiva essa postura conservadora, enfatizando que a IA é uma ferramenta poderosa, porém que pede uso moderado. Wick sugere que antes de aplicar IA, as organizações deveriam questionar se o problema pode ser resolvido sem ela.

Um caminho fundamental para reduzir os riscos está na formação dos usuários, para que compreendam como a tecnologia funciona e as implicações de seu uso. Shane Gibson ressalta que essa capacitação demanda tempo, algo frequentemente negligenciado. “É fundamental definir objetivos claros para a IA, conhecer os riscos envolvidos e evitar pressa na implementação. Testes prévios são essenciais”, destaca.

Cresce a Preocupação com Segurança e Governança

A segurança dos dados se tornou o principal desafio para 56% dos líderes no uso de IA, avanço de 19 pontos percentuais em relação ao ano anterior, segundo o relatório global. Essa preocupação tem impactado diretamente o uso dos modelos de linguagem de grande escala (LLMs). Ferramentas populares como ChatGPT e Copilot registraram queda na percepção de sucesso, caindo de 95% para 81%.

Em contrapartida, aumentam os investimentos em governança e qualidade dos dados. A proporção de empresas que aprimoram dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho passaram de 36% para 44%, e a quantidade de organizações sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.

Equilíbrio Entre Inovação e Segurança

Gibson reconhece que a IA inicialmente parecia uma ferramenta muito útil, mas, com o tempo, problemas como alucinações e retorno sobre investimento insatisfatório mostraram que ela pode ser um risco para os negócios, já que nem sempre oferece resultados determinísticos.

Para ele e Wick, governança e segurança não significam frear a inovação. Pelo contrário, são essenciais para usar a IA em sua potência máxima, com segurança. “No futuro, teremos interfaces simples para solicitar resultados gerados pela IA, mas para chegar lá, é preciso estruturar bem as bases hoje”, conclui Gibson.