Gartner prevê melhores resultados de negócios para as empresas que implementarem AI TRiSM

Analistas destacam importância da transparência, confiança e segurança no uso de Inteligência Artificial

SÃO PAULO , 10 de outubro de 2023 /PRNewswire/ — O Gartner, líder mundial em pesquisa e aconselhamento para empresas, prevê que até 2026 as companhias que implementarem transparência, confiança e segurança no uso de Inteligência Artificial (IA) verão os seus modelos de tecnologia alcançarem uma melhoria de 50% em termos de adoção, conquista de objetivos de negócios e aceitação de quem os utilizam. Gartner também prevê que até 2028 as máquinas baseadas em IA serão responsáveis por 20% da força de trabalho global e 40% de toda a produtividade econômica. O Gartner define AI TRiSM como uma diretriz que dá suporte à governança, confiabilidade, imparcialidade, segurança, solidez, eficácia e privacidade ao modelo de Inteligência Artificial.

Para Mark Horvath, vice-presidente e analista do Gartner, os diretores de segurança da informação (CISOs) não podem permitir que a Inteligência Artificial controle suas empresas. A Inteligência Artificial exige novas formas de gestão de confiança, risco e segurança (TRiSM) que os controles convencionais não oferecem. O analista destaca que os CISOs precisam defender o AI TRiSM para melhorar os resultados de tecnologia, aumentar a velocidade do modelo de Inteligência Artificial até a produção e permitir uma melhor governança ou racionalizando o portfólio de modelos de Inteligência Artificial. “Assim, pode-se eliminar até 80% de informações falsas e ilegítimas”, alerta Horvath.

A Inteligência Artificial não só representa riscos consideráveis para os dados, uma vez que conjuntos de informações sensíveis são frequentemente utilizadas para treinar modelos de tecnologia, como também a precisão dos resultados dos próprios modelos e a qualidade dos conjuntos de dados podem variar ao longo do tempo, o que pode causar consequências adversas.

A implementação de AI TRiSM permite que as empresas entendam o que seus modelos de Inteligência Artificial estão fazendo, até que ponto eles se alinham com as intenções originais, além de indicar o que pode ser esperado em termos de desempenho e de valor comercial.

O Gartner alerta que as empresas correm o risco de implementarem centenas ou milhares de modelos de IA que os próprios líderes de TI não serão capazes de explicar ou de interpretar. Para os analistas, as empresas que não forem capazes de gerenciar os riscos associados à Inteligência Artificial (IA) estão muito mais propensas a obterem violações e resultados negativos. Os modelos de IA podem não funcionar como planejando, ocorrendo falhas de segurança e de privacidade, além de danos aos indivíduos, perdas financeiras e de reputação. A IA que é executada indevidamente também pode levar companhias a tomarem más decisões de negócios.

AI TRiSM é um “esporte de equipe”: “AI TRiSM não pode ser liderada por uma única unidade de negócios porque exige educação e colaboração entre equipes”, afirma Jeremy D’Hoinne, vice-presidente e analista do Gartner. Para ele, os CISOs devem ter uma compreensão clara de suas responsabilidades com a Inteligência Artificial dentro das equipes que podem incluir funcionários de TI, de times jurídicos, de conformidade e de análise de dados. “Sem um programa AI TRiSM robusto, os modelos de Inteligência Artificial podem funcionar contra o negócio, introduzindo riscos inesperados, o que causa resultados adversos do modelo, violações de privacidade, danos substanciais à reputação e outras consequências negativas”, afirma o analista.

Prioridades no gerenciamento de risco de Inteligência Artificial: Já que a Inteligência Artificial pode ser vista como qualquer outra aplicação, é possível que os CISOs precisem recalibrar as expectativas dentro e fora de suas equipes. Uma vez definidas as expectativas, esses líderes e seus times precisam tomar cinco ações de gestão de riscos de Inteligência Artificial:
1. Capturar a extensão da exposição, inventariar a Inteligência Artificial utilizada na empresa e garantir o nível certo de explicabilidade;
2. Conscientizar as equipes de sua empresa e liderar uma campanha formal de educação sobre os riscos da Inteligência Artificial;
3. Apoiar a confiabilidade, fiabilidade e segurança dos modelos, incorporando a gestão de riscos em suas operações;
4. Eliminar a exposição de dados internos e partilhados de Inteligência Artificial por meio da adoção de programas de proteção e privacidade de dados;
5. Adotar medidas específicas de segurança de Inteligência Artificial para proteger de eventuais ataques, garantir resistência e resiliência.

Sobre o Gartner 
O Gartner, Inc. é a principal empresa de pesquisa e consultoria do mundo e membro do S&P 500. Fornecemos aos líderes de negócios insights, conselhos e ferramentas indispensáveis para alcançarem suas prioridades em missões críticas e para desenvolverem companhias de sucesso no futuro. Nossa combinação incomparável de pesquisas lideradas por especialistas e orientadas por profissionais e baseadas em dados aconselha os clientes para a tomada de decisões corretas sobre os assuntos que mais importam. Somos confiáveis como um recurso de apoio e parceiro crítico para mais de 15.000 companhias, em mais de 100 países – por meio de todas as principais funções e para todos os tipos de empresa. Para saber mais como ajudamos executivos com poder de decisão a impulsionarem o futuro dos negócios, visite www.gartner.com ou siga notícias e atualizações do Gartner para executivos de TI no Twitter e LinkedIn usando #GartnerIT.

FONTE Gartner