Confira os 10 principais riscos de IA por setor segundo a Swiss Re

O setor de seguros ficou em sexto lugar em uma classificação dos 10 principais setores com base no risco atual de IA e em sétimo lugar com base no risco futuro, com a saúde substituindo a TI como o setor mais exposto nos próximos 10 anos.

As classificações apareceram em um novo white paper do instituto Swiss Re intitulado “Tech-tonic shifts: Como a IA pode mudar os cenários de risco do setor”, que destaca as oportunidades para as seguradoras cobrirem os riscos de IA dos setores mais expostos hoje e no período de 2032 a 2034 com as apólices existentes e com novos produtos voltados para riscos específicos de IA, como o desempenho insuficiente de algoritmos.

“O fornecimento de soluções de risco de IA é uma oportunidade significativa para o setor [de seguros]. Também é uma vulnerabilidade em potencial, principalmente quando os riscos de IA se acumulam sem serem vistos nos portfólios das seguradoras”, diz o white paper, que mostra que a classificação de risco de IA do próprio setor de seguros está se movendo apenas ligeiramente e em uma direção favorável — de um sexto lugar atualmente para o sétimo lugar na próxima década.

Enquanto isso, os riscos de IA crescerão para muitos setores que eles cobrem, como mobilidade e transporte e assistência médica, mostra a análise. A tabela abaixo, que resume as classificações de risco de IA da Swiss Re em um nível elevado, mostra que apenas os setores de TI e outros serviços (varejo/hospitalidade/jurídico) apresentam mudanças de classificação mais favoráveis do que os seguros no futuro.

O próprio white paper fornece muito mais detalhes, indicando classificações de risco de gravidade e frequência para cada um dos 10 grupos de setores. Além disso, para seis dos setores analisados, o white paper mostra a contribuição de cada um dos seis riscos específicos relacionados ao uso da inteligência artificial: viés de dados, riscos cibernéticos, algorítmicos e de desempenho, lapsos éticos, propriedade intelectual e riscos de privacidade.

As principais conclusões são as seguintes:

• Em todos os setores, embora riscos como ética, viés e privacidade sejam proeminentes no curto prazo, no longo prazo, o risco de desempenho crescerá em importância em termos de frequência.
  
• Os riscos de propriedade intelectual são atualmente a categoria de perda mais grave — “provavelmente associados ao uso de IA generativa e material protegido por direitos autorais” — mas, a longo prazo, a Swiss Re espera que o risco mais grave seja o de desempenho, à medida que a IA for incorporada em uma ampla gama de setores. Pense em “veículos, fábricas, modelagem de colheitas, interfaces de chatbot para consumidores ou qualquer outro tipo de uso” ao avaliar o risco potencial de desempenho futuro, sugere o white paper.
  
• Atualmente, o risco de frequência está concentrado em alguns setores, com o setor de TI na liderança, seguido pelo setor governamental e educacional e depois pela mídia. Atualmente, mais da metade do fluxo de risco (55%) recai sobre o setor de tecnologia, o que “reflete o status de ‘pioneiro’ do setor” no desenvolvimento da tecnologia de IA e na sua utilização.
  
• Nos próximos 8 a 10 anos, quando a IA estiver sendo usada extensivamente em vários setores, o risco de frequência será distribuído de forma mais uniforme, mas o setor de saúde e farmacêutico ficará ligeiramente à frente do setor de TI em termos de frequência e risco geral.
  
• A gravidade dos incidentes é atualmente mais alta no setor de energia e serviços públicos, refletindo a natureza crítica da infraestrutura, embora a frequência seja baixa (classificada em nono lugar entre os 10 setores). Isso deve mudar, com a classificação de gravidade do setor de energia caindo para o quinto lugar na próxima década, mas o risco de frequência está crescendo “à medida que as tecnologias de rede inteligente alimentadas por IA entram cada vez mais em operação para apoiar a transição líquida zero”, disse a Swiss Re. O white paper indica uma classificação de risco geral e de frequência em terceiro lugar para o setor no período de 2032 a 2034.
  
• O setor de saúde e farmacêutico é o segundo setor mais afetado atualmente, e a gravidade do risco de IA permanecerá alta para o setor na próxima década (com perdas potencialmente altas em dólares para lesões corporais e responsabilidade profissional). Isso será exacerbado por um aumento na frequência, diz o Swiss Re Institute, observando que um grande número de aplicações em toda a cadeia de valor da saúde poderá usar IA no futuro, levando o setor ao primeiro lugar em todas as três pontuações – frequência, gravidade e geral.

O viés no desenvolvimento farmacêutico, bem como os diagnósticos de IA (riscos de desempenho) estão entre os riscos específicos a serem observados ao cobrir segurados nesse setor, observa o white paper.

• Os carros autônomos devem elevar as classificações de risco de IA para o setor de mobilidade e transporte, observa o white paper. Contribuindo para uma classificação de risco mais alta — uma classificação de risco geral em segundo lugar para a próxima década, em comparação com a classificação atual em quinto lugar – há um salto de 66% na pontuação de gravidade do risco algorítmico e de desempenho calculado pela Swiss Re.

Insights de cobertura

Uma matriz detalhada de gravidade de perdas para todos os 10 setores da indústria mostra que o setor de serviços financeiros e de seguros terá pontuações de gravidade mais baixas para cada tipo de risco no futuro em comparação com o nível atual de risco. Em ambos os períodos, os riscos algorítmicos, de PI e de viés são os três principais contribuintes para as pontuações de gravidade do risco de IA para empresas financeiras e de seguros.

Enquanto isso, o setor de seguros tem um papel importante a desempenhar na abordagem dos riscos relacionados à IA e na ajuda à construção da confiança digital necessária para aproveitar todo o potencial das tecnologias emergentes. “Fornecer produtos e serviços de proteção contra riscos para essas vulnerabilidades” potencialmente criadas pela IA “é o negócio das seguradoras”, afirma o white paper.

As mais novas coberturas para lidar com os riscos de IA são as garantias de desempenho de IA, incluindo as ofertas da Armilla Assurance. A Armilla Assurance oferece verificação e avaliação da qualidade do modelo de IA e, desde o final de 2023, vem oferecendo produtos de garantia de desempenho apoiados pela Swiss Re, Greenlight Re e Chaucer, indenizando o desempenho dos modelos de IA.

Mas também pode haver cobertura de acordo com as apólices existentes, sugere o documento, observando que a falha de desempenho da IA poderia “transbordar para danos à propriedade”, por exemplo. Quanto a outros riscos, as infrações de PI podem se enquadrar em linhas profissionais, e a distorção de dados pode alimentar reivindicações de responsabilidade.

Mais tarde, o white paper faz referência ao “risco silencioso de IA”, observando que, quando as linhas de seguro tradicionais não incluem nem excluem especificamente a cobertura para eventos acionados por IA, isso pode ter “consequências potencialmente graves para os riscos de acumulação em carteiras de seguro”. (O white paper promete mais informações sobre o risco silencioso de IA como o foco de uma próxima publicação do Swiss Re Institute).

O documento também observa que, embora o seguro cibernético já exista como uma possível cobertura de riscos cibernéticos relacionados à IA, o risco cibernético obteve a pontuação mais baixa em termos de frequência e gravidade em todos os setores no ambiente atual e de gravidade no ambiente futuro. “Temos apenas uma experiência passada limitada de ataques direcionados à IA”, diz o documento, fornecendo uma explicação, acrescentando também que “nossos dados prospectivos não incluem atividades ilegais”.

“Se os criminosos cibernéticos passarem a atacar os sistemas de IA da mesma forma que atacam os sistemas digitais que não são de IA, o risco poderá ser significativamente maior”, sugere o documento. “É possível imaginar o dano que poderia ser causado, por exemplo, pela invasão da IA de uma frota de carros autônomos, sem falar no uso da IA como uma arma de ataque hostil.”

Metodologia para pontuações e classificações

Para desenvolver as classificações, a Swiss Re isolou seis riscos específicos relacionados ao uso da inteligência artificial: viés de dados, riscos cibernéticos, algorítmicos e de desempenho, lapsos éticos, propriedade intelectual e riscos de privacidade. Usando uma abordagem de mineração de texto, a Swiss Re extraiu dados sobre eventos históricos do Monitor de Incidentes de IA da OCDE (que identifica incidentes de IA em fontes de mídia globais) e previu visões prospectivas para cada setor, fazendo referência ao banco de dados PATENTSCOPE da Organização Mundial da Propriedade Intelectual.

O documento observa que os analistas do Swiss Re Institute usaram uma combinação de 22 termos de tecnologia de IA com palavras-chave específicas do setor para classificar as patentes por setores relevantes, resultando em um total de 41.742 patentes relevantes para IA (concedidas entre janeiro de 2022 e março de 2024) sendo usadas para a análise.

Para sua investigação do cenário de risco atual, a Swiss Re observa que o Monitor de Incidentes de IA da OCDE forneceu um banco de dados de 13.398 incidentes desde 2014, disponível após a limpeza dos dados.