Inteligência Artificial e Seguros de Responsabilidade Civil Profissional

No Brasil, os profissionais liberais continuam, em regra, submetidos a um modelo de responsabilidade civil baseado na culpa. Ainda assim, no novo contexto tecnológico, começa a ganhar espaço a ideia de que o padrão de diligência pode se deslocar: em determinados setores, diligente pode passar a ser o profissional que utiliza IA de modo apropriado, crítico e supervisionado. Nessa perspectiva, não utilizar a ferramenta pode, em situações específicas, significar assumir maior risco de falha, aproximando-se da negligência. A IA como novo padrão de diligência (standard of care) é uma ideia nova, mas longe de ser absurda e que abre caminho para um complexo e necessário debate.

De toda maneira, o fenômeno de crescente utilização de IA tem um efeito ambivalente sobre o risco profissional. De um lado, a IA tende a reduzir falhas humanas clássicas (erros de cálculo, omissão de informações relevantes, perda de prazos, diagnósticos tardios etc.), aumentando a acurácia e a eficiência da prestação de serviços (efeito positivo). De outro, introduz novas fontes de anomalias típicas de sistemas algorítmicos, como alucinações, vieses, extrapolações indevidas, uso de bases desatualizadas e defeitos de integração, gerando danos de natureza peculiar (efeito negativo).

Para o mercado segurador, o ponto central é que as apólices de responsabilidade civil profissional (E&O – Errors and Omissions), concebidas para cobrir “erros técnicos” e “omissões” do profissional humano, podem não capturar adequadamente os riscos associados à IA. A vasta maioria das apólices em circulação foi desenhada em um cenário em que o uso de IA como ferramenta profissional sequer era cogitado.

Este texto reflete em torno dessa tensão para, ao final, apontar tendências e esboçar possíveis caminhos de desenvolvimento de coberturas mais ajustadas.

Médicos, advogados, engenheiros, arquitetos, contadores, consultores…

Em todos esses casos, a decisão final, em tese, continua sendo, ao menos juridicamente, 100% do profissional humano, que permanece responsável perante o cliente e terceiros. No entanto, o grau de deferência prática aos resultados apresentados pela IA tende a ser elevado, sobretudo quando os sistemas são percebidos como tecnicamente “superiores” ou mais atualizados do que o julgamento individual.

Essa crescente deferência prática ao dado algorítmico reforça a importância de standards técnicos claros para o uso de IA no exercício profissional. Códigos de ética e resoluções de conselhos tendem, assim, a ganhar relevo na tarefa de delimitar o que constitui a atuação diligente e não culposa, a supervisão adequada, a validação crítica e o uso aceitável de tais ferramentas, condicionando tanto a imputação de responsabilidade civil quanto a própria precificação do risco pelas seguradoras.

É bastante plausível supor que a IA reduza – e até significativamente – certos riscos clássicos de E&O: perda de prazos processuais; falhas de cálculo estrutural elementares; omissão de exames importantes em protocolos diagnósticos corriqueiros; lapsos de memória ou atenção em tarefas repetitivas. 

Em contrapartida, emergem riscos qualitativamente distintos:

Esses riscos não são apenas uma “variação tecnológica” dos erros humanos tradicionais; eles têm dinâmica própria, e muitas vezes coletiva, e levantam questões específicas de imputação de responsabilidade e de segurabilidade.

Quando um profissional liberal utiliza IA como instrumento de trabalho, os danos decorrentes de anomalias do sistema podem assumir formatos bastante distintos.

Danos patrimoniais “clássicos”

Danos patrimoniais diretos, enquadráveis no modelo E&O tradicional, continuam sendo possíveis. São exemplos:

• Um engenheiro utiliza um módulo de IA para dimensionar uma estrutura; o modelo comete erro relevante, mas o profissional, confiando no resultado, aprova um projeto que gera vícios construtivos ou ruína parcial, produzindo prejuízos materiais ao cliente

• um consultor financeiro utiliza IA para gerir uma carteira de investimentos, confia em simulações equivocadas e provoca perdas econômicas significativas ao investidor. 

Nesses casos, embora o gatilho do erro seja algorítmico, o dano se manifesta como prejuízo patrimonial mensurável, semelhante àquele causado por um erro puramente humano.

Danos à integridade física e à saúde

No campo médico, falhas de IA em suporte à decisão diagnóstica ou terapêutica podem gerar atrasos em diagnósticos, tratamentos inadequados ou omissão de intervenções necessárias, com danos corporais ao paciente. 

Aqui, a tipologia aproxima-se de hipóteses clássicas de responsabilidade médica, mas com a particularidade de que o profissional terá se apoiado, de modo decisivo, em um sistema algorítmico.

Danos morais e à personalidade

Uma parte relevante dos danos associados à IA em geral – e contextos profissionais não são exceção – tem natureza moral ou de violação de direitos da personalidade. Por exemplo:

Além disso, o uso de IA em contextos profissionais frequentemente pressupõe tratamento intensivo de dados pessoais, inclusive sensíveis, com risco de vazamento, uso indevido ou exposição desautorizada, causando dano moral individual ou coletivo.

Quando a mesma ferramenta de IA é utilizada por centenas ou milhares de profissionais, ou por uma grande instituição que centraliza decisões profissionais (hospital, grande escritório, empresa de engenharia), falhas sistêmicas podem atingir simultaneamente um grande número de clientes, pacientes ou usuários. 

Um modelo de triagem hospitalar enviesado, um software de análise contratual com falha recorrente, ou uma IA de avaliação de crédito amplamente utilizada por consultores financeiros podem produzir, de forma padronizada, decisões lesivas replicadas em escala. A responsabilidade passa a ter dimensão coletiva, com potencial para ações coletivas e pleitos de dano moral coletivo.

As apólices de E&O foram, em grande medida, concebidas para um cenário em que o risco central é o erro ou omissão do profissional humano. A introdução de IA tensiona alguns elementos estruturais dessas coberturas.

O modelo clássico de E&O pressupõe (i) um ato, erro ou omissão do profissional (ou de membros de sua equipe) – a famosa falha profissional; (ii) um dano a um cliente específico ou a um conjunto determinado de terceiros; e (iii) nexo causal entre aquele ato/erro/omissão e o dano.

Quando o erro decorre da combinação entre decisões humanas calcadas em subsídios de IA, a delimitação do “ato” segurado torna-se menos intuitiva. Pode-se discutir a “causa raiz” (no sentido mais fático do que jurídico), em última análise, decorre de erro na programação, falha na escolha ou supervisão do sistema, uso inadequado do software, ou se o resultado lesivo foi um “defeito” do produto de IA, que deveria ser imputado ao fornecedor tecnológico.

Não é incomum que apólices de E&O contenham exclusões relacionadas a falhas de sistemas ou redes de TI, remetendo tais riscos a seguros cibernéticos específicos; a violações de propriedade intelectual ou de confidencialidade; e a atos ou omissões de terceiros fornecedores, subcontratados ou parceiros que, salvo estipulação expressa, não sejam considerados segurados.

Quando o núcleo da anomalia está no software de IA, e não diretamente em uma conduta humana do profissional, há risco de a seguradora invocar exclusões relativas a falhas de sistema e de tecnologia, risco cibernético ou atuação de terceiro fornecedor (e.g., o desenvolvedor da IA), deslocando o sinistro para fora da cobertura de E&O, salvo quando houver cobertura particular expressa ou cláusula afirmativa específica.

Além disso, incidentes envolvendo dados pessoais tratados na interface profissional (erro de IA em gestão de prontuário, banco de dados de clientes, documentos sigilosos) podem ser remetidos à categoria de risco cibernético, supostamente não abrangido pelo E&O tradicional, mas passíveis de serem cobertos por meio de apólices cyber próprias.

Tal como ocorre em outros ramos de seguros de responsabilidade civil, muitas apólices E&O tratam dano moral como extensão acessória, com sublimites e condicionantes, ou sequer preveem cobertura para dano moral puro. 

No entanto, como visto, parte importante dos danos característicos do uso de IA em contextos profissionais tem precisamente natureza moral (discriminação, abalo de reputação, violação de privacidade).

Da mesma forma, as apólices E&O são em geral formatadas para lidar com litígios individuais ou de pequeno grupo, e não com ações coletivas de grande escala, baseadas em vieses sistêmicos de um modelo de IA adotado por um grande número de profissionais ou por uma organização. Isso cria um déficit de proteção justamente onde o uso massivo de IA tende a ampliar a exposição.

Os seguros de RC profissional costumam ser estruturados à base de reclamações (“claims-made”). Nesse modelo, as datas de retroatividade e os prazos de reclamação assumem importância central para a análise temporal da cobertura.

A utilização de IA pode gerar lesões paulatinas, lentamente, ao longo de meses ou anos, até que padrões de dano se tornem visíveis ou ganhem externalidade. A identificação tardia de um viés algorítmico ou de uma falha de recomendação pode fazer com que sinistros associados a decisões pretéritas se acumulem em momento posterior, tensionando os termos de retroatividade e a definição de “sinistro único” ou “série de sinistros” para fins de limite de cobertura.

Uma primeira linha de evolução consiste na inclusão, em apólices de E&O, de cláusulas de cobertura afirmativa (“affirmative coverage”)[1], isto é, cláusulas que reconheçam expressamente o uso de IA como parte do exercício profissional e estabeleçam que decisões tomadas com apoio de sistemas algorítmicos são atribuídas ao profissional segurado para fins de cobertura. 

Em paralelo, o erro ou a anomalia do sistema, quando utilizado de forma diligente e em conformidade com as melhores práticas conhecidas, pode ser qualificado como risco 

segurado, em vez de ser automaticamente deslocado para exclusões genéricas de falha de sistema ou de ato de terceiro fornecedor.

Essa abordagem reforça a ideia de que o profissional continua responsável e que o seguro deve acompanhá-lo na transição tecnológica, sem transformá-lo em garantidor de riscos externos que ele não controla (caso, por exemplo, dos fabricantes de IA, que podem ser objeto de outras modalidades de seguro, como RC de produto ou E&O de tecnologia).

Outra etapa importante é a revisão de exclusões generalistas relacionadas a TI e dados. Em vez de excluir, de forma ampla, falhas de sistemas, eventos cibernéticos e violação de dados, as apólices E&O voltadas a profissionais que utilizam intensivamente IA podem modular essas exclusões, preservando fora da cobertura apenas eventos estritamente tecnológicos (como indisponibilidade de infraestrutura, ataques externos ou comprometimento de sistemas), mas sem afastar, por esse motivo, danos decorrentes do uso ordinário da IA como ferramenta profissional.

Além disso, é recomendável prever coordenação clara com seguros cibernéticos, quando existentes, por meio de regras expressas de concorrência de apólice, de modo a evitar tanto sobreposição indevida quanto lacunas de cobertura.

Considerando a natureza dos danos típicos de IA, é coerente e esperável que apólices E&O dedicadas a profissões que fazem (ou que farão cada vez mais) uso intensivo de IA ampliem a cobertura de dano moral puro, e que passem a prever limites e condições compatíveis com a realidade de litígios contemporâneos, incluindo cobertura para discriminação algorítmica, violação de privacidade, vazamento de informações sensíveis etc.

Em contextos em que a mesma IA é utilizada em larga escala dentro de uma organização (por exemplo, um hospital, um grande escritório, uma firma de consultoria global), a possibilidade de ações coletivas ou de séries de sinistros relacionados a um mesmo defeito algorítmico é crescente, com mecanismos específicos de agregação de riscos e de gestão de limites globais. Será importante refletir a expansão desses riscos em coberturas de seguros.Considerando a natureza dos danos típicos de IA, é coerente e esperável que apólices E&O dedicadas a profissões que fazem (ou que farão cada vez mais) uso intensivo de IA ampliem a cobertura de dano moral puro, e que passem a prever limites e condições compatíveis com a realidade de litígios contemporâneos, incluindo cobertura para discriminação algorítmica, violação de privacidade, vazamento de informações sensíveis etc.

Em contextos em que a mesma IA é utilizada em larga escala dentro de uma organização (por exemplo, um hospital, um grande escritório, uma firma de consultoria global), a possibilidade de ações coletivas ou de séries de sinistros relacionados a um mesmo defeito algorítmico é crescente, com mecanismos específicos de agregação de riscos e de gestão de limites globais. Será importante refletir a expansão desses riscos em coberturas de seguros.

Nessa arquitetura, o profissional (ou a organização que o emprega) passa a contar com uma proteção integrada, que reconhece a indivisibilidade prática entre sua atuação e a tecnologia utilizada como ferramenta para sua atividade.

A crescente utilização de IA por profissionais liberais é inevitável. Ela reposiciona o debate sobre responsabilidade civil profissional, abrindo discussões sobre o conteúdo do conceito de culpa, para o qual os conselhos profissionais e órgão técnicos assumem redobrada relevância, e também sobre o papel dos seguros de E&O.

A IA não é apenas mais um “equipamento” adicional a serviço do profissional – analisando-se em retrospectiva grandes mudanças, é justo dizer que a IA não se equipara, por exemplo, à substituição da máquina de escrever pelo computador; da prancheta de desenho pelos softwares CAD/BIM na engenharia e arquitetura; ou dos prontuários em papel pelos sistemas eletrônicos de gestão hospitalar.

Por um lado, a IA tende a reduzir consideravelmente determinados erros humanos e a aumentar a eficiência (efeito positivo); por outro, aumenta a escala de produção e introduz novas formas de falha (algorítmicas, sistêmicas etc.) que produzem danos patrimoniais, corporais, morais e, não raro, coletivos (efeito negativo). 

As apólices de E&O, desenhadas sob o paradigma do erro técnico humano e de danos pontuais, mostram-se, em grande medida, insuficientes para abarcar essa nova configuração de risco, seja por exclusões amplas referentes a tecnologia e dados, seja pela timidez na cobertura de dano moral puro e de impactos difusos.

Desenvolver produtos de E&O que incorporem explicitamente o uso de IA como componente do risco profissional, eventualmente em diálogo com seguros cibernéticos e com produtos específicos avulsos (“stand-alone”) de RC de IA (“AI Liability Insurance”), é passo necessário para que o mercado segurador continue a cumprir sua função social e econômica de gerenciar e estabilizar riscos sociais relevantes.

No contexto dos profissionais liberais, isso significa reconhecer que o exercício diligente da profissão, hoje, passa por dominar não apenas a técnica tradicional, mas também as ferramentas algorítmicas que a potencializam e, simultaneamente, a expõem a novos dilemas de responsabilidade.