Inteligência artificial de dupla utilização: quando o mesmo algoritmo salva vidas e escolhe alvos

Um algoritmo de visão computacional treinado para identificar câncer de pulmão numa tomografia opera sobre os mesmos princípios técnicos que um sistema militar treinado para identificar veículos blindados em imagens de satélite.

É o que se convencionou chamar, no direito internacional, de tecnologia de dupla utilização — dual-use. Nos últimos dois anos, as fronteiras entre a tecnologia médica, a tecnologia industrial e a tecnologia militar se dissolveram na prática cotidiana das empresas de inteligência artificial. Um mesmo modelo, uma mesma equipe, um mesmo repositório de código. E, no meio disso tudo, uma coleção de riscos jurídicos que a maioria dos gestores ainda não mapeou.

Este ano, um sistema de IA médica desenvolvido por empresa civil apareceu em manuais operacionais de forças armadas em zona de conflito. A imprensa internacional discutiu ética. Os advogados discutiram responsabilidade — de quem desenvolveu, de quem licenciou, de quem operou, de quem foi vítima. É a discussão jurídica dos próximos dez anos, e ela começa aqui.

Três dimensões de risco

A empresa brasileira que desenvolve, licencia ou opera IA de dupla utilização precisa dimensionar três frentes distintas — que raramente convergem no mesmo departamento, e por isso raramente são vistas como uma única questão.

A primeira frente: controle de exportação

O Brasil é signatário do Arranjo de Wassenaar sobre Controle de Exportações de Armas Convencionais e Bens e Tecnologias de Uso Duplo. A Portaria Interministerial nº 2, de 1996, e a legislação subsequente disciplinam o licenciamento de exportação de tecnologias sensíveis. Bibliotecas de reconhecimento facial, modelos de visão computacional treinados em larga escala, sistemas de análise de sinal e infraestrutura de cibersegurança avançada podem, todos, ingressar em lista controlada.

Exportar sem autorização caracteriza infração administrativa e, em algumas hipóteses, crime. E, o mais grave, licenciar remotamente um modelo hospedado em servidor no Brasil a um cliente estrangeiro é, para muitas jurisdições, exportação — mesmo que nenhum arquivo físico atravesse fronteira. Basta o acesso.

Empresas brasileiras de IA acostumadas a operar em modelo SaaS raramente têm compliance de exportação. Isso será um problema.

A segunda frente: responsabilidade civil pelo uso

Se o modelo desenvolvido por uma empresa brasileira é licenciado a terceiros e utilizado, por exemplo, em decisão automatizada que viola direitos humanos — mesmo em outra jurisdição —, o desenvolvedor pode ser solidariamente responsabilizado.

A jurisprudência brasileira, em linha com a europeia (AI Act — Regulamento UE 2024/1689) e com o desenvolvimento doutrinário americano, começa a reconhecer que a fornecedora de tecnologia responde na proporção de seu conhecimento sobre o uso final (foreseeability). Contratos que se limitam a exigir "uso lícito" sem cláusulas técnicas específicas de proibição — kill switches, geofencing, auditoria contínua, monitoramento de padrão de uso — oferecem defesa limitada.

O caso concreto que estamos vendo em 2026: modelos originalmente desenvolvidos para triagem oncológica encontrados em pipelines de identificação de alvos militares. Quem desenvolveu, argumenta que a tecnologia é neutra. Quem sofreu o dano, argumenta que a previsibilidade do desvio criava dever de cuidado. Os tribunais estão começando a dar razão ao segundo argumento.

A terceira frente: cibersegurança

Sistemas de IA de dupla utilização são alvo prioritário de três tipos de ataque:

Ataques adversariais (adversarial attacks) — perturbações imperceptíveis a olho humano que enganam o modelo. Na medicina, causam falso diagnóstico. No cenário militar, fazem o sistema confundir hospital com objetivo militar.

Envenenamento de dados (data poisoning) — modificação do banco de dados de treinamento para sabotar permanentemente o modelo. A alteração pode passar despercebida por meses e afetar todas as versões subsequentes.

Sequestro de sistemas (ransomware) — bloqueio da operação em troca de resgate. Em IA de dupla utilização, o bloqueio simultâneo dos ambientes civil e militar produz consequências catastróficas em ambos.

A Lei Geral de Proteção de Dados (LGPD) e a próxima geração de regulamentação sobre resiliência cibernética (no Brasil, em elaboração; na União Europeia, o NIS2 e o Cyber Resilience Act; nos Estados Unidos, o Executive Order sobre segurança em IA) exigem, hoje, protocolos de segurança testados e auditados por terceiros. A ausência deles configura culpa qualificada da empresa desenvolvedora.

O que fazer, na prática

Programas maduros de compliance para IA de dupla utilização integram, no mínimo, cinco elementos:

Governança de uso. Comitê interdisciplinar — jurídico, engenharia, ética, segurança — que aprova ou veta pedidos de licenciamento. Sem esse comitê, decisões críticas ficam a cargo de vendedores que não têm formação jurídica nem responsabilidade formal.

Classificação técnica prévia. Análise de cada capacidade do modelo à luz das listas de controle nacional e internacional (Wassenaar, EU Dual-Use Regulation 2021/821, US Export Administration Regulations). Documentação da análise, para permitir demonstração posterior de diligência.

Contratos de licenciamento restritivos. Cláusulas expressas de proibição de uso em determinadas jurisdições, para determinadas finalidades e em determinados contextos. Direito de auditoria remota. Direito de desligamento (kill switch) em caso de descumprimento. Obrigação do licenciado de reportar incidentes.

Segurança e resiliência. Testes contínuos contra ataques adversariais. Monitoramento da integridade dos datasets de treinamento. Segregação de ambientes de desenvolvimento e produção. Plano de resposta a incidentes de segurança.

Responsabilidade documentada. Registro contínuo das decisões de aprovação, com identificação dos responsáveis e das análises técnicas realizadas. Este registro é a defesa da empresa quando algo dá errado — e é praticamente impossível construir depois do fato.

Uma nota final

O mesmo algoritmo que hoje detecta câncer de mama em três décimos de segundo pode ser adaptado, com relativa facilidade, para identificar alvos em imagens de drone. A engenharia é a mesma. O sistema jurídico, no entanto, começa a impor deveres muito diferentes conforme o uso final.

A tentação empresarial é ignorar essa fronteira e tratar a tecnologia como se ela fosse eticamente neutra — o que é confortável enquanto ninguém pergunta. A resposta jurídica é o oposto: impor à empresa o dever de saber para que a sua tecnologia será usada, de vetar o uso quando o desvio é previsível, e de documentar cada uma dessas decisões.

Isso não é excesso regulatório. É a forma como a civilização jurídica se ajusta a um instrumento que faz muito mais do que os seus criadores originalmente pretendiam.