Especialistas temem que avanços da inteligência artificial possam facilitar o desenvolvimento de agentes biológicos perigosos e pressionam por novas medidas de biossegurança
Uma das discussões mais sensíveis sobre os riscos da inteligência artificial ganhou um novo capítulo nesta semana. Executivos das principais empresas de IA do mundo, entre eles Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e Dario Amodei, da Anthropic, assinaram uma carta aberta defendendo regras mais rigorosas para a síntese de DNA, tecnologia utilizada na produção de material genético em laboratório. A iniciativa reúne ainda cientistas, especialistas em biossegurança e autoridades ligadas à segurança nacional.
O alerta parte da preocupação de que sistemas avançados de inteligência artificial possam reduzir as barreiras técnicas para o desenvolvimento de agentes biológicos perigosos. Embora a síntese genética seja amplamente utilizada para aplicações benéficas, como o desenvolvimento de vacinas, medicamentos, terapias genéticas e ferramentas de diagnóstico, especialistas avaliam que a mesma tecnologia também pode ser explorada de forma maliciosa.
IA amplia preocupações com biossegurança
A síntese de DNA permite que pesquisadores criem sequências genéticas específicas em laboratório. Atualmente, muitas empresas do setor realizam verificações para identificar pedidos que contenham material associado a vírus ou agentes patogênicos conhecidos. No entanto, essas verificações ainda são, em grande parte, voluntárias.
Segundo os especialistas ouvidos pela publicação, o avanço das ferramentas de inteligência artificial pode tornar mais fácil a criação de novas sequências genéticas que não correspondam exatamente a organismos já catalogados, dificultando sua identificação pelos sistemas tradicionais de monitoramento. A preocupação é que modelos de IA capazes de auxiliar pesquisas biológicas também possam ser utilizados para projetar organismos potencialmente perigosos.
Apesar disso, os pesquisadores ressaltam que a construção de agentes biológicos continua exigindo conhecimento técnico avançado, infraestrutura laboratorial e experiência científica. O temor está menos relacionado à capacidade imediata de qualquer pessoa produzir ameaças biológicas e mais à possibilidade de que a IA reduza gradualmente essas barreiras ao longo dos próximos anos.
Carta pede rastreabilidade e monitoramento obrigatório
A proposta apresentada pelos signatários da carta aberta inclui a adoção obrigatória de mecanismos de triagem para todos os pedidos de síntese genética, além da manutenção de registros que permitam rastrear a origem das encomendas. A ideia é criar uma camada adicional de proteção capaz de identificar atividades suspeitas e facilitar investigações em casos de uso indevido da tecnologia.
Os defensores da medida argumentam que a síntese genética representa um dos principais pontos de controle para evitar abusos, já que qualquer tentativa de produzir novas sequências de DNA precisa, em algum momento, passar por empresas especializadas nesse tipo de serviço. Por isso, fortalecer os protocolos de segurança nesse segmento seria uma forma prática de reduzir riscos antes que eles se transformem em ameaças reais.
A carta também defende a criação de padrões regulatórios nacionais para evitar diferenças entre estados ou regiões, garantindo que todas as empresas sigam os mesmos critérios de segurança.
Usar IA para combater riscos da própria IA
Outro ponto destacado pelos especialistas é que a própria inteligência artificial pode se tornar parte da solução. Empresas de biotecnologia e laboratórios já estudam o uso de modelos avançados para analisar pedidos de DNA sintético e identificar sequências que possam representar riscos biológicos, mesmo quando não correspondam a agentes conhecidos.
Além disso, iniciativas voltadas à biodefesa vêm investindo em sistemas capazes de monitorar o uso de ferramentas de IA na pesquisa científica, detectar tentativas de contornar mecanismos de segurança e apoiar a criação de contramedidas para possíveis ameaças biológicas.
A convergência entre líderes de empresas tradicionalmente concorrentes é vista como um sinal da relevância do tema. Em um setor marcado por divergências sobre regulação, velocidade de desenvolvimento e impactos sociais da inteligência artificial, a biossegurança aparece como uma das raras áreas em que há amplo consenso sobre a necessidade de agir preventivamente.
Texto: Redação TI Rio
Curadoria Editorial: Bruno Nasser