Novas correções em softwares de monitoramento de biosegurança estão ampliando sua capacidade de detectar proteínas tóxicas alteradas por Inteligência Artificial (IA), tornando mais difícil a produção de proteínas potencialmente perigosas usando essa tecnologia.
Ao redor do mundo, softwares especializados monitoram processos de criação artificial de proteínas. O objetivo é garantir que indivíduos mal-intencionados não estejam produzindo moléculas perigosas, como toxinas. No entanto, pesquisadores relatam na revista Science (edição de 2 de outubro) que pequenas alterações em toxinas conhecidas ou proteínas virais, feitas com o uso de IA, podem contornar as salvaguardas de biosegurança existentes.
Reforçar as lacunas nesse rastreamento é essencial para aumentar a capacidade dos programas de sinalizar proteínas arriscadas projetadas por IA.
“Os avanços da IA estão impulsionando descobertas na biologia e na medicina”, disse Eric Horvitz, diretor científico da Microsoft, em Redmond, Washington, em um briefing de notícias em 30 de setembro. “No entanto, com um novo poder vem a responsabilidade pela vigilância e pela gestão de riscos cuidadosa.”
O Poder da IA na Biologia
As proteínas são as “operárias” da biologia, realizando tarefas celulares vitais. Com a IA, cientistas estão descobrindo maneiras de aprimorar proteínas existentes para funções específicas, projetar novas proteínas ou até mesmo gerar novos organismos.
A IA pode criar modelos digitais para proteínas, determinando os aminoácidos necessários para sua composição. No entanto, ela não consegue construir proteínas físicas do nada. Fabricantes de DNA unem as “letras” genéticas apropriadas e enviam os genes sintéticos para laboratórios de pesquisa. É nesse ponto que programas de computador rastreiam os pedidos para garantir que os genes não codifiquem proteínas perigosas.
Horvitz e seus colegas simularam testes em modelos de triagem de biosegurança para identificar fraquezas que poderiam permitir a passagem de proteínas geradas por IA. A equipe criou cerca de 76.000 modelos para 72 proteínas nocivas, incluindo a ricina, a neurotoxina botulínica e proteínas que auxiliam vírus a infectar pessoas.
As Falhas e as Soluções
Embora as triagens de biosegurança tenham sinalizado o DNA de quase todas as proteínas em suas formas originais, muitas versões ajustadas por IA conseguiram passar despercebidas. Correções no software ajudaram, inclusive detectando genes mesmo depois de terem sido divididos em fragmentos. Apesar dos avanços, cerca de 3% das variantes ainda falharam em ser sinalizadas pelos modelos.
O trabalho foi realizado inteiramente em computadores, o que significa que as proteínas físicas não foram criadas em laboratório. Permanece a incerteza se as variantes geradas por IA manteriam sua função biológica.
James Diggans, vice-presidente de política e biosegurança da Twist Bioscience, uma empresa de síntese de DNA com sede em São Francisco, comentou no briefing que, na realidade, as triagens de biosegurança que sinalizam pedidos de proteínas preocupantes “são algo incrivelmente raro”.
Enquanto as ameaças de segurança cibernética ocorrem constantemente, “próximo de zero” pessoas tentaram produzir proteínas maliciosas, disse Diggans. “Esses sistemas são uma importante defesa contra [ameaças], mas todos devemos nos confortar com o fato de que este não é um cenário comum.”
A ascensão da IA na biologia é uma faca de dois gumes: promessas médicas incríveis e desafios de segurança inéditos.
Esta reportagem é uma tradução e adaptação do artigo original “AI-designed proteins test biosecurity safeguards” de Erin Garcia de Jesús, publicado na Science News.
