Pesquisadores da Universidade Johns Hopkins, da Universidade de Oxford, da Universidade de Stanford, da Universidade de Columbia e da Universidade de Nova York estão pedindo salvaguardas contra certos conjuntos de dados de doenças infecciosas que poderiam permitir que a inteligência artificial projetasse vírus mortais. O alerta destaca uma falha de segurança seriamente negligenciada no desenvolvimento da inteligência artificial.
Os pesquisadores ressaltam que, uma vez que dados biológicos de alto risco se espalhem na web aberta, eles não poderão mais ser recuperados. Isto significa que, mesmo que sejam introduzidos regulamentos regulamentares relevantes no futuro, se o próprio conhecimento perigoso tiver sido amplamente divulgado, quaisquer medidas regulamentares serão ineficazes. Esta irreversibilidade torna a gestão e o controlo dos dados de biossegurança particularmente urgentes e complexos.
Atualmente, com o rápido desenvolvimento da tecnologia de inteligência artificial, especialmente a sua aplicação cada vez mais aprofundada no campo biomédico, a capacidade dos sistemas de IA para adquirir e processar dados biológicos de alto risco também está aumentando constantemente. Os investigadores temem que, se não forem tomadas restrições de acesso e medidas de segurança adequadas a estes conjuntos de dados sensíveis, os agentes mal-intencionados poderão usar a tecnologia de IA para projetar ou modificar agentes patogénicos para criar ameaças biológicas altamente contagiosas ou letais.
A chamada reflete profundas preocupações académicas sobre os riscos da IA de dupla utilização. Embora a partilha aberta de dados científicos seja fundamental para o avanço da investigação médica e da saúde pública, certas informações biológicas potencialmente perigosas podem ter consequências catastróficas se caírem em mãos erradas. Portanto, como encontrar um equilíbrio entre a promoção do progresso científico e a garantia da segurança biológica tornou-se uma questão fundamental que precisa de ser resolvida no domínio da governação da IA.