Resumo:
Yao Shunyu, cientista-chefe de IA da Tencent e ex-pesquisador da OpenAI, participou recentemente de um seminário científico em Hong Kong e disse que modelos de inteligência artificial de ponta estão migrando rapidamente para o campo da biologia e que suas capacidades atingirão em breve um ponto crítico que poderá causar danos na vida real. Embora se espere que esta mudança promova a investigação e o desenvolvimento de novos medicamentos e a inovação médica, também poderá trazer novos desafios de segurança e suscitar preocupações da indústria sobre os riscos de biossegurança.
Yao Shunyu disse que a inteligência artificial demonstrou capacidades suficientes para ter um impacto real no campo da segurança de rede, e as capacidades biológicas estão se aproximando de níveis semelhantes. Ele alertou que o desenvolvimento futuro da IA no campo da biologia pode ser mais difícil de gerir do que no campo da segurança cibernética, pelo que tanto as empresas chinesas como outras empresas que adoptam a rota do modelo aberto devem levar a sério as questões de segurança relevantes.
Nos últimos anos, cada vez mais sistemas de IA de ponta começaram a ser aplicados às ciências da vida, à investigação médica e ao desenvolvimento de medicamentos. Geralmente, acredita-se na indústria que se espera que a IA encurte significativamente o ciclo de triagem de medicamentos e de pesquisa e desenvolvimento e acelere a descoberta de opções de tratamento. No entanto, os especialistas também apontaram que estas capacidades têm características de “dupla utilização”. Ao mesmo tempo que promovem o progresso da investigação científica, também podem ser utilizados de forma abusiva por criminosos, trazendo assim novos riscos de biossegurança.
O discurso de Yao Shunyu ocorre num momento em que a Tencent está acelerando sua estratégia de IA. A Tencent lançou oficialmente o modelo carro-chefe da nova geração Hy4 em 4 de novembro e o posicionou como um dos modelos básicos mais importantes da empresa. De acordo com dados da Artificial Analysis, uma agência de avaliação de inteligência artificial, o Hy4 é atualmente classificado como um dos modelos de IA com melhor desempenho na China.
Ao falar sobre direções de desenvolvimento futuro, Yao Shunyu revelou que a Tencent está explorando a possibilidade de construir um "laboratório científico autônomo" e espera usar sistemas de IA para concluir de forma independente processos complexos de pesquisa científica, incluindo algumas tarefas de pesquisa biológica. Ele acredita que, do ponto de vista técnico, a maioria dos problemas pode eventualmente ser resolvida. Os verdadeiros maiores desafios residem na governação social, na coordenação organizacional e na construção de sistemas de supervisão de segurança.
Para reduzir riscos potenciais, a Tencent adotou uma série de medidas de segurança durante o processo de treinamento do Hy4. A empresa disse que eliminou deliberadamente dados relacionados à exploração de vulnerabilidades de software e comportamento de ataque, retendo apenas conhecimento defensivo de segurança de rede, na esperança de reduzir as capacidades de ataque e, ao mesmo tempo, manter as capacidades de proteção. No que diz respeito ao campo da biologia, a avaliação interna da Tencent acredita que, embora Hy4 tenha um forte conhecimento biológico básico, ainda existe uma lacuna clara entre a capacidade de formular procedimentos experimentais de forma independente e formar capacidades de alto risco.
Yao Shunyu enfatizou particularmente que, em comparação com o campo da segurança de redes, muitas vezes é mais difícil distinguir claramente entre “capacidades ofensivas” e “capacidades defensivas” no campo da biologia. Isto significa que os investigadores enfrentarão situações mais complexas ao avaliar os riscos dos modelos, pelo que os modelos devem passar por testes e validação mais rigorosos antes do lançamento. A Tencent está atualmente cooperando com o principal laboratório de segurança da empresa para realizar uma avaliação sistemática das capacidades relevantes.
Quanto ao polêmico debate "código aberto versus código fechado" nos últimos anos, Yao Shunyu disse que empresas americanas como a Anthropic defendem a manutenção dos modelos mais avançados fechados para reduzir riscos sociais potenciais. Esta visão tem certa racionalidade. Mas ele também acredita que os modelos abertos também podem ajudar os defensores a melhorar as suas capacidades, pelo que, no futuro, a indústria poderá ter de procurar um equilíbrio entre abertura e encerramento, em vez de depender inteiramente de uma única rota.
À medida que a inteligência artificial se expande gradualmente da programação, matemática e geração de conteúdos para o campo das ciências da vida, a biologia está a ser considerada uma das fronteiras mais importantes da IA na próxima fase. Os analistas salientaram que, uma vez que a IA tenha verdadeiramente a capacidade de compreender e aplicar profundamente o conhecimento biológico, as tecnologias relacionadas poderão não só mudar a investigação e desenvolvimento de medicamentos e a indústria médica, mas também levar as agências reguladoras globais a reexaminar o quadro de governação da inteligência artificial para lidar com os novos desafios de segurança subsequentes.
Comentários