Recentemente, a equipe do professor Zhang Yue da West Lake University desenvolveu um sistema científico de IA - DeepScientist, que atraiu a atenção de muitos internautas. Segundo relatos,DeepScientist é o primeiro sistema científico de IA com capacidades completas de pesquisa científica que demonstra iteração contínua e orientada para objetivos e supera progressivamente os resultados de pesquisa mais avançados de pesquisadores humanos sem intervenção humana.
No entanto, muitos internautas estão preocupados que um sistema de IA que não requer intervenção humana corre o risco de descontrolar a direção da pesquisa ou de ser enganado.
A este respeito, Zhang Yue disse: "As questões de segurança da IA sempre foram uma questão à qual atribuímos grande importância, por isso a DeepScientist tornou-a pública e também adoptámos uma estratégia prudente".
Na sua opinião, a investigação sobre a própria IA e a investigação sobre segurança da IA devem andar de mãos dadas, e Zhang Yue acredita firmemente que a IA é controlável.
Ele também disse: “Como estudioso de modelos de linguagem de IA, temos uma compreensão relativamente boa do mecanismo de funcionamento dos modelos de linguagem, por isso tenho uma atitude relativamente positiva em relação à controlabilidade da IA.Também incentivo fortemente os alunos a usarem ferramentas de IA o mais cedo possível e muito mais. Afinal, as pessoas do futuro deverão trabalhar em conjunto com a IA. "
