Resumo:
Em 23 de setembro, de acordo com a Bloomberg, o pioneiro da IA, Li Feifei, pediu mais supervisão da IA por parte de agências independentes e do setor público. Ela acredita que a avaliação da segurança de sistemas de IA cada vez mais poderosos não deve ser inteiramente deixada às empresas que desenvolvem estes sistemas.
Li Feifei
Como professor da Universidade de Stanford e cofundador do World Labs, Li Feifei disse na terça-feira que, embora pesquisadores internos em empresas de IA possam avaliar as capacidades e a segurança de modelos individuais, isso não pode substituir padrões mais amplos desenvolvidos em conjunto pelo governo, indústria e instituições acadêmicas.
"Ainda acredito que é muito importante que os parâmetros de referência sejam estabelecidos por instituições independentes, bem como por setores públicos, como o meio académico. Ao mesmo tempo, a indústria e o governo também devem partilhar a responsabilidade." Li Feifei disse em entrevista à Bloomberg TV.
À medida que as capacidades dos sistemas de IA continuam a aumentar, também aumentam as preocupações sobre os seus riscos potenciais. Alguns líderes de Silicon Valley alertaram que a tecnologia está a desenvolver-se demasiado rapidamente e poderá eventualmente exceder o controlo humano. Nas últimas semanas, o CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram a desaceleração do desenvolvimento de modelos de ponta. Os dois discutirão a segurança da IA no Conselho de Segurança das Nações Unidas na quarta-feira.
Li Feifei disse que os riscos existenciais que a IA pode trazer dependem, em última análise, de como os humanos escolhem desenvolver, governar e usar esta tecnologia. Ela disse que este princípio também se aplica a outras tecnologias além da IA, desde eletricidade e motores a vapor até transportes modernos. A sociedade humana também precisa de encontrar um equilíbrio entre os benefícios que a tecnologia pode trazer e a segurança pessoal.
A humanidade, observou ela, “tem o poder da tecnologia à sua disposição”. "Temos de assumir o controlo. A IA não tem a ver com a IA, mas com os seres humanos. Tem a ver com a nossa dignidade e autonomia comum e individual, e tem também a ver com as nossas responsabilidades." Li Feifei disse.
Os comentários de Li Feifei acrescentam uma nova voz ao debate cada vez mais acalorado entre os decisores políticos e os líderes da indústria da IA. O debate centra-se na seriedade com que devem ser encarados os avisos sobre os riscos mais extremos da tecnologia. Mais cedo na terça-feira, o presidente dos EUA, Donald Trump, rejeitou as preocupações sobre a ameaça existencial da IA, chamando-a de "uma farsa" e sublinhando a necessidade de continuar a desenvolver a tecnologia a toda velocidade durante um discurso na Assembleia Geral das Nações Unidas em Nova Iorque.
Li Feifei disse que a discussão sobre o comportamento dos sistemas de IA foi além dos chamados modelos de ponta que impulsionam a atual mania da IA. A empresa que ela fundou, a World Labs, está desenvolvendo os chamados “modelos mundiais” que podem gerar e reconstruir ambientes tridimensionais. Ela disse que a tecnologia poderia ser usada para treinar e avaliar robôs e permitir aplicações em design, medicina e outras indústrias.
À medida que estes sistemas avançam para aplicações do mundo real, disse ela, a indústria enfrenta a mesma questão fundamental: como avaliar uma IA cada vez mais poderosa e determinar se está a funcionar conforme o esperado.
Comentários