Resumo:
De acordo com a Bloomberg, Andrew Ng, um pioneiro no campo da IA, disse que os avisos dos principais criadores de modelos e investigadores sobre os riscos existenciais da IA são "ficção científica" e podem não ser conducentes a garantir que esta tecnologia traga o máximo benefício para a sociedade.
André Ng
Enda Ng foi cofundador do Google Brain e da plataforma educacional Coursera. Ele disse que nos primeiros dias da mania da IA, a indústria tecnológica alimentou temores sobre os danos potencialmente catastróficos da IA, aparentemente para aumentar a publicidade e influenciar as tendências regulatórias.
“Tenho estado bastante frustrado nas últimas duas semanas”, disse ele em entrevista à Bloomberg Television na quinta-feira. “Esta campanha de relações públicas está de volta, provavelmente com um propósito semelhante.”
Este mês, a demissão do ex-pesquisador da Anthropic e OpenAI, Jacob Coxon, trouxe à tona uma discussão de longa data sobre segurança de IA. Coxon acusou seus ex-empregadores de “apostar nossas vidas” enquanto “correm para desenvolver uma superinteligência de IA”. Ele também disse que aqueles que desenvolvem IA acreditam que a tecnologia poderia “matar todos nós antes do final desta década”.
Neste contexto, os líderes da IA, incluindo o CEO da Anthropic, Dario Amodei, e Sam Altman, da OpenAI, apelam à indústria para que abrande o desenvolvimento de modelos de ponta e tome mais medidas para salvaguardar o desenvolvimento futuro.
Ng Enda trabalhou com Amodai e Ultraman em seus primeiros anos. A IA apresenta riscos, inclusive na segurança cibernética, disse ele. Mas ele acredita que as preocupações sobre a IA causar a extinção humana são “mais parecidas com ficção científica do que com ciência”.
Ele também disse que a indústria poderia se concentrar na solução de alguns “problemas reais de engenharia” para continuar melhorando e protegendo a tecnologia, enquanto trabalha para garantir que a IA possa ser usada para “as muitas coisas maravilhosas de que é capaz”.
Comentários