Resumo:
O vencedor da Medalha Fields e famoso matemático Terence Tao emitiu recentemente um alerta sobre a crescente dependência da humanidade na inteligência artificial. Ele teme que, à medida que as pessoas transferem gradualmente os seus processos de pensamento e resolução de problemas para a IA, os humanos estejam a perder a compreensão dos próprios problemas e das suas soluções, e esta tendência possa em breve ter consequências graves no mundo real.
Esses comentários vieram do discurso de Terence Tao no Science x AI Summit, realizado na Universidade da Califórnia, em Los Angeles, em 16 de outubro. A Science and Artificial Intelligence Research Foundation (SAIR) lançou recentemente um vídeo de discurso completo intitulado "Math 2.0" no YouTube, e os clipes relevantes posteriormente atraíram a atenção na plataforma social X no exterior.
"Estamos confiando o nosso pensamento à IA e deixando que ela resolva os problemas para nós. Mas, ao mesmo tempo, também estamos perdendo uma garantia - não podemos ter certeza se a solução dada pela IA é realmente o que queremos." Tao Zhexuan disse: "Estou realmente preocupado que em breve veremos as consequências disso no mundo real. Esta é na verdade uma preocupação que tenho fora do campo da matemática."
Tao Zhexuan destacou que o progresso da inteligência artificial no campo da matemática está mudando a forma tradicional de resolver problemas. No passado, para resolver problemas complexos, os matemáticos precisavam estudar e compreender teorias relevantes durante muito tempo e acumular novos conhecimentos no processo. Mas hoje em dia, a IA pode dar respostas rapidamente, mas os humanos podem não ser capazes de compreender o processo de raciocínio por trás das respostas.
Ele acredita que o risco de tais mudanças é relativamente controlável no campo da matemática pura, porque as provas matemáticas geralmente podem ser verificadas através de ferramentas formais. Mas quando a mesma abordagem é utilizada no mundo real, a situação torna-se muito mais complicada.
Tao Zhexuan mencionou especificamente as áreas de rede elétrica, controle de tráfego aéreo, pesquisa e desenvolvimento de medicamentos e design de chips. Ele teme que, no futuro, as pessoas possam entregar diretamente problemas complexos à IA para processamento, mas não tenham uma compreensão completa do modelo subjacente e das restrições do mundo real.
Nesse caso, a solução dada pela IA pode estar completamente estabelecida no modelo matemático, mas não atende às necessidades reais do mundo real. A IA pode até encontrar lacunas ou condições limite no modelo, atingindo indicadores superficiais e ao mesmo tempo desviando-se dos objetivos que os humanos originalmente esperavam alcançar.
Tao Zhexuan enfatizou que o problema não está na tecnologia de IA em si, mas na forma como os humanos usam a IA. Ele defende a promoção da investigação matemática na chamada era "Matemática 2.0", para que a IA possa não só ajudar os humanos a resolver problemas, mas também melhorar a compreensão humana dos problemas e ajudar os investigadores a identificar as limitações e riscos potenciais dos modelos.
Em 22 de outubro, Terence Tao também publicou um artigo na revista Nature, conclamando a comunidade matemática a reexaminar os objetivos de pesquisa na era da IA. Ele destacou que a pesquisa matemática está enfrentando novos desafios, pois a IA gera provas matemáticas mais rápido do que os humanos conseguem compreender e digerir esses resultados.
Tao Zhexuan acredita que as ferramentas de IA têm o potencial de melhorar a compreensão humana, mas isso requer mudanças nos métodos de pesquisa e nos mecanismos de incentivo. O que realmente precisa ser mantido na era da IA não é apenas a capacidade de obter respostas corretas, mas também a capacidade humana de compreender, testar e julgar as respostas.
Comentários