Resumo:
As tensões entre a OpenAI e a comunidade matemática aumentaram novamente. O vencedor da Medalha Fields, Terence Tao, publicou recentemente uma declaração emitida pela Association for Human Mathematics (AHM) em seu blog pessoal, criticando a OpenAI por ignorar as normas de pesquisa na comunidade matemática e pedindo aos matemáticos que parem de cooperar com ela. A controvérsia decorre de um lote de manuscritos de pesquisa matemática publicados pela OpenAI. Seu modelo interno tentou resolver cerca de 4.000 problemas matemáticos e, finalmente, compilou materiais de pesquisa envolvendo 372 conjuntos de resultados e divulgou alguns códigos de prova formais do Lean.
No entanto, a escala dos resultados não foi reconhecida de forma unânime pela comunidade acadêmica. O que importa aos matemáticos não é apenas saber se a prova está correta, mas também se a derivação pode ser compreendida, se o trabalho anterior é totalmente citado e se novos métodos podem ser integrados no sistema de conhecimento existente através da discussão entre pares.
A verificação formal pode verificar a derivação lógica, mas não pode substituir automaticamente a revisão manual do significado da proposição, da contribuição da pesquisa e da formação acadêmica. “A divulgação de mais de 700 documentos de uma só vez demonstra não pesquisa acadêmica, mas poder”, afirmou o comunicado.
Dana Moshkovitz, uma cientista da computação teórica que está profundamente envolvida na conjectura do jogo único há muito tempo, estudou imediatamente os artigos relevantes divulgados pela OpenAI e disse que os artigos estavam cheios de estruturas incompreensíveis, etapas de raciocínio pouco claras e referências bibliográficas confusas. Scott Aaronson, cientista da computação teórico da Universidade do Texas em Austin, descreveu o dia do lançamento do OpenAI como “o apocalipse da matemática”.
Alguns internautas acreditam que as opiniões de Terence Tao são muito extremas e não deveriam bloquear o desenvolvimento de tecnologia que poderia beneficiar a todos. Bryna Kra, matemática da Northwestern University, acredita que se espera que a IA ajude os investigadores a explorar problemas que eram difíceis de resolver no passado, mas as empresas devem publicar os seus resultados de uma forma que seja mais consistente com os padrões académicos, para que os pares possam verificar, compreender e continuar a investigação.
O cerne do conflito entre as duas partes é a lacuna entre a velocidade de geração de resultados da IA e a compreensão humana. A pesquisa matemática tradicional requer explicação gradual das provas e melhoria dos métodos através de artigos, seminários e intercâmbios entre pares; quando laboratórios comerciais publicam centenas de manuscritos complexos de uma só vez, os custos de verificação, revisão e integração de conhecimento subsequentes podem ser transferidos para a comunidade acadêmica. As agendas de investigação, os ritmos de publicação e os recursos dos modelos são, portanto, cada vez mais influenciados por um punhado de empresas tecnológicas.
Esta controvérsia não surgiu de repente. Terence Tao já assinou uma declaração com outros 24 vencedores da Medalha Fields, alertando as empresas de IA que o uso de problemas matemáticos como referência para capacidades de modelos pode desviar a concorrência tecnológica da intenção original de buscar compreensão e insights na pesquisa matemática.
Em 29 de setembro, o Grupo Consultivo de Matemática e Inteligência Artificial (AGMAI) emitiu recomendações opondo-se claramente aos laboratórios de IA de ponta que utilizam modelos internos inacessíveis ao mundo exterior para testar problemas matemáticos difíceis.
A OpenAI afirmou que esta versão foi baseada nas recomendações da AGMAI; AHM acreditava que a empresa ignorou a premissa central das recomendações e, portanto, apelou aos matemáticos para pararem de cooperar com a OpenAI. Além disso, a AGMAI também exige que os laboratórios não utilizem a divulgação de resultados matemáticos como ferramenta de marketing para promover modelos. As versões relacionadas devem divulgar informações como nomes de modelos, palavras de alerta, custos de energia computacional e registros de falhas.
À medida que a IA continua a melhorar as suas capacidades de produção de investigação científica, a comunidade matemática já não enfrenta a questão de saber se as máquinas podem provar teoremas, mas também de quem decide a direcção da investigação, quem suporta o custo da verificação e como garantir que o progresso tecnológico continua a servir a acumulação de conhecimento.
Comentários