OpenAI é acusado de usar resultados não divulgados de terceiros para resolver o Problema da Matemática do Milênio

Resumo:

O professor de matemática da Universidade de Nova York, Tristan Buckmaster, anunciou três provas na terça-feira, incluindo um resultado preliminar que aponta para um grande problema não resolvido na matemática teórica. Ele também acusou a OpenAI de obter informações relevantes sobre o progresso antes de sua pesquisa se tornar pública e aproveitou seus enormes recursos computacionais para publicar primeiro uma prova completa.

Os problemas de existência e suavidade de Navier-Stokes envolvidos desta vez são um dos sete "Problemas do Prêmio do Milênio" estabelecidos pelo Clay Mathematics Institute, com uma recompensa de US$ 1 milhão. A equação de Navier-Stokes é amplamente utilizada em mecânica dos fluidos, mas a pesquisa teórica ainda é insuficiente. Mais tarde, a OpenAI publicou uma prova completa da existência e do problema de suavidade de Navier-Stokes, e a descoberta de Buckmaster já havia dado passos em direção a esse problema. De acordo com a OpenAI, esse trabalho de uma semana consumiu um total de

300 bilhões de tokens de saída

——Se calculado com base nas taxas atuais do Astra, é equivalente a

22,5 milhões de dólares americanos

custo de cálculo.

A OpenAI foi acusada de não iniciar o sprint até ser informada do progresso

“Há outra parte da história com a qual, para ser honesto, eu gostaria muito de não ter que me preocupar”, escreveu Buckmaster em um comunicado. Enquanto ele e Alpöge concluíam sua própria pesquisa, disse ele, descobriram que “as informações sobre nosso progresso foram repassadas à OpenAI”. Depois de entrar em contato com a OpenAI, a outra parte disse ter obtido uma prova completa do problema central. Mas quando questionada sobre quando a OpenAI começou a pesquisar este problema e quanta mão de obra investiu, as respostas da outra parte tornaram-se cada vez mais vagas.

"Acontece que uma equipe inteira já estava trabalhando no problema, usando uma quantidade incrível de computação... No final das contas, ficou acordado que

a primeira dica veio poucos dias depois que as informações sobre nosso trabalho chegaram à OpenAI

. "Buckmaster disse.

Se esta afirmação for verdadeira, significa que a equipe OpenAI acreditou que a direção de pesquisa de Buckmaster e Alpöge está correta e decidiu usar suas enormes vantagens em recursos computacionais para fornecer primeiro uma prova formal. O anúncio da OpenAI confirma grande parte da linha do tempo, observando especificamente que a última tentativa começou em 1º de setembro, após rumores de que “dois quebra-cabeças do milênio foram resolvidos”. O anúncio também confirma conversas em andamento com Buckmaster e Alpöge.

Métodos exclusivos e disputas de assinaturas

Buckmaster disse que embora os matemáticos tenham estudado extensivamente o problema, a estratégia específica que ele e seus colaboradores adotaram estava longe de ser convencional, o que o levou a se perguntar por que a OpenAI adotaria a mesma abordagem ao mesmo tempo.

"O caminho para o problema de Clay por meio de forças de suavização, opções c e d na declaração de Fefferman, é a rota iniciada por Luis e Diego, e a rota que Levent e eu silenciosamente escolhemos para atacar." Buckmaster escreveu: "Até onde eu sei, quase ninguém está trabalhando nessa rota. Esta não é uma direção que possa ser alcançada entregando a declaração do problema ao modelo e demorando alguns dias."

Embora a Alpöge seja funcionária da Anthropic, esta pesquisa não foi realizada em nome da empresa. Portanto, os dois usaram uma variedade de modelos, contando principalmente com o Codex da OpenAI. Mesmo assim, o relacionamento da Alpöge com laboratórios rivais parece ter se tornado um ponto sensível para a OpenAI. Buckmaster disse que Bubeck, da OpenAI, pediu-lhe para remover a atribuição de Alpöge de um compromisso proposto.

Quando Buckmaster insistiu em tornar pública a polêmica, Bubeck respondeu: "Por que você arruinaria sua carreira?" Buckmaster disse que depois que Buckmaster respondeu, Bubeck disse: "Se você não quer que eu seja legal, não preciso ser legal."

Preocupações com dados de treinamento e resposta da OpenAI

Buckmaster também está preocupado porque ele usa o Codex extensivamente ao construir projetos, as informações sobre seu trabalho podem estar alimentando os próprios esforços de resolução de problemas da OpenAI. A OpenAI reserva-se o direito de treinar modelos interativamente usando o Codex, embora os usuários possam optar por não participar. Se a equipe OpenAI usar um modelo baseado no treinamento interativo Codex do próprio Buckmaster, é possível que o modelo “repita” seu trabalho quando se deparar com problemas semelhantes.

A OpenAI minimizou a possibilidade de recuperação de memória em seu anúncio: "Nós (pesquisadores e agentes) não vimos nenhum de seus trabalhos antes de serem divulgados publicamente - e, em particular, não tivemos acesso a nenhum dado específico do usuário para entender esse problema." O anúncio afirmava: "Embora improvável, não podemos descartar que o uso de dados anonimizados gerados por nosso produto ajudou a melhorar nosso modelo. No entanto, nossas provas diferem significativamente e até mesmo os resultados precisos no caso Euler são diferentes (forçado versus não forçado)."

Independentemente da controvérsia, o assunto provavelmente reacenderá o debate em curso sobre o papel da IA ​​na pesquisa matemática e as motivações específicas da OpenAI nela. Buckmaster parece acreditar que a melhor resposta é disponibilizar ao público o máximo possível de informações de pesquisa.

Artigos relacionados:

Diz-se que o modelo interno de IA da OpenAI resolve o problema da equação de Navier-Stokes