Resumo:
A OpenAI anunciou recentemente o estabelecimento de um grupo consultivo independente composto por matemáticos de ponta para aconselhar a OpenAI e outras empresas de IA sobre a relação entre inteligência artificial e pesquisa matemática. A nova organização, denominada Grupo Consultivo em Matemática e Inteligência Artificial (AGMAI), concentrar-se-á na forma como os resultados matemáticos produzidos pela IA devem ser revistos, publicados e divulgados, e como as empresas de IA devem seguir normas académicas e profissionais de longa data no campo da investigação matemática.
Essa mudança ocorreu depois que a OpenAI anunciou recentemente uma série de resultados matemáticos importantes. Nos últimos meses, os modelos de IA da OpenAI fizeram uma série de desenvolvimentos atraentes no campo da matemática. No entanto, a forma como os resultados relevantes são publicados e as questões de citação e atribuição da investigação matemática existente também desencadearam uma controvérsia generalizada na comunidade matemática. Alguns matemáticos questionam se a OpenAI compreende perfeitamente como funciona a investigação matemática e se as empresas de IA respeitam as normas de atribuição, prioridade e comunicação académica há muito estabelecidas na comunidade matemática.
AGMAI tem um total de nove membros, que vêm da Universidade de Stanford, Universidade de Harvard, Universidade de Oxford, Universidade de Cambridge e outras instituições, incluindo muitos estudiosos de destaque na área de matemática e vencedores da Medalha Fields e da "bolsa de gênio" MacArthur. A organização será sediada pelo Instituto de Estudos Avançados em Princeton, Nova Jersey, EUA. Já foi local de pesquisa de cientistas famosos como Albert Einstein, John von Neumann e J. Robert Oppenheimer. É também uma das instituições acadêmicas mais influentes no campo da pesquisa em matemática moderna.
A OpenAI declarou que esta organização permanecerá independente e terá o poder de fornecer sugestões proativamente à OpenAI, mesmo que as sugestões relevantes não sejam propostas proativamente pela OpenAI. O grupo consultivo também pode discutir abertamente o impacto da IA no campo da matemática e decidir, a seu próprio critério, se torna públicas as suas recomendações. A OpenAI afirmou que os membros do grupo consultivo não receberão remuneração da OpenAI e podem ajustar eles próprios a composição dos membros.
De acordo com a OpenAI, o grupo consultivo ajudará a empresa a determinar o quão significativos são os novos resultados matemáticos gerados pela IA e fornecerá opiniões sobre como coordenar a divulgação desses resultados e como cumprir as normas acadêmicas e profissionais para pesquisa matemática. Além disso, o grupo discutirá como as ferramentas de IA da OpenAI podem apoiar melhor a investigação matemática e a educação matemática.
A OpenAI enfatiza que o valor real desta organização depende de os membros serem capazes de fazer julgamentos independentes e questionar a empresa. Por outras palavras, o grupo consultivo não apenas endossa os resultados da investigação da OpenAI, mas espera fornecer opiniões independentes da comunidade matemática antes de os resultados serem divulgados.
No entanto, após o anúncio deste acordo, ainda existem muitas dúvidas na comunidade matemática. A primeira é como exatamente esses nove membros foram selecionados. Simon Machado, investigador do Instituto Federal Suíço de Tecnologia de Zurique, acredita que ainda existem muitos aspectos opacos em todo o processo. De acordo com a introdução no site oficial da AGMAI, a OpenAI inicialmente contatou alguns matemáticos na esperança de estabelecer um comitê consultivo externo; após discussões com a OpenAI, esses matemáticos finalmente decidiram estabelecer uma organização independente e convidaram outros membros para aderir. Mas quem foi inicialmente contactado pela OpenAI e como os restantes membros foram identificados não foi totalmente divulgado.
Martin Hairer, membro do grupo consultivo, publicou posteriormente um artigo para explicar o grande número de dúvidas que cercam o processo de formação desta organização. Ele disse que a inteligência artificial teve um impacto profundo na investigação matemática e trouxe uma série de questões como atribuição de resultados, prioridades de investigação e se os humanos realmente compreendem as ideias matemáticas geradas pela IA. Portanto, seria irrealista para a comunidade matemática adotar uma abordagem completamente sem contacto com os laboratórios de IA e simplesmente ignorar estas empresas.
Hairer enfatizou particularmente que, embora o estabelecimento do grupo consultivo tenha resultado do contato com a OpenAI, nem todos os nove membros foram contatados diretamente pela OpenAI, e a organização finalmente estabelecida era independente da OpenAI e de outras empresas de IA de ponta. Além dos requisitos normais de confidencialidade, os membros não assinam acordos que restrinjam a sua expressão pública de opiniões e não recebem qualquer compensação financeira da OpenAI. A organização depende principalmente do Instituto de Estudos Avançados de Princeton para suporte técnico e organizacional.
Hairer disse que o objetivo mais importante do grupo consultivo é representar, tanto quanto possível, os interesses de toda a comunidade matemática. Ele também reconheceu que é obviamente impossível que nove matemáticos sejam representantes completos de toda a comunidade matemática, mas acreditava que todos os membros levavam esta responsabilidade muito a sério e participariam com boa fé e julgamento independente.
O pequeno tamanho do painel consultivo também levanta outro nível de preocupação. A matemática moderna tornou-se altamente especializada e muitas vezes existem barreiras de conhecimento muito óbvias entre os diferentes campos. Mesmo os melhores matemáticos do mundo podem não ser capazes de avaliar os resultados da IA noutro campo altamente especializado. Portanto, alguns matemáticos estão preocupados se apenas nove estudiosos de ponta conseguirão cobrir todo o campo de pesquisa matemática que a IA pode envolver.
Francesco Fournier-Facio, novo professor de matemática na Universidade Heriot-Watt, na Escócia, disse que tem uma atitude mista em relação ao grupo consultivo. Por um lado, ele acredita que permitir que as empresas de IA se comuniquem mais com os matemáticos obviamente ajudará a melhorar o status quo; por outro lado, ele também questiona se esta organização composta por um pequeno número de académicos de topo pode realmente representar o vasto número de investigadores matemáticos que estão a ser afectados pelo rápido desenvolvimento da IA. Ele acredita que a organização atualmente se parece mais com uma “torre de marfim” composta por importantes figuras acadêmicas.
Se o grupo consultivo conseguirá ganhar a confiança da comunidade matemática no futuro dependerá em grande parte do impacto real que ele poderá ter na OpenAI. É particularmente importante notar que quando a OpenAI anunciou a criação de um grupo consultivo, também revelou uma notícia surpreendente: um novo modelo que a empresa está a desenvolver e que ainda não foi lançado oficialmente, que anteriormente se afirmava ter resolvido o problema do Prémio Navier-Stokes Millennium, já resolveu mais de 100 problemas matemáticos não resolvidos de longo prazo, e estes problemas estão distribuídos num grande número de diferentes campos da matemática.
A OpenAI anunciou anteriormente que o modelo está desafiando outro problema do Prêmio Milênio. À medida que os modelos de IA continuam a produzir novos resultados matemáticos, como rever, verificar, organizar e publicar um grande número de resultados de investigação num curto período de tempo tornou-se um problema real. AGMAI declarou em seu site oficial que uma das primeiras tarefas que enfrenta atualmente é ajudar a OpenAI a coordenar o lançamento de um grande número de resultados matemáticos importantes gerados por modelos internos de IA.
Isso também explica por que esse grupo consultivo foi criado nessa época. Nos últimos meses, os avanços contínuos da OpenAI no campo da matemática deveriam ter sido uma demonstração importante da melhoria das capacidades de inteligência artificial, mas eventos relacionados foram acompanhados por uma série de controvérsias. Alguns matemáticos acreditam que quando a OpenAI anunciou os seus resultados, não explicou completamente a contribuição da investigação humana anterior para os resultados da IA, e nem sempre tratou as questões de citação e prioridade de uma forma familiar à comunidade matemática. Alguns pesquisadores até acusaram a OpenAI de fazer uso dos resultados de suas pesquisas sem lhes dar o devido crédito.
Essas controvérsias levaram alguns matemáticos a questionar se a OpenAI realmente entende como a comunidade de pesquisa matemática funciona.
Kevin Buzzard, professor de matemática do Imperial College London, perguntou: Como tem havido muita discussão pública na comunidade matemática nos últimos meses, as demandas dos matemáticos para que a IA participe da pesquisa matemática foram claramente expressas, então por que a OpenAI precisa de um comitê composto pelos melhores matemáticos do mundo para entender essas questões? Na sua opinião, o problema não é que a comunidade matemática não tenha pessoas que possam resolver teoremas difíceis, mas que as empresas de IA precisam de compreender melhor a disciplina da matemática e as regras da própria comunidade de investigação matemática.
A AGMAI está atualmente coletando contribuições da comunidade matemática, inclusive por meio de intercâmbios com outros matemáticos, formulários de feedback público e em plataformas de discussão como Provas e Prompts. Estas plataformas tornaram-se recentemente locais importantes para discutir o impacto da inteligência artificial na comunidade matemática.
Ao mesmo tempo, os problemas enfrentados pela OpenAI vão muito além de apenas publicar alguns artigos. À medida que a IA começa a produzir de forma independente resultados matemáticos que não foram resolvidos há muito tempo, as questões mais básicas da investigação matemática, tais como "quem descobriu o quê primeiro", "quem deve obter a assinatura" e "que investigação humana forneceu a base para os resultados finais", todas precisam de ser redefinidas.
Esta é também uma mudança fundamental provocada pela atual entrada da IA no campo da investigação matemática. A pesquisa matemática tradicional geralmente depende de pesquisadores que publicam artigos publicamente, citando trabalhos anteriores, revisão por pares e desenvolvendo constantemente os resultados existentes. A IA pode ler e processar grandes quantidades de conhecimento existente num tempo muito curto e gerar novas derivações matemáticas. Quando os humanos não conseguem traçar completamente os caminhos pelos quais a IA obtém um resultado, os métodos tradicionais de atribuição de resultados e de julgamento de prioridades tornam-se mais complicados.
A recente controvérsia em torno da solução da OpenAI para o problema Navier-Stokes destacou particularmente esta questão. A OpenAI investigou a controvérsia relevante e afirmou que é improvável que uma palavra enviada por um matemático usando o Codex afete a solução final do sistema para o problema. No entanto, tais incidentes ainda preocupam alguns matemáticos. No futuro, poderá tornar-se cada vez mais difícil determinar com precisão em que tipo de investigação humana se baseia um resultado matemático produzido pela IA.
Hairer, membro da AGMAI, também admitiu que o grupo consultivo deve ter cuidado com o fato de que as empresas de IA podem interpretar ou usar as opiniões do grupo consultivo de acordo com suas próprias necessidades de relações públicas. No entanto, ele acredita que depois que a IA inevitavelmente entrou na pesquisa matemática, recusar completamente a comunicação com as empresas de IA não resolverá o problema. Em vez de isolar a comunidade matemática da indústria de IA, deveríamos tentar estabelecer um conjunto de regras básicas que ambos os lados possam aceitar.
Para a OpenAI, a criação deste grupo consultivo também significa que a empresa enfrenta uma realidade com a qual não estava familiarizada antes: a inteligência artificial transformou-se gradualmente de uma ferramenta auxiliar para a investigação matemática num participante da investigação que pode produzir diretamente novos resultados matemáticos, e a comunidade matemática tradicional não estabeleceu regras prontas para esta mudança.
No futuro, a AGMAI poderá ter de resolver não só quando e como o próximo lote de resultados matemáticos da OpenAI deverá ser divulgado, mas também como os resultados matemáticos gerados pela IA deverão ser assinados, como citar a investigação humana, como confirmar a independência dos resultados e que tipo de relação cooperativa deverá ser estabelecida entre matemáticos e sistemas de IA. Com a OpenAI alegando que seu novo modelo resolveu mais de 100 problemas matemáticos não resolvidos de longa data, esses problemas estão rapidamente passando de discussões teóricas para problemas da vida real que devem ser enfrentados.
Comentários