Resumo:
O cientista-chefe da OpenAI, Jakub Pachocki, propõe que as empresas de inteligência artificial concordem em estabelecer limites para o desenvolvimento de modelos cada vez mais poderosos até que os pesquisadores tenham melhores maneiras de compreender e monitorar o comportamento desses modelos. Pachocki apelou a normas para toda a indústria que estabeleçam limites para o desenvolvimento da IA, e as empresas devem concordar em não ultrapassar esses limites até que requisitos de segurança específicos sejam cumpridos.

"Proponho ainda que limites comuns sejam definidos com base na perplexidade e outras medidas, com os desenvolvedores se comprometendo a não violar esses limites até que nossa capacidade de compreender e monitorar o comportamento da IA atinja um marco específico", escreveu Pachocki. Os limites propostos por Pachocki poderiam basear-se, em parte, numa métrica técnica chamada perplexidade, que mede a capacidade de um modelo de IA prever o próximo texto. Pachocki não disse em que nível os limites iniciais deveriam ser estabelecidos ou quando seriam implementados.
Pachocki alertou que já em 2027, a IA poderá acelerar a sua própria evolução mais rapidamente do que os investigadores conseguirem melhorar a sua capacidade de monitorizar e compreender a tecnologia.
O CEO da OpenAI, Altman, expressou apoio à proposta, chamando o artigo de Pachocki de "o conteúdo mais importante que a OpenAI lançou em algum tempo". Em uma postagem no X, ele disse que concordar com limites compartilhados ajudaria a garantir “segurança e controle”.
Comentários