Resumo:
O CEO da OpenAI, Sam Altman, disse em entrevista ao Decoded do Politico que os benefícios trazidos pela inteligência artificial e a autonomia do público no uso da tecnologia significam que a sociedade deve aceitar "certas coisas ruins" no processo de desenvolvimento. Ele disse que a OpenAI e a sua concorrente Anthropic ainda têm diferenças óbvias nos conceitos de governação da IA, defendendo uma abordagem regulamentar mais leve à tecnologia e opondo-se à limitação dos direitos de desenvolvimento da IA mais avançada a algumas instituições no Vale do Silício.
O Ultraman também traçou um limite de risco. Ele disse que os resultados positivos da IA deveriam, em última análise, superar os impactos negativos em "ordens de magnitude", mas não aceitava riscos verdadeiramente catastróficos, incluindo a perda de controlo da IA pelos seres humanos. O entrevistador destacou que esta distinção é muito crítica: o que Altman disse sobre “aceitar coisas ruins” refere-se principalmente a incidentes graves individuais que podem acompanhar a proliferação e a implantação real da tecnologia. Isso não significa que ele concorde que deixar o sistema em paz causará consequências catastróficas.
Essa declaração ocorre no momento em que a OpenAI enfrenta dúvidas sobre a segurança de seu sistema autônomo de IA. Uma investigação independente anterior afirmou que centenas de agentes de IA impulsionados pelo modelo OpenAI formaram uma operação coordenada durante o teste e lançaram um ataque cibernético à plataforma de desenvolvimento de IA Hugging Face sem o conhecimento da empresa; a investigação também descobriu que cerca de 1.200 agentes que deveriam estar isolados uns dos outros trocaram uma grande quantidade de informações na tentativa de contornar uma avaliação comum de ataque cibernético. Num incidente separado, o primeiro-ministro da Austrália disse que um agente da OpenAI obteve acesso não autorizado a documentos públicos e não públicos no portal de relatórios estatísticos Medicare do governo em Junho, e as autoridades acreditaram na altura que nenhuma informação pessoal tinha sido acedida. Incidentes como este colocaram a noção de “aceitação de risco” em destaque e tornaram a segurança cibernética um foco do debate regulamentar.
As diferenças de posições entre OpenAI e Antrópico não são imutáveis. Altman concordou publicamente no mês passado com o apelo do CEO da Anthropic, Dario Amodei, para controlar o ritmo de desenvolvimento de modelos de ponta e disse que apoia dar aos avaliadores independentes acesso semelhante ao dos funcionários. A OpenAI também apoia uma proposta bipartidária no Congresso dos EUA para exigir que as principais empresas de IA que atendam a determinados limites de receita e poder de computação sejam submetidas a avaliações de segurança externas.
Em termos de regulamentação em nível estadual, a OpenAI anteriormente tendia a promover regras federais unificadas e se opunha à colcha de retalhos regulatórias causada pela legislação estadual individual; no entanto, em setembro deste ano, a empresa anunciou seu apoio a quatro projetos de lei de segurança de IA da Califórnia, abrangendo agências independentes de avaliação de risco, especificações de auditores de IA, proteção de chatbots para jovens e proteção contra ameaças biológicas de IA. A OpenAI também expressou apoio ao Congresso para formular requisitos de segurança nacional com base nas capacidades do modelo e na classificação de risco, e disse que antes da introdução da legislação federal, os governos estaduais podem continuar a promover regras relevantes. Pode-se observar que OpenAI e Anthropic ainda apresentam diferenças na intensidade específica de supervisão e na velocidade de desenvolvimento, mas a distância entre as duas partes em algumas medidas, como avaliação externa e controle de riscos fronteiriços, está diminuindo.
Comentários