Resumo:
O debate na indústria da inteligência artificial sobre "se a velocidade de desenvolvimento deve ser abrandada" está a aquecer rapidamente e a China foi empurrada para o centro desta discussão. O CEO da Anthropic, Dario Amodei, declarou recentemente publicamente que se o mundo tentar estabelecer um limite de velocidade para o desenvolvimento da inteligência artificial, o maior problema prático não será a tecnologia em si, mas como lidar com a possibilidade de concorrentes como a China continuarem a acelerar.
Amodei fez a declaração acima em entrevista à mídia. Não muito tempo atrás, ele tinha acabado de publicar um longo artigo que atraiu a atenção generalizada, apelando à indústria da inteligência artificial para abrandar proactivamente a velocidade de melhoria das capacidades dos modelos de ponta para ganhar mais tempo para investigação de segurança, quadros de governação e controlo de riscos. Ele acredita que o progresso dos modelos de grande escala nos últimos anos excedeu significativamente as expectativas de muitas pessoas, especialmente após o surgimento da tendência da inteligência artificial participar na investigação e desenvolvimento da inteligência artificial, e a melhoria das capacidades técnicas está a acelerar.
No entanto, ao falar sobre a viabilidade prática desta ideia, Amodei admitiu que a China é o “dilema mais difícil” enfrentado por todo o plano. Ele disse que se apenas alguns países ou empresas optarem por abrandar enquanto outros países continuam a acelerar, então a parte que desacelera activamente pode estar em desvantagem em termos de concorrência tecnológica, interesses económicos e até vantagens militares.
Amodei acredita que, a longo prazo, a comunidade internacional deve tentar cooperar para estabelecer algum tipo de "mecanismo de limitação de velocidade" para o desenvolvimento da inteligência artificial, a fim de evitar a concorrência desordenada e promover capacidades tecnológicas para romper rapidamente a fronteira de segurança. Mas ele também disse que tal cooperação é extremamente difícil porque os benefícios estratégicos de ser o primeiro a adquirir capacidades avançadas de inteligência artificial são enormes. Admite que nem sequer tem a certeza se essa coordenação global pode realmente ser alcançada, mas ainda acredita que é necessário trabalhar nesse sentido.
Esta declaração surge num momento em que as questões de segurança da inteligência artificial têm recebido atenção contínua. Recentemente, vários investigadores da Anthropic e da OpenAI expressaram publicamente preocupações de que a velocidade de desenvolvimento de sistemas de inteligência artificial esteja a ultrapassar o progresso da investigação em segurança. Alguns investigadores alertaram mesmo que o risco de perda grave de controlo nos próximos anos pode ser superior ao geralmente reconhecido pelo público.
Antes de Amodei emitir seu apelo à desaceleração, o pesquisador da Antrópico Jacob Coxon já havia anunciado sua saída e criticado publicamente a atual trajetória de desenvolvimento da indústria de IA. Ele acredita que os principais laboratórios de IA estão assumindo riscos demasiado elevados e que esse risco pode afetar toda a sociedade humana.
Ao mesmo tempo, a velocidade de desenvolvimento da indústria de inteligência artificial da China nos últimos anos também atraiu grande atenção da indústria de tecnologia dos EUA. Nos últimos meses, novos modelos lançados por uma série de empresas chinesas de inteligência artificial continuaram a diminuir a distância em relação aos principais produtos americanos, intensificando ainda mais as discussões em Silicon Valley sobre as mudanças no cenário competitivo global da IA.
Ao mesmo tempo que Amodei falava, os líderes chineses apelaram ao estabelecimento de um quadro de governação global da inteligência artificial baseado no consenso na cimeira do BRICS e apoiaram a construção de um sistema de cooperação de código aberto para a inteligência artificial. Isto expandiu gradualmente a questão da governação da inteligência artificial do campo da ciência e tecnologia para o nível da política e diplomacia internacionais.
Os analistas apontaram que a indústria da inteligência artificial enfrenta atualmente uma contradição sem precedentes. Por um lado, cada vez mais empresas e investigadores apelam ao reforço da supervisão e ao abrandamento da expansão de capacidades de ponta; por outro lado, os países não estão dispostos a ficar atrás dos seus concorrentes nesta corrida tecnológica que é considerada de importância estratégica.
Ao mesmo tempo, duas das principais empresas de inteligência artificial dos Estados Unidos, a Anthropic e a OpenAI, estão em fase de preparação para listagem. À medida que a atenção dos mercados de capitais, da regulamentação governamental e da opinião pública continua a aumentar, espera-se que o debate sobre se a inteligência artificial deve continuar a avançar a toda velocidade ou abrandar proativamente se intensifique ainda mais nos próximos meses.
Para Amodei, o cerne do problema não é apenas se a tecnologia pode tornar-se mais forte, mas se a sociedade humana pode estabelecer regras correspondentes a uma velocidade suficientemente rápida quando a tecnologia continua a tornar-se mais forte. Entre todos os desafios práticos, ele acredita que como lidar com a concorrência relacionada com a China ainda é o mais complexo e difícil de responder nesta discussão global sobre governação da inteligência artificial.
Artigos relacionados:
Anthropic acusa diversas empresas chinesas de IA de destilação em grande escala. Alibaba, Dark Side of the Moon e DeepSeek são acusados de dezenas de milhões de interações
Comentários