Resumo:
O debate sobre se a inteligência artificial de ponta deveria desacelerar proativamente o seu desenvolvimento esquentou rapidamente nos últimos dias. O CEO da Anthropic, Dario Amodei, apelou publicamente a toda a indústria de IA para desacelerar o ritmo dos recursos de modelos avançados, e o CEO da OpenAI, Sam Altman, e o CEO da xAI, Elon Musk, posteriormente expressaram apoio.
No entanto, David Sacks, um investidor americano em tecnologia e presidente do Comitê Consultivo de Ciência e Tecnologia do Presidente, criticou duramente esta iniciativa, acreditando que se a OpenAI e a Antthropic realmente acreditarem que a velocidade atual do desenvolvimento da IA é perigosa o suficiente para precisar aplicar os freios, então elas podem desacelerar a pesquisa e o desenvolvimento por conta própria, e não devem impor a coordenação da indústria, isenções antitruste ou mecanismos de aprovação governamental como condições adicionais.
Amodei publicou anteriormente um artigo alertando que as capacidades de IA de ponta estão se aproximando rapidamente de um estágio que pode criar grandes riscos de segurança. Ele acredita que se o modelo continuar a desenvolver-se à velocidade actual e o mecanismo de segurança não conseguir acompanhar, nos próximos 6 a 12 meses, os clusters de agentes de IA poderão até ter a capacidade de controlar a Internet em grande escala e ser utilizados para lançar ataques cibernéticos ou causar outros danos graves.
Amodei propôs um conjunto de planos chamado "desaceleração da IA de ponta", que inclui permitir que agências independentes de avaliação de segurança se aprofundem nas empresas de IA para verificar continuamente a segurança do modelo com autoridade próxima aos funcionários da empresa; permitir que os principais laboratórios de IA coordenem os padrões de segurança para evitar que as empresas reduzam constantemente os limites de segurança devido à pressão competitiva; ao mesmo tempo que promove uma cooperação mais estreita entre os Estados Unidos e os seus aliados e, em última análise, discute questões de segurança da IA com outros países, incluindo a China.
Esta iniciativa rapidamente ganhou o apoio da OpenAI. Altman disse concordar com a visão de Amodei de que a indústria de IA precisa desacelerar o desenvolvimento de modelos de ponta e disse que esta questão se tornou um tópico importante de discussão recente dentro da OpenAI. Musk também expressou publicamente sua aprovação. Num curto período de tempo, várias das empresas de IA mais importantes do mundo chegaram a um raro consenso sobre a questão da “desaceleração apropriada”.
Mas Sacks acredita que há um problema lógico óbvio aqui.
De acordo com o seu ponto de vista, se Amodei e Altman realmente acreditam que o modelo de IA da próxima geração apresenta sérios riscos que devem ser desacelerados, então as duas empresas não precisam esperar pela aprovação do governo, nem precisam convencer os concorrentes, nem precisam de um novo quadro jurídico. Sendo as empresas de desenvolvimento de IA mais avançadas atualmente, elas podem reduzir diretamente sua P&D e velocidade de implantação.
Sacks chegou a sugerir que se essas empresas realmente acreditam que alguns sistemas de IA são perigosos o suficiente para ameaçar os seres humanos, então a "maneira mais fácil" é não continuar a desenvolver ou lançar esses sistemas. Ele acredita que, em vez de pedir ao governo que estabeleça um novo sistema regulatório, é melhor permitir que as empresas que realmente dominam as capacidades de investigação e desenvolvimento de IA de ponta tomem medidas por conta própria.
O que Sacks realmente objeta é a parte do plano da Amodei que envolve coordenação da indústria e arranjos regulatórios. Ele alertou que se concorrentes como a OpenAI e a Anthropic obtiverem isenções antitruste por meio do governo e depois decidirem em conjunto a que velocidade toda a indústria deve desenvolver a IA, o acordo pode na verdade evoluir para um “cartel”.
Na opinião de Sacks, permitir que várias das principais empresas de IA definam em conjunto o ritmo de desenvolvimento da IA de ponta pode produzir resultados completamente diferentes dos objetivos de segurança. Os gigantes existentes podem não só limitar a concorrência através deste mecanismo, mas também podem utilizar o sistema regulamentar para aumentar o limiar para os retardatários entrarem no mercado, consolidando assim ainda mais a sua posição de liderança.
Este é também o cerne da crítica de Sacks: ele não se opõe simplesmente à desaceleração da indústria de IA, mas acredita que se as empresas estão realmente dispostas a desacelerar, deveriam fazê-lo elas mesmas, em vez de pedir ao governo que forneça algum tipo de proteção legal em troca.
Sacks também se opõe ao estabelecimento de um sistema de aprovação prévia semelhante ao "AI Food and Drug Administration". Na sua opinião, não há necessidade de as agências governamentais aprovarem estes produtos um por um antes de os modelos avançados de IA serem oficialmente lançados. Em vez de estabelecer um novo mecanismo de licenciamento prévio, é melhor confiar no sistema existente de responsabilidade dos produtos para permitir que as empresas de IA assumam a responsabilidade legal pelos seus produtos e pelas suas consequências.
Por exemplo, se um modelo de IA for usado para lançar um ataque cibernético grave ou causar diretamente grandes danos devido às suas próprias falhas, a empresa de desenvolvimento do modelo deverá arcar com a responsabilidade correspondente pelo produto. Sacks acredita que esta potencial consequência jurídica e económica pode, por si só, tornar-se um importante constrangimento para as empresas de IA controlarem os riscos.
Ele também acredita que o mercado de capitais também tem um efeito restritivo. Se os produtos de uma determinada empresa de IA enfrentam frequentemente problemas de segurança, comportamento imprevisível ou acidentes graves, a sua reputação corporativa, a confiança do cliente e a avaliação de mercado podem ser diretamente afetadas. Portanto, não há necessidade de estabelecer um sistema especial de aprovação para a indústria de IA que seja completamente independente do sistema jurídico existente.
Ao mesmo tempo, Sacks também questionou a independência de alguns mecanismos de avaliação de segurança de IA. Ele mencionou especificamente a agência de avaliação de segurança utilizada pela Anthropic e acredita que se houver uma relação de investimento, relação pessoal ou outra relação de interesse entre a agência de avaliação e o empreendimento que está sendo avaliado, então se essa avaliação é verdadeiramente independente merece uma discussão mais aprofundada.
Essa polêmica ocorreu em um momento muito delicado. Nos últimos meses, as preocupações com os riscos de segurança na indústria de IA aumentaram significativamente. A Anthropic divulgou recentemente uma série de incidentes relacionados ao abuso do sistema de IA, capacidades de ataque à rede e proteção de segurança. Os pesquisadores da empresa também expressaram publicamente preocupações sobre a velocidade do desenvolvimento da IA.
Entre eles, um pesquisador da Antrópico alertou publicamente, quando renunciou recentemente, que a indústria de IA está avançando tecnologias que podem ser extremamente arriscadas em um ritmo excessivamente rápido. Outros pesquisadores de segurança da Anthropic também expressaram sérias preocupações sobre o risco de a IA ficar fora de controle no futuro.
Portanto, o apelo público da Amodei à desaceleração não é uma declaração política isolada, mas o resultado de uma nova escalada de todo o debate sobre a segurança da IA.
No entanto, mesmo que as empresas estejam realmente dispostas a abrandar, a operação real é muito mais complicada do que parece. OpenAI, Anthropic, Google DeepMind, xAI e outras empresas de IA estão competindo ferozmente. Se alguma empresa abrandar unilateralmente a I&D, poderá recear que os seus concorrentes aproveitem a oportunidade para acelerar e obter vantagens em capacidades de modelo, quota de mercado e mercados de capitais.
Na verdade, isso constitui um típico “dilema do prisioneiro”: se todas as empresas de IA desacelerarem ao mesmo tempo, toda a indústria poderá ganhar mais tempo para melhorar as medidas de segurança; mas se apenas uma empresa desacelerar enquanto os concorrentes continuam a avançar, então a empresa que desacelera ativamente poderá sofrer perdas comerciais e técnicas.
É por isso que a OpenAI já começou a prestar atenção se a coordenação da indústria violará as leis antitruste dos EUA. Segundo relatos, a OpenAI buscou opiniões claras dos legisladores dos EUA sobre se a coordenação da indústria para desacelerar o desenvolvimento da IA é legal. Porque se várias empresas concorrentes decidirem em conjunto abrandar o desenvolvimento de modelos de ponta, esta coordenação por si só poderá desencadear questões jurídicas antitrust.
Como resultado, surge uma questão muito espinhosa: para melhorar a segurança da IA, as empresas deveriam permitir a coordenação entre concorrentes que normalmente é restringida pelas leis antitruste?
Os defensores acreditam que se cada empresa de IA souber que desacelerar por si só levará a desvantagens competitivas, então somente através de algum tipo de coordenação em nível industrial todas as empresas poderão realmente pisar no freio ao mesmo tempo.
Sacks acredita que este pode ser um motivo para grandes empresas de IA usarem questões de segurança para buscar tratamento regulatório especial. Ele teme que, uma vez que o governo permita que várias empresas líderes se coordenem através de isenções antitrust, este mecanismo possa eventualmente evoluir de “coordenação de segurança” para uma ferramenta para restringir a concorrência no mercado.
Ao mesmo tempo, há uma clara diferença entre a atitude do governo dos EUA em relação à desaceleração da IA e as reivindicações destas empresas tecnológicas. O Presidente dos EUA, Trump, declarou recentemente publicamente que, embora acredite que a IA pode estabelecer certas "protecções", não quer que os Estados Unidos abrandem o seu desenvolvimento devido a preocupações excessivas com os riscos. Ele enfatizou que os Estados Unidos estão atualmente liderando a China no campo da IA e "quem vencer a IA ganhará o futuro". Portanto, os Estados Unidos não podem desistir facilmente da sua liderança tecnológica.
Isso também vincula diretamente as questões de segurança da IA com a concorrência tecnológica sino-americana.
O próprio Amodei também admitiu que se os Estados Unidos retardarem unilateralmente significativamente o desenvolvimento da IA enquanto a China e outros países continuarem a acelerar, os Estados Unidos poderão perder a sua vantagem tecnológica. Portanto, o que ele propõe não é pedir às empresas americanas que parem indefinidamente a investigação e o desenvolvimento da IA, mas esperar que os principais países e empresas possam formar algum tipo de mecanismo de coordenação para ganhar tempo para medidas de segurança, mantendo ao mesmo tempo vantagens competitivas.
O problema é que actualmente não existe nenhum mecanismo que garanta que todos os países irão abrandar simultaneamente.
Esta também se tornou uma das razões mais importantes para aqueles que se opõem à desaceleração em grande escala da indústria. Se a IA se tornou uma parte importante da competição estratégica nacional, é difícil para qualquer uma das partes acreditar que os concorrentes irão parar voluntariamente e esperar que eles próprios melhorem os seus sistemas de segurança.
Portanto, o debate entre Sacks, OpenAI e Anthropic foi, na verdade, muito além da simples questão técnica de "quão rápido a IA deve desenvolver-se" e envolve uma escolha de política industrial mais complexa: se as empresas devem decidir a velocidade de desenvolvimento da IA de ponta, ou se o governo deve participar na formulação de regras unificadas; se a coordenação de segurança deve ser considerada uma cooperação legítima da indústria ou se pode evoluir para um cartel que restringe a concorrência; se os acidentes de IA devem ser evitados através de regulamentação ex-ante, ou se as empresas devem suportar os custos pós-evento através da responsabilidade pelo produto.
No momento, parece que Sacks não se opõe a que a OpenAI e a Anthropic tomem a iniciativa de desacelerar. Se as duas empresas realmente acreditam que os riscos da IA de ponta são suficientemente graves para abrandar a sua investigação e desenvolvimento, ele até deixou claro que pode apoiá-las nesse sentido.
Mas as condições dele também eram claras: se você acha que deveria desacelerar, desacelere você mesmo e não troque isso por aprovação governamental, isenções antitruste ou proteções regulatórias especiais.
O resultado real deste debate pode depender, em última análise, do que a OpenAI e a Anthropic fizerem a seguir. Se realmente tomarem a iniciativa de abrandar o desenvolvimento de modelos de ponta sem receber tratamento jurídico especial, então é mais provável que "desacelerar a IA" seja considerado uma verdadeira acção de segurança; se o que acabar por se formar for um sistema regulamentar em que algumas empresas líderes formulam regras em conjunto, restringindo ao mesmo tempo a entrada de retardatários, então as preocupações de Sacks sobre a "captura regulamentar" e os "cartéis" receberão mais atenção.
À medida que as capacidades do modelo de IA continuam a melhorar rapidamente, o debate sobre “aceleração ou desaceleração” obviamente não terminará tão cedo. É provável que se torne uma das principais contradições na política de IA dos EUA e global nos próximos anos.
Comentários