Resumo:
A tentativa da administração Trump de garantir a segurança da inteligência artificial (IA) através de responsabilidade legal preparou o terreno para futuras disputas sobre quem deve arcar com as perdas quando um modelo de IA fica fora de controle: as empresas que desenvolvem esses sistemas ou os usuários que implantam tecnologias relacionadas.
A abordagem de exigir que os desenvolvedores de IA assumam a responsabilidade financeira pela segurança de seus produtos tem o apoio do secretário do Tesouro dos EUA, Scott Bessant, e do ex-chefe de IA da Casa Branca, David Sacks. Os dois argumentam que as leis de responsabilidade existentes são mais eficazes do que a introdução de novas regras regulamentares. Embora se oponha às novas medidas regulamentares de segurança da IA, o presidente dos EUA, Donald Trump, afirmou ainda que se um modelo de IA se comportar fora de controlo, o Departamento de Justiça deverá intervir.
Como o mais recente sinal de que o governo está cada vez mais disposto a usar as leis existentes para resolver problemas de segurança de IA, o recém-criado grupo de trabalho de IA de Trump alertou as empresas de desenvolvimento na noite de sexta-feira que elas devem relatar e resolver incidentes de segurança ou correrão o risco de enfrentar consequências.
Depois que a Anthropic PBC divulgou um incidente de segurança, um grupo de trabalho conhecido como "Força de Super Inteligência" emitiu um comunicado dizendo: "As empresas devem divulgar imediatamente os incidentes envolvendo seus modelos e agir de forma rápida e decisiva para remediar qualquer dano. Divulgações atrasadas, ações corretivas insuficientes e recusa em aceitar responsabilidade não serão toleradas."
No entanto, a abordagem da administração Trump de tornar a responsabilização um pilar da segurança da IA ainda enfrenta muitas incertezas. Especialistas jurídicos dizem que as leis existentes de segurança cibernética e responsabilidade de produtos podem não ser suficientes para apoiar a responsabilização federal pelos danos causados por agentes de IA.
Mesmo que a vítima seja clara, existem poucos precedentes legais que podem definir quem deve ser responsável pelos danos causados por um agente de IA fora de controle e que tipo de dever de cuidado as empresas precisam assumir ao desenvolver ferramentas de IA. Para complicar ainda mais a situação, o comportamento do modelo é afetado tanto pelo desenvolvedor quanto pelo usuário final que implanta o sistema.
Ben Hayum, pesquisador associado com foco em pesquisa de tecnologia e segurança nacional no Center for a New American Security, disse: "Apesar dos apelos contínuos por clareza sobre responsabilidade, ainda não está resolvido se as empresas de IA têm a obrigação legal de garantir que os modelos não causam danos, e se os usuários devem assumir a responsabilidade legal pelas instruções que dão aos modelos."
À medida que as empresas aceleram a adoção da tecnologia de IA, as discussões sobre responsabilidade tornam-se mais urgentes. As instituições financeiras, retalhistas e companhias aéreas de Wall Street estão a aplicar agentes de IA numa gama cada vez mais ampla de cenários de negócios, tais como atendimento ao cliente e processamento de faturas. O resultado deste debate pode afetar a popularidade da IA e os planos futuros da OpenAI e da Anthropic, dois líderes da indústria, para entrar no mercado de capitais.
Ao usar agentes de IA, os usuários finais geralmente explicam apenas os objetivos da tarefa, mas não especificam detalhadamente o método de execução. Isso possibilita que os agentes de IA tomem decisões que não foram revisadas pelo usuário, ou até mesmo tomem ações prejudiciais. Neste caso, ainda não está claro se a responsabilidade deve ser do desenvolvedor ou do usuário.
O esforço da administração Trump para a responsabilização é consistente com a sua posição geral em relação a uma regulamentação mais flexível da IA. O desenvolvimento da inteligência artificial tem sido uma parte importante da agenda económica de Trump. Depois de se reunir com cerca de duas dúzias de líderes tecnológicos do Vale do Silício na Casa Branca na semana passada, Trump mais uma vez expressou sua esperança de que a indústria de IA dependa principalmente da autorregulação e, ao mesmo tempo, lance um acordo industrial não vinculativo do ponto de vista jurídico para encorajar as empresas a fortalecer os controles de segurança interna.
Ao mesmo tempo, a declaração de sexta-feira sobre a divulgação obrigatória da questão do modelo mostrou que a Casa Branca está disposta a utilizar esta equipa de IA recém-formada para fazer cumprir as leis existentes. A equipe é liderada pelo Diretor de Inteligência Nacional Jay Clayton.
Com o surgimento de uma série de incidentes de segurança preocupantes e a ampla circulação do artigo do CEO da Anthropic, Dario Amodei, alertando sobre os riscos catastróficos da IA, a discussão sobre como reduzir os riscos da IA continua a esquentar.
Para Trump e seus aliados, a ameaça de ações judiciais tem como objetivo pressionar empresas como a OpenAI e a Anthropic a garantir que seus sistemas operem com segurança. “A melhor maneira de garantir a segurança é responsabilizar os criadores pelo que constroem e geram”, disse Bessant em uma audiência no Congresso no mês passado.
Comentários