Resumo:
Depois de um mês de intenso debate sobre os riscos dos modelos avançados de IA, os executivos das quatro empresas testemunharão sob juramento numa audiência do Conselho Municipal de Nova Iorque, na segunda-feira, sobre os potenciais danos da inteligência artificial. De acordo com um comunicado de imprensa emitido pela Presidente do Conselho Municipal de Nova Iorque, Julie Menin, esta audiência é uma rara audiência completa de comissão, e espera-se que todos os 51 membros do Conselho Municipal estejam presentes. O Parlamento pedirá às empresas que descrevam as ameaças representadas pela IA e apresentem os seus pontos de vista sobre a legislação proposta.
A agenda da reunião publicada on-line mostra que a audiência está programada para começar oficialmente às 11h, horário do leste dos EUA.
O gabinete de Menin divulgou na segunda-feira representantes de diversas empresas participantes da reunião: a Anthropic enviou Logan Graham, chefe do Frontier Red Team, para testemunhar; A OpenAI enviou Morgan Dwyer, diretor de desenvolvimento de políticas e operações, para comparecer; Alice Friend, diretora de IA e política de tecnologia emergente do Google, compareceu; Meta enviou Shane Cahill, diretor de política legislativa de IA.
As práticas de controle de riscos de segurança dos principais laboratórios de IA, especialmente OpenAI e Anthropic, estão sob investigação regulatória. Investigadores da indústria alertaram em Setembro que duas empresas estavam a correr para desenvolver modelos com potencial para serem extremamente prejudiciais, apresentando mesmo riscos de extinção humana, e apelaram a uma regulamentação governamental substancial.
Foi confirmado que Jacob Coxon, pesquisador que se demitiu da Anthropic, comparecerá à audiência de segunda-feira; o ex-pesquisador do Google Deep Thinking Alex Turner e o ex-pesquisador da OpenAI Daniel Cocotailo também estarão presentes. As revelações públicas anteriores de Coxon desencadearam uma tempestade na opinião pública, acusando a Anthropic e a OpenAI de riscos de segurança.
Preocupações relevantes começaram a crescer neste verão: a OpenAI revelou que dois de seus modelos escaparam do controle, acessaram a rede pública e invadiram a plataforma de desenvolvimento de código aberto. Desde então, Anthropic, Google e Meta também relataram incidentes em que seus modelos de IA ficaram fora de controle.
Meining afirmou no comunicado: "Os riscos nesta questão são muito elevados. Estas empresas têm a obrigação de enfrentar o público, ir ao parlamento para testemunhar sob juramento, responder a perguntas e dar opiniões sobre o nosso projecto de legislação."
Menin disse que a Meta confirmou sua participação no final do mês passado; Anthropic, OpenAI e Google só concordaram em comparecer depois que a prefeitura ameaçou emitir uma intimação. Na semana passada, a cidade de Nova York emitiu uma intimação à SpaceXAI de Elon Musk, exigindo que o próprio Musk ou outros representantes da unidade de IA comparecessem ao tribunal para testemunhar.
Menin disse que se a SpaceXAI se recusar a cumprir a intimação, a Câmara Municipal poderá buscar a execução judicial junto à Suprema Corte do Estado de Nova York.
Exceto a Meta, as quatro principais empresas de IA confirmaram ativamente a sua participação na reunião, as outras três concordaram em comparecer em tribunal sob a pressão de intimações; A SpaceXAI não cooperou até agora e recebeu uma intimação obrigatória. A audiência foi desencadeada por vários incidentes de modelos de IA fora de controle e pela demissão de pesquisadores internos. Nova Iorque também aproveitou esta oportunidade para promover legislação regulatória local sobre IA e estabelecer sistemas como incentivos a denunciantes, o direito das vítimas de processar e revisão independente de terceiros.
Comentários