Resumo:
Bill Gates acusou a administração Trump de dificultar os esforços para prevenir os riscos da IA, alertando que a tecnologia poderia ser explorada para causar uma pandemia. Falando no Future of AI Summit na quarta-feira, o cofundador da Microsoft disse que o modelo de IA demonstrou capacidades “incríveis”, o que significa que seu potencial para beneficiar a humanidade, bem como seu potencial para causar danos, não pode ser exagerado.
Ele disse que entidades maliciosas que usam ferramentas de IA para criar armas biológicas ou atacar vulnerabilidades de redes em toda a sociedade são os riscos mais urgentes no momento. O que é particularmente digno de nota é que alguns modelos chamados "abertos" estão disponíveis gratuitamente para os desenvolvedores, e os mecanismos de proteção e monitoramento de segurança de tais modelos podem ser removidos.
O magnata da tecnologia alertou que os incidentes de biossegurança causados pela IA podem causar “uma escala de danos muito maior do que a epidemia”.
Gates disse que, apesar dos riscos acima mencionados, os esforços globais para regular e monitorizar a IA e o seu impacto foram paralisados devido à inacção da Casa Branca.
"Se os Estados Unidos não estiverem envolvidos, o valor das ações relevantes será muito limitado. Portanto, estamos agora num impasse... A única questão é quantos incidentes cruéis acontecerão antes que eles mudem de posição."
Gates é um dos líderes tecnológicos que continua a emitir alertas fortes. Ele alertou que o atual caminho de desenvolvimento da IA pode levar ao abuso da tecnologia ou à saída do controle humano, com consequências catastróficas. O filantropo já alertou anteriormente que a IA poderia matar mil milhões de pessoas e ter um impacto enorme no mercado de trabalho.
Nos últimos meses, as preocupações sobre os riscos de segurança desta tecnologia emergente continuaram a aumentar. O prospecto de IPO da Antrópico alertou na semana passada que a IA pode trazer “riscos catastróficos ou mesmo existenciais” para a humanidade. Gates elogiou este laboratório de IA de ponta por ousar ser franco sobre os riscos da IA: "Eles sempre foram muito francos, e este é outro exemplo."
Apesar da surpreendente taxa de iteração da tecnologia de IA, o Presidente Trump rejeitou os apelos para fortalecer a regulamentação governamental da IA. Ele rejeitou as tentativas de promover as diretrizes de IA do G20 como uma “solução globalista” e prefere a autorregulação pela indústria tecnológica.
Gates acredita que a auto-regulação da indústria não funcionará: "Depois que várias empresas participarem, a responsabilidade pela resolução deste problema só poderá subir ao nível governamental."
Ele apelou ao governo para estabelecer padrões de referência para a protecção da segurança e mecanismos de monitorização incorporados nos modelos de IA, liderar acções globais para investigar vulnerabilidades de rede e construir um sistema de monitorização em larga escala que cubra o ar, esgotos e sangue para detectar potenciais infecções causadas pela IA o mais cedo possível.
Gates recebeu a versão de pré-lançamento ChatGPT da OpenAI antecipadamente em 2022. Ele revelou que a OpenAI e a Anthropic provavelmente lançarão novos modelos este ano e haverá "dois grandes lançamentos" em 2027.
Ele acrescentou que, à medida que esses novos modelos entrarem no mercado, "o próprio modelo perdendo o controle" se tornará um problema sério no futuro próximo. Gates defendeu que o governo precisa melhorar ainda mais o mecanismo de segurança e realizar auditorias de terceiros de novos modelos.
Ele também pediu a aceleração da exploração do valor positivo da IA, como a pesquisa e o desenvolvimento de medicamentos, e a redução do tempo de espera nos hospitais: "Esses benefícios não acontecerão naturalmente."
Gates também expressou apoio à tributação de bilionários e grupos de renda altíssima. No contexto da IA que está a remodelar profundamente a sociedade, esta declaração equivale a expressar apoio à proposta de referendo sobre “impostos ricos” da Califórnia. De acordo com os resultados preliminares da contagem dos votos na terça-feira nas eleições intercalares dos EUA, esta proposta provavelmente será rejeitada.
Ele afirmou os compromissos filantrópicos dos cofundadores da OpenAI e da Anthropic e disse que está se comunicando e cooperando com eles para "garantir que esses fundos desempenharão um papel enorme em muitos campos, como a saúde global".
Comentários