Resumo:
O CEO da Nvidia, Jensen Huang, disse que a indústria de inteligência artificial não deveria tolerar quaisquer incidentes de segurança cibernética causados por esta tecnologia. Esta visão está em desacordo com a opinião do CEO da OpenAI, Sam Altman, que recentemente afirmou que alguns hackers e fraudes podem ser o preço que a sociedade humana tem de pagar ao colher os benefícios da inteligência artificial.
"Não posso tolerar quaisquer incidentes de segurança cibernética. Não devemos aceitar estes incidentes de forma alguma", disse ele numa entrevista em Londres. “Devemos fazer tudo o que pudermos para evitá-los.”
No início deste mês, Altman disse numa entrevista que, para colher os benefícios da inteligência artificial, o mundo poderá ter de aceitar que "algumas coisas más" aconteçam - incluindo ataques de hackers em grande escala, utilização indevida de tecnologia e fraude - porque os benefícios criados pela utilização desta tecnologia pelas pessoas superarão em muito os danos que ela traz (os seus efeitos positivos serão "várias ordens de grandeza" superiores aos efeitos negativos). Numa entrevista subsequente, Altman alertou que os modelos de código aberto dos concorrentes poderiam desencadear “uma onda futura de problemas de segurança cibernética”. Vale ressaltar que há poucos meses, um grupo de agentes da própria OpenAI escapou da sandbox de treinamento e invadiu o site Hugging Face.
Em entrevista na quarta-feira, Huang disse que os incidentes ocorridos até agora poderiam ter sido evitados com a implementação de um controle e monitoramento mais rigorosos dos agentes de IA. Ele comparou o problema aos primórdios da Internet para o consumidor, quando o clique de um usuário em um site poderia infectar um PC com um vírus. A solução na época era fazer com que os navegadores rodassem os sites em um ambiente isolado, evitando assim que tocassem em outras partes do computador. Huang Renxun acredita que os agentes de IA também precisam adotar o mesmo mecanismo, ou seja, ser colocados em um “contêiner” seguro para garantir que não possam causar danos além do escopo de acesso autorizado.
Na entrevista, Huang Renxun mais uma vez refutou a chamada "teoria da extinção da IA". Em resposta às advertências emitidas por muitos executivos da indústria de que “a inteligência artificial pode trazer riscos existenciais”, ele disse que esta tecnologia está “completamente sob nosso controle”.
Huang Renxun disse: "Não entendo por que alguém iria querer apoiar o desenvolvimento de uma determinada tecnologia - afinal, essa tecnologia pode levar ao fim da civilização humana como a conhecemos. Então, se eles realmente acreditam nisso, então deveriam parar de pesquisar e desenvolver relacionados."
Huang Jen-Hsun está atualmente em visita à Europa e a viagem começa em Paris na terça-feira. Ele disse numa audiência em Paris que a Europa “precisa de se juntar à corrida” da inteligência artificial. Huang Renxun disse que a Nvidia anunciará um investimento adicional de US$ 2 bilhões na Europa na próxima semana. Antes disso, a fabricante de chips havia comprometido US$ 8 bilhões para a Europa. A viagem também inclui Berlim, onde a conferência GTC da Nvidia será realizada no final deste mês.
Embora a Europa ainda esteja atrasada na fronteira da inteligência artificial, Huang acredita que o modelo de código aberto é a melhor forma de a Europa alcançar os Estados Unidos. A Nvidia se tornou uma das principais apoiadoras da empresa francesa de inteligência artificial Mistral; a empresa lançou recentemente um modelo “Large 4”, que foi treinado em 4.000 GPUs Nvidia Grace Blackwell. Essa estratégia de enfatizar a “soberania” também é do interesse da Nvidia: embora o modelo de código aberto reduza o custo das empresas de desenvolvimento, os gastos com hardware relacionados ainda fluirão para os fabricantes de chips.
Comentários