Resumo:
Jeffrey Hinton, conhecido como o “Padrinho da IA” e ganhador do Prêmio Nobel, fez um forte alerta em uma entrevista ao Guardian.
Ele acredita que neste ano ou no próximo, um grande acidente da magnitude de Chernobyl pode ocorrer no campo da IA
.
Hinton comparou a intrusão deste verão do agente OpenAI na plataforma Hugging Face ao acidente de Three Mile Island na história da segurança nuclear. Foi um perigoso sinal de alerta precoce, mas não foi um verdadeiro desastre.
O chamado "Chernobyl" no mundo da IA não é que a IA se rebele autonomamente e destrua a humanidade em filmes de ficção científica, mas que a IA seja usada por hackers para lançar ataques cibernéticos a infraestruturas críticas. O cenário mais típico é causar uma queda de energia em grande escala e de longo prazo, ou paralisar o sistema financeiro global por uma semana, afetando diretamente a ordem de subsistência das pessoas.
.Na entrevista, Hinton afirmou sem rodeios que não estava otimista sobre a atitude de risco da gestão das principais empresas de IA e criticou Altman da OpenAI, Zuckerberg da Meta, Musk e outros.
Hinton disse que eles estavam cientes dos enormes perigos ocultos por trás da IA, mas, diante da concorrência e dos interesses empresariais, não prestaram atenção suficiente. Cada empresa se concentrou apenas em competir pelas capacidades do modelo e conquistar o mercado.
Deve-se salientar que Hinton não é contra a IA.
Ele acredita que a IA é uma faca de dois gumes. Ele reconhece que tem um grande valor positivo e pode trazer um futuro brilhante para a humanidade. No entanto, quando ocorre um acidente grave, as pessoas podem lamentar não ter inventado esta tecnologia.
.Na sua opinião, os próximos dez anos serão um período crítico para a humanidade. A humanidade acabará por verificar se consegue controlar os riscos da IA.
Então, como prevenir riscos? A solução dada por Hinton também é muito clara:
Para grandes modelos de ponta, testes de segurança obrigatórios e avaliações independentes de terceiros devem ser implementados para promover o estabelecimento de padrões unificados de segurança de IA em todos os países e usar restrições regulatórias para funcionar de forma descontrolada.
.
Comentários