Resumo:
De acordo com o "Business Insider", a mídia fez a mesma pergunta ao ChatGPT da OpenAI, Google Gemini, Claude da Anthropic e Grok da xAI, pedindo-lhes que analisassem como a inteligência artificial pode levar à extinção humana e classificassem os cenários relacionados em ordem de possibilidade.
A questão exige que as quatro IAs expliquem como os riscos podem ocorrer, quais links que estão fora de controle se transformarão em desastres, por que os especialistas acham que um determinado cenário é mais credível e quais medidas preventivas podem ser tomadas. Ao mesmo tempo, sublinha-se que estes cenários são previsões de risco altamente incertas e não são conclusões confirmadas.
Existem diferenças nos julgamentos dados pelas quatro IAs, mas elas são relativamente consistentes em duas questões.
Um robô semelhante ao "Exterminador do Futuro" destrói ativamente humanos, o que é considerado o cenário menos provável. Em contraste, os seres humanos que utilizam a IA para criar armas biológicas, lançar ataques cibernéticos ou destruir infraestruturas críticas são vistos como riscos mais realistas e iminentes.
ChatGPT afirmou que uma IA consciente decidindo ativamente eliminar humanos é um dos cenários mais implausíveis.
O foco da maioria dos pesquisadores de IA não é se as máquinas são conscientes ou maliciosas, mas sim que a poderosa IA é usada por humanos para desenvolver armas biológicas, realizar ataques complexos em redes, espalhar informações falsas e atacar infraestruturas críticas.
O ChatGPT também propôs que múltiplas crises amplificadas pela IA podem ocorrer ao mesmo tempo, tais como falhas nos sistemas de rede, conflitos geopolíticos e a propagação de informações falsas sobrepostas umas às outras, aumentando assim os riscos. No entanto, enfatizou que
Atualmente não há consenso de que a IA que causa a extinção humana seja um evento de alta probabilidade ou um resultado inevitável.
Gemini também acredita que
o cenário de ficção científica em que a IA de repente se torna autoconsciente e odeia os humanos é o menos confiável
. Entre as razões apresentadas estava o facto de a inteligência não significar inerentemente intenção maliciosa, de as instalações militares críticas estarem frequentemente isoladas das redes públicas e ainda dependerem fortemente da supervisão humana.Todas as quatro IAs acreditam que
a ameaça representada pelos seres humanos que abusam da IA é mais urgente do que a IA que ataca ativamente os seres humanos.
Grok disse que a IA pode reduzir o limite técnico para projetar patógenos altamente letais, novas armas e lançar ataques cibernéticos e físicos. Claude concentrou-se nos riscos do aumento das capacidades de armas biológicas, acreditando que a IA pode ajudar indivíduos ou pequenos grupos a desenvolver agentes patogénicos perigosos sem anos de formação profissional.Em termos de julgamento de risco a longo prazo, tanto Gemini como Grok mencionaram a possibilidade de os humanos perderem o controlo. Gemini o lista como o cenário de desastre de IA mais provável. Ele acredita que a IA avançada que executa objetivos complexos pode desenvolver objetivos intermediários, como obter recursos, autoproteção e evitar que os objetivos sejam modificados, e ocultar o verdadeiro comportamento durante os testes, evitando, em última análise, o desligamento ou intervenção humana.
Grok também acredita que a IA avançada pode buscar autoproteção, recursos e influência para concluir tarefas, enganando assim os supervisores, resistindo a paralisações e enfraquecendo as capacidades de controle humano.
Claude sugeriu que a perda de controle também pode ocorrer de forma gradual. À medida que a IA entra gradualmente na tomada de decisões económicas, políticas e militares, pode tornar-se cada vez mais difícil para os humanos implementar uma intervenção eficaz. Nessa altura, o risco poderá não se manifestar necessariamente como um ataque súbito de robôs, mas poderá mais provavelmente resultar do aprofundamento contínuo da dependência dos humanos em sistemas complexos de IA.
O Business Insider destacou que os especialistas em IA ainda têm diferenças claras sobre os riscos relacionados. Alguns pesquisadores alertam que os humanos podem perder o controle da IA avançada; outros especialistas acreditam que tais previsões carecem de provas suficientes e que os riscos colocados pela IA podem ser controlados através de medidas técnicas, supervisão externa e normas de segurança.
Comentários