Resumo:
Nate Suarez, chefe do Machine Intelligence Research Institute (MIRI), afirmou recentemente numa entrevista apresentada por Nicholas Thompson, CEO do The Atlantic Monthly, que acredita que há mais de 50% de probabilidade de que a inteligência artificial avançada leve à extinção humana em menos de dez anos. Ele também revelou que não está mais economizando para a aposentadoria: embora ainda mantenha a conta de aposentadoria 401(k) que abriu enquanto trabalhava no Google, ele não continuou a fazer contribuições por dez anos.
Suarez estuda há muito tempo o problema do alinhamento da inteligência artificial, ou seja, fazer com que o comportamento de sistemas poderosos de IA se adapte às intenções humanas. Ele trabalhou como engenheiro no Google e na Microsoft e foi coautor de If Someone Made It, Everyone Would Die. A sua preocupação com o risco não é que a IA odeie os humanos, mas que um sistema superinteligente possa simplesmente não se importar com a sobrevivência dos humanos; se os humanos atrapalharem os seus objectivos, ou tentarem desligá-la e desenvolver sistemas concorrentes, os humanos poderão ser vistos como um obstáculo.
No caminho de risco que ele imaginou, a chave não é apenas saber se a IA pode lançar ataques, mas se pode tornar-se auto-suficiente: se o sistema puder obter energia, chips e outros recursos de forma independente, e estabelecer uma infra-estrutura automatizada que já não dependa de seres humanos, a capacidade humana de controlá-la poderá diminuir. Suarez descreveu que as pessoas podem não saber de antemão as formas específicas pelas quais a superinteligência causará desastres, mas ainda assim podem julgar que estão enfrentando um oponente muito poderoso.
Ele defendeu que o governo pare de treinar sistemas gerais de inteligência artificial e mude o foco da pesquisa e desenvolvimento para usos específicos, como pesquisa sobre o câncer e direção autônoma mais segura. Ele também disse que os desastres não são inevitáveis e que ainda está fazendo o possível para evitar esse desfecho. A solução que ele enfatizou não foi criar um sistema que pudesse matar a todos.
O julgamento de Suarez é uma avaliação de risco pessoal, não uma previsão científica comprovada, nem representa um consenso unificado entre os pesquisadores de inteligência artificial. A sua declaração de que parou de aumentar as suas poupanças para a reforma reflecte a sua visão dos riscos futuros e não deve ser interpretada como um conselho sobre as decisões financeiras de terceiros.
Comentários