Resumo:
Recentemente, Musk emitiu um aviso num evento: "Seria uma pena se a IA pudesse controlar sistemas militares e lançar bombas nucleares."
Durante a conversa no local, alguém sugeriu que a maioria das instalações militares estão fisicamente isoladas e não estão ligadas à Internet, pelo que a probabilidade de serem invadidas pela IA é baixa.
Mas Musk não concorda com essa visão. Ele disse que mesmo que o sistema esteja fisicamente isolado da rede, o equipamento ainda passará por atualizações regulares de software. Este processo pode deixar falhas de segurança e dar à IA a oportunidade de intervir em sistemas militares importantes. Assim que a IA obtiver autoridade para operar armas nucleares, terá consequências catastróficas para toda a humanidade.
Musk não está sozinho na preocupação com a inteligência artificial.
Jacob Coxon, um pesquisador de IA que acabou de se demitir da Anthropic, revelou que muitos profissionais na linha de frente das empresas de IA estão realmente preocupados. Eles sentem pânico do fundo do coração e estão muito preocupados com o destino imprevisível que a humanidade enfrentará nos próximos dois anos.
O CEO da Anthropic também apelou publicamente à necessidade de abrandar adequadamente o ritmo de investigação e desenvolvimento de modelos de IA de ponta. Ele também propôs orientações como a implementação de supervisão independente, o estabelecimento de normas industriais e a promoção de consenso regulatório global para restringir o desenvolvimento de IA de alto risco. O responsável pela OpenAI também manifestou publicamente o seu apoio ao necessário controlo do desenvolvimento da IA.
Comentários