Resumo:
O CEO da OpenAI, Sam Altman, postou nas plataformas sociais em 3 de outubro que estava "muito perturbado por alguém tentar dar poder religioso a um modelo de IA, ou por as pessoas desistirem de seu próprio julgamento" e acreditava que isso era uma questão real de segurança. Altman não mencionou nenhuma empresa no post, mas seus comentários seguiram um relatório sobre a Antrópico discutindo a conscientização sobre IA com o Vaticano, por isso foi visto por alguns meios de comunicação como uma crítica indireta à Antrópica.
A controvérsia originou-se de uma reportagem do New York Times de 29 de setembro. O jornal afirmou que o cofundador da Anthropic, Christopher Ola, havia discutido com estudiosos religiosos se modelos de IA como Claude poderiam ter consciência e status moral, e como fazer com que os modelos exibissem comportamento moral; a empresa também convidou estudiosos de diferentes tradições religiosas para participarem de intercâmbios a portas fechadas. O relatório também disse que depois de Ola ter lido o rascunho da encíclica do Papa Leão XIV sobre inteligência artificial, ele estava preocupado com a sua posição de não aceitar que as máquinas pudessem ter consciência, e tinha considerado retirar a Antrópica de actividades relacionadas. A equipe então pressionou os conselheiros papais, esperando que eles levassem a sério a possibilidade de uma consciência modelo. Ora disse ao New York Times que os pesquisadores não sabem se o modelo de IA é consciente e, de fato, não tem certeza. A chave é descobrir a resposta correta.
O que a mídia chama de “conflito” com o Papa é, mais precisamente, divergências sobre a posição da encíclica e o lobby nos bastidores; os relatórios públicos atuais não indicam que Ola alguma vez tenha tido um confronto cara a cara diante do Papa. A encíclica “Magnifica Humanitas” do Papa, publicada em Maio, afirma claramente que os sistemas de IA existentes não têm corpo, não experimentam sentimentos, alegria ou dor, e não têm consciência moral; podem imitar a linguagem e a análise, mas não compreendem o conteúdo que geram. A encíclica afirma que a tecnologia deve ser guiada pela consciência e pelo ser humano livre, que deve ser responsável por determinar os seus usos e limites.
Ultraman usou a frase “inteligência mágica no céu” ao falar sobre os objetivos da OpenAI em 2023; em um evento em Londres em 2024, ele também disse que não ora para que Deus esteja ao seu lado, mas ora para que ele mesmo esteja do lado de Deus, e disse que envolver-se no desenvolvimento de modelos de IA “é como estar ao lado dos anjos”. O artigo de revisão também citou uma declaração atribuída ao Ultraman em 2015 sobre a “criação de uma nova forma de vida”, mas o artigo não forneceu uma fonte original igualmente clara.
Ultraman certa vez admitiu publicamente que o pseudônimo Roon era seu trompete; o relato compartilhava um diagrama espiral com texto hebraico que foi interpretado pelos comentaristas como um estilo Cabala, com o texto “Infraestrutura Lightcone”. O próprio Altman também tomou emprestadas imagens religiosas ou místicas. No entanto, o significado religioso destas imagens pertence à interpretação do autor e não pode ser usado para provar a afirmação de Ultraman de que a IA tem consciência ou divindade.
As discussões em torno do Antrópico também exigem uma distinção entre fatos e comentários. O New York Times noticiou que a empresa havia explorado a possibilidade de consciência modelo e status moral, mas o próprio Ola deixou claro que não havia conclusão sobre isso; as diferenças entre as duas empresas no que diz respeito à consciência da IA também reflectem as questões que estão a ser debatidas na indústria tecnológica: como as pessoas devem ver o antropomorfismo dos modelos, se devem dar-lhes uma identidade moral e como evitar que o sistema substitua o julgamento humano ao interagir com a IA.
Comentários