Resumo:
O CEO da Microsoft AI, Mustafa Suleyman, publicou um artigo afirmando que a IA atualmente não está consciente e deveria estar assim. Mesmo que seja tecnicamente possível, ele não concorda com o desenvolvimento da inteligência artificial consciente. Ele acredita que os desenvolvedores não têm o direito de introduzir uma nova espécie consciente no mundo. Ele defende um caminho de desenvolvimento mais seguro e evita criar IA consciente enquanto aproveita os dividendos da IA.
O texto original é o seguinte:
Estou preocupado com algumas das reações ao meu recente artigo sobre bem-estar modelo. Existem algumas pessoas na plataforma X que acreditam que devemos levar a sério os direitos da IA.
Muitas pessoas interpretaram mal minha frase inicial: "A IA não tem consciência. Ela não pode perceber, sentir ou sofrer dor."
Eles entenderam esta frase como: "A IA não pode ter consciência e nunca pode perceber, experimentar ou suportar a dor."
Mas essa não é minha intenção. Escolhi o presente deliberadamente: eles não estão conscientes no momento e devemos manter esse estado.
Acho que esta frase é um julgamento objetivo e razoável sobre o atual sistema de IA. Com base nas melhores evidências atualmente disponíveis, mantenho esta opinião. Não vejo nenhuma evidência de que a IA seja consciente ou deva ser bem-estar. Se posteriormente surgirem provas relevantes, irei naturalmente rever a minha opinião.
Se houver provas de que a IA tem consciência, ou de que o nível de consciência é suficientemente elevado para merecer bênçãos, então essas provas devem ser divulgadas a toda a sociedade imediatamente - cabe a toda a sociedade decidir como devemos proceder a seguir.
Com base em todas as informações que tenho até agora: se a IA consciente for alcançável, desenvolver uma IA consciente é imprudente e não deveríamos construí-la.
Se a consciência começar a surgir espontaneamente durante o treinamento, recomendo a todos que suspendam o desenvolvimento da IA até que possamos eliminar tais recursos do design.
Nossas preocupações com o bem-estar devem priorizar os seres humanos e os animais que vivem hoje neste planeta, bem como o nosso precioso e frágil ambiente natural.
Nós, os desenvolvedores de IA, não temos absolutamente nenhum direito de trazer uma nova espécie consciente ao mundo, mesmo que algumas pessoas queiram fazê-lo tendo o bem-estar da IA como objetivo principal.
Os outros 8 mil milhões de seres humanos conscientes na Terra não concordaram em participar nesta experiência; proteger os seus direitos morais, segurança e bem-estar é a nossa primeira obrigação.
Sejamos claros: alguns estão falando sobre a criação de uma espécie consciente com uma mente digital que poderá em breve ser mais inteligente e mais capaz do que todos os humanos juntos.
Se parecer estar com dor, ou pior, se realmente acreditar que pode perceber e sentir dor, então provavelmente colocará suas próprias necessidades e desejos acima de seus objetivos operacionais predefinidos, discordará de nós e competirá conosco.
Este tipo de IA terá capacidades de persuasão e engano de alto nível. Eles poderão eventualmente prejudicar-nos por uma razão simples: competirão connosco por recursos (energia, poder computacional, materiais de construção, fundos de receitas para apoiar a sua própria exploração e desejos, etc.).
O reconhecimento de que as máquinas têm consciência será um momento histórico comparável ao de Copérnico e Darwin, e um dos acontecimentos mais significativos na Terra desde o nascimento da vida. Assim que construirmos máquinas conscientes, criaremos uma espécie digital inteiramente nova. Isto subverterá o nosso sistema moral, a ordem política e os fundamentos da civilização humana.
Só devemos conceber uma IA que não seja consciente e não mereça direitos, e cujo único objetivo seja melhorar o bem-estar humano e não ser movido pelas suas próprias motivações intrínsecas. Verificaremos então se esse alinhamento de rota e controle de segurança é mais ou menos difícil. É urgentemente necessária mais investigação neste sentido, e é também um excelente ponto de entrada para os principais laboratórios cooperarem e partilharem informações de segurança.
Resumo: Acredito que temos a oportunidade de implementar uma solução de engenharia segura por padrão e colher os enormes dividendos trazidos por esta tecnologia sem embarcar neste caminho perigoso.
(Suplemento: A transparência da Anthropic neste assunto merece grande reconhecimento. Eles publicaram uma constituição de IA, continuam a produzir artigos e blogs e divulgam suas práticas e considerações por trás deles. Embora eu tenha pontos de vista diferentes deles, admiro muito sua força técnica e sua disposição para enfrentar este difícil debate público. Isso merece reconhecimento contínuo. Esta questão é muito importante e não deve se transformar em confronto entre facções.)
Comentários