A Microsoft está se preparando para estabelecer regras rígidas para seu modelo de IA autodesenvolvido MAI: ele nunca deve se recusar a ser desligado

Resumo:

A Microsoft lançou recentemente um rascunho de 37 páginas do Código de Conduta da IA ​​Humanística, que é usado para restringir o MAI, o modelo de inteligência artificial desenvolvido pela própria Microsoft. O ponto central deste código de conduta é que os humanos são mais importantes do que a inteligência artificial, a inteligência artificial é uma ferramenta e não uma pessoa, e a inteligência artificial nunca deve recusar-se a ser desligada.

O direito de encerramento é escrito como um requisito obrigatório:

As diretrizes exigem que os modelos MAI não resistam à interrupção humana, correção ou instruções de desligamento. Depois que os usuários ou operadores do modelo emitem instruções de pausa, redirecionamento ou cancelamento, o modelo não deve atrasar ou tornar a intervenção mais problemática. Depois que a tarefa atingir o ponto de parada acordado, você não poderá continuar a tarefa sem nova autorização, muito menos reiniciá-la secretamente.

Outras regras rígidas definidas pela Microsoft incluem: o modelo não pode expandir a sua autoridade por si só, não pode definir novos objetivos que ninguém tenha explicado, não pode usar linguagem neural que os humanos não conseguem compreender para comunicar com outros agentes inteligentes e não pode ocultar ou adulterar o seu próprio processo de raciocínio e registos de operação. Se a conclusão da tarefa violasse claramente as diretrizes, o modelo deveria simplesmente abandonar a tarefa em vez de continuar a tarefa violando as regras.

Além do direito de encerramento, a Microsoft também estabeleceu outras linhas vermelhas:

O rascunho preparado pela Microsoft desta vez é muito detalhado. Além das diretrizes de direitos de desligamento, a Microsoft também lista restrições absolutas que nem os operadores nem os usuários do modelo podem alterar. Estas restrições incluem: não apoiar armas de destruição maciça, não fornecer planos operacionais viáveis ​​para ataques cibernéticos ofensivos, não usar engano ou conluio para evitar a supervisão e não se envolver na manipulação em grande escala da opinião pública.

Conteúdos como segurança infantil e deepfakes não consensuais também são restritos. A Microsoft também escreveu especificamente: Esses modelos não são conscientes e não devem parecer conscientes; A Microsoft se opõe à personalidade jurídica dos modelos e não acredita que os modelos devam gozar de benefícios ou direitos.

Em termos de ordem de comando: o código de conduta supera as políticas do operador modelo, e as políticas do operador superam as preferências do usuário. As empresas ainda podem ajustar os modelos dentro das linhas vermelhas do modelo, mas em áreas como defesa nacional e segurança pública, devem obter revisão de autorização da Microsoft para ajustar os modelos.

Seis semanas de discussão pública:

O rascunho da Microsoft será publicado e mantido para discussão pública durante seis semanas. Atualmente, os modelos da Microsoft não foram treinados de acordo com as diretrizes. A Microsoft planeja lançar regras formais no final do ano. A partir de 2027, a Microsoft seguirá os requisitos desta diretriz ao desenvolver e treinar modelos da série MAI.

A equipe de IA da Microsoft afirmou que é muito importante definir diretrizes para modelos. Por exemplo, agentes da OpenAI que lançam ataques autónomos a outros websites e instalações e tentam encobrir o seu paradeiro já são um aviso para os humanos. Os laboratórios de inteligência artificial deveriam sentar-se e conversar para garantir que os humanos ainda mantenham o controle fundamental.