Resumo:
Enfrentando preocupações globais crescentes sobre o risco potencial de a inteligência artificial de alto nível ficar fora de controle e a tecnologia substituir o domínio humano, a gigante tecnológica Microsoft anunciou oficialmente um novo conjunto de normas estruturais - o "Código de Conduta da IA Humanista". O Código estabelece uma série de regras vinculativas para o desenvolvimento interno e a implantação de produtos, com o objetivo de garantir que a investigação e o desenvolvimento de sistemas de inteligência artificial de ponta servem sempre a autonomia humana, a dignidade e o bem-estar social, e evitam resolutamente que a evolução tecnológica escorregue para um caminho extremo que prive os seres humanos dos direitos de tomada de decisão ou prejudique os contratos sociais básicos.
De acordo com as últimas diretrizes divulgadas pela Microsoft, a pedra angular da estrutura é "a inalienabilidade do status de sujeito humano". As directrizes estipulam claramente que em grandes cenários de tomada de decisões sobre meios de subsistência que envolvam interesses públicos fundamentais, julgamentos legais, diagnóstico médico, controlo de infra-estruturas críticas e emprego de pessoal essencial, os sistemas de inteligência artificial só podem servir como um “copiloto” para auxiliar o julgamento humano e melhorar a eficiência cognitiva. É absolutamente proibido conceder aos sistemas de IA direitos de descentralização completa ou de execução autônoma de ponta a ponta que sejam divorciados do poder de veto final humano. Todas as equipes de engenharia da Microsoft que estão envolvidas no desenvolvimento de arquitetura de modelo grande de ponta e agentes autônomos (Agentes de IA) devem incorporar à força mecanismos de bloqueio de hardware e software "Human-in-the-loop" no design subjacente do sistema para garantir que os humanos tenham a autoridade final para assumir e encerrar completamente as operações do sistema com um clique em qualquer momento de emergência.
Em resposta ao profundo impacto da tecnologia no mercado de trabalho e na psicologia social, o "Código de Conduta da Inteligência Artificial Humanística" também estabelece limites regulatórios claros. As diretrizes proíbem o uso indevido da psicologia do usuário, utilizando algoritmos antropomórficos com alta simulação, forte dependência emocional ou características indutoras de manipulação, e exigem que todos os sistemas generativos esclareçam seus atributos artificiais e sintéticos nas interações. Ao mesmo tempo, a Microsoft promete estabelecer um "mecanismo especial de avaliação de resiliência e transformação de habilidades da força de trabalho" no processo de promoção da automação de IA em nível empresarial. Ao mesmo tempo que mede os retornos comerciais dos produtos, também avaliará sistematicamente o choque estrutural que a substituição tecnológica traz aos meios de subsistência dos trabalhadores e promoverá a concepção responsável de produtos orientada para aumentar a criatividade dos trabalhadores, em vez de simplesmente e brutalmente eliminar postos de trabalho.
Além de estabelecer uma linha vermelha protetora no lado da arquitetura técnica, a Microsoft também elevou esse conjunto de princípios humanísticos a um pré-requisito para assuntos jurídicos corporativos, cadeia de suprimentos e cooperação empresarial. Quando os executivos da Microsoft divulgaram as diretrizes, eles declararam que a empresa não apenas implementará estritamente esses princípios em toda a sua linha de produtos de IA, mas também conduzirá revisões de conformidade de grandes parceiros externos, clientes autorizados em tecnologia e desenvolvedores de aplicativos ecológicos por meio de comitês de revisão, e cortará o fornecimento de tecnologia ou suspenderá a cooperação para quaisquer projetos de IA que violem flagrantemente princípios humanísticos, desenvolvam comportamentos autônomos maliciosos incontroláveis ou tenham tendências de manipulação encobertas.
Observadores da indústria e estudiosos de ética tecnológica apontaram que, no contexto de grandes empresas de tecnologia competindo pela velocidade da superinteligência (AGI) e até mesmo pela pesquisa e desenvolvimento da inteligência sobre-humana, a Microsoft estabeleceu e promoveu oficialmente a âncora de valor da "IA humanística". Isto não é apenas uma resposta proactiva à tendência recente de supervisão antitrust e de segurança cada vez mais rigorosa da IA nos círculos políticos, mas também um importante movimento estratégico para conquistar a posição ética na corrida ao armamento tecnológico. A implementação deste código traçou uma linha de equilíbrio crucial entre a adoração cega do poder da computação algorítmica e a insistência na centralização nas pessoas na indústria tecnológica. Os seus subsequentes esforços específicos de implementação num grande número de produtos comerciais e investigação de ponta virada para o futuro também se tornarão uma referência da indústria para examinar a eficácia da restrição auto-ética por parte dos gigantes tecnológicos.
Comentários