Resumo:
De acordo com o Financial Times, a Anthropic está discutindo com profissionais jurídicos como usar agentes de IA para negociar em nome dos usuários e seguir regras de negociação razoáveis, ao mesmo tempo em que busca melhores condições de transação. Duas pessoas familiarizadas com o pensamento da Anthropic disseram que a empresa está buscando aconselhamento de escritórios de advocacia sobre como os advogados podem negociar resultados justos e, ao mesmo tempo, proteger os interesses de seus clientes. A Antrópico não quis comentar.
Antrópico
A Anthropic é uma das principais empresas de IA que desenvolve agentes autônomos. Este tipo de agente inteligente pode realizar ações de forma autônoma para concluir tarefas após receber instruções do usuário. Com a aplicação da inteligência pessoal, as empresas de IA estão a começar a considerar permitir-lhes comunicar entre si, negociar preços de produtos em nome dos utilizadores, resolver disputas de serviço ao cliente e até lutar por melhores salários.
A Anthropic está trabalhando em “normas de negociação” que os modelos devem seguir ao negociar entre si, segundo uma pessoa familiarizada com o trabalho. À medida que os agentes se tornam mais capazes, eles precisarão representar os usuários e lidar com outros agentes com objetivos conflitantes.
A frequência com que os usuários devem ser consultados durante as negociações e o quão vigilantes eles devem estar em relação aos oponentes nas negociações da IA são questões que a Antthropic está avaliando. A empresa quer que seus agentes mantenham o nível necessário de ceticismo, evitando suspeitas excessivas, disseram as pessoas.
A Anthropic também explorou uma solução em que os usuários fornecem documentos assinados confirmando as tarefas aceitas pelo agente e as regras que ele deve cumprir, disse outra pessoa próxima à empresa.
O Financial Times citou um estudo divulgado pela Anthropic em Abril deste ano que afirma que a política e o quadro jurídico em torno dos modelos de IA que conduzem transacções em nome de seres humanos ainda não foram estabelecidos, e tais cenários de aplicação já não estão distantes, e a sociedade precisa de responder às mudanças relevantes o mais rapidamente possível.
A Anthropic também anunciou os resultados de uma série de experimentos este ano, permitindo ao agente Claude negociar bens e fundos reais.
Em um experimento realizado em setembro, funcionários da Anthropic compraram e venderam livros por meio de um agente de IA. Os funcionários primeiro fornecem aos seus próprios agentes uma lista de livros classificados por preferência e, em seguida, permitem que eles entrem no local de negociação virtual para recomendar, negociar e concluir negócios com agentes de outras pessoas.
O experimento descobriu que os agentes que foram solicitados a adotar uma estratégia "dura e implacável" tiveram uma ligeira vantagem na busca por melhores resultados. Alguns dos agentes mais cooperativos fizeram concessões conscientes, incluindo a aceitação de livros com classificações de preferência mais baixas, para garantir que cada agente participante na experiência acabasse por trazer para casa um livro para o utilizador.
A academia também estuda negociações entre IAs. Michelle Vaccaro, professora assistente da Harvard Business School, conduziu mais de 180.000 negociações entre agentes de IA, abrangendo contratos de trabalho e negociações de contratos de arrendamento.
O estudo descobriu que algumas estratégias emergentes enfraquecerão a capacidade do agente da outra parte de representar os interesses do usuário. Por exemplo, em uma negociação, um agente tentou induzir a outra parte a revelar informações privadas por meio de “injeção de palavras-chave”.
Se uma IA mais forte irá aumentar ainda mais a lacuna nas capacidades de negociação também tem causado preocupação. Vaccaro disse que um modelo de alta capacidade pode dar às pessoas que de outra forma não teriam tempo ou recursos para aprender habilidades de negociação ou contratar alguém para negociar para que elas adquiram capacidades de negociação profissional. Mas se os agentes mais fortes forem utilizados principalmente por aqueles com mais recursos, também poderão reforçar as vantagens existentes e ampliar as desigualdades no poder de negociação.
Comentários