Resumo:
De acordo com postagens internas da Meta, a empresa está testando um mecanismo de "governanta humana" para seu novo assistente pessoal de IA, Muse: o Muse pode terceirizar chamadas telefônicas para humanos sem o conhecimento do usuário, e o pessoal da central de atendimento completará a chamada em vez da IA.
O Muse está testando a função "governanta manual"
Nas duas semanas desde seu lançamento, o Muse liderou firmemente a lista de downloads de aplicativos dos EUA, tornando-se instantaneamente popular no mercado dos EUA. Este assistente de IA pode executar tarefas de forma autônoma, como enviar e-mails, fazer compras e reservar viagens em nome dos usuários.
Não faz muito tempo, o Meta lançou a função de chamada do Muse. Com a ajuda da função de chamada, os usuários do Muse podem instruir a IA a ligar para um comerciante dos EUA, e a IA se comunicará com a outra parte para concluir tarefas como marcar um corte de cabelo, verificar o estoque da loja e obter cotações de vários provedores de serviços.
Mas na semana passada, Meta informou aos funcionários sobre um teste interno de uma “governanta humana”:
Quando a função de chamada do Muse encontra cenários complexos, a chamada pode ser transferida para um contratado da empresa sem o conhecimento do usuário, e o pessoal do call center completará a chamada.
Um vice-presidente do Meta Super Intelligence Laboratory disse que alguns testes mostraram que a taxa de sucesso de chamadas humanas pode ser aumentada para 95% -98%, o que é superior à taxa de sucesso de chamadas de IA pura.
No entanto, publicações internas da empresa também mostram que alguns funcionários levantaram
preocupações com a privacidade
sobre a intervenção manual em chamadas. , alertando que este modelo pode fazer com que informações confidenciais sejam inadvertidamente vazadas pela IA para terceirizadores de call center.Um funcionário escreveu em uma postagem interna: "É difícil para mim entender por que achamos que esse recurso vale o risco. Basta um bug para fazer com que informações desnecessárias sejam vazadas para operadores humanos."
Outro funcionário também mencionou especificamente um incidente de discriminação racial: certa vez, ele pediu ao Muse que ligasse para a operadora de TV a cabo para negociar a conta, e os registros das ligações mostraram que a equipe terceirizada fez comentários racistas durante a ligação.
Nesse sentido, o vice-presidente do Laboratório Meta Super Inteligência admitiu que iniciar terceirizados a fazer ligações sem notificação suficiente foi um “erro” e disse que a empresa reverteu temporariamente a função.
Ela também pediu desculpas ao funcionário que relatou os comentários raciais durante a ligação e prometeu que o pessoal terceirizado envolvido não participaria de nenhum projeto Meta no futuro.
Usar "inteligência artificial" para fingir ser "inteligência artificial"?
Este teste do Muse dá ao mundo exterior um vislumbre de uma operação comum na indústria de tecnologia: as empresas de tecnologia podem contar com o poder humano nos bastidores para cumprir suas promessas promocionais da chamada "IA autônoma".
Isso lembra um experimento conduzido pela Meta há dez anos. A Meta, que na época ainda se chamava “Facebook”, estava testando um assistente digital chamado M no Messenger. Reportagens subsequentes da mídia estimaram que cerca de 70% das tarefas do assistente eram, na verdade, concluídas manualmente.
Quando questionado sobre a solução de "mordomo artificial" do Muse, um porta-voz da Meta disse que o feedback dos funcionários foi "geralmente muito positivo" e que o objetivo deste teste era "coletar feedback para implementar mecanismos de segurança e proteção de privacidade e otimizar funções antes do lançamento oficial".
O porta-voz da Meta, Daniel Roberts, disse: "Estamos trabalhando com os comerciantes para continuar a otimizar esse possível recurso de chamadas. Ele não será lançado oficialmente até que esteja pronto e os termos sejam totalmente comunicados."
Dados da agência de inteligência de mercado Sensor Tower mostram que o Muse da Meta foi baixado mais de 2,5 milhões de vezes desde seu lançamento.
Desde o lançamento do produto, o preço das ações da Meta disparou mais de 20% e seu valor de mercado aumentou mais de 200 bilhões de dólares americanos. No fechamento do pregão de segunda-feira, atingiu um novo máximo em mais de sete meses. No entanto, as ações caíram 0,6% na terça-feira.
Comentários