Resumo:
À medida que os agentes de inteligência artificial começam gradualmente a concluir operações de compras, pagamentos e encomendas em nome dos utilizadores, a indústria financeira global tem demonstrado uma atitude cada vez mais complexa em relação a este modelo emergente. Seis grandes instituições financeiras internacionais, incluindo o Bank of America e o Capital One Bank, publicaram recentemente um relatório conjunto afirmando que, embora a “compra de agentes” orientada por agentes de IA tenha um grande potencial, também traz uma série de novas questões, tais como transparência, segurança, protecção da privacidade e riscos de fraude.
As chamadas compras baseadas em agentes referem-se a um agente de inteligência artificial que navega de forma independente na Internet, compara produtos, seleciona métodos de pagamento e conclui diretamente o processo de compra com base na autorização do usuário. No ano passado, muitos desenvolvedores de IA, empresas de varejo e instituições de pagamento têm promovido a implementação de tecnologias relacionadas, na esperança de tornar a IA um “assistente de compras digital” para os consumidores.
No entanto, o setor bancário acredita que à medida que os agentes de IA ganham cada vez mais autonomia na tomada de decisões, os seus riscos potenciais também são ampliados.
De acordo com o relatório intitulado "Construindo confiança empresarial baseada em agentes", os riscos concentram-se na transparência, segurança, privacidade e proteção de dados, na escolha do usuário e na interoperabilidade entre diferentes plataformas. O relatório apontou que muitos consumidores não têm a certeza se os agentes de IA irão realmente tomar decisões no seu próprio interesse e, portanto, ainda têm dúvidas óbvias sobre este tipo de tecnologia.
O relatório mostra que muitos usuários estão preocupados com a possibilidade de os agentes de IA comprarem produtos errados, gastarem além de seu orçamento ou até mesmo encontrarem problemas como fraude, sequestro de conta ou perda de fundos. Embora os consumidores estejam dispostos a usar a IA para obter informações sobre produtos e sugestões de compras, a maioria ainda está cautelosa em deixar a IA controlar completamente o processo de compra.
A indústria de tecnologia não está totalmente otimista quanto às perspectivas de desenvolvimento do Agent Shopping.
Ron Johnson, um dos fundadores do sistema de retalho da Apple e antigo executivo da Apple, disse numa entrevista recente que a inteligência artificial pode de facto melhorar a experiência de compra online, mas não acredita que a IA vá mudar fundamentalmente a forma como os humanos compram.
Na sua opinião, os consumidores ainda querem experimentar os produtos pessoalmente, e isso não pode ser substituído pela IA. A inteligência artificial pode ajudar os usuários a fazer pesquisas com antecedência e torná-los consumidores que entendem melhor o produto, mas não eliminará o valor das compras físicas em si.
O relatório do setor bancário destacou ainda que os agentes de IA também podem ser afetados por mecanismos de incentivo empresarial. Por exemplo, alguns sistemas podem recomendar preferencialmente produtos com comissões mais elevadas, canais de pagamento com custos de transação mais baixos, ou mesmo escolher soluções subótimas para reduzir custos informáticos. Este comportamento pode não ser do interesse dos consumidores, mas pode tornar-se a escolha padrão dos agentes de IA.
Ao mesmo tempo, a adoção em larga escala do Agent Shopping também pode levar a um aumento no número de golpes, fraudes e disputas de consumo. Quando um sistema de IA é atacado ou ocorre uma fuga de dados, não só as informações pessoais dos utilizadores serão ameaçadas, mas as empresas que dependem destes sistemas para os seus negócios também poderão enfrentar graves perdas.
Uma série de acontecimentos recentes reforçaram ainda mais estas preocupações.
Não faz muito tempo, a Meta anunciou que corrigiu uma vulnerabilidade de dia zero em seu assistente de IA, Muse. Uma das funções importantes atuais do Muse é a compra de agentes, e essa vulnerabilidade poderia, teoricamente, permitir que um invasor assumisse o controle do assistente de IA e realizasse diversas operações usando as permissões concedidas pelo usuário.
Ao mesmo tempo, a Amazon também teve atritos públicos com o Muse. A Amazon acusou os agentes de IA da Meta de não conseguirem se identificar claramente ao acessar sua plataforma de comércio eletrônico, levantando preocupações sobre as credenciais da conta e como os dados dos usuários eram tratados e exigindo que o comportamento cessasse.
Ainda assim, estes seis bancos não estão a descartar completamente o futuro das compras por agentes.
O relatório aponta que o comércio de agência provavelmente ainda se tornará uma das principais formas de conduzir transações entre consumidores e comerciantes no futuro. As instituições financeiras também estão optimistas quanto ao seu potencial de desenvolvimento a longo prazo e manifestaram a sua vontade de cooperar com clientes, parceiros industriais e agências reguladoras para promover o crescimento saudável deste modelo.
No entanto, na sua opinião, para que o agente de compras ganhe verdadeiramente popularidade generalizada, deve primeiro estabelecer confiança social suficiente. A actual velocidade de desenvolvimento tecnológico tem sido significativamente mais rápida do que a velocidade de construção de regulamentações industriais, sistemas políticos e mecanismos de protecção do consumidor, e este é o problema mais urgente que a indústria precisa de resolver.
Para este fim, a aliança bancária que participou na elaboração do relatório começou a preparar-se para a próxima fase do trabalho de investigação, na esperança de clarificar ainda mais como implementar os cinco princípios fundamentais de transparência, segurança, privacidade e protecção de dados, escolha do utilizador e interoperabilidade de plataformas, e estabelecer padrões industriais correspondentes.
Numa nova era em que a inteligência artificial está gradualmente a mudar de "fornecer sugestões" para "agir em seu nome", o sinal enviado pelo setor bancário é bastante claro: as compras dos agentes de IA podem ter um futuro brilhante, mas antes de se tornarem verdadeiramente um método de consumo convencional, ainda existem muitas questões importantes nos mecanismos de segurança, confiança e responsabilidade que precisam de ser resolvidas.
Comentários