O mundo das compras online nunca é pacífico. Enquanto houver lucro, haverá pessoas prontas para agir. A política de “somente reembolso” que todos clamam voltou novamente. A diferença é que os Woolies de hoje não dependem mais de habilidades de atuação, mas sim da IA ​​para produzir “evidências” em massa. A Sra. Gao, que administra uma loja online de caranguejos peludos em Jiangsu, enviou 8 caranguejos aos clientes, como de costume, de acordo com o pedido. Inesperadamente, ela recebeu fotos e vídeos de “6 caranguejos mortos” do cliente no dia seguinte e recebeu com sucesso um reembolso de 195 yuans.

Após investigação, o cliente cometeu fraude ao fazer vídeos falsos e solicitar reembolso de forma maliciosa. A polícia puniu-o com detenção administrativa durante 8 dias, de acordo com a lei. Este também é o primeiro caso no país que foi punido administrativamente por usar vídeos forjados de IA para fraudar reembolsos de compras online.

Desde este ano, muitos comerciantes sofreram com fraudadores que usaram imagens falsas de IA para solicitar “apenas reembolso”. Agora, a indústria finalmente disparou o seu primeiro tiro, permitindo finalmente que os comerciantes desabafassem as suas queixas de longa data.

No entanto, mesmo que haja uma lei a seguir, quando o custo da contrafacção se aproximar de zero, ainda haverá gangues de lã à beira da ilegalidade. Neste momento, como podem os comerciantes proteger os seus direitos e interesses?

Empresas derrotadas pela IA

Com a crescente popularidade da tecnologia de edição de imagens de IA, o problema do “somente reembolso” que já causava dor de cabeça aos comerciantes tornou-se cada vez mais sério. A “fraude de IA” sofrida pela Sra. Gao não é um caso isolado.

Na época em que a tecnologia de IA ainda não era perfeita, muitos usuários criavam suas próprias fotos e alegavam falsamente que havia problemas de qualidade com os produtos, solicitando assim “apenas reembolso”. No entanto, como a maioria das pessoas não tem a capacidade de retocar imagens profissionalmente, as imagens falsificadas costumam estar cheias de lacunas que os comerciantes podem ver rapidamente.

Mas mesmo assim, ainda há muitos comerciantes reclamando que a plataforma ainda aceita pedidos de reembolso quando se deparam com fotos que podem ser facilmente distinguidas das falsas à primeira vista, e até mesmo fotos com marcas d'água de modelos grandes.


Xiaoqian (pseudônimo), que trabalha no atendimento ao cliente, disse que alguns compradores enviarão um pedido “somente reembolso” tarde da noite, acompanhado de uma foto que pode ser considerada genuína ou falsa à primeira vista. Ele nem mesmo é gerado usando IA, mas apenas modificado casualmente usando um software de edição de fotos. Inesperadamente, a plataforma exibiu rapidamente “Reembolso bem-sucedido”. Em menos de 3 minutos o cliente já havia bloqueado a loja.

Se as habilidades de retoque de fotos da maioria dos clientes eram um pouco desajeitadas no passado, agora, com o apoio da IA, muitas fotos de IA podem ser falsas e reais. Até mesmo o “vídeo de verificação” solicitado pelo atendimento ao cliente para reemissão pode ser gerado pela IA sem falhas.

Por exemplo, a comerciante de caranguejo Sra. Gao mencionada acima, as fotos que ela recebeu quase podem ser consideradas falsas. Mais tarde, ela identificou cuidadosamente as fotos e vídeos enviados pelo cliente e descobriu que o número de caranguejos machos e fêmeas não correspondia, e ela percebeu que se tratava de uma fraude de IA.

Colocamos as fotos dos caranguejos que ela recebeu em grandes modelos como Qianwen e Doubao para identificar o verdadeiro e o falso. As respostas dadas pelos grandes modelos eram verdadeiras ou falsas. Colocamos a imagem em um software especializado em detectar concentração de IA e chegamos à conclusão de que “é difícil determinar se ela é gerada por IA”.


Alguns comerciantes relataram em plataformas sociais que a tecnologia atual de geração de imagens de IA é difícil de ser 100% reconhecida e fácil de ser enganada. Além disso, mesmo que os comerciantes sejam cautelosos, ainda é difícil evitar os ataques massivos dos bandos de lã.

Por um lado, as ferramentas de IA atuais têm limites operacionais extremamente baixos. Em apenas alguns segundos, eles podem gerar imagens de produtos defeituosos “com manchas, danos e marcas de extrusão”. O custo da falsificação para o usuário é quase “zero”.

Pedimos a Qianwen e Doubao que ajudassem a transformar uma foto normal de maçã em uma foto “mofada”. Todo o processo levou menos de 20 segundos, mas o efeito foi um pouco pior. Alguns internautas disseram que efeitos falsos, como mirtilos e bananas, serão mais realistas, o que também está relacionado ao ângulo de filmagem, luz, etc.


Além disso, mesmo que os internautas não saibam como usar a IA, ainda existe uma cadeia industrial cinzenta de diagramas AI P. De acordo com o relatório do "IT Times", alguém alegou estar vendendo cursos de "conhecimento pago", mas na verdade estava vendendo tutoriais de diagramas AI P. O professor até disse: “A mensalidade é de 788 yuans, que inclui ensino e treinamento. Também oferece links de lojas de fácil reembolso. Você pode ganhar até 500 yuans por pedido”.


Alguns documentos didáticos mais baratos com imagens P também estão circulando silenciosamente na cadeia da indústria cinzenta. Um chamado “Documento de ensino de pseudo-imagem AI” é vendido por apenas 9,9 yuans. Algumas pessoas até oferecem um serviço centralizado de “representação de imagens P e apresentação de reclamações em nome de terceiros”.

Por outro lado, a maioria das plataformas de comércio eletrônico tem uma revisão relativamente tranquila de “somente reembolso” e basicamente “reembolso se houver uma foto”. Mesmo que o comerciante descubra que o cliente enviou uma imagem falsa de IA, ele só poderá recorrer posteriormente.

Mas para os comerciantes que processam encomendas em grandes quantidades, este tipo de triagem irá, sem dúvida, acrescentar custos enormes. Especialmente para pequenas transações, muitos comerciantes só podem optar por “aceitar o fracasso”.

Os consumidores também são “mal jogados”

Enquanto os comerciantes estão preocupados com os intermináveis ​​reembolsos de fraudes de IA, os consumidores do outro lado também se encontram presos no dilema de “ver para não acreditar”.

A Sra. Yang comprou recentemente um suéter fino de primavera em uma sala de transmissão ao vivo. O tecido era delicado e macio quando a modelo o mostrou, mas ao receber o produto real, ela descobriu que o estilo e a cor do vestido eram bem diferentes da foto. A Sra. Yang disse: “Quando a modelo usava as roupas, elas pareciam de alta qualidade, mas quando foram recebidas, pareciam barracas de rua e o acabamento era mediano”.

Yang originalmente pensava que era apenas uma diferença entre "imagens reais" e "imagens refinadas", mas mais tarde ela descobriu que a sala de transmissão ao vivo usava humanos digitais de IA. Ela acreditava que os humanos digitais poderiam usar a tecnologia de renderização para eliminar rugas nas roupas, melhorar o brilho e fazer com que tecidos baratos parecessem caros.

Além dos humanos digitais de IA, as páginas de detalhes do produto também são a área mais atingida pelo abuso de imagens de IA. Alguns consumidores reclamaram nas plataformas sociais: “Alguns comerciantes vendem roupas e nem têm fotos reais. São todos modelos virtuais. Não consigo ver o material e não me atrevo a comprá-los”.


Se os consumidores se depararem com imagens de produtos refinadas pela IA, eles ainda poderão optar por comprar ou não; mas no processo de pós-venda, eles podem encontrar “armadilhas de IA” ainda mais absurdas.

Recentemente, alguns consumidores disseram que encontraram cabelo ao comprar pés de galinha online e depois solicitaram reembolso do comerciante, mas foram solicitados a enviar uma “foto do Deus da Riqueza”. O motivo apresentado pelo lojista foi que a plataforma exigia análise, e também afirmou que nenhum reembolso seria possível sem o envio da foto.

Posteriormente, muitos consumidores disseram ter encontrado “rotinas” semelhantes. Alguns internautas especularam que os comerciantes que induzem os clientes a enviar imagens de IA podem permitir que a plataforma identifique os consumidores como fraudes maliciosas, isentando-os assim de avaliações negativas. O usuário @omnivorex postou no Xiaohongshu que reclamou aos comerciantes relevantes, mas a plataforma ainda não respondeu.


Alguns internautas brincaram que os consumidores usam fotos falsas de IA para colher lã, e os comerciantes também usam fotos de IA para enganar os consumidores. Esta onda é realmente uma “corrida de mão dupla”.

Para os comerciantes que originalmente planejavam fazer um "acordo único" e os consumidores que queriam apenas recolher a lã e ir embora, os dois lados usaram a IA para criar situações e contra-atacar um ao outro, o que pode ter se tornado uma espécie de "jogo ofensivo e defensivo" tácito.

Mas para os comerciantes que operam com integridade e para os consumidores que querem comprar bem, este tipo de abuso da IA ​​para criar o caos está constantemente a minar a relação de confiança entre compradores e vendedores. No final, todo o ecossistema do comércio eletrónico poderá pagar o preço por isso.

É urgente agir na plataforma

A tecnologia de IA em si não tem uma direção clara, mas as intenções do utilizador determinarão a sua natureza. É urgente estabelecer regulamentos e supervisão específicos.

Recentemente, a Associação de Consumidores de Pequim se uniu a oito plataformas de comércio eletrônico, incluindo JD.com, Meituan, Pinduoduo, Vipshop, Douyin, Kuaishou, Xiaohongshu e WeChat Live para assinar a primeira "Carta de Compromisso para Promover a Aplicação de Padrões Técnicos de IA" do país, que cobre identificação técnica, revisão de conteúdo, rastreabilidade de responsabilidade e outros aspectos, e delineia "linhas vermelhas de conformidade" para aplicações de tecnologia de IA.

No entanto, Sheng Yuhua, professor associado da Escola de Economia Civil e Comercial da Universidade de Ciência Política e Direito de Gansu, destacou que a maior dificuldade com a aplicação da tecnologia de IA nas atividades empresariais não é que não haja lei a seguir, mas que é difícil seguir a lei.

Embora existam leis e regulamentos relevantes a cumprir, muitas empresas ainda têm de seguir o caminho da proteção dos direitos.

Merchant Awen (pseudônimo) disse: “Na verdade, estamos lutando contra o algoritmo”. Awen acredita que o problema de alguns consumidores aproveitarem brechas nas regras para "arrebatar" maliciosamente sempre existiu, mas o surgimento da tecnologia de IA tornou esse tipo de comportamento invisível, e os comerciantes estão "lutando com inteligência e coragem" com os clientes. A essência é que a plataforma não pode defender a primeira linha de defesa.

Para este fim, os comerciantes também criaram espontaneamente organizações de ajuda mútua. Algumas pessoas compartilharam a mais recente “experiência antifraude”. Por exemplo, a identificação de imagens falsas pode começar pelos detalhes, concentrando-se em saber se as bordas estão desfocadas e se a iluminação e as sombras são razoáveis. Algumas pessoas também compartilharam ferramentas de falsificação de IA para tentar encontrar “lacunas no algoritmo”. Algumas pessoas também fizeram sugestões para identificar se os usuários possuem registros de “mau comportamento” por meio dos dados.

No entanto, este tipo de trabalho de identificação e gestão de riscos deve ser da responsabilidade das plataformas de comércio eletrónico. Um repórter do "Beijing News" perguntou a plataformas de comércio eletrônico como JD.com, Pinduoduo, Douyin e Taotian sobre isso:

JD.com afirmou que construiu de forma abrangente recursos multimodais de reconhecimento de imagens falsas de IA para produtos frescos, que estão em fase de operação experimental e devem ser lançados oficialmente até o final do ano;

Douyin também anunciou que estabeleceu capacidades relevantes de reconhecimento AIGC e está em operação de teste; Taotian disse que a plataforma possui um rigoroso sistema de controle de risco para verificar a autenticidade do certificado; Pinduoduo respondeu que continuará a fortalecer o suporte técnico pós-venda de acordo com os regulamentos relevantes.

Pode-se constatar que, embora as principais plataformas tenham consciência do impacto e dos riscos trazidos pela tecnologia de IA e tenham começado a tomar contramedidas, ainda estão na fase de "atravessar o rio tateando as pedras" e os mecanismos relevantes precisam de ser melhorados.

Nos últimos meses, as plataformas de comércio eletrónico interromperam sucessivamente as suas políticas de “apenas reembolso”, mas a governação do ecossistema do comércio eletrónico obviamente não pode ser alcançada da noite para o dia.

Hoje, a tecnologia de IA se tornou uma nova variável. Embora ajude as empresas a melhorar a eficiência operacional e a otimizar a experiência do utilizador, também é inevitavelmente utilizado por algumas pessoas para explorar lacunas nas regras. Esta é também uma fase necessária para que uma nova tecnologia passe do crescimento bárbaro à maturidade padronizada.

Em seguida, as plataformas de comércio eletrónico precisam de atualizar a sua capacidade de identificar a tecnologia AIGC o mais rapidamente possível e melhorar as políticas regulamentares de apoio. Ao mesmo tempo, devemos ouvir activamente e recolher extensivamente as vozes reais dos comerciantes e consumidores, e trabalhar em conjunto a partir de múltiplas dimensões, incluindo a concepção de regras, prevenção e controlo técnico, e mecanismos de reclamação, para construir conjuntamente um ecossistema de comércio electrónico justo, transparente e sustentável.