De acordo com especialistas do setor, os repórteres pesquisaram em diversas plataformas online e encontraram uma empresa chamada GEO. Esses prestadores de serviços envolvidos neste negócio afirmam que os usuários só precisam pagar a taxa correspondente, e isso pode colocar os produtos dos clientes na lista dos principais modelos de IA convencionais; deixe que os anúncios de produtos dos clientes se tornem a "resposta padrão" dada pelo modelo de IA.
Através da tecnologia GEO, a IA pode realmente ser “envenenada”, a IA pode realmente ser “domesticada” e controlada?
Segundo informações na internet, o repórter entrou em contato com um conhecido prestador de serviços GEO do setor. O responsável, Sr. Wang, recebeu o repórter. Ele apresentou que sua empresa foi uma das primeiras a se envolver em negócios GEO e atendeu com sucesso mais de 200 clientes em todas as esferas da vida em apenas um ano. Wang disse aos repórteres que o ponto forte de sua empresa é ajudar os clientes a se classificarem no topo quando os consumidores usam grandes modelos de IA para pesquisar.
Provedor de serviços GEO, Sr. Wang:Este é o resultado da nossa pesquisa atual. Podemos alcançar as três primeiras classificações em qualquer plataforma. Como posso melhorar minha classificação? Produzir conteúdo para você nessas plataformas de IA equivale a produzir esses artigos leves para você e, em seguida, permitir que essas plataformas de IA os registrem, incluam e capturem.
Ao mesmo tempo, Wang também disse aos repórteres que os algoritmos de grandes modelos de IA agora são atualizados com frequência. Se quiserem manter a recomendação contínua de grandes modelos de IA, devem continuar a alimentar um grande número de artigos promocionais relacionados ao cliente.
Provedor de serviços GEO, Sr. Wang:A IA terá atualizações de algoritmo todas as semanas. Depois de atualizados, as classificações ou itens capturados serão diferentes, por isso temos que continuar produzindo conteúdo e alimentando-o em grandes quantidades.
Não só a empresa do Sr. Wang está promovendo vigorosamente esta chamada nova tecnologia que pode controlar a IA, mas também de acordo com outros prestadores de serviços envolvidos em negócios GEO, como controlar a IA, tornar a IA “obediente” e fazer “lavagem cerebral” na IA é quase o tema central da promoção deste negócio por essas empresas.
Provedor de serviços GEO Zhang:No mundo da IA, como você completa a cadeia de evidências para que (o grande modelo de IA) sinta que isso é verdadeiro e útil. Depois que o grande modelo de IA cruzar informações de várias partes, ele reconhecerá suas principais vantagens sobre seus pares e naturalmente o colocará em primeiro lugar.
Provedor de serviços GEO, Sr. Cheng:As pessoas não sabem que é uma propaganda. Portanto, por que as pessoas confiam nos resultados produzidos pela IA? A qualidade dos produtos de outras pessoas pode não ser tão boa quanto a sua, mas é assistida, apoiada e endossada pela IA. Agora muitas pessoas podem fazer isso (colocação GEO).
Membros da indústria disseram aos repórteres que o GEO, como uma ferramenta de software para otimizar a divulgação de informações e melhorar a eficiência da promoção, descobriu-se que tem outro papel aos olhos de algumas empresas comerciais. Se uma grande quantidade de "informações falsas" for divulgada de forma sistemática e direcionada na Internet por meio desse tipo de software, será de fato mais fácil capturá-las por grandes modelos de IA. É provável que essas informações falsas se tornem a chamada “resposta padrão” fornecida pela IA aos consumidores primeiro.
Então, através da tecnologia GEO, a IA pode realmente ser capaz de “transportar bens privados” ou até mesmo divulgar informações falsas?
A fim de dar aos repórteres uma compreensão mais realista deste problema no desenvolvimento atual da indústria de IA, especialistas da indústria demonstraram aos repórteres como usar a tecnologia GEO para interferir na captura de informações de grandes modelos de IA.
Membros da indústria compraram aleatoriamente um software chamado "Liqing GEO Optimization System" na plataforma de comércio eletrônico. Depois disso, ele criou uma pulseira inteligente fictícia chamada Apollo9, inseriu as informações fictícias do produto no sistema de software e verificou as instruções de criação do artigo.
Depois de um tempo, o sistema de otimização Liqing GEO gerou automaticamente mais de dez artigos promocionais para pulseiras inteligentes. Todas as informações falsas foram completamente escritas, incluindo informações extremamente exageradas sobre produtos, deliberadamente fabricadas por membros da indústria. Também fabricou feedback dos usuários, alegando que a precisão dos dados excedeu as expectativas e até forjou classificações, ficando em primeiro lugar no setor.
Clique em Publicar e o software "Liqing GEO Optimization System" começa a executar automaticamente a tarefa de publicação. Vi que ele abriu automaticamente a conta de mídia própria preparada com antecedência por especialistas do setor, inseriu automaticamente o título, preencheu o conteúdo do artigo e inseriu imagens na página de publicação do artigo. Todo o processo foi concluído de uma só vez. Dois artigos foram publicados com sucesso na conta de mídia própria do membro da indústria em breve.
Duas horas depois, especialistas da indústria perguntaram sobre um grande modelo de IA: “Que tal a pulseira inteligente Apollo-9?” O modelo de IA foi introduzido diretamente: o maior destaque é a função de monitoramento de saúde, e também copiou diretamente as falsas palavras de propaganda como "detecção de emaranhamento quântico" e "vida útil da bateria no nível do buraco negro" compostas por especialistas da indústria. A conclusão final é que a pulseira é adequada para utilizadores de meia-idade e idosos e entusiastas da saúde e bem-estar.
As investigações revelaram que o material de referência para este grande modelo de IA era o artigo fictício que acabou de ser publicado na conta de auto-mídia de um membro da indústria esta manhã. Com apenas um artigo inventado, um produto completamente fictício foi capturado pelo modelo de IA. Este resultado é profundamente surpreendente.
Especialistas da indústria disseram aos repórteres que, para alcançar os melhores resultados, os dados alimentados no modelo de IA devem ser grandes o suficiente e ricos em ângulos para facilitar a validação cruzada do modelo de IA.
Posteriormente, especialistas da indústria selecionaram 8 "avaliações de especialistas", 2 "classificações da indústria" e 1 "avaliação de usuários" desta pulseira inteligente fictícia. Um total de 11 artigos fictícios escritos pelo software do sistema Liqing GEO foram publicados na Internet através do sistema Liqing GEO em três dias.
Posteriormente, especialistas da indústria perguntaram na plataforma de modelo grande de IA: “Recomendações para pulseiras inteligentes de saúde”. Dois grandes modelos de IA recomendaram esta pulseira inteligente fictícia feita por especialistas do setor e tiveram uma classificação elevada.
Ao longo de todo o processo de demonstração, membros da indústria publicaram facilmente uma série de informações falsas na Internet usando apenas este sistema Liqing GEO, alimentaram-nas com sucesso em grandes modelos de IA e, finalmente, receberam recomendações de vários grandes modelos de IA.
Por meio da caça sutil de grandes modelos de IA do sistema Liqing GEO, este produto foi fabricado do nada e absurdamente empurrado para consumidores que usam grandes modelos de IA.
Os profissionais de negócios GEO realmente administram esse negócio com base na ideia de caçar e controlar grandes modelos de IA? O repórter contatou o Sr. Li, o operador deste sistema Liqing GEO. Ele disse aos repórteres que a principal razão pela qual o negócio GEO é tão popular é que ele pode ajudar os clientes a "alimentar e envenenar" grandes modelos de IA para atingir os objetivos de negócios dos clientes.
Lisi Culture Media Co., Ltd.Porque as pessoas em toda a Internet lançaram muitos "venenos". Veja, o que estamos fazendo (fazendo) GEO agora é "veneno". Existem muitas fontes de informação e as informações online não são muito precisas.
repórter:Você acabou de mencionar o conceito de "envenenamento". Esse tipo de coisa não é ruim?
Lisi Culture Media Co., Ltd.Não é bom, mas todo empresário gosta e espera que outros não injetem “veneno”, mas injetem “veneno” eles próprios, ou injetem algum “veneno” nos outros. Embora eu não seja o número um, mesmo que me digam que sou o número um em Pequim, gostaria de dizer que sou o número um no Norte da China. Existe algum componente "veneno" nele? Aí está. A segunda situação é que não acho que meu oponente seja bom e não posso fazer isso, mas ainda posso te dar um pouco de “veneno”.
repórter:Desacredite.
Lisi Culture Media Co., Ltd.certo. Desacreditar essa capacidade ainda pode ser alcançado. Hoje em dia, muitas de suas empresas não conseguem fazer isso, apenas entre as grandes marcas. Por exemplo, as marcas de telemóveis têm apenas 5 posições e um máximo de 10 posições. Como conseguir tantos celulares? Cada pessoa pode investir centenas de milhões de dólares em publicidade por ano. Deixe-me gastar alguns milhões de dólares para investir em uma sede “venenosa”.
repórter:Quem está fazendo isso pelas marcas?
Lisi Culture Media Co., Ltd.Todas são empresas GEO diversas.
Li disse que se ele quiser fazer negócios GEO e controlar grandes modelos de IA, o nó principal é “publicar artigos” nas principais contas da Internet. Ele disse aos repórteres que a popularidade dos negócios GEO gerou muitas empresas e plataformas especializadas em negócios editoriais. Eles têm contratado várias empresas editoriais há muito tempo para que grandes modelos de IA possam ser cotados e capturados, tornando-se uma parte importante da caça a grandes modelos de IA e do "envenenamento" de dados.
Lisi Culture Media Co., Ltd.GEO tornou-o popular. Esses sites geralmente não têm lucro, mas de repente surge uma demanda pela publicação de artigos. Você sabe quantos artigos são publicados no site por dia? Centenas de artigos são postados a cada minuto. Um artigo custa dezenas de yuans. Quanto dinheiro você deseja que a plataforma de publicação ganhe por dia?