Resumo:
Nos últimos dois dias, vi uma notícia particularmente interessante. Existe uma empresa na Austrália chamada Apate.ai, em homenagem à deusa do engano da mitologia grega. O que esta empresa fez é particularmente escandaloso. Eles construíram 350.000 IAs. E a principal função destes 350.000 IAs todos os dias é mentir para as pessoas.
É que o alvo que eles enganam é um pouco especial.
Eles são especializados em golpistas.
Sim, ele é o tipo de mentiroso que você pensa que ele é.
Cada IA fingirá ser uma pessoa comum, velha ou jovem, homem ou mulher. Eles ainda têm sotaques diferentes, podem falar vários idiomas e até ter personalidades próprias.
Chamadas fraudulentas, sites de phishing, golpes de investimento, etc. Contanto que encontrem um golpista, eles encontrarão uma maneira de enviar uma IA para lá, fingir ser uma vítima e conversar com o golpista.
O mais importante é que essas IAs têm uma característica comum muito engraçada, ou seja, são muito fáceis de enganar.
O golpista pediu para transferir o dinheiro e ele disse que não haveria problema.
O golpista me pediu para abrir o site e ele disse que estava tudo bem.
O golpista me pediu para preencher o número do meu cartão bancário, mas ele disse que sim, sem problemas.
Então, quando se trata da etapa de execução, você de repente começará a agir de forma estúpida.
Opa, onde coloquei meu cartão do banco?
Ops, que senha é essa?
Ah, estou velho e minha visão não está funcionando bem. Irmãozinho, você pode dizer isso de novo?
Basta falar com o golpista tão abruptamente que algumas ligações podem durar mais de duas horas...
O mentiroso quase desmaiou.
Mas a senhora do outro lado da linha foi muito educada.
"Desculpe, jovem, por favor, me ensine novamente."
De acordo com o próprio Apate, sua IA conversou com golpistas 2,5 milhões de vezes e ainda conversa com dezenas de milhares de golpistas ao mesmo tempo todos os dias.
No total, o golpista levou cerca de 17 anos.
Bem, 17 anos...
A operadora de telecomunicações australiana TPG transferiu diretamente quase 590 mil chamadas suspeitas para a IA da Apate para atendê-las. Como resultado, o Commonwealth Bank of Australia reduziu diretamente em 76% as perdas por fraude reportadas publicamente.
O mais engraçado é que, de vez em quando, os golpistas são arrastados por essas IAs a ponto de entrarem em colapso e xingarem o telefone.
A Apate não apenas não ficou zangada, mas também incluiu esses palavrões em seus materiais de roadshow de financiamento. Seu cofundador disse que a Apate é provavelmente a única empresa no mundo que comemora quando os usuários criticam seus produtos.
A origem de tudo isso foi um piquenique em família há alguns anos.
O fundador da Apate é Dali Kaafar. Ele levou a família para um piquenique naquele dia e recebeu um telefonema estranho. Este telefonema foi muito grosseiro e parecia um golpista.
Mas ele não desistiu, pois para deixar as crianças felizes começou a se abstrair, fingindo estar possuído por uma fada boba, e foi muito cooperativo, apenas conversando com o mentiroso frase por frase.
Essa conversa durou 44 minutos e então toda a família caiu na gargalhada.
Depois de rir, Kaafar de repente percebeu algo.
Durante esses 44 minutos, o golpista continuou conversando com ele na linha e não teve tempo de ligar para outras pessoas. Originalmente, um homem idoso que vivia sozinho poderia receber esta chamada e poderia ser defraudado do último dinheiro da pensão que poderia sustentar a sua sobrevivência.
Claro, o preço é que ele também entrou por 44 minutos.
Então, naquele momento, ele teve uma ideia nova e se perguntou se esse assunto poderia ser deixado para a IA.
Como Kaafar estava originalmente fazendo pesquisas sobre segurança de rede na Universidade Macquarie, em Sydney, ele e seus colegas começaram a se especializar no estudo de chamadas fraudulentas e usaram a IA para desmantelar as palavras dos golpistas, pouco a pouco. Em 2024, a ideia virou Apate.
44 minutos de piquenique se transformaram em uma tutela que durou 17 anos.
Se há uma coisa neste mundo que eu odeio profundamente, é a fraude.
Acredito que muitas pessoas pensam da mesma forma que eu.
Mas agora, a IA parece estar a mudar algo que foi particularmente injusto no passado, que é o custo entre fazer o mal e prevenir o mal.
Recentemente, assisti a um documentário sobre fraudes em telecomunicações no norte de Mianmar. Eu realmente senti que todos estavam trabalhando duro para evitar que as pessoas comuns fossem enganadas.
Mas uma coisa muito nojenta sobre a fraude é que sua estrutura de custos é naturalmente benéfica para os golpistas.
Por exemplo, um mentiroso pode ligar para centenas de pessoas por dia. Não importa mesmo que todas as primeiras centenas de pessoas desliguem, porque isso é uma aposta, mas contanto que uma pessoa seja enganada no final, ela pode ganhar muito dinheiro.
Mas para as pessoas comuns, você pode não ter sido enganado mil vezes antes.
Apenas pela milésima primeira vez, encontrei um mentiroso que era particularmente bom em atuação. Aconteceu que eu estava de mau humor naquele dia e encontrei minha própria fraqueza.
Isso pode significar que as economias de sua vida acabarão.
Os mentirosos podem falhar inúmeras vezes, mas pessoas comuns como você e eu, infelizmente, às vezes nem sequer têm a chance de falhar uma vez.
Portanto, o nosso país, toda a nossa sociedade, tem feito inúmeras coisas e tem tentado encontrar formas de aumentar a vigilância das pessoas comuns.
Agora que a IA chegou, os golpistas podem usar a tecnologia para reduzir o custo de fazer o mal.
Então por que não podemos usar a mesma tecnologia para reduzir o custo da proteção de outras pessoas?
Em agosto deste ano, Apate recebeu US$ 8,15 milhões em financiamento inicial. Embora pareçam pequenos em toda a onda de IA, ainda ficarei maravilhado com eles. Além disso, começaram realmente a ter clientes, como bancos e operadores de telecomunicações, que estão realmente dispostos a pagar.
Uma vez que a boa vontade possa continuar a operar, ser copiada e ampliada, penso que o poder que ela gera poderá exceder em muito a capacidade de uma pessoa.
Que coincidência.
Justamente quando o incidente de Apate se tornou popular, algo muito semelhante estava acontecendo na China.
É o AI Xiaohai que tem causado muito barulho recentemente.
Acredito que muitas pessoas sabem disso, então vou fazer um breve resumo.
Provavelmente há um grupo de pessoas que usa IA para gerar em lote alguns garotos bonitos e gritar “tia” para a câmera todos os dias.
As idas e vindas significam que hoje meu pai está doente, amanhã serei intimidado e depois de amanhã terei falta de dinheiro. De qualquer forma, continuarei sofrendo miseravelmente.
No final, algumas mulheres de meia-idade e idosas sentiram pena dele e compraram os produtos de alta comissão em sua vitrine. Algumas comissões chegaram a chegar a 55%. Este foi provavelmente um desses padrões.
O mais ultrajante é que há uma senhora de 79 anos que realmente acreditou em Xiao Hai ao telefone. Ela comprou uma passagem de trem sozinha e correu para Shanxi para encontrá-lo.
Porque Xiaohai disse a ela que eles poderiam ir ver as flores de damasco e colher cogumelos juntos.
Mas a velha nem sabia para onde ir depois de chegar a Shanxi.
Ela só sabia que Xiaohai estava lá.
Mais tarde, a polícia descobriu que algo estava errado e perguntou a ele sobre isso. Finalmente, ele contatou sua família e o aceitou de volta.
Então, logo após esse incidente ter sido exposto, um grupo de jovens na China, com sua magia e sabedoria, decidiu começar a usar a IA para revidar.
Um deles era um estudante universitário de 19 anos chamado Xiaozhou.
Ele descobriu que um velho da casa de seu amigo havia comprado vários itens em sua vitrine porque sentia pena de Xiao Hai.
Então Xiaozhou pensou em uma maneira particularmente interessante, já que o velho acreditava em Xiaohai.
Deixe Xiaohai dizer ao próprio velho que ele é um mentiroso, então ele também usou IA para gerar um vídeo de 30 segundos.
Ainda é o mesmo rosto de Xiao Hai, mas desta vez, Xiao Hai se transformou em uma segunda geração rica vivendo em uma mansão e vestindo um terno.
Esta é uma captura de tela da entrevista do Beijing News com Xiaozhou.
Neste vídeo, o pai de cabelos brancos de Xiaohai correu e o aconselhou a não mentir para aquelas tias e mães novamente.
Como resultado, Xiaohai virou as costas e disse que não se importava nem um pouco com aquelas tias. Enquanto ele gritasse, eles viriam e dariam dinheiro.
Finalmente, ele expulsou o pai.
Depois que o vídeo foi postado, ele teve apenas algumas dezenas de curtidas, mas um amigo de Xiaozhou mostrou o vídeo para os idosos em casa.
O velho que costumava comprar coisas para Xiaohai disse depois de ler:
"Ah, por que isso é assim?"
"Nunca mais comprarei nada dele."
Simplesmente assim, um vídeo de 30 segundos realmente fez um velho mudar de decisão.
Mais tarde, mais e mais jovens foram infectados e inspirados e começaram a aderir.
Algumas pessoas pediram a Xiao Hai para ir para a cadeia, algumas pediram a Xiao Hai para fumar e beber, e outras pediram-lhe para usar uma corrente de ouro e contar dinheiro em uma mansão.
Algumas pessoas até pediram a Xiaohai que usasse uniforme de prisão, segurasse as barras de ferro da prisão e admitisse para a câmera que era um mentiroso.
Foi assim que um maravilhoso confronto de IA começou.
Gosto especialmente do que Xiaozhou disse em entrevista ao Beijing News.
"Pessoas gentis não devem ser enganadas."
Acho que uma frase tão simples é mais poderosa do que qualquer grande manifesto de IA.
Depois de ler essas duas histórias, a história de Apate e Xiaozhou, fiquei realmente emocionado. Além disso, isso demonstrou perfeitamente uma mudança muito especial na era da IA.
No passado, se uma pessoa comum quisesse fazer uma boa ação, talvez não conseguisse fazê-la.
Agora, ele finalmente tem a oportunidade de usar IA e tecnologia para ampliar sua boa vontade.
Há muito tempo, escrevi um artigo sobre um estudante do ensino médio de 17 anos que fingiu ser uma IA e curou toda a estação B com suas respostas. Eles são todos pessoas comuns, mas excelentes.
Todos os dias discutimos o quão inteligente é o modelo, quais benchmarks ele quebrou e quantas tarefas ele pode realizar que só poderiam ser realizadas por humanos no passado.
É claro que isso é importante.
Mas acho que por trás dessas IAs cada vez mais poderosas, a pura bondade para com as pessoas é muitas vezes ainda mais preciosa.
O futuro da IA que eu mais quero ver é provavelmente este.
A tecnologia em si não tem posição.
O que a IA está amplificando nunca são apenas as habilidades humanas.
Também está ampliando as escolhas das pessoas.
Espero que um dia, no futuro, possamos usar a tecnologia mais avançada para proteger a bondade mais antiga e simples da humanidade.
Também espero por aqueles que são gentis.
Nunca precise fazer isso por causa de sua própria bondade.
E se machucar novamente.
Comentários