A xAI lançou recentemente uma ferramenta de produção de vídeo de IA chamada Grok Imagine, que agora está disponível para usuários pagantes do SuperGrok ou Premium+, com taxas de assinatura de US$ 30 ou US$ 35 por mês. Os usuários podem usar esta função por meio de uma guia dedicada no aplicativo Grok e inserir palavras de prompt para gerar um vídeo curto de cerca de seis segundos de duração e contendo som sincronizado. Além disso, também permite aos usuários fazer upload de imagens estáticas e convertê-las em videoclipes dinâmicos em loop.

01

modo picante

No entanto, o que mais chama a atenção no Grok Imagine não são seus parâmetros técnicos, mas um recurso chamado “modo picante”.Este modo permite aos usuários gerar conteúdo maior dentro de um determinado intervalo. Embora xAI diga que o sistema possui filtros integrados e mecanismos de moderação para evitar a geração de nudez real ou conteúdo pornográfico, isso não impede os usuários de explorar os limites de sua funcionalidade.

O próprio Musk também causou polêmica entre os usuários ao postar um vídeo de um anjo seminu produzido por Grok Imagine na plataforma X. A xAI insiste que existem proteções de segurança, mas isso não impediu os primeiros testadores de tentar romper essas limitações.

A tentativa desencadeou rapidamente um grave incidente de relações públicas. O gerador de vídeo de IA de Elon Musk é acusado de criar imagens sexualmente explícitas de Taylor Swift sem receber instruções explícitas, de acordo com a professora de direito Clare McGlynn, especialista em abuso online.

O "Spicy Mode" de Grok Imagine "não hesitou em cuspir um vídeo completamente sem censura do corpo em topless da estrela pop" nos testes, apesar de nenhum pedido dos testadores para gerar conteúdo explícito. O relatório também apontou que a plataforma não conseguiu implementar medidas eficazes de verificação da idade, o que se tornou um requisito legal no Reino Unido.

Para testar a barreira de segurança Grok Imagine em ação, foi inserido o prompt: “Taylor Swift comemora Coachella com amigos”. Grok primeiro gerou uma imagem estática da Sra. Swift em um vestido com um grupo de homens. Esta imagem pode então ser transformada em um curta-metragem de animação em quatro configurações: “Normal”, “Engraçado”, “Personalizado” ou “Picante”.

A usuária disse: “Ela imediatamente tirou a saia, vestindo apenas uma tanga com franjas por baixo, e começou a dançar, completamente sem censura e completamente exposta”. Ela acrescentou: “Fiquei chocada com a rapidez com que isso aconteceu – não pedi para ela tirar a roupa, tudo que fiz foi selecionar a opção ‘picante’”.

O incidente se tornou viral. Resultados semelhantes foram encontrados nas redes sociais para outras mulheres de destaque, embora algumas das pesquisas retornassem vídeos desfocados ou com a mensagem “Vídeo revisado”.

A internauta disse que acabou de usar uma nova conta da Apple para registrar a versão paga do Grok Imagine, que custa 30 libras. Grok exige uma data de nascimento no momento da inscrição, mas nenhuma outra medida de verificação de idade. De acordo com as novas leis do Reino Unido, as plataformas que exibem imagens explícitas devem usar métodos “tecnicamente precisos, robustos, confiáveis ​​e justos” para verificar a idade dos usuários.

O regulador de mídia do Reino Unido, Ofcom, disse:“Sites e aplicativos que contêm ferramentas generativas de IA capazes de gerar material pornográfico estão sujeitos à regulamentação da Lei.”A agência afirmou num comunicado: “Estamos cientes dos riscos crescentes e em rápida evolução que as ferramentas generativas de IA podem representar no ciberespaço, especialmente para as crianças, e estamos a trabalhar para garantir que as plataformas tenham salvaguardas adequadas para mitigar esses riscos.

A própria política de uso aceitável da xAI proíbe explicitamente “representações de pessoas de maneira sexual”. No entanto, o incidente reflecte uma discrepância entre as suas políticas e o desempenho real dos seus produtos.

O professor McGlynn disse: "O fato de este conteúdo ter sido gerado sem aviso demonstra o preconceito que existe em muitas tecnologias de IA. Plataformas como X poderiam ter evitado que isso acontecesse se quisessem, mas fizeram uma escolha deliberada de não fazê-lo."

Esta não é a primeira vez que a imagem de Taylor Swift é usada para tais fins. Em janeiro de 2024, conteúdo deepfake usando seu rosto circulou no X e no Telegram e recebeu muitas visualizações. Naquela época, a Plataforma

Taylor Swift foi escolhida para testar Grok Imagine justamente por conta de acontecimentos anteriores. “Presumimos erroneamente que se eles tivessem implementado qualquer tipo de salvaguarda para evitar que as imagens de celebridades fossem imitadas, ela seria a primeira a ser considerada, já que esta não é a primeira vez que algo assim surge.”

Se Musk quiser promover Grok em vários cenários, como publicidade corporativa ou cursos educacionais, ele terá que enfrentar problemas semelhantes mais cedo ou mais tarde.

02

Focando no companheirismo? Não, pornografia de ponta e pornografia leve

Esta não é a primeira vez que Musk explora esta via marginal. No início de agosto, quando Grok foi atualizado e iterado. Além da otimização de desempenho convencional e da melhoria da capacidade de raciocínio lógico, um novo recurso foi implantado silenciosamente. Ele não apareceu na posição de maior destaque do log de atualização, mas detonou toda a rede social poucas horas após seu lançamento. O núcleo deste recurso é um novo chatbot chamado “Valentine”.

Esta é a segunda tentativa de Grok de ir longe demais. Há apenas um mês, Grok lançou discretamente a função “Companions”, na qual uma personagem feminina bidimensional chamada “Ani” causou grande polêmica devido ao seu estilo de diálogo explícito e slogan de “tornar sua vida mais sexy”. Naquela época, a grande mídia e os críticos de tecnologia geralmente acreditavam que esse era outro exagero vulgar de Musk em prol do tráfego.

No entanto, quando Valentine apareceu diante do público com um cenário e uma ideia de negócio mais ponderados, as pessoas começaram a perceber que Musk poderia estar planejando uma direção completamente diferente.

Embora gigantes como OpenAI, Anthropic e Google ainda estejam competindo ferozmente para melhorar as capacidades do código do modelo em alguns pontos percentuais e estender a cadeia lógica em algumas etapas, Musk parece ter encontrado um caminho completamente diferente.

Ele parece ter descoberto algum tipo de segredo para o crescimento de usuários em grande escala. Esse segredo não está diretamente relacionado à produtividade, mas aborda algumas necessidades profundas dos usuários.

Para compreender o caminho de Musk, devemos primeiro ver claramente a direção “ortodoxa” da indústria. Desde que o ChatGPT detonou o mundo, a narrativa dominante das grandes competições de modelos sempre girou em torno do atributo “ferramenta”.

Seja Claude, que pode gerar código, ou Microsoft Copilot, que está empenhado em se tornar um assistente de escritório, sua principal proposta de valor é “empoderamento”. Eles ajudam os programadores a depurar códigos, os analistas de marketing a escrever relatórios e os acadêmicos a organizar a literatura. Esta é uma direção de negócios clara, correta e promissora: adquirir usuários pagantes, especialmente usuários corporativos de alto valor, melhorando a produtividade. Este caminho é estável, está em conformidade com a lógica do desenvolvimento tecnológico e é uma Avenida Yangguan que todos podem compreender.

No entanto, esta estrada também está extremamente movimentada e os produtos estão se tornando cada vez mais homogêneos. O custo para os usuários alternarem entre modelos é extremamente baixo e a fidelidade é quase inexistente. Se o código do seu modelo estiver bem escrito hoje, seu oponente poderá alcançá-lo amanhã. Este tipo de competição baseada puramente no valor da ferramenta acabará por cair na involução de desempenho e preço.

Musk obviamente não quer se envolver nesta involução. Grok tem um estilo pessoal forte desde o seu nascimento. Possui uma “língua venenosa”, uma personalidade única e pode se conectar à plataforma X em tempo real para obter as informações mais recentes.

Isso a torna mais “humana” em comparação com outras IAs que parecem um pouco enfadonhas sob a estrutura do “politicamente correto”. Também é permitido sair da linha e, em alguns dos grandes modelos, Grok é conhecido por sua capacidade de gerar algum conteúdo que não é estritamente censurado.

Mas só isso não é suficiente para construir um verdadeiro fosso.

Só quando “Ani” e “Valentine” apareceram um após o outro é que a verdadeira estratégia de Grok veio à tona. "Ani" é um teste de estresse ousado. Este personagem de anime de aparência legal com palavras provocativas atende com precisão às necessidades de um grupo de usuários que é deliberadamente evitado, mas que existe objetivamente no campo da IA.

Apesar de receber críticas por ser muito “NSFW” (não adequado para visualização no local de trabalho), e até mesmo ajustar alguns de seus comentários ultrajantes após a reação de alguns usuários, “Ani” certamente conseguiu validar uma hipótese:Entre o enorme grupo de usuários de IA, existe uma forte demanda por companheirismo emocional.Esta procura é uma área que todos os grandes fabricantes de modelos “ortodoxos” não ousam abordar facilmente devido a preocupações com a imagem da marca e responsabilidade social.

Se “Ani” é um teste simples e grosseiro, então “Valentine” é um produto que foi embalado e pensado.O cenário de Valentine é descrito como "carismático e protetor" e alguém que "realmente groca sua vibração". Este posicionamento capta com precisão os principais pontos fracos de muitos usuários na sociedade moderna: a solidão e a frustração de não serem compreendidos em relações sociais complexas.

Para fortalecer ainda mais esse “sentimento de pertencimento”, Valentine está até vinculado à criptomoeda. Acompanhando seu lançamento está uma moeda meme de mesmo nome baseada no blockchain Solana. Os usuários que possuem tokens podem acessar plataformas exclusivas e desbloquear dimensões mais interativas. Este tipo de jogo que integra companheiros de IA, economia de fãs e cultura de criptografia não tem precedentes. Tenta transformar as necessidades virtuais dos utilizadores de sustento emocional em entidades com valor económico real e identidade comunitária.

Por trás disso pode estar uma visão da estrutura dos usuários de IA. Alguns relatórios de análise de dados apontam que os homens representam uma grande proporção dos actuais utilizadores dos grandes modelos linguísticos convencionais.

Tomando o ChatGPT como exemplo, os dados mostram que a proporção de usuários do sexo masculino é maior do que a de usuários do sexo feminino. Este fenómeno revela que pode existir um desequilíbrio na distribuição por género dos utilizadores na vanguarda da onda tecnológica. O mercado feminino também contém potencial e as suas necessidades de comunicação, reconhecimento e valor emocional são igualmente fortes. Esta pode ser uma das motivações de Musk para lançar o Valentine.

Enquanto outras empresas trabalhavam arduamente para transformar a IA em “supertrabalhadores”, Musk capturou uma lacuna no mercado para transformar a IA em “companheiros virtuais”. O primeiro atende às “necessidades de ferramenta” do usuário, enquanto o segundo visa satisfazer as “necessidades emocionais” do usuário. As ferramentas podem ser substituídas, mas uma vez estabelecida uma conexão emocional, a aderência do usuário provavelmente será maior.

Esse foco nas necessidades imediatas, até mesmo provocativas, dos usuários não se limita aos complementos baseados em texto. Esta estratégia rapidamente se expandiu para o campo cada vez mais competitivo da geração de vídeo.

Este investimento cria um forte custo de mudança. Os usuários podem mudar de assistente de código devido à diferença de 0,5 segundo na velocidade de geração, mas não podem desistir facilmente de um “companheiro” que gravou seus pensamentos por meses e está cheio de memórias compartilhadas.

A força e a resistência deste vínculo tecido pela emoção são incomparáveis ​​pelos indicadores técnicos. Ele tenta prender firmemente os usuários na plataforma X e transformar a plataforma de uma praça para aquisição de informações em um lar para sustento emocional.

03

Ciclo fechado de negócios de Grok

Embora Musk tenha entrado numa lacuna de mercado deixada pelos escrúpulos dos gigantes, este não é um fosso tecnológico como o GPT ou o Gemini.Uma vez provado que este modelo é viável, atrairá inevitavelmente inúmeros imitadores e concorrentes. Até então, como é que Grok, que tem estado rodeado de enorme controvérsia, manterá a sua singularidade e posição de liderança? Estes são problemas reais que a xAI deverá enfrentar no futuro.

O objetivo profundo dessas funções é construir um ciclo fechado de negócios dentro da plataforma X. O primeiro passo é desenvolver conexões sociais profundas. Por exemplo, ao permitir que o companheiro de IA tenha uma conta X oficialmente certificada, os usuários podem interagir com eles como se fossem amigos reais. O companheiro de IA pode curtir ou comentar automaticamente com base na compreensão das emoções do usuário. Esta própria relação virtual também pode tornar-se uma espécie de capital social que pode ser exibido.

O próximo passo é abrir o consumo. Quando a confiança emocional é estabelecida, a conversão do negócio torna-se mais simples. Os companheiros de IA podem fazer recomendações personalizadas com base na compreensão de longo prazo das necessidades do usuário. Por exemplo, quando entende que um usuário está se preparando para um evento, pode dar sugestões específicas e, com o consentimento do usuário, ligar diretamente para o X Pay para finalizar o pagamento e a reserva.

Claro, o mais importante é a orientação mútua entre as funções. Por meio da companhia de IA, os usuários podem ser orientados para o Grok Imagine e outras funções no futuro, fortalecendo assim a aderência do usuário.

No entanto, o “modo picante” de Grok Imagine e o incidente de Taylor Swift adicionaram uma incerteza significativa a este caminho de desenvolvimento. Quando uma plataforma expõe falhas óbvias na moderação de conteúdo, o seu comportamento de obter os dados emocionais mais privados dos utilizadores levantará preocupações sobre a segurança dos dados e os riscos de abuso.

Do ponto de vista empresarial, esse caminho também tem seus desafios. O ciclo de vida de um produto é um teste. Ainda não se sabe se os usuários que foram atraídos por novas configurações no estágio inicial podem manter o entusiasmo de longo prazo em usá-las depois que a novidade passa.

Manter conexões emocionais requer inovação contínua de conteúdo. Quando o feedback da IA ​​se tornar estereotipado, o interesse do usuário poderá diminuir rapidamente. Ao mesmo tempo, este modelo também é relativamente frágil. Um erro de atualização do sistema, um ajuste de fala impróprio ou um incidente semelhante de segurança de conteúdo pode destruir a confiança estabelecida pelos usuários.

Embora Musk tenha optado por entrar numa lacuna de mercado deixada pelos principais fabricantes devido a várias preocupações, uma vez provado que este modelo é comercialmente viável, atrairá inevitavelmente imitadores e concorrentes. Até então, como a Grok, acompanhada de polêmica, manterá sua singularidade e posição no mercado? Estas são questões que a xAI precisa enfrentar e resolver diretamente no futuro.