O Google lançou recentemente um novo recurso no Gemini que está profundamente ligado ao Google Fotos, permitindo que este assistente de IA extraia informações diretamente da biblioteca de fotos do usuário para gerar conteúdo de imagem mais personalizado.O objetivo do Google é que os sistemas “usem imagens reais suas e de seus entes queridos” ao criar imagens de IA, em vez de depender apenas de usuários que forneçam longas descrições de aparência, membros da família e estilo pessoal nos prompts.

A mudança faz parte da estratégia mais ampla de “Inteligência Pessoal” do Google, que visa conectar o Gemini a aplicativos como Fotos, Gmail, Pesquisa, Mapas e YouTube para incorporar mais contexto pessoal nas respostas e torná-las mais relevantes para os usuários. Em termos de geração de imagens, o Gemini usará as informações das fotos obtidas conectando-se ao Google Fotos para preencher automaticamente os detalhes, tentando reduzir o problema de escrever palavras longas de "mini-romance" em projetos de prompts tradicionais.

O modelo de imagem subjacente que impulsiona esse recurso é o Nano Banana 2, que é o modelo de geração de imagens recentemente atualizado do Google. Oficialmente, ele está posicionado como uma forma de gerar mais rapidamente cenas de IA que “parecem realmente relevantes para você”. Resumindo, se o usuário concordar em ativar esse recurso, o Gemini irá automaticamente se referir a fotos relevantes do álbum do usuário ao gerar imagens para ajustar a aparência do personagem, estilo de cena e outros elementos para deixar o resultado mais próximo de você e sua família na vida real.

No entanto, assim que a função foi exposta, desencadeou uma nova rodada de alarmes de privacidade e controvérsia pública. Muitos críticos temem que fotos de família, memórias pessoais e até mesmo várias fotos sensíveis sejam ainda mais envolvidas na "fábrica de conteúdo de IA" e convertidas em parte de conteúdo gerado por máquina, reforçando o medo de "dados pessoais serem reprocessados ​​em materiais de produção de IA". No contexto do recurso Recall da Microsoft, que recebeu forte reação devido a questões de privacidade, este tipo de inovação de IA que “se aprofunda nos dados de domínio privado do usuário final” é particularmente sensível.

A julgar pelas informações divulgadas pelo Google, este não é um serviço ativado por padrão, mas utiliza um mecanismo voluntário de “opt-in”. O Google disse que “inteligência pessoal” é um recurso opcional e os usuários podem decidir quais aplicativos desejam conectar ao Gemini. O primeiro lote de objetos para acessar a função de geração de imagens do Fotos são assinantes qualificados do Google AI nos Estados Unidos. Em outras palavras, o Google atualmente não verifica e analisa diretamente todos os álbuns do Google Fotos sem o conhecimento do usuário.

Em termos de uso de dados, o Google enfatiza que o aplicativo Gemini não utilizará diretamente a biblioteca privada do Google Fotos do usuário para treinamento de modelos. Ao mesmo tempo, o usuário pode clicar no botão “Fontes” após gerar a imagem para ver qual foto foi selecionada pelo sistema como referência para orientar o processo de geração dos resultados atuais. Estas instruções tentam aliviar algumas das preocupações de pessoas de fora e fornecer aos usuários um nível de visibilidade e rastreabilidade.

No entanto, estas garantias não dissiparam completamente as dúvidas. Os defensores da privacidade salientam que a credibilidade dos chamados sistemas “opcionais” depende em grande parte de quão claras e honestas as empresas são na descrição das suas características, e o historial da Big Tech a este respeito não é tranquilizador. Mesmo que não sejam utilizadas diretamente para treinamento, o fato de as imagens privadas dos usuários serem utilizadas para inferência em tempo real e geração de conteúdo ainda pode ser perturbador para muitas pessoas.

De modo geral, a situação atual não é que o Google esteja secretamente "ligando-o com um clique" e verificando as bibliotecas de fotos de todos os usuários por padrão. Mas “deixar a IA vagar livremente em seu álbum de fotos privado e extrair fragmentos de memória para gerar novo conteúdo” em si é um conceito que pode facilmente fazer com que usuários comuns se sintam na defensiva. Numa altura em que as fronteiras entre os serviços de IA e a privacidade pessoal são constantemente redesenhadas, é provável que tais tentativas de produtos em torno da "inteligência pessoal" continuem a tornar-se o foco da inovação tecnológica e das disputas de privacidade durante algum tempo.