Recentemente, imagens falsas da estrela pop Taylor Swift contendo conteúdo explícito inundaram a Internet. Alguns relatórios afirmam que as imagens foram criadas usando o Microsoft Designer. Funcionários da Microsoft disseram não ter visto nenhuma evidência disso, mas acrescentaram que foram feitas alterações no design do produto “para fortalecer nossos prompts de filtragem de texto e lidar com o abuso de nossos serviços”.
Hoje, o presidente da Microsoft, Brad Smith, publicou um artigo no blog oficial da empresa. Embora ele não tenha mencionado as imagens deepfake de Taylor Swift ou o suposto uso do Microsoft Designer para criá-las, Smith disse que a empresa está vendo “uma rápida expansão no abuso dessas novas ferramentas de IA por parte de malfeitores”.
Smith descreveu seis áreas específicas nas quais a Microsoft se concentrará para combater esse tipo de “conteúdo abusivo gerado por IA”. A primeira é ajudar a melhorar o uso seguro dessas ferramentas, bloqueando avisos de texto específicos, testando e banindo rapidamente usuários que abusam dessas ferramentas.
Outra área em que a Microsoft está trabalhando é ajudar a identificar conteúdo gerado por IA. Smith disse: Já usamos tecnologia de atribuição nas ferramentas de criação de imagens do Bing e do Microsoft Designer do Copilot e estamos estendendo a atribuição de mídia a todas as nossas ferramentas que criam ou processam imagens. A empresa está pesquisando futuras “tecnologias de marcas d’água e impressões digitais” e trabalhando para remover conteúdo que abuse da inteligência artificial de serviços como o LinkedIn e de serviços de jogos como o Xbox.
Smith disse que a Microsoft também espera trabalhar com outras empresas da indústria de tecnologia e aplicação da lei para combater deepfakes baseados em inteligência artificial, e espera trabalhar com governos de todo o mundo para promulgar novas leis para proibir tal conteúdo.
Ao mesmo tempo, a Microsoft quer ajudar a educar o público sobre a identificação de deepfakes criados para enganar as pessoas, o que “exige novas ferramentas e programas de educação pública” para mostrar qual conteúdo é real e qual é falso.
O texto completo do blog é traduzido da seguinte forma:
Todos os dias, milhões de pessoas usam ferramentas poderosas geradas por IA para aumentar a sua criatividade. De muitas maneiras, a IA criará oportunidades interessantes para todos nós darmos vida a novas ideias. Mas à medida que estas novas ferramentas chegam ao mercado a partir da Microsoft e em todo o panorama tecnológico, devemos tomar novas medidas para garantir que estas novas tecnologias não sejam mal utilizadas.
A história da tecnologia já provou há muito tempo que a criatividade não se limita às pessoas com boas intenções. Infelizmente, as ferramentas também podem tornar-se armas e este padrão está a repetir-se. Atualmente, estamos testemunhando uma rápida expansão do uso indevido dessas novas ferramentas de IA por parte de malfeitores, incluindo deepfakes por meio de vídeo, áudio e imagens gerados por IA. Esta tendência representa novas ameaças às eleições, à fraude financeira, ao assédio sexual não consensual e a uma nova geração de cyberbullying.
Precisamos agir urgentemente para resolver todas essas questões.
É encorajador que, como indústria, possamos aprender muito com a experiência de áreas adjacentes – no avanço da segurança cibernética, na promoção da segurança eleitoral, no combate a conteúdos extremistas violentos e na proteção das crianças. Como empresa de tecnologia, estamos comprometidos em adotar uma abordagem forte e abrangente para proteger as pessoas e as nossas comunidades em seis áreas de foco:
Arquitetura de segurança forte. Estamos comprometidos com uma abordagem tecnológica abrangente baseada na segurança desde o projeto. Dependendo do cenário, uma forte arquitetura de segurança precisa ser aplicada nos níveis de plataforma, modelo e aplicação de inteligência artificial. Inclui aspectos como análise contínua da equipe vermelha, classificadores preventivos, avisos de bloqueio de abuso, testes automatizados e banimento rápido de usuários que abusam do sistema. Precisa ser sustentado por uma análise de dados forte e extensa. A Microsoft estabeleceu uma estrutura sólida e partilhou as nossas aprendizagens através dos nossos Padrões de Inteligência Artificial Responsável e de Segurança Digital, mas à medida que a tecnologia evolui, fica claro que precisamos de continuar a inovar nestas áreas.
Atribuição de mídia persistente e marca d’água. Isso é fundamental para combater deepfakes em vídeos, imagens ou áudio. No ano passado, no Build2023, lançamos um recurso de proveniência de mídia que usa métodos criptográficos para marcar e assinar conteúdo gerado por IA com metadados sobre sua proveniência e histórico. A Microsoft tem sido líder no desenvolvimento de métodos para verificar a procedência, juntamente com outras empresas líderes, inclusive como cofundadora dos órgãos de padronização Project Origin e da Coalition for Content Provenance and Authenticity (C2PA). Na semana passada, o Google e o Meta deram um passo importante no apoio ao C2PA, que aplaudimos e aplaudimos.
Já usamos tecnologia de atribuição nas ferramentas de criação de imagens do Microsoft Designer no Bing e no Copilot, e estamos estendendo a atribuição de mídia a todas as nossas ferramentas que criam ou processam imagens. Também estamos explorando ativamente tecnologias de marcas d'água e impressões digitais que podem ajudar a aprimorar a tecnologia de proveniência. Estamos comprometidos com a inovação contínua para ajudar os usuários a determinar rapidamente se uma imagem ou vídeo foi gerado ou processado por inteligência artificial.
Proteja nossos serviços contra conteúdo e conduta abusivos. Estamos empenhados em proteger a liberdade de expressão. Mas isto não deve proteger os indivíduos que tentam falsificar a voz dos outros, a fim de fraudar o dinheiro dos idosos. Isto não deve estender-se aos deepfakes que alteram as ações ou palavras dos candidatos políticos, a fim de enganar o público. Nem deveria abrigar agressores online ou fornecedores de pornografia não consensual. Temos o compromisso de identificar e remover esse conteúdo enganoso e abusivo dos serviços ao consumidor que hospedamos, como o LinkedIn, nossa rede de jogos e outros serviços relacionados.
Colaboração estreita entre a indústria e com o governo e a sociedade civil. Embora cada empresa seja responsável pelos seus próprios produtos e serviços, a experiência mostra que muitas vezes trabalhamos melhor quando trabalhamos juntos para construir um ecossistema digital mais seguro. Estamos empenhados em trabalhar com outras empresas no espaço tecnológico, incluindo nas áreas de inteligência artificial generativa e redes sociais. Estamos também empenhados num envolvimento activo com a sociedade civil e num envolvimento adequado com os governos.
No futuro, aproveitaremos a nossa experiência no combate ao extremismo violento no Christchurch Call, trabalhando com as autoridades policiais através da Unidade de Crime Digital e protegendo melhor as crianças através da Aliança Global Nós Protegemos e de forma mais ampla. Estamos comprometidos com novas iniciativas em todo o setor tecnológico e com outros grupos de partes interessadas.
Pressione por legislação para proteger as pessoas do uso indevido da tecnologia.É evidente que algumas destas novas ameaças exigem novas leis e novos esforços por parte das autoridades responsáveis pela aplicação da lei. Esperamos contribuir com ideias e apoiar novas iniciativas de governos de todo o mundo para proteger melhor as pessoas online, respeitando valores intemporais, como a proteção da liberdade de expressão e da privacidade pessoal.
Conscientização e educação pública. Finalmente, uma defesa nacional forte requer um público bem informado. juntamente com
Da mesma forma, precisamos ajudar as pessoas a perceberem que não é fácil confiar em cada vídeo que você vê ou em cada áudio que você ouve. Precisamos ajudar as pessoas a aprenderem a diferenciar conteúdo legítimo de conteúdo falso, incluindo marcas d'água. Isto exigirá novas ferramentas e programas de educação pública, incluindo uma colaboração estreita com líderes da sociedade civil e de toda a sociedade.
Em última análise, nada disso é fácil. Isto exige um esforço árduo, mas indispensável, da nossa parte, todos os dias. Mas enquanto trabalharmos juntos para inovar e colaborar, acreditamos que podemos trabalhar juntos para garantir que a tecnologia permaneça à frente da curva na sua capacidade de proteger o público. Talvez mais do que nunca, este deveria ser o nosso objetivo coletivo.