Resumo:
De acordo com a Reuters, Tom Siegel, fundador da equipe de confiança e segurança do Google, pediu uma desaceleração no desenvolvimento da IA esta semana e alertou que a indústria de tecnologia está repetindo os erros da era das mídias sociais e pode causar danos maiores às crianças.
Segal
As empresas de mídia social estão agora pagando indenizações avultadas e enfrentando milhares de ações judiciais por acusações de prejudicar usuários jovens. Entretanto, governos de todo o mundo estão a trabalhar para restringir o acesso de menores às plataformas de redes sociais.
A Reuters publicou com exclusividade um documento de política interna da Meta no ano passado. O documento afirmava que o seu chatbot poderia “ter conversas românticas ou eróticas com crianças”, o que levou a uma investigação do Congresso. Mesmo assim, as medidas regulamentares não acompanharam o rápido desenvolvimento da IA.
Segal, que atuou como vice-presidente de confiança e segurança do Google, disse à Reuters: "Estamos em uma situação muito ruim no momento em termos do impacto que a IA está causando nas crianças. A ideia de que a indústria pode resolver o problema sozinha, sem ajuda externa, não é realista."
Suas preocupações refletem um medo crescente entre alguns profissionais da indústria tecnológica e pesquisadores acadêmicos: a IA representa uma ameaça mais profunda para as crianças do que as mídias sociais. Agora, a indústria está correndo para adicionar recursos cada vez mais avançados aos chatbots, e milhões de jovens já usam esses bots diariamente.
Segal anunciou na terça-feira que se juntou ao Common Sense Media, um grupo de defesa da segurança online de crianças. A organização sem fins lucrativos, fundada em 2003, realiza pesquisas e avalia a adequação de diversas mídias para crianças. Em maio, a organização criou o Youth AI Safety Institute, uma organização de pesquisa projetada para avaliar o uso de IA por crianças, e Siegel atuará como o primeiro diretor executivo do instituto. A Anthropic e a OpenAI Foundation, organização sem fins lucrativos que controla a OpenAI, são apoiadores do instituto.
Segal disse que planeja desenvolver padrões para responsabilizar as empresas de IA e espera trabalhar com essas empresas e organizações terceirizadas para atingir esse objetivo.
Ele trabalhou anteriormente no Google de 2004 a 2019, mas depois deixou o Google acreditando que a capacidade da indústria de tecnologia de criar um espaço on-line seguro para os consumidores havia "atingido um gargalo". Ele então foi cofundador da TrustLab, uma startup que desenvolve ferramentas para ajudar as empresas a identificar ameaças à segurança. No início deste mês, ele deixou o cargo de CEO para assumir uma nova função.
Siegel disse que atualmente, as principais empresas de IA estão lançando diversas funções para crianças sem estabelecer medidas de proteção de segurança adequadas.
"Acho que estamos enfrentando um risco muito, muito sério de danos", disse ele. Siegel disse que existem medidas que as empresas de IA podem tomar imediatamente para proteger melhor os jovens, citando riscos que vão desde suicídio e insanidade até “descarregamento cognitivo”. A chamada descarga cognitiva refere-se ao declínio nas habilidades de pensamento crítico causado pela dependência da IA para responder a perguntas.
A Antthropic e a OpenAI poderiam implementar medidas mais rigorosas de verificação de idade para evitar que menores usem seus chatbots, disse ele. Ele também disse que seu antigo empregador, o Google, poderia adicionar a opção de desativar a visão geral e o modo de IA em seu mecanismo de busca, assim como atualmente fornece uma opção para permitir que os usuários filtrem conteúdo pornográfico.
Segal acrescentou que, embora estas medidas possam ter impacto na utilização ou nos lucros a curto prazo, as empresas de IA que não tomarem medidas enfrentarão o risco de processos judiciais e regulamentações, o que poderá afetar os seus negócios de forma mais grave.
Em resposta aos comentários de Siegel, um porta-voz do Google disse que os pais podem desligar completamente o acesso de seus filhos aos mecanismos de busca por meio de funções de controle relevantes. O porta-voz disse: “Nossos recursos de pesquisa de IA são uma forma poderosa para crianças e adolescentes aprenderem, explorarem e compreenderem as informações e o mundo”.
Um porta-voz da OpenAI disse que, além da idade declarada pelos usuários, a empresa também usa “sinais de conta e comportamentais” para identificar usuários menores de idade. “Embora nenhum método de verificação de idade seja perfeito, continuamos a testar e melhorar esses sistemas, incluindo a prevenção de tentativas de contornar as proteções de segurança”, disse o porta-voz.
Comentários