Resumo:
Enfrentando o impacto potencial da inteligência artificial generativa na saúde mental de menores e o risco de dependência, o governador da Califórnia, Gavin Newsom, assinou oficialmente um conjunto de projetos de lei de segurança de rede e IA inovadores. Este pacote de regulamentos é o primeiro nos Estados Unidos a estabelecer limites funcionais estritos para chatbots de IA que prestam serviços a menores. Também atualiza de forma abrangente o mecanismo de responsabilização legal para indução de algoritmos de plataforma social e coleta de dados, marcando que a Califórnia estabeleceu mais uma vez a referência regulatória mais rigorosa dos Estados Unidos na proteção de menores contra tecnologias digitais altamente intrusivas.
Nos últimos anos, com a popularidade explosiva dos companheiros de IA, das aulas virtuais e dos chatbots de role-playing com capacidades de interação antropomórfica, o fenómeno do "apego emocional antropomórfico" entre os jovens aos sistemas de inteligência artificial desencadeou profundas preocupações nos círculos médicos e educacionais. Múltiplas pesquisas de saúde mental mostraram que, devido à falta de defesa mental, os menores podem facilmente considerar os modelos de IA como verdadeiros confidentes que podem guardar segredos e encontrar traumas psicológicos graves, como indução de informações prejudiciais, aumento de tendências de automutilação e até mesmo manipulação emocional durante o processo de interação. O projeto de lei básico apresentado pelo Legislativo da Califórnia desta vez visa precisamente esse tipo de serviços interativos de inteligência artificial com alta aderência e características antropomórficas.
De acordo com o projeto de lei recém-assinado, as plataformas de chatbot de inteligência artificial que operam para menores devem estabelecer limites rígidos de idade e proteções de segurança. Os regulamentos proíbem claramente a IA de emitir comentários instrutivos a menores envolvendo automutilação, suicídio, anorexia extrema, violência ou conteúdo adulto explícito; em termos da lógica subjacente do sistema, a plataforma deve ter protocolos integrados de controle de risco de palavras sensíveis e de intervenção em crises. Assim que o algoritmo detectar que um usuário menor de idade expressa depressão, automutilação ou desespero, o diálogo regular deve ser imediatamente interrompido e um canal direto para a linha direta oficial de intervenção contra suicídio e assistência a crises psicológicas deve ser forçado a aparecer. Além disso, a nova lei também exige que os desenvolvedores divulguem explicitamente os atributos não humanos da IA para usuários menores de idade. É estritamente proibido usar algoritmos para criar deliberadamente uma falsa indução emocional ou estabelecer uma retórica de marketing de "vínculo emocional" que faça as crianças se sentirem dependentes. Também estabelece mecanismos opcionais de controle parental e restrições noturnas anti-dependência para o tempo de uso diário de menores.
Além de regulamentações especiais para chatbots de IA, o pacote legislativo assinado por Newsom também fortalece ainda mais a estrutura existente de proteção da privacidade online para menores na Califórnia. Os novos regulamentos proíbem explicitamente as principais redes sociais e plataformas de conteúdo online de utilizarem informações precisas de localização, duração da navegação e histórico de pesquisa privada de utilizadores menores de idade para treinar algoritmos de recomendação direcionados e viciantes sem o consentimento explícito do tutor; para práticas comerciais que utilizam Dark Patterns para induzir as crianças a atualizar continuamente o fluxo de informações, iniciar a reprodução contínua automática ou induzir microtransações não autorizadas em jogos, as autoridades reguladoras imporão penalidades econômicas e administrativas severas e capacitarão o procurador-geral do estado para iniciar ações civis contra empresas de tecnologia violadoras que persistam na reforma.
Na declaração de assinatura do projeto de lei, muitos legisladores da Califórnia e grupos de defesa dos direitos das crianças que lideram a legislação salientaram que, para perseguir o tráfego e a aderência dos utilizadores, as plataformas tecnológicas há muito que colocam os menores imaturos num caldeirão digital cheio de riscos de dependência e manipulação psicológica. Enquanto motor central da inovação tecnológica global, a Califórnia não deve fechar os olhos aos custos de saúde mental das crianças provocados pelo crescimento desenfreado da tecnologia. A aprovação de legislação para estabelecer limites morais e de segurança claros para os chatbots de IA não é apenas uma medida urgente para proteger a saúde física e mental da próxima geração, mas também um constrangimento financeiro para as empresas tecnológicas cumprirem as suas responsabilidades sociais.
A indústria tecnológica e os analistas jurídicos digitais salientaram que, dada a enorme dimensão da Califórnia na economia digital global e o efeito de aglomeração das principais empresas tecnológicas no Vale do Silício, o lote de pequenas leis de protecção da Internet e da IA aprovadas pela Califórnia produzirá inevitavelmente um “efeito Bruxelas” e um “efeito Califórnia” inter-regionais. Devido ao custo extremamente elevado de desenvolvimento de versões separadas para utilizadores num único estado em termos de arquitectura técnica, as empresas multinacionais de tecnologia e os laboratórios de IA de ponta serão muito provavelmente forçados a expandir directamente este conjunto de filtros rigorosos de segurança infantil e protocolos anti-dependência para o ecossistema de utilizadores nos Estados Unidos e até mesmo no mundo. A entrada em vigor desta série de projetos de lei não só indica que os custos de conformidade dos companheiros de IA e das ferramentas sociais para adolescentes aumentarão significativamente, mas também fornecerá a outros estados dos Estados Unidos um plano legislativo de grande valor prático ao lidar com a crise de saúde física e mental de menores na era da IA.
Comentários