Resumo:
A Microsoft anunciou novos padrões escolares de segurança e privacidade de inteligência artificial com a Federação Americana de Professores (AFT) e sua afiliada da cidade de Nova York, o Sindicato de Professores da Cidade de Nova York (UFT). Nos termos do acordo, os distritos escolares que adoptem as normas podem incluir disposições nos seus contratos que os tornarão juridicamente vinculativos, incluindo a não utilização de dados de alunos ou educadores para treinar modelos de IA, minimizando a recolha de dados, fornecendo uma linguagem simples às famílias sobre como as ferramentas funcionam, proibindo a implantação de produtos complementares de IA, e implementando a revisão humana de decisões de “alto risco”.
Não muito antes de este acordo ser introduzido, dois grandes distritos escolares públicos na cidade de Nova Iorque e Los Angeles anunciaram que iriam proibir temporariamente ferramentas de IA para muitos estudantes durante um ano, a fim de avaliar o uso razoável de tais ferramentas no campus e as medidas de proteção de segurança necessárias. À medida que crescem as preocupações entre os pais e alguns educadores sobre a introdução da IA nas escolas e o aumento do tempo de ecrã dos alunos, a Microsoft aparentemente espera reduzir a possibilidade de um maior endurecimento das políticas por parte dos distritos escolares através de novas regras vinculativas.
A partir de novembro, os distritos escolares terão a opção de adicionar esses termos a acordos de parceria novos ou existentes com a Microsoft sem precisar renegociar todo o contrato. Um dos principais requisitos do acordo é que a Microsoft não use dados de alunos e professores para treinamento de modelos; ao mesmo tempo, a empresa deve limitar a quantidade de dados brutos recolhidos e explicar claramente às famílias dos estudantes como os seus produtos de IA processam e utilizam informações relevantes.
A Federação Americana de Professores tem sido cautelosa há muito tempo em relação à introdução da tecnologia educacional nas escolas, mas não rejeitou completamente a cooperação com empresas de tecnologia para ajudar os educadores a lidar com o rápido desenvolvimento da IA. Randy Weingarten, o presidente da organização, argumentou em maio que os dispositivos de tela deveriam ser proibidos para alunos do terceiro ano e que as ferramentas de IA para alunos não deveriam ser usadas até o ensino médio. No entanto, a AFT também anunciou anteriormente o estabelecimento de um centro de treinamento em IA para educadores, recebendo um total de US$ 23 milhões em financiamento da Anthropic, Microsoft e OpenAI.
Ao falar sobre o acordo com a Microsoft, Weingarten disse que os termos eram "sólidos" e necessários porque "nenhuma outra agência, incluindo o governo federal, se apresentou para fazer o trabalho que realmente precisava ser feito". Ela acredita que face aos riscos causados pela IA no campus, o sector da educação não pode apenas expressar insatisfação, mas deve tomar medidas decisivas; qualquer compromisso sem aplicabilidade legal é apenas uma “lista de desejos”.
Comentários