Depois que o presidente dos EUA, Biden, assinou a primeira ordem executiva sobre regulamentação da inteligência artificial em outubro deste ano, o governo Biden disse na terça-feira, horário do Leste, que está dando o primeiro passo para escrever padrões e orientações importantes para a implantação segura de inteligência artificial generativa e como testar e proteger sistemas.
No final de outubro deste ano, o presidente dos EUA, Biden, assinou uma ordem executiva "marco", lançando os primeiros regulamentos regulatórios da Casa Branca sobre inteligência artificial generativa. De acordo com a ordem executiva, várias agências governamentais dos EUA são obrigadas a desenvolver padrões para prevenir riscos químicos, biológicos, radiológicos, nucleares e de segurança cibernética causados pela inteligência artificial.
Na terça-feira, horário do Leste, o Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio dos EUA disse que solicitaria opiniões de empresas de inteligência artificial e do público antes de 2 de fevereiro para realizar testes críticos de IA que são essenciais para garantir a segurança dos sistemas de inteligência artificial.
O NIST afirma que está a desenvolver directrizes para avaliar e testar a inteligência artificial, promovendo o desenvolvimento de padrões da indústria de inteligência artificial e fornecendo um ambiente de teste para avaliar sistemas de inteligência artificial.
A secretária de Comércio dos EUA, Gina Raimondo, disse que a última iniciativa do NIST foi motivada pela ordem executiva de Biden de outubro para desenvolver “padrões da indústria em torno da segurança, proteção e confiança da inteligência artificial para que os Estados Unidos possam continuar a liderar o mundo no desenvolvimento responsável e no uso desta tecnologia em rápida evolução”.
A orientação de teste que o NIST está desenvolvendo inclui os chamados testes de “equipe vermelha” – o NIST considerará onde os testes de “equipe vermelha” são mais benéficos para a avaliação e gerenciamento de riscos de inteligência artificial e desenvolverá melhores práticas para esse fim.
O teste da "equipe vermelha" é uma etapa importante nos testes de segurança de rede. Refere-se à simulação de adversários do mundo real por uma equipe de especialistas para testar e aumentar a segurança do sistema.
Em agosto deste ano, os Estados Unidos conduziram publicamente pela primeira vez uma atividade de teste de inteligência artificial da "equipe vermelha" durante uma grande conferência de segurança cibernética. O evento conta com a participação principalmente de organizações da indústria de IA AIVillage, SeedAI, Humane Intelligence, etc.
A Casa Branca disse que no evento de agosto, milhares de participantes testaram se "poderiam fazer com que estes sistemas produzissem resultados indesejados ou falhassem de outra forma, com o objetivo de compreender melhor os riscos representados por estes sistemas". O evento “demonstrou como as equipes vermelhas externas podem ser uma ferramenta eficaz para identificar novos riscos de IA”.