À medida que a indústria de chatbots de IA continua a se expandir, a Califórnia assinou um novo projeto de lei em 13 de outubro para regular esta tecnologia emergente. O governador da Califórnia, Gavin Newsom, assinou oficialmente o projeto de lei 243 do Senado no mesmo dia, que é uma legislação promovida pelo senador estadual Anthony Padilla e anunciada como “a primeira medida de proteção de chatbot de IA do país”.
De acordo com a nova lei, se um chatbot conseguir enganar um usuário comum fazendo-o pensar que está interagindo com uma pessoa real, o desenvolvedor deve emitir uma “declaração clara e visível” na interface para indicar que a outra pessoa é apenas uma IA e não uma pessoa real.
O projeto de lei estipula que, a partir do próximo ano, alguns operadores de plataformas de chatbot complementares também serão obrigados a enviar relatórios anuais ao Escritório estadual de Prevenção ao Suicídio sobre as medidas de segurança que tomam para identificar, lidar e eliminar as tendências suicidas dos usuários. Os dados relevantes serão divulgados publicamente no site oficial do escritório.
Ao assinar o projeto de lei, Newsom disse que as novas tecnologias, como os chatbots e as redes sociais, podem inspirar, promover a educação e conectar as pessoas, mas na ausência de uma supervisão eficaz, também podem enganar, prejudicar ou mesmo pôr em perigo a segurança dos jovens. “A Califórnia deve assumir a sua responsabilidade e continuar a liderar o desenvolvimento da IA e da tecnologia, mas a segurança das crianças não pode ser substituída. Além disso, Newsom também assinou vários outros projetos de lei voltados à segurança online dos jovens, incluindo requisitos de testes da nova era para produtos de hardware.
Este novo regulamento também foi introduzido depois que Newsom assinou oficialmente o projeto de lei de transparência de IA - Projeto de Lei 53 do Senado. A legislação de IA causou ampla controvérsia na Califórnia nos últimos anos e atraiu muita atenção da indústria.
