Um projeto de lei apresentado ao Legislativo do Estado de Nova York proibiria os chatbots de inteligência artificial de fornecer aconselhamento jurídico ou médico ao público e daria aos usuários o direito de processar os proprietários de chatbots ofensivos. O projeto, de número S7263, foi apresentado pelo Senado estadual durante a última sessão legislativa. Foi aprovado no comitê por 6 votos a favor e 0 contra no Comitê de Internet e Tecnologia na semana passada. É um dos pacotes legislativos para regular os chatbots de IA.
O projeto de lei concentra-se em chatbots de IA que fingem ser profissionais licenciados (como médicos e advogados), proibindo-os de fornecer “respostas, informações ou conselhos substanciais” que possam violar as leis de licenciamento profissional ou constituir “prática não licenciada”.
O projeto de lei exige que os proprietários de chatbots forneçam aos usuários avisos “claros, proeminentes e inequívocos” de que estão interagindo com um sistema de IA. Os prompts devem estar no mesmo idioma do chatbot e apresentados em fonte legível. No entanto, o projeto de lei também enfatiza que esta solicitação de “sistema não humano” não isenta o proprietário do chatbot de responsabilidade legal. Nessa estrutura, caso a operadora descumpra a proibição, os usuários podem levar o proprietário do chatbot à Justiça com base nos direitos de contencioso cível concedidos pelo projeto de lei, reivindicando indenização e solicitando o pagamento de honorários advocatícios. Alguns especialistas acreditam que cláusulas semelhantes de direito de ação privado são importantes ferramentas de aplicação nas leis regulatórias de dados e IA. A falta deste mecanismo enfraquece frequentemente a dissuasão legal. O Procurador-Geral do Maine, nos Estados Unidos, chamou recentemente isso de “efeito dissuasor significativo” ao discutir a legislação de privacidade de dados.
Se o projeto for finalmente aprovado e assinado pelo governador, será implementado oficialmente 90 dias após entrar em vigor. A pasta legislativa na qual o S7263 está incluído também inclui uma série de medidas direcionadas à IA e à proteção de menores, como a restrição do uso de recursos em chatbots que não são seguros para menores e a regulamentação de certas plataformas online (incluindo a plataforma de jogos Roblox) que são consideradas fracas na proteção da privacidade de menores. Outros itens do pacote legislativo envolvem a exigência de que os sistemas generativos de IA forneçam aos usuários instruções de uso, bem como o estabelecimento de novas regras sobre o processamento de dados biométricos e a “criação de conteúdo sintético”.
A senadora Kristen Gonzalez, patrocinadora do projeto de lei e presidente do Comitê de Internet e Tecnologia do Senado Estadual, disse que este pacote de projetos de lei visa garantir que a inovação em IA “não ocorra às custas da segurança dos nova-iorquinos, especialmente das crianças”. Em janeiro deste ano, o Character.AI, um aplicativo gratuito de bate-papo com IA generativa, chegou a um acordo com o Google em vários processos judiciais relacionados a suicídios menores. O foco do caso foi o papel que esses chatbots desempenharam na tragédia. Tais incidentes também levaram os estados a acelerar a regulamentação dos chatbots. Gonzalez disse num comunicado de imprensa que o público “merece cuidado real de pessoas reais”, bem como transparência, responsabilidade e um compromisso de que os seus dados sejam protegidos com segurança ao usar a tecnologia.
Atualmente, estas iniciativas a nível do estado de Nova Iorque também são colocadas no contexto de um jogo regulador nacional mais amplo da IA, envolvendo múltiplos compromissos entre estado e federal, privacidade e inovação, segurança e abertura. Após este caso, questões como se os chatbots podem fornecer aconselhamento profissional, como lembrá-los do seu “estatuto não humano” e quem será responsável se causarem danos deverão continuar a fermentar na legislação e na prática judicial a todos os níveis nos Estados Unidos.