Resumo:
Uma foto de um crocodilo gerada por inteligência artificial desencadeou recentemente uma caçada humana na vida real em Singapura. Como a foto foi confundida com uma foto real, a administração local suspendeu temporariamente as atividades na popular área aquática e mobilizou recursos para lançar uma caçada humana. O homem que produziu e divulgou a foto enfrenta agora consequências legais de até dez anos de prisão.
De acordo com informações do caso, Ye Lin, de 30 anos, usou o Google Gemini para gerar uma imagem de crocodilos de água salgada aparecendo no reservatório de Pandan em agosto deste ano e a enviou a um colega. É relatado que o ato pode ter começado como uma piada, mas a foto foi posteriormente divulgada e eventualmente levou à informação sobre o avistamento do crocodilo sendo relatada à agência nacional de água de Cingapura, PUB.
O Reservatório Pandan é um local popular para prática de caiaque e esportes aquáticos. Após receber a notificação, o PUB e o Serviço Nacional de Parques agiram rapidamente, não só emitindo um alerta ao público, mas também suspendendo todas as atividades aquáticas na área e organizando pessoal para realizar operações de busca e captura de crocodilos.
Após investigação, os departamentos relevantes confirmaram no dia seguinte que a chamada foto do crocodilo era na verdade uma imagem falsa gerada pela IA. Posteriormente, o PUB denunciou o caso à polícia, tendo o caso entrado oficialmente no processo de investigação criminal.
A investigação policial descobriu que Ye Lin excluiu fotos relevantes e o aplicativo Gemini de seu celular após o incidente. As autoridades responsáveis pela aplicação da lei consideraram esta medida como forma de encobrir provas e obstruir processos judiciais. Portanto, além de enfrentar a acusação de “divulgar informações falsas”, ele também foi acusado de “obstruir a justiça”.
De acordo com a lei de Cingapura, a divulgação de informações falsas é punível com até três anos de prisão, multa de até S$ 10.000, ou ambos; obstruir a justiça é punível com até sete anos de prisão. Se for condenado em ambas as acusações, ele poderá pegar uma pena máxima de dez anos.
O caso também gerou discussões sobre os riscos do uso indevido da inteligência artificial generativa. Este incidente não só levou a um erro de julgamento público, mas também fez com que várias agências governamentais dedicassem mão de obra e recursos para lidar com um incidente de segurança inexistente. As autoridades salientaram que informações falsas e conteúdos editados, adulterados ou gerados por IA podem causar pânico público e desperdiçar recursos públicos preciosos, pelo que os comportamentos relevantes serão tratados com seriedade.
Entende-se que Ye Lin declarou que planeja se declarar culpado e não contratará um advogado para defesa. A expectativa é que o caso seja ouvido novamente em novembro deste ano.
Este incidente é considerado um caso representativo na era da inteligência artificial generativa. À medida que a tecnologia de geração de imagens de IA se torna cada vez mais realista, como distinguir o conteúdo real do conteúdo artificial e como evitar o abuso de tecnologias relacionadas estão a tornar-se novos desafios enfrentados pelas agências reguladoras e pelo público em vários países.
Comentários