Resumo:
Em 15 de setembro, de acordo com a coluna "Xiaoxin Storytelling" do Jiaxing News Media Center, na província de Zhejiang: Em 17 de abril deste ano, a mãe do Sr. Shi faleceu. Sua família estava discutindo quando enterrá-la. Ele pensou no software de inteligência artificial "Doubao", e o software lhe recomendou em 19 de abril.
Quando tudo foi combinado, o Sr. Shi pediu novamente a "Doubao" para confirmar que o dia 19 não era um dia adequado, mas seria muito problemático alterá-lo. Por esse motivo, o Sr. Shi ficou muito zangado e processou a empresa de software que fez o “Doubao”.
De acordo com relatos, a cidade natal do Sr. Shi é Shuyang, província de Jiangsu, e ele atualmente mora em Jiashan. Em 17 de abril deste ano, a mãe do Sr. Shi morreu de doença súbita. A família do Sr. Shi tem cinco irmãos e irmãs. Os membros da família discutiram juntos o funeral de sua mãe. A principal prioridade era determinar a data do enterro.
Sr. Shi disse aos repórteres: "Confio mais em Doubao. Confio nele o tempo todo e acho que ele sabe tudo. Então perguntei a Doubao quando ele seria enterrado. Doubao disse em 19 de abril. Acho que faz sentido, então acredito."
O registro de perguntas e respostas do software mostra que depois que o Sr. Shi fez a pergunta naquele momento, "Doubao" respondeu que a recomendação mais confiável é 19 de abril.
Depois de um tempo, o Sr. Shi perguntou novamente: "Qual é o horário adequado para o enterro?" “Doubao” atendeu das 7 às 9 horas, mas desta vez a resposta foi um pouco diferente da última vez. "Doubao" mencionou na sua resposta que 19 de abril não era um dia adequado.
Sr. Shi ficou confuso por um momento. Ele perguntou várias vezes, e a resposta de “Doubao” foi que o dia 19 era inapropriado. Neste momento, parentes e amigos já haviam informado que já era tarde para alterar a data. No final, o Sr. Shi teve que passar pelo funeral de sua mãe.
Pouco depois do funeral, um parente que estava em casa se envolveu em um acidente de trânsito e ficou gravemente ferido. Eles reclamaram dos arranjos do Sr. Shi.
Sr. Shi reclamou com a empresa do software “Doubao”, mas não obteve resposta, então decidiu processar a outra parte. "Doubao" também ajudou o Sr. Shi a escrever uma queixa, indicando que ele poderia processar e deu as etapas para processar.
O contrato de usuário do software "Doubao" mostra que o conteúdo gerado pelo software e serviços "Doubao" é apenas para referência e não se destina a aconselhamento profissional. Para situações que envolvam impacto significativo, recomenda-se consultar profissionais relevantes e não deve ser usado como base para ação ou inação. As consequências e responsabilidades de qualquer julgamento feito com base no conteúdo de saída ou operações subsequentes relacionadas com base nele serão suportadas pelo usuário.
O repórter soube que o Tribunal Popular do Condado de Jiashan abriu uma audiência sobre este caso.
O advogado acredita que será difícil para o Sr. Shi defender os seus direitos através de processos judiciais. Se Shi quiser litigar pela proteção de direitos, ele deve provar que o provedor de serviços que forneceu o software de IA cometeu um ato ilícito. Em primeiro lugar, a culpa deve ser da outra parte. Além disso, deve haver uma relação causal entre a culpa da outra parte e o dano real sofrido pelo Sr. Shi. Isto é muito difícil de provar. Se a IA apenas fornecer uma resposta errada, isso obviamente não será suficiente.
Notícias sobre "IA enganando pessoas" são comuns. Em 18 de junho, Zhang, de 52 anos, de Changsha, de repente sentiu tonturas em casa. Ele habitualmente ligava seu telefone celular e usava IA para procurar sintomas e métodos de tratamento relacionados. Três dias depois, o quadro não melhorou, mas piorou. Os familiares rapidamente encaminharam o paciente ao médico e a situação mudou. Os médicos alertam que a consulta de IA depende principalmente da análise das informações fornecidas pelos pacientes. É difícil avaliar a gravidade da condição apenas com base nas descrições dos textos e não pode substituir uma consulta presencial com um médico profissional.
Não é coincidência. No dia 5 de junho, um cidadão de Nanjing usou pufes para tirar fotos e identificar cogumelos colhidos na comunidade, o que quase causou intoxicação alimentar. Além disso, Mestre Yang, de 57 anos, de Ningbo, foi “guiado” pela IA para as montanhas profundas e se perdeu e ficou preso enquanto escalava no fim de semana. Ele estava exausto e foi resgatado pelos bombeiros após buscar resgate. Os alunos do vestibular usaram IA para preencher seus voluntários, mas foram influenciados por códigos profissionais fabricados e classificações de pontuação de anos anteriores. Os agricultores perguntaram à IA que pesticidas utilizar, e centenas de hectares de campos de sésamo morreram durante a noite... Estes casos estão cheios de disparates à primeira vista, mas por detrás deles está a séria questão de como devemos ver e utilizar correctamente a IA.
Anteriormente, o responsável pelo Grupo Douyin respondeu que a IA ainda está em fase de desenvolvimento e que Doubao também está melhorando constantemente a precisão do reconhecimento, envolvendo questões importantes como segurança pessoal. Recomenda-se usar as respostas da IA como referência e buscar argumentos multipartidários para evitar causar danos.
O jornal comentou certa vez: O poder da IA reside em sua capacidade de pesquisar grandes quantidades de informações de rede fragmentadas em um período muito curto de tempo e juntá-las em uma resposta que diz "algo assim". Mas a resposta que dá é “o texto que mais se assemelha à verdade” em vez de “a verdade absoluta, correta e confiável”. Não consegue descobrir os caminhos complexos de uma montanha profunda, não consegue fazer um diagnóstico com base em descrições simples e não conhece os cuidados com a medicação agrícola, sem falar que pode fingir que entende e fabricar informações falsas.
Quanto mais forte a tecnologia, mais pessoas precisam ficar acordadas. A IA pode ser usada como uma ferramenta auxiliar para procurar informações, organizar ideias e fazer listas, mas nunca é uma panaceia, muito menos uma “chave mestra” que pode substituir o pensamento e a tomada de decisões das pessoas.
Especialmente quando se trata de questões importantes, como segurança nas viagens, saúde física e aspirações no vestibular, onde um erro pode levar à capotagem, a confiança na IA não pode ser elevada a uma dependência ilimitada e incondicional, e devemos abandonar o bom senso na vida e os canais autorizados para resolver problemas. Os antigos diziam: “É melhor não ter livros do que acreditar em todos os livros”. Hoje provavelmente deveríamos dizer: é melhor não ter IA do que acreditar na IA.
Comentários