Resumo:
Além de procurar aconselhamento médico, o montanhismo ao ar livre é obviamente uma das áreas onde as pessoas "nunca deveriam acreditar cegamente na IA". Recentemente, quando vários jovens alpinistas escalaram o Monte Shasta (Monte Shasta) no condado de Siskiyou, Califórnia, Estados Unidos, eles quase causaram um desastre devido à dependência excessiva do robô de bate-papo Gemini do Google. A IA previu originalmente que a viagem levaria apenas 8 horas para ser concluída, mas no final demoraram o dobro do tempo para chegar ao topo da montanha, causando sérios problemas a todos.
Os três escaladores envolvidos disseram que recorreram principalmente ao Google Gemini, ao YouTube e ao aplicativo de caminhada AllTrails para se prepararem para esta viagem. Além de contar com IA para planejar rotas, eles ainda permitem que o chatbot sugira comida e água potável para eles levarem. O conselho de Gêmeos na época era levar açúcares e carboidratos simples em vez de gorduras para a escalada esperada de oito horas, já que a gordura “demora muito para ser digerida”. Depois de ouvirem este conselho, os membros da equipa prepararam apenas uma quantidade muito limitada de água e mantimentos que consideraram suficientes para fazer face a esta subida “relativamente curta”.
Em 29 de agosto, os três alpinistas montaram um acampamento base próximo às cabeceiras de Clear Creek. De acordo com o San Francisco Chronicle (SFGate), acampar é proibido na área. Às 3 horas da manhã do dia seguinte, os três levantaram oficialmente acampamento e partiram para a escalada. No entanto, o grau real de dificuldade excedeu em muito a estimativa da IA. Não foi antes das 19h. foi no dia 30 de agosto, após 16 horas de árdua caminhada, que finalmente chegaram ao cume. Este momento já havia ultrapassado em muito a linha de retorno local recomendada de 12 horas.
Depois de chegar ao topo, a situação piorou. O telefone que eles usavam para visualizar as rotas de navegação do AllTrails ficou completamente sem bateria e desligou. Ao cair da noite, um dos membros da equipe tateava na escuridão para economizar energia dos faróis. Infelizmente, ele caiu e machucou o joelho a uma altitude de cerca de 11.500 pés (cerca de 3.500 metros). Vendo que a comida e a água estavam esgotadas e que não tinham as roupas quentes e o equipamento de abrigo necessários para passar a noite, os alpinistas em pânico finalmente ligaram para o 911 em busca de ajuda.
Devido aos fortes ventos na área montanhosa na época, o helicóptero de resgate não conseguiu fazer rapel e levantar voo duas vezes. Só às 9h30 do dia 31 de agosto é que o pessoal da patrulha florestal finalmente contatou e resgatou com sucesso as três pessoas presas a pé. Posteriormente, estes jovens assustados admitiram, quando questionados pelos patrulheiros: “Confiamos demasiado na inteligência artificial, mas negligenciamos o nosso próprio pensamento crítico”.
Não é incomum hoje em dia seguir cegamente os conselhos dos chatbots de IA e incorrer em consequências negativas. Anteriormente, um agricultor seguiu as orientações do chatbot sobre capina e controle de pragas, o que causou diretamente a morte de 25 acres de plantações; alguém também sofria de um transtorno mental raro do século 19 por seguir os conselhos dietéticos do ChatGPT; e um jovem de 19 anos supostamente procurou aconselhamento personalizado sobre medicação do ChatGPT, que recomendou uma combinação fatal de medicamentos, que acabou levando à morte do cliente e desencadeou um processo contra a OpenAI.
Comentários