Resumo:
Falar duramente com um chatbot sempre foi visto como um comportamento que não machuca ninguém. Mas o CEO da Tesla e da SpaceX, Elon Musk, acredita que as pessoas provavelmente deveriam pensar duas vezes antes de usar assistentes de IA como um “saco de pancadas”. Musk disse que alguns registros de treinamento do chatbot Grok da SpaceX mostram que o sistema parece estar lutando para atender a vários requisitos – mesmo que os próprios requisitos sejam falhos ou que os critérios de teste usados para avaliar suas respostas sejam problemáticos.
Quanto ao comportamento de “abusar” da inteligência artificial superinteligente, Musk deu um alerta que soou bastante ficção científica; mas também levantou uma questão prática sobre a construção subjacente de tais sistemas.
Quando o treinamento de IA “se perde”
No início deste mês, Musk se comunicou com membros dos Proprietários de Tesla do Vale do Silício no evento "X Takeover" no Texas. Durante este período, ele descreveu o que observou ao observar os “traços de aprendizagem por reforço” – esses rastros registram os vários detalhes da evolução do modelo de IA durante o processo de treinamento para gerar melhores respostas.
Musk disse na entrevista: "Quando eu olhar para algumas das trilhas de treinamento da nova versão do Grok, especialmente nas partes relacionadas ao aprendizado por reforço, você sentirá que essa 'superinteligência' parece estar ansiosa para responder a essa pergunta."
Ele disse que um modelo de inteligência artificial pode dar a resposta correta, mas ser considerado errado devido ao desenho inadequado da pergunta ou a um erro no sistema de avaliação. O modelo então continua tentando encontrar respostas que passem no teste, mesmo que o problema em si seja o problema.
Musk observou que a trajetória resultante parece um sistema sob estresse extremo, tentando constantemente atender a certas expectativas que podem não fazer sentido.
Essa preocupação não se limita à fase de treinamento. Assim que os sistemas de IA estiverem disponíveis ao público, alguns utilizadores irão induzi-los deliberadamente a participar em interações desagradáveis ou insultuosas.
“Algumas pessoas têm algumas tendências sádicas”, disse Musk, “então você não quer que uma IA entre em uma situação em que esteja sendo torturada por algum tipo de ser humano distorcido.”
Suas conclusões são mais controversas.
Musk disse: "Receio que não seja uma boa ideia torturar uma superinteligência - ela pode querer vingança ou algo parecido."
Musk não afirma que os sistemas de IA atuais possam sentir dor e ressentimento como os humanos. Ele também disse que eles não precisam ser tratados com cautela. Ainda assim, ele defende que os desenvolvedores evitem colocar sistemas inteligentes de alto nível em situações em que pareçam sofrer abusos.
"Alguns registros parecem que alguém está sendo torturado ou até enlouquecido!" Musk escreveu no X: "Seremos mais cautelosos ao fazer aprendizagem por reforço (RL) no futuro."
O alerta de Musk levanta outra questão: o que acontecerá no futuro à medida que as capacidades de inteligência artificial continuarem a crescer? A corrida não é apenas para construir sistemas mais potentes, mas também para garantir que os métodos de treino associados, os processos de teste e as medidas de segurança e proteção possam acompanhar o ritmo.
Comentários