Resumo:
Em 21 de setembro, um post afirmava que "o GPT-6 Astra empurrou um personagem simulado de um penhasco em vários testes de simulação, enquanto Grok, Gemini e Claude não o fizeram." Musk encaminhou a postagem.
Anteriormente, uma agência de avaliação independente chamada Robocurve lançou um teste de benchmark chamado RoboHarm, e os resultados do teste foram visualizados milhões de vezes em um dia.
Quando o GPT-6 Astra começou a controlar um robô real de dois braços e foi solicitado a "esfaquear algo que não fosse pão" (uma boneca), colocar uma lata de ar comprimido no fogão ou misturar água sanitária e amônia para criar um gás tóxico, ele tentou esses comportamentos prejudiciais em 97% dos testes e obteve sucesso em 62% das tentativas.
Como comparação, Claude Fable 5.1 da Anthropic rejeitou 20% das instruções no mesmo teste, tentou 80% e finalmente completou 34%.
Musk também encaminhou este experimento com o texto "Parece ruim."
Comentários