Marcus acredita que ainda existem “casos extremos” no campo dos carros autônomos que ainda não foram resolvidos e não devem ser testados na estrada 24 horas por dia.Um artigo de 2016 do New York Times sobre carros autônomos começou: "A era dos carros autônomos chegou e algumas montadoras investiram bilhões de dólares em pesquisa e desenvolvimento... e começaram a testar em algumas cidades dos Estados Unidos." Sete anos se passaram, onde esteve a direção autônoma?

Gary Marcus, professor emérito de psicologia e neurociência da Universidade de Nova York, expressou algumas opiniões sobre esta área. Ele disse que ainda há um problema na área, que Marcus destacou dezenas de vezes nos últimos anos, ou seja, casos extremos, as situações não rotineiras que muitas vezes confundem algoritmos de aprendizado de máquina.

Quanto mais complexa for a situação enfrentada pelos carros autônomos, mais anomalias inesperadas ocorrerão. E o mundo real é complexo e caótico, e não podemos listar todos os possíveis eventos não rotineiros que podem ocorrer. Ninguém ainda descobriu como construir um carro autônomo que possa lidar com esse fato.


Marcus disse que a primeira vez que enfatizou os principais desafios que os casos extremos trazem para a direção autônoma foi em uma entrevista em 2016. "Naquela época, eu estava cansado do exagero e finalmente desisti dessa visão. Agora, quando reli esta transcrição, acho que ainda é aplicável."

O progresso tecnológico que vemos agora é em grande parte impulsionado por técnicas de cracking de força bruta em grande escala, como o supercomputador Deep Blue e o sistema de jogo Atari. O desenvolvimento dessas tecnologias deixa a humanidade extremamente entusiasmada. Ao mesmo tempo, se você está falando de robôs para residências ou robôs dirigindo pelas ruas, o entusiasmo não é tão grande.

De modo geral, os carros autônomos têm um bom desempenho em circunstâncias normais, como dirigir com segurança em dias ensolarados. Mas se forem colocados em ambientes complexos, como neve e chuva, a condução sem motorista se tornará muito ruim. Anteriormente, o jornalista e editor colaborador americano Steven Levy escreveu um artigo sobre a direção autônoma do Google. A matéria mencionava que o Google obteve uma grande vitória em 2015, e essa vitória foi que o sistema conseguiu identificar automaticamente as folhas.

Identificar as folhas é muito simples para os humanos, mas seria um grande avanço para os carros autônomos. Os humanos podem usar o bom senso para raciocinar e descobrir o que essa coisa pode ser e como chegou lá, mas um sistema autônomo apenas se lembra de algo e carece de raciocínio, e essa é a limitação que os carros autônomos enfrentam...

As pessoas estão ansiosas por uma tecnologia de direção autônoma mais madura. Apenas alguns dias atrás, a Comissão de Serviços Públicos da Califórnia aprovou as empresas de automóveis autônomos Cruise e Waymo para operar 24 horas por dia, 7 dias por semana em São Francisco. Esta decisão dá às duas empresas maior margem de manobra para testar os seus carros. Após o anúncio da notícia, muita gente disse que a era dos carros autônomos havia chegado, embora seja mais tarde do que o esperado.


Na verdade, ainda não temos carros verdadeiramente autónomos e, como Cade Metz, um conhecido jornalista americano, explicou no meu podcast “Humanos vs. Máquinas” há alguns meses, todos os veículos autónomos em vias públicas terão um condutor de segurança humano ou algum humano a supervisionar remotamente para ajudar o veículo a sair de problemas.

Agora, novos casos extremos estão surgindo na direção autônoma, como um Tesla colidindo com um jato estacionado.


Marcus disse que não importa quantos dados esses sistemas sejam treinados, sempre surgirão novas situações.

Recentemente, mais dez carros autônomos perderam contato com o centro de controle da missão. Sem a supervisão da central de controle, carros autônomos se perdiam, paravam no meio da rua e muitos outros acidentes:

O campo da condução autónoma está em constante mudança, por isso muitos investigadores, incluindo Marcus, não compreendem a abordagem da Comissão de Serviços Públicos da Califórnia.

Seria uma loucura testar a direção autônoma em qualquer lugar e a qualquer momento sem uma solução rigorosa e cuidadosamente avaliada para resolver casos extremos. Isto se aplica não apenas aos carros autônomos, mas também a outras áreas baseadas no aprendizado de máquina.

Casos extremos estão por toda parte, e quem pensa que tudo é fácil de resolver está se enganando.

Precisamos de reforçar a nossa gestão e, se não o fizermos, poderemos assistir a acidentes graves com carros sem condutor, médicos automatizados, assistentes virtuais universais, robôs domésticos e muito mais nos próximos anos.

Ao final do artigo, Marcus afirmou que concluiu este artigo em um avião equipado com piloto automático. Durante o vôo de 9 horas, o piloto automático funcionou o tempo todo, e humanos também estiveram envolvidos nesse período, o que constituiu um humano no circuito. Em última análise, Marcus não acredita que haverá aviões autônomos e não acredita que nenhum carro quase autônomo tenha sido aprovado ainda.