Pela primeira vez no mundo, pesquisadores da Universidade de Copenhague demonstraram matematicamente que é impossível desenvolver algoritmos de inteligência artificial que sejam sempre estáveis, exceto em problemas simples. ChatGPT e tecnologias similares baseadas em aprendizado de máquina estão em ascensão. No entanto, mesmo os algoritmos mais avançados enfrentam limitações.
Pesquisadores da Universidade de Copenhague fizeram uma descoberta inovadora, que provaram matematicamente,Além das questões fundamentais, é impossível desenvolver algoritmos de inteligência artificial que sejam sempre estáveis.Esta pesquisa pode abrir caminho para protocolos aprimorados de teste de algoritmos, destacando as diferenças inerentes entre o processamento da máquina e a inteligência humana.
Um artigo científico descrevendo os resultados foi aceito para publicação nas principais conferências teóricas internacionais de ciência da computação.
As máquinas podem interpretar exames médicos com mais precisão do que os médicos, traduzir línguas estrangeiras e em breve poderão conduzir carros com mais segurança do que os humanos. No entanto, mesmo os melhores algoritmos apresentam pontos fracos. Uma equipa de investigação do Departamento de Ciência da Computação da Universidade de Copenhaga procurou descobrir estas fraquezas.
Tomemos, por exemplo, um carro autônomo lendo sinais de trânsito. Se alguém colocar um adesivo em uma placa de trânsito, isso não distrairá o motorista humano. Mas a máquina pode ser facilmente distraída porque os sinais de trânsito agora parecem diferentes daqueles para os quais foi treinada.
“Esperamos que o algoritmo seja estável, ou seja, se a entrada mudar ligeiramente, a saída permanecerá quase a mesma.” O professor Amir Yehudayoff, líder do grupo, disse: “Existem todos os tipos de ruído na vida real, e os humanos estão acostumados a ignorar esses ruídos, mas as máquinas ficarão confusas”.
A linguagem de discutir fraquezas
Numa inovação mundial, a equipa de investigação, juntamente com investigadores de outros países, demonstrou matematicamente que é impossível criar algoritmos de aprendizagem automática que sejam sempre estáveis, exceto em problemas simples. Um artigo científico que descreve este resultado foi aprovado para publicação na Foundations of Computer Science (FOCS), uma das principais conferências internacionais sobre teoria da ciência da computação.
“Gostaria de salientar que não estudamos diretamente a aplicação de carros autônomos. No entanto, este parece ser um problema excessivamente complexo e o algoritmo não pode ser estável o tempo todo.” Amir-Yehudaev disse, acrescentando que isso não significa necessariamente um grande impacto no desenvolvimento de carros autônomos: se o algoritmo cometer erros apenas em casos raros, isso provavelmente será aceitável. Mas se der errado em um grande número de casos, isso é uma má notícia."
A indústria não pode usar este artigo científico para identificar vulnerabilidades em seus algoritmos. O professor explicou que essa não era sua intenção:
"Estamos desenvolvendo uma linguagem para discutir os pontos fracos dos algoritmos de aprendizado de máquina. Isso pode levar ao desenvolvimento de diretrizes que descrevem como testar algoritmos. No longo prazo, isso pode novamente facilitar o desenvolvimento de algoritmos melhores e mais estáveis."
Da intuição à matemática
Uma aplicação possível é testar algoritmos que protejam a privacidade digital.
"Algumas empresas podem alegar ter desenvolvido soluções de proteção de privacidade absolutamente seguras. Primeiro, a nossa abordagem pode ajudar a determinar que as soluções não podem ser absolutamente seguras. Em segundo lugar, também pode identificar pontos fracos", disse Amir Yehudayoff.
No entanto, os artigos científicos devem primeiro contribuir para a teoria. Ele acrescentou que o conteúdo matemático em particular era inovador: "Entendemos intuitivamente que um algoritmo estável deve funcionar tão bem quanto antes quando sujeito a uma pequena quantidade de ruído de entrada. É como um sinal de trânsito com um adesivo. Mas, como cientistas da computação teóricos, precisamos de uma definição definida. Temos que ser capazes de descrever esse problema em linguagem matemática. Se quisermos admitir que um algoritmo é estável, quanto ruído o algoritmo deve ser capaz de tolerar e quão próximo a saída deve estar da saída original? Esta é a resposta que propomos. "
É importante ter em mente as limitações
O artigo científico gerou interesse significativo de colegas da ciência da computação teórica, mas não da indústria de tecnologia. Pelo menos ainda não.
Amir-Yehudaev acrescenta com um sorriso: “Devemos sempre esperar que haja algum atraso entre os novos desenvolvimentos teóricos e o interesse daqueles que os aplicam: e alguns desenvolvimentos teóricos nunca serão notados”.
No entanto, ele não acha que isso vá acontecer: “A aprendizagem automática está a desenvolver-se a um ritmo rápido, mas é importante lembrar que mesmo as soluções que são muito bem sucedidas no mundo real têm as suas limitações.
Compilado de /scitechdaily