Resumo:
O Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) e a Microsoft Research Asia desenvolveram um novo tipo de tecnologia de interface cérebro-computador que pode identificar em tempo real se a inteligência artificial entendeu mal as intenções do usuário, analisando as ondas cerebrais humanas e ajustando seu comportamento de acordo. A equipe de pesquisa acredita que se espera que esta tecnologia promova a inteligência artificial a um novo estágio, de “obedecer instruções” a “compreender intenções”.
Os pesquisadores chamaram essa tecnologia de "Alinhamento de Valor Neural (NVA)". O sistema usa eletroencefalografia (EEG) para monitorar a atividade neural produzida pelos usuários enquanto observam a inteligência artificial realizar tarefas. Quando a IA atinge um objetivo errado ou executa uma ação não esperada pelo usuário, o cérebro irá gerar um sinal específico de erro de previsão. O sistema pode capturar essas mudanças e convertê-las em informações de feedback, permitindo que a IA perceba que há um desvio no seu entendimento.
Durante muito tempo, embora a inteligência artificial tenha demonstrado capacidades poderosas em muitos campos, ainda ocorrem frequentemente mal-entendidos na comunicação entre humanos e IA. Mesmo que o usuário forneça instruções detalhadas, a IA pode gerar resultados relevantes, mas imprecisos conforme o esperado. A equipa de investigação acredita que a raiz do problema é que a inteligência artificial depende principalmente de informações externas, como linguagem, ações e gestos, para inferir intenções, e esses próprios comportamentos são muitas vezes ambíguos.
Os pesquisadores deram o exemplo de que, ao pegar um copo, uma pessoa pode beber água, limpar o copo, mover o copo ou passá-lo para outra pessoa; por outro lado, se o objetivo é saciar a sede, as pessoas também podem alcançá-lo de diferentes maneiras, como pegando um copo, pegando uma garrafa de água ou pedindo ajuda a outras pessoas. Muitas vezes é impossível determinar com precisão o verdadeiro propósito simplesmente observando o comportamento em si.
Para resolver esse problema de “ambiguidade de objetivos e ações”, a equipe de pesquisa voltou sua atenção para o próprio cérebro humano. Quando os resultados reais são inconsistentes com as expectativas das pessoas, o cérebro irá naturalmente gerar sinais especiais de erro de previsão. O sistema NVA usa essa resposta neural como uma fonte adicional de informação para ajudar a inteligência artificial a determinar em qual link há mal-entendidos.
A equipe de pesquisa se concentrou em dois tipos de sinais nervosos cerebrais. Um tipo é o “erro de previsão de recompensa”, que reflete se o resultado atende aos objetivos pessoais e às expectativas de valor; o outro tipo é o “erro de previsão de estado”, que reflete se a situação real é consistente com o processo esperado pelo cérebro. Ao analisar esses dois sinais ao mesmo tempo, o sistema pode não apenas detectar erros na compreensão da IA, mas também determinar se os erros ocorrem no nível do alvo ou no nível do método de execução.
Os resultados experimentais mostram que após a introdução do feedback do EEG, a inteligência artificial pode inferir com mais precisão a verdadeira intenção do usuário e corrigir proativamente os desvios durante a execução da tarefa, sem a necessidade do usuário repetir instruções constantemente ou emitir novas instruções.
A equipe de pesquisa afirmou que se espera que este resultado seja aplicado a cenários como robôs, sistemas de colaboração homem-máquina e assistentes inteligentes. Por exemplo, quando um futuro robô doméstico executa uma tarefa, se detectar a reação de “este não é o resultado que desejo” na mente do usuário, ele poderá ajustar proativamente seu plano de ação sem esperar por instruções explícitas.
Os investigadores acreditam que isto significa que a inteligência artificial poderá já não responder apenas passivamente aos comandos no futuro, mas poderá utilizar a tecnologia de interface cérebro-computador para compreender as verdadeiras intenções dos humanos escondidas por detrás da linguagem, conseguindo assim uma colaboração homem-máquina mais natural e eficiente. À medida que a investigação relevante continua a avançar, os sistemas inteligentes da próxima geração que podem detectar o feedback cognitivo humano e modificar o comportamento em tempo real poderão gradualmente tornar-se uma realidade.
Comentários