Numa entrevista mais recente, o presidente da Comissão de Valores Mobiliários (SEC) dos EUA, Gary Gensler, alertou mais uma vez sobre os riscos que a inteligência artificial (IA) traz aos mercados financeiros. Embora diferentes versões da tecnologia de IA tenham sido utilizadas na indústria durante muitos anos e tenham sido implementadas várias medidas de prevenção de fraude e conformidade, a inteligência artificial ainda pode representar riscos para a tomada de decisões dos investidores.
“Em um nível micro, acho que você está absolutamente certo, usar IA para subscrever empréstimos, seguros, etc. pode levar a preconceitos”, disse Gensler.
Ele explicou que um robo-consultor ou corretor, por exemplo, deve ser cuidadosamente programado para otimizar os melhores interesses do cliente, e não do consultor.
Ao mesmo tempo, Gensler disse que também existem riscos sistémicos e que pode haver riscos tanto para as empresas financeiras como para os investidores que utilizem as mesmas ferramentas de inteligência artificial. Isto pode criar um efeito de “manada” no mercado, que ocorre quando grupos ou instituições fazem todos a mesma coisa ou dependem das mesmas ferramentas, em vez de agirem de forma independente.
"A economia natural levará a uma monocultura, haverá um conjunto de dados básicos ou um modelo básico, e grandes partes do sector financeiro dependerão disso... para fazer negócios e subscrições nessa base", disse Gensler. "A pontuação FICO tem sido monocultural há décadas, então isso não é nada incomum ou novo."
A pontuação de crédito FICO é um método de quantificar e avaliar a qualidade de crédito de um indivíduo. Nos Estados Unidos, as pontuações FICO são usadas em 90% das decisões de solicitação de empréstimos hipotecários. As pontuações variam de 300 a 850, com pontuações na faixa de 670 a 739 consideradas uma pontuação de crédito “boa”.
Gensler alertou que, para aqueles que dependem de modelos de IA tendenciosos e falhos, “se você tornar uma grande parte do mercado dependente de um conjunto de dados, poderá ter instabilidade financeira... O pastoreio pode nos fazer cair de um penhasco inadvertidamente”.
Na verdade, no início deste ano, Gensler alertou que as empresas dependeriam de alguns modelos dominantes de IA, o que acabaria por aumentar a probabilidade de uma crise.