A Comissão de Valores Mobiliários dos EUA (SEC) manifestou preocupação com o impacto da inteligência artificial (IA) generativa nos mercados financeiros. Em um discurso entregue ao National Press Club, o presidente do órgão, Gary Gensler, disse que os recentes avanços no setor aumentam certos riscos. Por exemplo, a possibilidade de instituições que dependem do mesmo banco de dados na tomada de decisões.
Apesar de dizer que enxerga a tecnologia como “mais transformadora do nosso tempo”, Gensler lança críticas sobre os impactos no ambiente financeiro.
“Em finanças, a IA já está sendo usada para call centers, aberturas de contas, programas de conformidade, algoritmos de negociação, análise de sentimentos e muito mais. Também alimentou uma rápida mudança no campo de consultores robóticos e aplicativos de corretagem”, disse.
Gensler comenta que a inteligência artificial irá mudar significativamente áreas como educação, saúde e finanças. Mas é necessário estar atento aos riscos. Além disso, o presidente da SEC recorda sobre o episódio em que, uma IA enganou muitas pessoas sobre sua falsa renúncia do órgão.
“No início deste mês, meu diretor de comunicações entrou em contato comigo. Hoje, muitos rumores na internet de que você renunciou. Você me diria se o fizesse, certo? ” ele perguntou. O boato falso era aparentemente do texto gerado pela inteligência artificial em um site”, diz.
Gensler também comenta que, criminosos poderiam usar a inteligência artificial para influenciar eleições, o mercado de capitais ou assustar o público. Ele faz referência à transmissão de rádio de Orson Welles em 1938, guerra dos mundos, e diz que a IA pode fazer “parecer mansa.”
Nesse sentido, Elon Musk, também diz se preocupar com a monopolização desse mercado. Nesse sentido, o CEO da Tesla criou sua própria companhia de IA para competir com as existentes, e diz procurar “a verdade sobre o universo”.
“Não se engane, porém, de acordo com as leis de valores mobiliários, fraude é fraude. A SEC está focada em identificar e processar qualquer forma de fraude que possa ameaçar investidores, formação de capital ou mercados de maneira mais ampla”, disse Gensler.
IA pode levar bancos à crises financeiras
Gensler disse que a grande demanda por dados e poder computacional pode significar que apenas algumas plataformas tecnológicas podem dominar o campo.
Desse modo, a pouca competição messe nicho pode diminuir a quantidade de modelos de inteligência artificial que as empresas usariam. Ou seja, se um modelo fornecer informações imprecisas ou irrelevantes, as instituições financeiras podem acabar usando os mesmos dados errados, e assim tomarem as mesmas decisões prejudiciais.
Nesse sentido, Gensler relaciona o risco de algo do gênero com a crise financeira de 2008, onde os bancos jogaram “siga o líder” com base em informações de avaliadores de crédito ou Corrida no Twitter no Silicon Valley Bank.
Gensler comparou as possíveis consequências a algo como a crise de 2008, que ele disse ter demonstrado os riscos de um conjunto de dados ou modelo centralizado “ nas finanças.
“A inteligência artificial pode aumentar a fragilidade financeira, pois pode promover a criação de animais com atores individuais que tomam decisões semelhantes porque estão recebendo o mesmo sinal de um modelo base ou agregador de dados”, disse.
Além disso, ele acrescentou que o aumento da inteligência artificial generativa e de outros modelos de aprendizado “poderia exacerbar a interconectividade inerente à rede do sistema financeiro global.”
IA no mercado financeiro
O setor financeiro utiliza sistemas de IA há muito tempo. Algumas companhias de seguros e credores implantam algoritmos e processamento de linguagem natural para analisar dados financeiros antes de decidir os valores dos empréstimos.
As empresas comerciais confiaram na IA para verificar se há fraude e verificar se há sinais de mercado muito mais rapidamente do que os humanos olhando para a tela do computador.
A regulamentação da IA também não é um novo tópico para a SEC. A agência estabeleceu o FinHub, um centro de recursos criado para responder perguntas sobre IA, criptografia e outras questões relacionadas à fintech, em 2018.
Ele perseguiu ativamente casos contra empresas de tecnologia emergente que considera ter violado a lei, especialmente no espaço de criptografia.
A própria SEC também usa o aprendizado de máquina para ajudar na vigilância do mercado a aplicar suas políticas.
Gensler disse que as diretrizes atuais sobre gerenciamento de riscos precisam ser atualizadas para acompanhar a nova e poderosa tecnologia, mas ele observou que pode ser necessário repensar em todo o setor financeiro sobre como usá-lo.
