A pesquisa de CFOs da Grant Thornton para o terceiro trimestre de 2023 mostrou que apenas 48% dos CFOs disseram que seus conselhos desempenharam um papel ativo na compreensão da governança em relação à IA generativa. Os conselhos de administração dos bancos podem e devem fazer melhor.
Uma tarefa importante de governança é verificar se a gestão implementou uma estrutura de gestão de riscos de IA apropriada para a organização.
Embora existam muitas estruturas diferentes, uma que muitas organizações consideram útil é a Estrutura de Gestão de Riscos de IA do Instituto Nacional de Padrões e Tecnologia, que se concentra na gestão de riscos para indivíduos, organizações e sociedade associados à IA.
Uma vez estabelecida uma orientação sobre a IA e implementado um quadro, os bancos e parceiros relacionados nos espaços de pagamento precisam de abordar os blocos de construção da IA, desenvolvendo e obtendo os dados certos. Scott Tripp disse: “Os bancos devem determinar quais dados desejam coletar e de quais fontes. A IA fornece a capacidade de obter rapidamente uma infinidade de informações ou conjuntos de dados. Parte de sua estratégia deve incluir quais conjuntos de dados você deseja extrair – tanto tradicionalmente quanto com recursos futuros com o poder da IA – e como eles poderiam funcionar juntos.”
Rai disse que os dados são um dos componentes mais essenciais de um bom modelo de IA.
“A qualidade dos dados precisa ser alta e definir esses dados, controlar quem tem acesso a eles, bem como onde estão hospedados, é fundamental”, disse ele.
As empresas precisarão proteger os dados para manter informações precisas sobre seus clientes. “As organizações devem continuar a aplicar controles de integridade e proteção de dados, bem como os controles de validação de dados necessários, para proteger contra distorções imprecisas nos conjuntos de dados”, acrescentou Rai.
“Também é possível treinar e corrigir um modelo de IA”, acrescentou Peyton. “É importante ter as entradas de dados corretas, é verdade, mas é a ação corretiva que os humanos precisam tomar que diz: ‘em vez disso, você precisa responder dessa maneira’ que torna um modelo confiável e utilizável em um ambiente de negócios.”