Por que você está usando IA?
É fácil para a auditoria interna ficar presa nos detalhes de uma solução de IA, mas os auditores devem primeiro considerar como a solução se conecta aos maiores objetivos da organização.
“Ao pensarmos em como abordamos a auditoria de IA, é importante começar com a missão da IA dentro de cada organização”, disse Peyton.
“Há coisas realmente fantásticas sendo feitas em muitos setores. No entanto, também existem algumas consequências posteriores que não são tão boas”, disse Peyton. “Como auditores, é importante pensarmos sobre isso, conversarmos com aqueles que estão na vanguarda do que a organização faz e fazer a pergunta: “Se estamos usando IA, como a estamos usando para ajudar a avançar em nossos objetivos? "
Esta questão fundamental estabelece um contexto importante para o trabalho da auditoria interna. “Isso nos dará a base para nossas auditorias, pontos de vista, avaliações de risco, casos de uso, consequências não intencionais e a lista continua”, disse Peyton. “É aí que o comitê de auditoria e o conselho realmente precisam se firmar, que é realmente a missão e a estratégia da IA e como ela pode impulsionar uma organização.”
Para obter o máximo valor de uma auditoria interna de IA, é necessário adaptar a auditoria à maturidade atual da adoção de IA pela organização. Para fazer isso, realize uma avaliação de maturidade de IA que inclua estes elementos:
- Obtenha uma compreensão de todo o cenário de IA em toda a organização
- Execute uma avaliação de risco de IA de alto nível
- Avaliar as estruturas, políticas e procedimentos de governança da organização
- Avaliar processos e requisitos de segurança e privacidade de dados
- Avalie o alinhamento das implantações de IA da organização com suas diretrizes e valores éticos
A sua avaliação também deve considerar os programas fundamentais dos quais dependem as soluções de IA. Os exemplos incluem ERM empresarial, Ética e Código de Conduta, governança de dados, metodologia e processos SLDC e gerenciamento de risco de terceiros. As conclusões abertas e as limitações conhecidas destes programas devem ser tidas em conta na avaliação dos riscos de IA.
