Um modelo de aprendizado de máquina pode ser incorporado em soluções para governos, cuidados de saúde, serviços bancários ou outros setores, nos quais dados inadequados do cliente podem levar a vieses antiéticos e outros problemas.
Quem é responsável por essas questões? Reformulando a pergunta: Qual a responsabilidade dos desenvolvedores?
Embora os desenvolvedores não possam controlar todas as aplicações de suas tecnologias, eles podem se esforçar ao máximo para alertar os clientes sobre possíveis problemas. Portanto, certifique-se de informar aos clientes sobre os riscos que podem surgir pelo uso inadequado da tecnologia, em áreas como:
-
Precisão e imparcialidade dos dados
Soluções que utilizam a tecnologia de AI são apenas a ponta de um iceberg, apoiado por volumes massivos de dados. A precisão e imparcialidade dos dados determinam a precisão e imparcialidade dos resultados da solução.
As soluções de AI precisam processar e analisar tantos dados que os desenvolvedores e implementadores precisam ser extremamente diligentes em garantir “higiene de dados” ao longo do tempo. Sem essa diligência, as soluções podem gerar resultados com vieses e outras informações incorretas, difíceis de serem detectadas antes que as pessoas utilizem esses resultados para tomar decisões.
-
Privacidade, segurança e propriedade dos dados
Devido ao volume de dados que muitas soluções impulsionadas por AI processam, os desenvolvedores às vezes podem não aplicar suficientemente as restrições de privacidade, segurança, direitos autorais e outras medidas necessárias para uso dos dados
A diligência dos dados deve levar em consideração esses fatores, assim como a precisão e a imparcialidade no design e implementação das soluções
A tecnologia de AI ainda não está, e talvez nunca esteja, em um ponto em que possa ser confiável para conduzir sistemas completamente fechados que tenham impactos significativos e permanentes. As soluções devem utilizar AI de forma responsável, limitando sua participação nos processos de tomada de decisão.
-
Cadeias de suprimentos de software
A maioria das soluções atuais é construída a partir de componentes ou serviços desenvolvidos externamente, e muitas vezes fazem parte de sistemas maiores. Os desenvolvedores e implementadores soluções devem não apenas considerar o impacto da tecnologia de AI em suas próprias soluções, mas também os impactos dos componentes fornecidos e os impactos que as soluções têm nos sistemas maiores.
Todas essas considerações evoluirão ao longo da vida de uma solução com AI. Portanto, os desenvolvedores e implementadores devem estabelecer mecanismos para reavaliar e se adaptar conforme necessário ao longo do tempo.
Transparência
Reguladores e clientes não podem considerar os riscos que não veem. É por isso que os desenvolvedores de AI devem oferecer o nível adequado de transparência – tendo o equilíbrio entre transparência e proteção do IP que torna seus produtos únicos e sustenta seu modelo de negócios.
