Auditoria algorítmica para sistemas de tomada de decisão ou suporte à decisão

Um sistema automatizado de apoio à decisão (SAD) é um sistema computacional que pode, para um determinado conjunto de objetivos definidos por seres humanos, fazer previsões e recomendações ou tomar decisões que afetam ambientes reais ou virtuais. Esses sistemas são projetados para operar com diferentes graus de autonomia. Nos últimos anos, as SADs cresceram exponencialmente em número e escopo. Hoje, interagimos com cada vez mais SADs, muitas vezes sem percebermos. No entanto, a falta de conscientização sobre seu uso não reduz os riscos sociais, caso esses sistemas sejam mal projetados ou tenham sido criados sem que as precauções necessárias fossem tomadas. Este guia busca servir como um instrumento que ajuda a aumentar a conscientização sobre as implicações e consequências da implementação de sistemas automatizados na tomada ou apoio a decisões que afetam a vida das pessoas. Embora as auditorias tenham se tornado um componente crítico no campo em expansão da governança algorítmica, elas por si só não são suficientes para mitigar os impactos da implementação e execução de um sistema. Em essência, eles constituem um processo pelo qual o cumprimento de certas normas é determinado. No entanto, as auditorias desempenham um papel indispensável em termos de avaliação de impacto e na obtenção e disponibilização de informação, tanto ao nível da própria entidade, como ao nível das entidades reguladoras, bem como para potenciais partes interessadas e para a sociedade no seu conjunto.