A Diretora de Qualidade e Inovação e docente do ensino superior Filomena Moreira acaba de lançar “Auditar Sistemas de IA”, uma nova obra dedicada aos desafios da auditoria de sistemas de IA e à necessidade de desenvolver modelos mais estruturados para a sua gestão.
Segundo a autora, o lançamento coincide com um momento particularmente relevante a nível europeu, marcado pela implementação progressiva do AI Act e pelo crescente debate sobre a forma como as organizações devem garantir uma utilização responsável da IA.
O livro surge no contexto que a Inteligência Artificial (IA) está a moldar rapidamente nas organizações e a discussão já ultrapassou as suas possibilidades de utilização.
À medida que estes sistemas passam a apoiar processos e decisões, ganham relevância questões relacionadas com risco, transparência, responsabilidade e supervisão. Neste contexto, “o livro parte desta nova realidade para explorar o papel da auditoria na avaliação dos sistemas de IA, abordando temas como gestão do risco, qualidade dos dados, supervisão humana, enviesamento, ética e mecanismos de controlo”.
Tendo como referência a ISO/IEC 42001 e a ISO 19011, apresenta “uma perspetiva prática sobre a avaliação e auditoria destes sistemas”, por exemplo como diferenciador comercial junto de clientes que exigem garantias sobre o uso de IA ou guia operacional para quem já domina auditorias ISO mas ainda falta enquadramento prático para a IA.
A crescente integração da Inteligência Artificial nos processos organizacionais está também a transformar a forma como são identificados e geridos os riscos. Neste contexto, “torna-se cada vez mais importante avaliar não apenas o desempenho dos sistemas, mas também a qualidade da informação que os suporta, os mecanismos de supervisão existentes e o impacto das decisões tomadas com recurso à IA”, afirma.
A auditoria surge, assim, como um instrumento relevante para ajudar as organizações a compreender se os seus sistemas são efetivamente geridos com controlo e responsabilidade, e a nova obra apresenta casos práticos e checklists, trazendo o valor aplicado de um guia passo-a-passo para auditorias internas, em contraste com obras mais teóricas sobre governação de IA.
“A utilização da Inteligência Artificial coloca novos desafios às organizações. Não basta perceber o que a tecnologia consegue fazer. É necessário compreender como é utilizada, que riscos pode gerar e de que forma podemos garantir mecanismos adequados de controlo e supervisão” afirma Filomena Moreira, especialista em Gestão de Sistemas de Qualidade e IA.
O livro “Auditar Sistemas de IA” traz a perspetiva de quem audita e certifica sistemas falando a linguagem de gestores e auditores. Com este novo lançamento, Filomena Moreira alarga o seu trabalho na área dos sistemas de gestão e auditoria aos desafios emergentes da IA, reforçando a importância de aproximar inovação, governação e responsabilidade nas organizações.