Os vieses são comumente considerados um dos efeitos mais preju | Dierle Nunes- ProC : Processualismo constitucional democrático e reformas processuais

Os vieses são comumente considerados um dos efeitos mais prejudiciais do uso de inteligência artificial (IA). A União Europeia (UE) está, portanto, geralmente comprometida em reduzir sua incidência o máximo possível. No entanto, mitigar vieses não é fácil, por várias razões. Os tipos de vieses em sistemas baseados em IA são muitos e diferentes. Detectá-los é uma tarefa desafiadora. No entanto, isso é possível se conseguirmos: i) aumentar a conscientização na comunidade científica, na indústria de tecnologia, entre os formuladores de políticas e o público em geral; ii) implementar IA com componentes explicáveis validados com benchmarks apropriados; e iii) incorporar considerações éticas importantes na implementação da IA, garantindo que os sistemas maximizem o bem-estar e a saúde

No entanto, isso dificilmente pode ser feito se nossos quadros legais não forem bem projetados para esse fim. Infelizmente, as diretivas da UE sobre discriminação incluem algumas lacunas que impedem a prevenção de preconceitos. Os regulamentos específicos sobre proteção de dados podem desempenhar um papel fundamental na resolução deste problema, apelando para o conceito de "justiça" e fornecendo novos usos para a avaliação de impacto da proteção de dados. Esta opção deve ser complementada pelas medidas incluídas nos novos regulamentos sobre dados e IA atualmente em discussão. A IA, a governança de dados e os atos de dados propostos, por exemplo, podem se tornar excelentes ferramentas para evitar preconceitos. De fato, algumas de suas estratégias propostas, como o fortalecimento da mitigação do viés desde os primeiros estágios do processo de desenvolvimento de ferramentas de IA, podem se tornar uma excelente abordagem antecipatória de conformidade. Além disso, a criação de certificados que possam garantir a padronização de bancos de dados é essencial para garantir que as ferramentas de IA empreguem conjuntos de dados adequados. Finalmente, o fortalecimento dos direitos de transparência do assunto do sistema de IA pode ser extremamente útil para encontrar a fonte de resultados tendenciosos. No entanto, o desalinhamento entre os regulamentos e com o Regulamento Geral de Proteção de Dados deve ser corrigido.