Inteligência Artificial exige equilíbrio entre oportunidades e riscos

A conferência “Regulation of Artificial Intelligence – Ethical and Fundamental Rights Aspects - European Union and International Perspective” parte dos desenvolvimentos já alcançados nesta área, em especial a Proposta de Regulamento, e aborda as questões da proteção efetiva dos direitos fundamentais na regulação da Inteligência Artificial, que é uma das prioridades da Presidência Eslovena do Conselho da União Europeia, que decorre este semestre.

A Ministra da Justiça, Francisca Van Dunem, participou na sessão de abertura, que contou com representantes ao mais alto nível do trio da presidência do Conselho, composto pela Alemanha, Portugal e a Eslovénia, o Comissário Europeu da Justiça e representantes do Parlamento Europeu e do Conselho da Europa.

Reconhecendo que a Inteligência Artificial tem vindo a adquirir uma relevância crescente nos últimos anos, Francisca Van Dunem saudou a iniciativa do ministro da Justiça da Eslovénia por incluir esta matéria nas prioridades da Presidência e promover um espaço de reflexão e de debate.

“No plano da Justiça, estamos no início de um processo de criação de um quadro jurídico comum para a utilização da Inteligência Artificial nos tribunais e na função de julgar. É um quadro jurídico exigente, em particular nos processos de natureza criminal, no que respeita a salvaguardas e garantias do fair trial, de não discriminação e do direito à privacidade, incluindo o tratamento e proteção de dados pessoais e a anonimização das decisões”, defendeu, lembrando que é essencial definir regras e reconhecer limitações éticas à conceção e utilização destas tecnologias, no estrito respeito pelos direitos fundamentais e pela dignidade da pessoa humana.

O potencial da Inteligência Artificial para acrescentar precisão, rapidez, eficiência e economia de custos a todo um conjunto de atividades humanas foi sublinhado por Francisca Van Dunem, que afirmou que “é importante ter presente que a utilização da Inteligência Artificial não pode deixar de assentar no equilíbrio entre as oportunidades associadas à implementação destes sistemas e a mitigação dos respetivos riscos, tendo como princípio orientador o respeito pelos direitos fundamentais”.

“Uma boa governação digital torna imprescindível manter a pessoa humana no controlo dos processos e na prevenção de riscos e de eventuais discriminações ocultas”, sublinhou a Ministra da Justiça.

A necessidade de explicar as decisões tomadas com recurso a estas tecnologias, a transparência dos mecanismos e o papel das pessoas na sua relação com a Inteligência Artificial foram também destacados na intervenção, onde adianta que “lidar com todas estas questões requer que as implicações éticas, legais, sociais e económicas sejam devidamente ponderadas e que centremos a nossa atenção nos desafios emergentes para os sistemas de Justiça”.

Francisca Van Dunem defende que a utilização das tecnologias de Inteligência Artificial não deve permitir a utilização de “decisões automáticas”, não pode substituir o papel do juiz na formação da decisão, não deve poder enviesar ou interferir negativamente na fundamentação das decisões.

A Ministra da Justiça reforça também a necessidade de envolver processos de regulamentação uma participação alargada, de investigadores, criadores, fabricantes e fornecedores aos decisores políticos, utilizadores e a todos aqueles que são afetados.

“Temos diferentes responsabilidades, mas todos temos o direito e o dever de estar envolvidos na discussão das finalidades que pretendemos que esta tecnologia assuma nas nossas sociedades e nas nossas vidas”, refere, afirmando que “este evento é mais um passo no sentido de assegurarmos sistemas de Inteligência Artificial na Justiça eficientes, robustos, confiáveis, transparentes e controlados”.