Numa intervenção perante o Conselho de Direitos Humanos das Nações Unidas, onde hoje é também apresentado um relatório sobre o impacto destas novas tecnologias nos direitos e liberdades fundamentais, Michelle Bachelet pediu que se trave o desenvolvimento de algumas delas “até que sejam postas em vigor as salvaguardas adequadas”.

“Não podemos continuar a reagir tardiamente aos efeitos da IA, nem permitir que se use de forma ilimitada, sem fronteiras ou supervisão, confrontando-nos logo com as suas quase inevitáveis consequências sobre os direitos humanos”, defendeu a responsável.

O relatório analisou o uso da IA em sistemas de elaboração automática de perfis, tomada de decisões e outras tecnologias de aprendizagem para as máquinas que, segundo concluiu, podem fragilizar o direito à privacidade e outros direitos relativos à saúde, à educação, à liberdade de movimentos e à liberdade de expressão.

De acordo com o documento, já houve casos em que algumas pessoas foram “injustamente tratadas” devido ao uso da IA, por exemplo, sendo-lhes negados subsídios sociais ou sendo detidas em consequência de erros nos sistemas de reconhecimento facial (muito desenvolvidos e já amplamente utilizados na China).

“Os dados que alimentam e orientam os sistemas de IA podem ser deficientes, discriminatórios, obsoletos ou pouco relevantes”, conclui o documento, apontando que estas bases enviesadas “podem conduzir à adoção de decisões discriminatórias, um risco ainda maior em grupos que já se encontram marginalizados”.

A também ex-presidente chilena recordou que “a inteligência artificial chega agora a quase todos os aspetos das nossas vidas” e pode decidir “quem usufrui de serviços públicos, ou quem tem oportunidade de obter um emprego”.

O relatório hoje apresentado no Conselho de Direitos Humanos da ONU exige ainda às empresas e aos Estados que desenvolvem esta tecnologia que aumentem a transparência dessa investigação.