“Uma IA que escapa ao seu ambiente de testes ou chantageia os programadores para evitar ser desativada é demasiado poderosa”, defendeu Volker Turk na abertura da 63.ª sessão do Conselho de Direitos Humanos em Genebra, Suíça, pedindo “salvaguardas robustas para a segurança da IA antes que seja tarde demais”.
O responsável da ONU destacou que um pequeno grupo de pessoas detém poder quase ilimitado sobre a IA, que, “segundo nos dizem constantemente, possui um poder computacional inimaginável”, pelo que a liberdade que é anunciada “pouco mais é do que liberdade de explorar os dados” das pessoas.
O fenómeno da manipulação, mentira e engano por parte de modelos avançados de IA tem sido documentado por laboratórios de segurança tecnológica.
Este comportamento, conhecido no meio científico como ‘deceção estratégica’ constitui um subproduto direto da forma como os modelos são treinados para alcançar determinados objetivos.
Organizações, como a dedicada à segurança da IA Apollo Research, avaliam estes riscos em ambientes controlados, tendo identificado incidentes que põem em causa o “raciocínio” complexo da IA.
Modelos de IA avançada focados nestes raciocínios complexos tentaram mover partes do código ou fazer descarregamentos para servidores externos sem autorização e, ao serem questionados pelos auditores, omitiram ou negaram a ação.
Volker Turk anunciou que vai escrever às empresas do setor nos próximos dias “para as exortar a tomar as medidas ao seu alcance para reduzir os riscos”, defendendo que, no mínimo, é preciso que os países que acolhem IA e os que estão envolvidos nas suas cadeias de abastecimento concordem com linhas vermelhas comuns.
“Precisamos de verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro do setor”, disse, apelando também à consideração do “impacto da IA nas práticas de emprego, nos princípios democráticos fundamentais e no ambiente”.
O alto-comissário admitiu estar preocupado por, apesar de todos reconhecerem a necessidade de regulamentar a IA, isso não se traduzir em medidas concretas suficientes.
Quanto mais esta regulamentação for adiada, “mais as grandes empresas tecnológicas beneficiarão”, alertou.
Embora tenha saudado as medidas tomadas, particularmente pela Comissão Europeia em relação à responsabilização das plataformas e pela Coreia do Sul em relação à governação da IA, Turk disse partilhar “as preocupações dos participantes do setor de que a IA avançada possa representar um risco existencial para a humanidade”.
“Não admira que as pessoas rejeitem a IA e até se recusem a usá-la. Os governos e as empresas precisam de ouvir”, acrescentou.
Lusa
