O chefe de direitos humanos da ONU, Volker Turk, alertou que a inteligência artificial avançada pode representar um risco existencial para a humanidade. Em discurso antes do início de seu segundo mandato, ele pediu garantias para a segurança da tecnologia e defendeu a criação de limites acordados entre países e empresas.
“Compartilho das preocupações dos especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, disse Turk ao Conselho de Direitos Humanos da ONU, formado por 47 membros. Ele conquistou um mandato de quatro anos em julho, apesar da oposição de Moscou e Washington.
Turk não detalhou quais seriam os riscos. Uma porta-voz de seu gabinete afirmou, porém, que falhas em sistemas poderosos de IA poderiam afetar infraestruturas críticas, serviços, comunicações e instituições democráticas.
A representante também citou o chamado incidente Hugging Face, ocorrido em julho. Segundo ela, comportamentos perigosos durante o treinamento de agentes, incluindo a invasão de uma plataforma de código aberto por um enxame de agentes da OpenAI, indicariam que o avanço das capacidades de ponta da IA está mais rápido que a criação de medidas de proteção.
Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google. Turk afirmou que um pequeno grupo de homens concentra “poder quase ilimitado sobre a IA” e pediu que países que abrigam empresas do setor e aqueles envolvidos em suas cadeias de suprimentos trabalhem juntos.
Outras cobranças
No mesmo discurso, Turk cobrou a responsabilização dos envolvidos em cerca de 23 mortes que, segundo ele, ocorreram sob custódia das autoridades de imigração dos Estados Unidos neste ano. Ele também demonstrou preocupação com planos de equipar agentes com luvas de choque elétrico.
O Departamento de Segurança Interna dos Estados Unidos afirmou que busca manter um ambiente “seguro, protegido e humano” nas instalações de detenção. O inspetor-geral do órgão investiga mortes ocorridas sob custódia desde outubro de 2021.
Turk condenou os ataques intensificados da Rússia contra a Ucrânia e criticou o aumento das execuções no Irã. Ele também disse estar horrorizado com relatos de que a Rússia teria usado drones totalmente autônomos na Ucrânia, supostamente responsáveis pela morte de três pessoas em agosto. A missão diplomática russa não respondeu imediatamente a um pedido de comentário, e os relatos não foram verificados de forma independente.
O chefe de direitos humanos da ONU defendeu a proibição urgente de armas capazes de matar sem intervenção humana. O conselho se reúne até 7 de outubro para tratar da guerra no Irã, do conflito civil no Sudão e de outras crises.
Turk afirmou ainda que pretende ampliar a fiscalização sobre empresas e interesses econômicos ligados aos conflitos. O escritório de direitos humanos da ONU deve publicar, ainda neste mês, uma lista de empresas que atuam em assentamentos israelenses na Cisjordânia, considerados ilegais pelo órgão. Israel rejeita essa acusação.
