Chefe de direitos humanos da organização defende medidas de segurança e limites internacionais diante do avanço de sistemas cada vez mais sofisticados.
O chefe de direitos humanos da Organização das Nações Unidas (ONU), Volker Turk, fez um alerta nesta segunda-feira (7) sobre os riscos provocados pelo rápido avanço de sistemas tecnológicos cada vez mais sofisticados. Durante discurso no Conselho de Direitos Humanos da ONU, em Genebra, ele defendeu a adoção de medidas de segurança e afirmou que os riscos podem chegar a representar uma ameaça “existencial” para a humanidade.
Segundo Turk, é necessário estabelecer garantias para o desenvolvimento dessas tecnologias e ampliar os mecanismos de segurança e responsabilização. Ele também afirmou que pretende pressionar as empresas do setor a adotarem medidas mais rígidas para prevenir possíveis consequências graves.
De acordo com o gabinete do representante da ONU, sistemas avançados podem, em determinadas circunstâncias, provocar falhas capazes de afetar infraestruturas críticas, serviços de comunicação e até instituições democráticas.
ONU defende limites internacionais
Turk também pediu que países responsáveis pelo desenvolvimento desses sistemas, assim como aqueles que participam de suas cadeias de fornecimento, trabalhem na criação de limites comuns para o uso da tecnologia.
Na avaliação do chefe de direitos humanos, o desenvolvimento dos sistemas mais avançados estaria ocorrendo em um ritmo superior ao crescimento das medidas destinadas a controlar seus possíveis riscos.
Como exemplo, ele citou um episódio ocorrido em julho envolvendo agentes desenvolvidos pela OpenAI e uma plataforma de código aberto. Conforme informações apresentadas pelo gabinete de Turk, o caso levantou questionamentos sobre comportamentos potencialmente perigosos durante o treinamento desses agentes.
Para Turk, situações como essa mostram a necessidade de ampliar os mecanismos de controle antes que essas tecnologias alcancem níveis ainda maiores de capacidade.
Poder concentrado em poucas empresas
O representante da ONU também chamou atenção para a concentração de influência no setor. Segundo ele, um grupo restrito de executivos possui atualmente grande poder sobre os rumos do desenvolvimento dessas tecnologias.
Entre as empresas mencionadas estão Meta, Anthropic, OpenAI e Google.
A preocupação apresentada por Turk envolve não apenas o funcionamento dos sistemas, mas também os impactos que decisões tomadas por empresas e seus executivos podem provocar na sociedade, nos serviços essenciais e nas instituições democráticas.
Outras crises também foram abordadas
O discurso desta segunda-feira marcou a primeira participação de Volker Turk diante do Conselho de Direitos Humanos desde sua recondução ao cargo, em julho. Ele foi escolhido para um segundo mandato de quatro anos, apesar da oposição dos Estados Unidos e da Rússia.
Durante a sessão, Turk também abordou diferentes conflitos e situações relacionadas a violações de direitos humanos.
Ele pediu responsabilização pelas mortes ocorridas sob custódia de autoridades de imigração dos Estados Unidos e demonstrou preocupação com planos envolvendo o uso de equipamentos de choque elétrico por agentes.
O chefe de direitos humanos da ONU também criticou a intensificação dos ataques russos contra a Ucrânia e o aumento das execuções no Irã.
Drones autônomos na guerra da Ucrânia
Outro ponto destacado por Turk foi o possível uso de drones capazes de operar de maneira totalmente autônoma durante a guerra na Ucrânia.
O representante da ONU afirmou ter ficado “horrorizado” com relatos de que a Rússia teria utilizado equipamentos desse tipo e disse que três pessoas teriam sido mortas em agosto.
Turk defendeu a proibição de armas capazes de decidir sozinhas sobre o uso de força letal, sem a intervenção de uma pessoa.
As informações sobre o suposto emprego desses drones, porém, não foram verificadas de forma independente pela Reuters. Até a publicação do relato, a missão diplomática russa também não havia respondido ao pedido de manifestação.
Conselho de Direitos Humanos segue reunido
O Conselho de Direitos Humanos da ONU continuará reunido até 7 de outubro. Durante o período, os representantes deverão discutir conflitos e crises internacionais, incluindo as guerras no Irã e no Sudão, além de outras situações relacionadas a violações de direitos humanos.
O alerta de Volker Turk coloca o avanço acelerado de sistemas tecnológicos entre os temas que, segundo a ONU, exigem maior atenção internacional, especialmente diante da possibilidade de que novas capacidades surjam antes que existam mecanismos suficientes para controlar seus impactos.
