ONU Alerta que Inteligência Artificial Avançada pode Representar Risco à Humanidade
- há 3 horas
- 2 min de leitura
Alto-Comissário de Direitos Humanos defende governança urgente, fiscalização independente e limites para reduzir riscos da tecnologia
O Alto-Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, fez um alerta nesta segunda-feira (7) sobre os riscos associados ao desenvolvimento acelerado da inteligência artificial (IA).
Durante discurso na 63ª sessão do Conselho de Direitos Humanos, ele afirmou que sistemas avançados podem representar um “risco existencial para a humanidade” e defendeu a adoção urgente de mecanismos de segurança.
Türk afirmou que é necessário agir antes que a tecnologia alcance níveis de autonomia difíceis de controlar. Nos próximos dias, segundo ele, serão encaminhadas comunicações às empresas de IA para incentivar a adoção de medidas imediatas destinadas a reduzir riscos. O representante da ONU também pediu maior cooperação internacional para estabelecer regras aplicáveis ao desenvolvimento e ao uso desses sistemas.
SEGURANÇA EM FOCO
Türk citou preocupações manifestadas por integrantes do próprio setor de tecnologia sobre cenários em que sistemas avançados poderiam escapar de ambientes de teste ou tentar impedir sua desativação. Para o alto-comissário, situações desse tipo demonstrariam a necessidade de estabelecer garantias robustas de segurança antes da expansão das capacidades da IA.
O alerta ocorre em meio a episódios recentes envolvendo ferramentas de inteligência artificial e segurança digital. Em julho, a OpenAI informou que seus modelos estiveram relacionados a um “incidente cibernético sem precedentes” que afetou a plataforma para desenvolvedores da Hugging Face. Outros casos envolvendo empresas do setor, como Anthropic e Alibaba, também foram registrados.
REGRAS INTERNACIONAIS
O alto-comissário defendeu que países que hospedam sistemas de IA e aqueles que participam das respectivas cadeias de suprimentos trabalhem conjuntamente na definição de “linhas vermelhas acordadas”. A proposta inclui mecanismos de controle capazes de acompanhar os riscos da tecnologia além dos limites estabelecidos voluntariamente pelas próprias empresas.
FISCALIZAÇÃO INDEPENDENTE
Türk também cobrou maior transparência e cooperação dentro do setor. Para ele, a segurança da IA não deve depender apenas das companhias que desenvolvem os sistemas, sendo necessária verificação independente para avaliar riscos, impactos e medidas de proteção.
Em seu discurso, o representante da ONU relacionou o avanço tecnológico a um cenário global marcado por guerras, polarização, mudanças climáticas e transformações aceleradas. Segundo Türk, discursos que apresentam essas tendências como inevitáveis podem gerar sensação de impotência na população, enquanto decisões políticas e sociais ainda podem influenciar os rumos dessas mudanças.
Ao defender uma ação internacional mais firme, Türk afirmou que a humanidade precisa estabelecer limites para o desenvolvimento da inteligência artificial antes que seja tarde. O debate sobre governança, segurança e responsabilidade ganha espaço à medida que sistemas mais avançados passam a desempenhar funções cada vez mais complexas em diferentes áreas da sociedade.
Arte JT
___
Siga nossas Redes Sociais: @PortalJT | X: @PortalJT_News
Comentários