Painel de especialistas aponta que governos e ciência não conseguem acompanhar a rápida evolução da tecnologia, aumentando o risco de perda de controle.
Um painel independente de especialistas das Nações Unidas alertou nesta quarta-feira (1º) que o avanço da inteligência artificial (IA) está superando o conhecimento científico e a capacidade de adaptação dos governos. Segundo um relatório preliminar, essa defasagem cria um cenário onde não há garantias de que a tecnologia não possa causar danos catastróficos. O documento, descrito como a primeira avaliação global independente sobre o tema, aponta um dilema para os formuladores de políticas: a necessidade de evidências para regulamentar a IA de forma eficaz, enquanto essas mesmas evidências se tornam obsoletas rapidamente diante da evolução tecnológica. "As capacidades da IA estão superando tanto o conhecimento científico quanto a capacidade dos governos de se adaptarem", afirmou Yoshua Bengio, co-presidente do painel, que é composto por 40 especialistas de diversas regiões. "Com evidências crescentes de comportamento enganoso da IA, a ciência atualmente não pode garantir que, à medida que as capacidades continuam a aumentar, a IA não causará danos catastróficos, seja por si só ou devido a usuários maliciosos", acrescentou. O relatório prevê, a curto prazo, uma transição para sistemas de IA autônomos capazes de executar tarefas do mundo real, com o crescimento podendo ser limitado pela escassez de energia e de dados de alta qualidade. Com o tempo, a projeção é de uma IA com capacidade de autoaperfeiçoamento, mais integrada à economia e convergindo com outras tecnologias, como computação quântica e biotecnologia.
Atualmente, a inteligência artificial já demonstra raciocínio de nível especializado em áreas como matemática e ciências, além de acelerar o desenvolvimento de medicamentos e vacinas. A complexidade das tarefas que a IA pode executar está dobrando a cada quatro a sete meses. Embora isso possa gerar benefícios econômicos, o painel aponta que ainda não está claro se os ganhos de produtividade se traduzirão em crescimento mais amplo ou como afetarão os empregos. O painel também destacou uma série de preocupações com a segurança, incluindo o risco de perda de controle sobre sistemas de IA à medida que se tornam mais autônomos e enganosos. A tecnologia já é usada para gerar desinformação e outros conteúdos nocivos, e pode ser explorada para fraudes, ataques cibernéticos e ameaças biológicas. A governança sobre o tema permanece fragmentada. Segundo o relatório, muitos países não têm capacidade para avaliar ou moldar sistemas avançados de IA, tornando-se dependentes de tecnologias que não conseguem compreender ou controlar.
O secretário-geral da ONU, António Guterres, pediu ação rápida dos governos. "O mundo não pode governar o que não consegue compreender. O potencial é grande, mas os riscos são reais, e o custo da espera está aumentando", disse Guterres em comunicado. Em resposta às crescentes preocupações, foi anunciada também na quarta-feira a criação de uma nova comissão para tratar do desenvolvimento da IA, a Comissão Global de IA para o Bem. A iniciativa será copresidida pelo presidente de Ruanda, Paul Kagame, e pelo CEO da Salesforce, Marc Benioff. A secretária-geral da agência de tecnologia da ONU (UIT), Doreen Bogdan-Martin, será a vice-presidente permanente.