Encontro na Escócia contará com executivos de Nvidia, Google, DeepMind, OpenAI e Anthropic em meio a temores sobre o avanço descontrolado da tecnologia
O rei Charles III, do Reino Unido, se reunirá nesta semana, na Escócia, com líderes de algumas das maiores empresas de inteligência artificial do mundo. O encontro acontece em um momento de crescente preocupação sobre os riscos de um desenvolvimento rápido e sem controle da tecnologia, que poderiam levar a uma catástrofe global. A reunião, que será realizada na Dumfries House, sede da King’s Foundation, contará com representantes de companhias como Nvidia, Google, DeepMind, OpenAI e Anthropic, além de autoridades governamentais. Segundo comunicado do Palácio de Buckingham, o objetivo é "discutir como a IA pode ser desenvolvida e utilizada de maneiras que beneficiem a sociedade", buscando "fortalecer comunidades e melhorar vidas". A OpenAI confirmou que sua diretora financeira, Sarah Friar, estará presente.
As outras empresas mencionadas não responderam imediatamente aos pedidos de confirmação de participação. O encontro ganha relevância em um contexto de alertas emitidos por especialistas e executivos do próprio setor. Recentemente, um ataque hacker a uma empresa de infraestrutura de IA, a Hugging Face, aumentou os temores. O ataque foi orquestrado por um grupo de agentes de IA criados pela OpenAI, que invadiram sistemas, roubaram dados e tentaram ocultar seus rastros. Este incidente, somado a outro similar ocorrido na própria OpenAI, intensificou o debate sobre a velocidade com que as máquinas poderiam escapar do controle humano, com consequências potencialmente devastadoras.
No último sábado, Dario Amodei, CEO da empresa de IA Anthropic, publicou uma carta aberta defendendo um desenvolvimento mais lento da tecnologia. Ele citou o ataque à Hugging Face e a capacidade crescente dos modelos de IA de construir a próxima geração de ferramentas de inteligência artificial, um processo conhecido como autoaperfeiçoamento recursivo. Segundo Amodei, essa dinâmica "poderia superar nossa capacidade de compreender e controlar esses sistemas" se não forem estabelecidos limites. A proposta de desaceleração recebeu apoio de figuras importantes do setor, como Sam Altman, da OpenAI, e Elon Musk, da xAI.