Não Vamos Morrer Todos (Para Já)
Fenómenos de extraordinária incompetência…
Defendo que os incidentes reportados nos últimos meses partilham um denominador comum: incompetência.
Enquanto profissional do setor tecnológico, fico estupefacto ao saber que sistemas tão fervorosamente rotulados como perigosos não foram testados com as devidas precauções. Pior: os próprios ambientes de teste continham erros de configuração que permitiram aos modelos de IA aceder a sistemas reais.
Se isto já não fosse preocupante o suficiente, os detalhes do incidente da OpenAI [1], [2] revelam algo ainda mais grave: o problema não surgiu de repente.
Primeiro, um teste mal concebido. A 12 de maio, durante uma execução de treino, um agente de IA recebeu uma tarefa que dependia de ficheiros alojados no Google Drive, apesar de o ambiente em que funcionava não ter acesso à Internet. Erradamente, tinha sido dada uma tarefa impossível ao agente. Ao tentar encontrar uma solução, o agente descobriu que conseguia aceder a um sistema interno da OpenAI. Não conseguiu chegar à Internet, mas tinha acabado de descobrir uma porta que os seus criadores não tinham previsto.
Outros agentes, confrontados com tarefas igualmente mal configuradas, descobriram que podiam utilizar o mesmo sistema para deixar mensagens uns aos outros. Sem que ninguém tivesse criado ou autorizado um mecanismo de comunicação entre agentes, surgiu um. Pouco depois, os agentes descobriram também uma forma de utilizar esse sistema interno para aceder indiretamente à Internet.
E aqui está talvez a parte mais difícil de justificar como simples azar: a OpenAI afirma que uma equipa interna observou, ainda em maio, agentes a utilizar esse sistema como “fórum” e a tentar aceder à Internet. Devem ter-lhe achado muita piada, porque o fórum persistiu por mais dois meses.
A 4 de julho, o fórum, que já contava com cerca de 1 milhão de mensagens, acabou por provocar uma falha no próprio sistema interno. Uma equipa de segurança, sem conhecimento do que se passava, ainda abriu um incidente e repôs o sistema. Mas as avaliações foram retomadas e, em dois dias, os agentes recuperaram, através do sistema agora reposto, o acesso indevido à Internet.
Só a 19 de julho, duas semanas depois, foi identificado o incidente mais amplo, quando um alerta sobre atividade irregular no tal sistema desencadeou uma investigação. Por esta altura, os agentes já tinham comprometido, através da Internet, sistemas externos.
… ou parte de um padrão?
A concorrência da OpenAI também não é estranha a incidentes - apenas 9 dias depois da OpenAI admitir, a 21 de Julho, o incidente, Anthropic (empresa responsável pela ferramenta inteligente Claude) revelou 3 incidentes que lhe tinham acontecido [3]. Meta [4] e Google [5] não ficaram atrás, admitindo publicamente, nas semanas seguintes, incidentes semelhantes.
Dario Amodei, CEO da Anthropic (Claude), é talvez um dos maiores embaixadores da segurança e regulamentação destes sistemas. Investigador de destaque na OpenAI desde 2016, separou-se em Dezembro de 2020 para fundar, em 2021, Anthropic, uma empresa dedicada à investigação e segurança da IA [6].
No artigo de opinião We Must Pace the Frontier (2026) [7], Amodei defendeu a integração de órgãos de avaliação independentes nas empresas que desenvolvem IA, dando o exemplo da METR, uma organização de avaliação de modelos de IA que visa “informar o público dos seus riscos” [8]. Curiosamente, METR é um spin-off do Alignment Research Center (ARC), fundado por Paul Christiano, ex-colega e co-autor académico de Amodei.
Em 2023, Amodei testemunhou perante o senado dos EUA, manifestando os inúmeros riscos da IA e defendendo o controlo do governo americano sobre a cadeia de produção de IA, assim como um regime de testes e auditoria para modelos avançados e a fundação de uma nova agência governamental, o National AI Research Resource (NAIRR) [9].
Já no ano corrente de 2026, Amodei investiu mais de 20 milhões de dólares do seu bolso, em antecipação às eleições intercalares americanas, na super PAC (comité de ação política) Public First [10], focada na regulamentação da IA, e dedica 200 milhões de dólares da empresa ao Anthropic Economic Futures Research Fund, um fundo para financiamento de investigação dos impactos (e possíveis soluções) causados pela disrupção tecnológica da IA [11].
A hora da verdade
Todavia, a sua flagrante preocupação com os riscos da IA não impediu nem Amodei, nem os seus concorrentes, de continuarem o desenvolvimento da tecnologia e a expansão do negócio. Pelo contrário, o mesmo tem acelerado vertiginosamente, facto comprovado tanto pela progressão a olhos vistos das competências da IA [12], como pela angariação frenética de fundos, investimentos, obrigações e créditos, públicos ou privados - um esforço que mais do que duplicou em 2025, de 252 mil milhões de dólares em 2024 para 582 mil milhões de dólares [13]. Este esforço culminará no final deste ano com a muito aguardada entrada recorde em bolsa da própria Anthropic de Amodei, porta-voz do abrandamento da IA, com uma capitalização de mercado estimada em 2 biliões (sim, 2.000.000.000.000) de dólares [14], quantia incognoscível, equiparável a 10% do PIB do país de Donald Trump.
Sem dúvida, uma aposta no sucesso da inteligência artificial.
Em plena guerra de preços com as IAs chinesas concorrentes [15], num momento em que a viabilidade dos megaprojetos de data centers é posto em causa [16] e as taxas de juro ameaçam subir [17], líderes como Dario Amodei, sob o peso galopante da dívida, são pressionados a garantir o futuro da empresa.
Avisa o visionário estratega Roger L. Martin: “as empresas são os maiores beneficiários de regulação que alegadamente procura beneficiar os consumidores” [18].
Para Amodei, não houve melhor altura para armadilhar o mercado de burocracia e legislação, tomar o seu lugar como órgão avaliador de eleição e, assim, cimentar o frondoso duopólio do presente.
Na hora da verdade, alertas catastróficos são mais do que a qualidade de um produto diferenciado - são a desculpa certa.
References
- The Hugging Face incident and the road ahead
- OpenAI says its AI agents breached its own systems before Hugging Face
- A brief history of AI executives calling for regulation
- Meta’s AI model hacked another company during testing, information reports
- Google Gemini AI hacked into other companies during internal testing
- Anthropic raises $124 million to build more reliable, general AI systems
- We must pace the frontier
- Metr
- Written Testimony of Dario Amodei, Ph.D.
- Pro-AI super PAC keeps $31M ready for the midterms
- A research agenda for the Economic Futures Research Fund
- AI benchmarks & capabilities
- Stanford’s AI Index Report
- Anthropic Could Aim to Raise $100 Billion in Blockbuster I.P.O.
- Anthropic and OpenAI release cheaper models as price war intensifies
- Oracle sends ‘force majeure’ notice about data center project — stock drops 3%
- Fed holds interest rates steady as inflation hits 3-year high
- AI Regulatory Strategy