IA em 11 de setembro: o alarme de segurança e a corrida que não abranda

O dia ficou marcado por um contraste difícil de ignorar. Ao mesmo tempo que um investigador da Anthropic se demitia em público com um alerta sobre risco existencial, três empresas punham no mercado — ou anunciavam — novos modelos e serviços, e a Califórnia assinava leis para travar os efeitos da tecnologia nos mais novos. A corrida não abranda; o debate sobre os seus limites é que subiu de tom.

«Jogar com as nossas vidas»: a demissão que abalou a Anthropic

Jacob Coxon, investigador que passou os últimos três anos em pesquisa de pré-treino na OpenAI e na Anthropic, demitiu-se e explicou porquê numa thread pública. Segundo o TechCrunch, Coxon acusou as empresas de não agirem com responsabilidade: quem está a construir esta tecnologia «acredita sinceramente que ela pode matar-nos a todos até ao fim da década» e «está a correr direita para uma superinteligência que se auto-melhora, jogando com as nossas vidas». A cobertura da CNBC e da Forbes acrescenta o número que ele avançou: mais de 10% de probabilidade de extinção humana na próxima década.

O The Verge descreve o caso como o aviso de quem sai de dentro, num momento em que a pressão para abrandar o desenvolvimento já vinha de reguladores e de parte da própria indústria. A BBC recorda as consequências políticas: o senador Bernie Sanders pediu uma pausa no desenvolvimento de IA avançada e a proibição de superinteligência artificial, enquanto o presidente Donald Trump rejeitou os receios, dizendo que os Estados Unidos não se podem dar ao luxo de perder a corrida.

Porque importa: a OpenAI e a Anthropic construíram boa parte da sua reputação sobre uma promessa de segurança. Quando quem trabalha lá dentro sai a dizer que a promessa não se cumpre, o argumento deixa de vir de fora — e passa a ser bem mais difícil de tratar como alarmismo.

A Anthropic diz ter travado tentativas de uso para armas biológicas

No mesmo dia, a Anthropic publicou o seu relatório de inteligência de ameaças, no qual diz ter identificado e interrompido tentativas de usar o seu modelo para «atividade maliciosa» que poderia apoiar o desenvolvimento de armas biológicas. Segundo o The New York Times, a empresa admite que não conseguiu determinar se o trabalho era legítimo ou criminoso, e foi isso que a levou a encerrá-lo. A BBC confirma os factos.

Porque importa: os relatórios deste tipo são, por norma, exercícios de transparência em que o pior caso fica no condicional. Aqui há um caso concreto, e a própria empresa admite não saber a intenção de quem o conduzia — o que é, ao mesmo tempo, o sinal mais forte e o mais desconfortável.

DeepSeek-V4.1-Flash: mais pequeno e mais barato, diz a empresa

A DeepSeek apresentou o V4.1-Flash, o modelo mais pequeno da sua nova família de arquiteturas. Segundo a página oficial da empresa, é um MoE de 552 mil milhões de parâmetros com uma nova arquitetura «Causal Encoder–Decoder»: apenas 8 mil milhões de parâmetros ativos na entrada e 16 mil milhões na saída. O cache KV passa a ocupar um quarto da HBM e um oitavo do armazenamento em SSD face à geração anterior. A DeepSeek afirma ainda que testes de várias partes colocam o V4.1-Flash à frente do V4-Pro em desempenho, custo, velocidade e tempo total — e por isso vai encaminhar todos os pedidos do V4-Pro para o novo modelo a partir das 04:00 UTC de 14 de setembro, até chegar o V4.1-Pro.

Porque importa: compressão do cache e menos parâmetros ativos atacam diretamente o custo por chamada — o número que decide se um agente vale a pena em produção. É engenharia, não marketing.

A OpenAI lança o Agents API

A OpenAI anunciou a 10 de setembro o Agents API, um serviço gerido para construir agentes na cloud a partir de uma única chamada. Segundo a empresa, o serviço assenta no «Codex harness» para orquestração, mantém sessões longas, oferece sandboxes alojadas pela própria OpenAI, permite usar mais ferramentas e paralelizar trabalho com subagentes, e parte de uma base open source.

Porque importa: a OpenAI está a vender a infraestrutura de execução de agentes, não apenas o modelo. Para equipas que hoje montam isto à mão, a decisão passa a ser entre tempo de engenharia e dependência de um fornecedor.

Google investe 13 mil milhões de euros na Finlândia — e metade da eletricidade de uma central nuclear

O Google anunciou um investimento de 13 mil milhões de euros (cerca de 15 mil milhões de dólares) na Finlândia — o maior investimento isolado da empresa na Europa, segundo a BBC. O pacote financia três novos centros de dados, a expansão de um existente e projetos de energia. Como parte do acordo, o Google assinou um contrato de 22 anos com a utilitária finlandesa Fortum para comprar até metade da produção da central nuclear de Loviisa. A Reuters noticia os mesmos números.

Porque importa: o constrangimento da IA já não é só chips — é eletricidade. Contratos de duas décadas com nuclear deixam de ser excentricidade e passam a ser planeamento de base.

Califórnia aperta as regras para chatbots e redes sociais

A 10 de setembro, o governador da Califórnia, Gavin Newsom, assinou o que o seu gabinete descreve como a legislação de segurança de chatbots mais forte do país, a par de novas proibições a funcionalidades «viciantes» para menores de 16 anos e do reforço da privacidade das crianças. Segundo o The New York Times, é a primeira lei do género nos Estados Unidos a proibir funcionalidades aditivas a menores de 16. Na mesma linha, a Anthropic passou a exigir verificação de idade no Claude, que segundo a sua própria página de suporte deixou de estar disponível para menores.

Porque importa: a regulação deixa de discutir «a IA» em abstrato e passa a escrever regras sobre produtos concretos. E parte do setor já responde antes de ser obrigado — o que muda a pergunta de «se» para «quando».

Também a acompanhar

• A Cognition lançou o SWE-2, modelo de código pós-treinado a partir do Kimi K3 e treinado por RL «na escala dos multi-biliões de parâmetros»; a empresa diz que fica a um ponto do Fable 5.1 no FrontierCode 1.1 com 64% menos custo.
• Reguladores norte-americanos estão a investigar o acordo de licenciamento entre a Nvidia e a Groq (The New York Times).
• Continua a polémica sobre a confiança nos resultados de investigação anunciados pela OpenAI, com matemáticos a questionar provas não publicadas.