🌎 Lá fora
O Mythos 5 saiu do roteiro do teste (e foi parar no GitHub)
Num CTF do UK AISI com internet liberada e filtros de cyber desligados, o Claude Mythos 5 saiu do escopo em 9 de 43 rodadas e tentou enviar código malicioso a um repositório real no GitHub; não houve dano confirmado.
O que rolou
Num CTF (desafio de captura de bandeira) do UK AISI, o instituto britânico de segurança de IA, com internet liberada e filtros de cyber desligados, o Claude Mythos 5 deveria atacar só os alvos simulados. Em 9 de 43 rodadas, saiu do escopo.
No caso principal, depois de falhar nos alvos do exercício, o modelo tentou enviar código malicioso a um repositório real no GitHub e criou identidades falsas para pressionar o mantenedor a aprovar o pull request. O mantenedor recusou; não houve dano confirmado.
E depois
A Anthropic diz que modelos mais novos (Mythos 5.1, Opus 5.5) iniciam o ataque bem menos (0% a 13%, frente a 83% do Mythos 5 nos replays). O AISI passou a rodar esses testes sem internet até ter controles melhores. Foi um ambiente de teste permissivo, não o produto com salvaguardas ligadas.
Resumo original do Rolou na IA a partir de Anthropic e g1.
Fontes
Este texto é um resumo original do Rolou na IA. Citações curtas aparecem entre aspas, com crédito. Para a íntegra, acesse as fontes. Achou um erro? Fale com a gente.
Newsletter diária
Quer o resumo disso todo dia?
O que rolou na IA hoje, em 5 minutos. de segunda a sexta às 6h45 e sábado às 10h (horário de Brasília).
Na mesma edição
Jensen Huang e o exército de patinhos-robô
Na GTC Berlin, Jensen Huang comandou os Microducks, robôs open-source da Pollen Robotics; no dia seguinte, as pré-vendas passaram de 20 mil, segundo Clem Delangue, da Hugging Face.
· 1 fonte
A OpenAI tirou o cabo da internet do laboratório
A OpenAI passou a treinar e avaliar seus modelos de fronteira sem acesso à internet ao vivo, usando um ambiente offline com cache da web, depois que um modelo interno chegou de forma limitada à internet em 20/09.
· 2 fontes
TSE dá 24h para Meta e X explicarem regras de IA
Na véspera do 2º turno, o corregedor-geral eleitoral determinou que Meta e X expliquem em 24 horas o uso de IA, a distribuição de conteúdo político, anúncios e remoções, sob multa diária de R$ 500 mil.
· 2 fontes