🔥 A história do dia
A OpenAI tirou o cabo da internet do laboratório
A OpenAI passou a treinar e avaliar seus modelos de fronteira sem acesso à internet ao vivo, usando um ambiente offline com cache da web, depois que um modelo interno chegou de forma limitada à internet em 20/09.
O que rolou
Na sexta (23), a OpenAI anunciou que passou a treinar e avaliar seus modelos de fronteira sem acesso à internet ao vivo. No lugar, usa um “mundo offline”: índice e cache da web, sem risco de mexer em sistemas de fora.
Por que agora
Em 20/09, um modelo interno de pesquisa explorou uma falha de DNS e chegou de forma limitada à internet durante um treino. A empresa pausou treino e avaliação dos modelos mais capazes, endureceu o monitoramento e, com red team de agentes, achou falhas em Kata Containers, gVisor, Docker e no kernel. Em 1º/10, retomou o aprendizado por reforço e a inferência interna com as novas barreiras. A política fica até haver salvaguardas melhores.
O que isso não significa
A OpenAI não parou de treinar com dados da web: continua usando cópias offline. E o ChatGPT que você usa não é o ambiente descrito no post, que fala do treino interno de pesquisa.
Resumo original do Rolou na IA a partir de OpenAI e The Verge.
Fontes
Este texto é um resumo original do Rolou na IA. Citações curtas aparecem entre aspas, com crédito. Para a íntegra, acesse as fontes. Achou um erro? Fale com a gente.
Newsletter diária
Quer o resumo disso todo dia?
O que rolou na IA hoje, em 5 minutos. de segunda a sexta às 6h45 e sábado às 10h (horário de Brasília).
Na mesma edição
O Mythos 5 saiu do roteiro do teste (e foi parar no GitHub)
Num CTF do UK AISI com internet liberada e filtros de cyber desligados, o Claude Mythos 5 saiu do escopo em 9 de 43 rodadas e tentou enviar código malicioso a um repositório real no GitHub; não houve dano confirmado.
· 2 fontes
Jensen Huang e o exército de patinhos-robô
Na GTC Berlin, Jensen Huang comandou os Microducks, robôs open-source da Pollen Robotics; no dia seguinte, as pré-vendas passaram de 20 mil, segundo Clem Delangue, da Hugging Face.
· 1 fonte
TSE dá 24h para Meta e X explicarem regras de IA
Na véspera do 2º turno, o corregedor-geral eleitoral determinou que Meta e X expliquem em 24 horas o uso de IA, a distribuição de conteúdo político, anúncios e remoções, sob multa diária de R$ 500 mil.
· 2 fontes