No prospecto revisado, Anthropic diz que modelos futuros podem atingir 'iminentemente' seu limiar de IA que acelera a si mesma

O que rolou

Em 02/11, a Anthropic entregou à SEC a versão revisada do prospecto do IPO (S-1/A). Na seção de fatores de risco, diz que, pelas estimativas internas, modelos futuros podem “iminentemente” atingir a definição da sua Responsible Scaling Policy para “progresso dramaticamente acelerado atribuível à IA”, o chamado autoaperfeiçoamento recursivo. (TechCrunch)

Os detalhes

A empresa diz que já usa IA na própria pesquisa e que “no passado não identificou” saltos de capacidade enquanto aconteciam. Afirma que nenhum modelo atual cruzou o limiar, que não espera usar o Claude para projetar as próximas gerações “sem supervisão humana significativa” e que estuda mudar a política para manter humanos no controle.

E aí?

Um prospecto é aviso legal e também peça de venda. A novidade é o risco aparecer por escrito num documento regulatório, e não num post de blog.

Resumo original do Rolou na IA a partir de reportagem do TechCrunch.