Ex-funcionario da Anthropic preve extincao. Amodei quer desacelerar IA. JEV o novo hype do Type Safe AI.
Essa semana deu o que falar! Um ex-funcionário da Anthropic postou uma thread no Twitter dizendo que a IA pode exterminar a humanidade na próxima década. O mais estranho é que a própria liderança da empresa concordou publicamente, e tudo isso a semanas do IPO da Anthropic, que quer valuation de 2 a 3 trilhões de dólares.
O post que parou o Twitter (e saiu no The Wall Street Journal)
O Jacob Coxon, pesquisador de pretraining que trabalhou seis semanas na Anthropic e passou pela OpenAI, postou uma thread: "sistemas sobre-humanos capazes de hackear qualquer coisa" estão chegando, e as empresas de IA estão "apostando com nossas vidas". O post viralizou com 170 milhões de visualizações e veio de uma conta que nunca tinha postado nada.
Pouco depois, o Evan Hubinger, team lead da Anthropic, repostou: "Concordo. Pessoalmente acho que a chance de extinção é superior a 10% na próxima década. Ainda não temos um plano pra resolver o alignment." O The Wall Street Journal soltou uma matéria minutos antes do post. Coincidências? A bolha inteira tá discutindo se foi jogada de marketing ou um alerta real.
Juntando os fatos: conta nova, post super bem escrito, viralização instantânea em conta sem seguidores, lideres da empresa endossando, WSJ falando muito sobre isso, e tudo quando eles estão tão próximos de um IPO. Pode ser real? Pode. Mas é muito conveniente estando tão próximos do IPO. Isso parece muito um esquema de Public Release orquestrado pra inflar o valuation.
Dario Amodei propõe desacelerar a IA (em 3 passos)
Na sequência, o Dario Amodei, CEO da Anthropic, publicou um artigo defendendo a desaceleração. A proposta tem três etapas: avaliadores integrados terceirizados (como a METR) com acesso tipo funcionário aos sistemas, coordenação democrática entre empresas de países democráticos, e coordenação global com governos autoritários (leia-se China). O Sam Altman (OpenAI) e o Elon Musk concordaram publicamente com isso.
Três teorias dominam a bolha: 1) Jogada de marketing pra inflar o valuation no IPO. 2) Pressão pra regulamentar só agora em que eles já tão muito na frente. Na prática a regulamentação vai barrar concorrentes. 3) Bateram num limite técnico (hardware, arquitetura) e querem desacelerar sem admitir estagnação.
JEV: o primeiro System One Model que não alucina
No meio do caos, um lançamento que me animou de verdade. O Type Safe AI lançou o JEV, criado pelo Diogo Almeida (ex-OpenAI, onde ajudou a construir o ChatGPT). É o primeiro "System One Model" público: em vez de gerar texto livre, ele retorna decisões tipadas com probabilidades calibradas, como se fosse uma chamada de função de IA.
O treinamento usa RLCD (Reinforcement Learning for Calibrated Decisions), um método novo que substitui o RLHF (Reinforcement Learning with Human Feedback) tradicional. Cada saída é um JSON tipado com um score de confiança embutido. 0% de erro em structured output, 193x mais rápido que LLMs equivalentes, 44x mais barato. O lema deles: "Build prod, not god", ou construir produto, não divindade em uma tradução livre. E eles postaram vagas abertas: buscam devs backend com experiência em Kubernetes, CI/CD e serviços em escala, exatamente o perfil que eu comentei no vídeo de quinta.
Se o modelo entrega o que promete, isso muda completamente a integração de IA em software. Dá pra criar thresholds: confiança acima de 80% o sistema age sozinho, abaixo pede revisão humana. Entrei na waitlist. Vai vir vídeo testando esse negócio.
Te espero semana que vem na live! Até 💜
Gostou? Receba a próxima edição no seu e-mail.