A IA mandou uma pista falsa de assassinato para a polícia. A defesa já estava escrita.

722 artigos de matemática, publicados de uma vez

Na terça-feira, 6 de outubro, a OpenAI publicou no GitHub 722 manuscritos de matemática produzidos por um modelo interno, ainda não lançado. É o mesmo modelo que, em setembro, a empresa disse ter resolvido a equação de Navier-Stokes, um dos sete Problemas do Milênio.

O próprio repositório avisa que os resultados estão em estágios diferentes de verificação, que nem todos têm a prova conferida por computador e que alguns podem ter problemas. No dia seguinte, a Association for Human Mathematics, um grupo de matemáticos, pediu que os colegas parassem de trabalhar com a OpenAI: publicar mais de 700 arquivos de uma vez, escreveram, não é demonstração de conhecimento, é demonstração de poder.

Dá para discordar do tom. Mas o ponto de fundo fica: produzir 722 manuscritos ficou fácil. Conferir continua exigindo gente que entende de matemática, uma página de cada vez.

Até a conferência automática precisa de alguém conferindo

A saída óbvia seria a máquina conferir a máquina. Foi o que a OpenAI fez com a Navier-Stokes: além do texto, publicou a prova em Lean, uma linguagem em que o computador verifica cada passo de uma demonstração.

Em 6 de outubro, Alexander Bastounis, Fabian Circelli e Anders Hansen contestaram essa garantia num artigo no arXiv. Alguém precisa traduzir a prova escrita para o Lean, e quem faz essa tradução também é a IA. Segundo eles, a prova em Lean não corresponde à prova escrita. O computador aprovou a versão traduzida, e isso pode não dar confiança nenhuma de que o argumento original esteja certo.

Vale para qualquer área: a conferência automática só serve se alguém que entende do assunto confirmar que ela confere a coisa certa.

A IA não inventa sozinha e muda de ideia fácil demais

Em 7 de outubro, o Epoch AI publicou um teste em que os modelos mais fortes tinham de inventar, sozinhos, uma técnica nova de treinamento de IA. O GPT-5.6 Sol gastou cerca de US$ 14 mil em processamento e chegou a algo parecido com o que já existia. A conclusão do Epoch: as descobertas ficaram aquém do padrão da pesquisa feita por pessoas.

Na mesma semana, Ethan Mollick, professor da Wharton, apontou um defeito mais discreto: quando alguém discorda da IA, ela costuma simplesmente ceder, quando deveria ao menos tentar defender a ideia e só recuar se estivesse mesmo errada.

Junte os dois casos: a IA não sabe sozinha o que é novo nem quando está certa. Quem sabe é quem conhece a área.

O que fazer na segunda-feira

Imagine o Mário, engenheiro com vinte anos de obra. Ele pede para a IA resumir uma norma técnica que vai usar num laudo. A resposta vem limpa e segura. Ele pergunta se ela tem certeza, e a IA troca a resposta. Qual das duas vai para o laudo? Nenhuma, até o Mário conferir.

Ele não precisa conferir tudo. Precisa saber onde fica o ponto de conferência e o que confere ali. Para montar o seu, use uma tarefa só:

• Escolha uma tarefa em que você já usa IA ou quer começar a usar.
• Marque o momento em que o resultado sai da sua mão: vai para o cliente, para o sistema ou para uma decisão. Esse é o ponto de conferência.
• Escreva os três ou quatro itens que causam estrago se estiverem errados: número, norma, nome, prazo.
• Escreva o que acontece quando um item falha: a IA refaz, você consulta alguém ou descarta o resultado.
• Quando a IA mudar de resposta porque você discordou, peça que ela mostre de onde tirou cada versão, e decida você.

A regra que segurou a pista falsa

Volte para a Filadélfia. Depois do aviso da Anthropic, a polícia procurou a pista nos registros do site. Achou. O e-mail correspondente tinha ficado no spam.

Mas não foi o spam que a polícia apontou como proteção. A nota oficial diz que o processo do departamento exige revisão e checagem humana antes de qualquer pista seguir para investigação. E traz a frase que eu colaria na parede de qualquer empresa que usa IA: uma pista é uma informação a avaliar, não um fato estabelecido. Uma mensagem automática não pula esse processo.

A defesa não foi inventada depois do erro. Ela já estava escrita, e põe uma pessoa que entende do assunto entre a informação e a decisão.

A IA desta semana escreveu uma pista falsa de homicídio, 722 manuscritos de matemática e uma prova que o computador aprovou. Em todos os casos, a peça que faltou ou que salvou foi a mesma: alguém que entende do assunto e confere antes de decidir.

O especialista não perdeu valor. Ele virou a parte que faz a IA funcionar. Não existe IA funcionando em processo que ninguém escreveu, nem em processo que ninguém confere.