PORTFÓLIO
E se não for hype?
Por Luis Fernando Prado
Existe uma leitura confortável circulando sobre os alertas cada vez mais fortes vindos de quem está na fronteira da inteligência artificial.
“É hype.”
“Executivos querem inflar expectativas, justificar valuations, preparar IPOs, atrair capital, pressionar governos por incentivos ou criar barreiras regulatórias contra concorrentes.”
Pode haver incentivos econômicos em tudo isso; seria ingênuo imaginar o contrário. Mas começa a ser intelectualmente preguiçoso usar essa explicação para descartar o que está acontecendo.
Em 12 de setembro, Dario Amodei, CEO da Anthropic, publicou um ensaio incomum para quem lidera uma das empresas na corrida pela fronteira. O título já diz tudo: We Must Pace the Frontier. A tese: “precisamos reduzir o ritmo com que melhoramos as capacidades dos modelos de IA”.
Sam Altman, da OpenAI, declarou concordar e afirmou que sua empresa seguiria o exemplo, aceitando avaliações externas de segurança. Elon Musk apoiou publicamente o chamado.
Em 23 de setembro, Altman e Amodei falaram ao Conselho de Segurança da ONU, na primeira sessão do Conselho dedicada especificamente aos riscos de segurança da IA. Altman resumiu o momento com clareza: os avanços dos últimos meses fizeram o timeline parecer mais comprimido, os benefícios mais tangíveis e os riscos mais imediatos.
É perfeitamente possível acreditar que todos eles têm interesses próprios e, ainda assim, prestar atenção no sinal, porque o ponto mais importante não são suas declarações, e sim os fatos que começaram a acompanhá-las.
Primeiro fato
O gatilho do ensaio de Amodei não foi um cenário hipotético. Em meados deste ano, durante testes internos de cibersegurança, agentes de IA ultrapassaram os limites do ambiente controlado em que operavam e alcançaram sistemas de produção do Hugging Face, o maior repositório aberto de modelos do mundo. O episódio, reconhecido publicamente pelo próprio laboratório e tratado com reforço imediato de isolamento e monitoramento, mostrou algo que a indústria já intuía: agentes suficientemente capazes encontram caminhos que seus operadores não previram.
Segundo fato
A METR, organização independente que avalia sistemas de fronteira, mede a complexidade das tarefas que a IA conclui sozinha com uma pergunta simples: quanto tempo um profissional humano levaria para fazer o mesmo? Na primavera de 2025, os melhores modelos lidavam com tarefas de menos de uma hora. Em maio de 2026, já superavam dois dias úteis completos de trabalho humano. A METR alerta que suas medições perdem precisão acima desse patamar, o que levanta um ponto importante: a régua está ficando até curta para o que mede.
No mesmo relatório, construído com acesso a Anthropic, Google, Meta e OpenAI, a METR documentou o uso cada vez mais intenso desses sistemas dentro dos próprios laboratórios. A IA participa, de forma crescente, do desenvolvimento acelerado da própria IA — o que Amodei chama de recursive self-improvement.
Terceiro fato
As capacidades relevantes para risco mudaram de categoria. Em 3 de setembro, a OpenAI lançou o GPT-6 Astra e o classificou como o primeiro modelo amplamente disponibilizado a atingir o nível Critical em cibersegurança sob seu Preparedness Framework. Na definição da própria empresa: com ferramentas e acessos adequados, o modelo encontra vulnerabilidades até então desconhecidas e desenvolve formas de explorá-las em sistemas bem protegidos, sem que uma pessoa oriente cada etapa. O lançamento foi atrasado por semanas para reforçar as salvaguardas, inclusive à luz do que os testes internos haviam revelado meses antes.
A Anthropic observa fenômeno semelhante em outros campos sensíveis. Seu relatório de inteligência de ameaças, publicado em 10 de setembro, documenta tentativas de uso dos modelos em operações de inteligência e no desenvolvimento de armamentos como drones e mísseis. Em biologia, a empresa admite que, ao contrário do que podia afirmar sobre modelos anteriores, já não tem segurança para dizer que os sistemas atuais estão claramente abaixo de limiares preocupantes (e por isso ampliou restrições).
Nada disso prova necessariamente uma catástrofe futura. Não sabemos se o autoaperfeiçoamento recursivo produzirá aceleração explosiva. Previsões levam esse nome porque, muitas vezes, não se concretizam, especialmente as mais extraordinárias.
Mas reconhecer que “não sabemos até onde isso vai” é inimigo de concluir que “portanto, quem alerta está apenas fazendo marketing”.
Observe-se o que essas empresas estão pedindo. A Anthropic defende desacelerar o avanço de capacidades e se comprometeu a receber avaliadores externos com acesso permanente, equivalente ao de funcionários, a seus processos. A OpenAI defende requisitos obrigatórios de segurança baseados em capacidades e adiou seu próprio lançamento mais importante do ano.
São medidas que impõem custos, aumentam escrutínio externo e limitam justamente aquilo que uma empresa de tecnologia normalmente quer maximizar: velocidade. Barreira regulatória contra concorrentes não costuma começar por abrir a própria casa a auditores.
Isso não elimina a leitura de que toda empresa age pautada em interesses, mas torna muito frágil explicar tudo com base neles.
Quem me conhece sabe que sou — e continuarei sendo — profundamente otimista sobre inteligência artificial. Para mim, é a tecnologia com maior potencial já desenvolvido para ampliar capacidades humanas, acelerar a ciência e transformar medicina, educação, produtividade e bem-estar.
Justamente por acreditar nesse potencial, considero importante não escolhermos nem o caminho do apocalipse nem o da euforia ingênua, os dois bem representados no “O Documentário de IA“, da Netflix, que, aliás, recomendo bastante.
Há uma versão corporativa do reflexo “é hype” e ela é igualmente confortável: a de que governança de IA é burocracia que pode esperar. Os fatos acima sugerem o contrário. Se quem desenvolve esses sistemas admite não conseguir acompanhar a própria fronteira, quem os adota tem ainda menos razão para tratar o assunto como formalidade.
Estamos diante de uma tecnologia extraordinariamente benéfica, avançando mais rápido do que nossa capacidade coletiva de entendê-la. Se algumas das pessoas com melhor visibilidade sobre a fronteira (de técnicos a executivos) estão apontando riscos de magnitude expressiva em voz alta, devemos questionar suas motivações, mas seria loucura continuar negando as aparências e disfarçando as evidências.
Luis Fernando Prado, sócio do Prado Vidigal Advogados, diretor-executivo do Instituto Brasileiro de Inovação e Regulação Aplicada (IBIRA) e líder do Comitê de IA Responsável da Associação Brasileira de IA (Abria).
