A IA assusta quem a constrói. E agora?
Nesta semana, um engenheiro de pesquisa que trabalhava com segurança e alinhamento de inteligência artificial no Google DeepMind anunciou publicamente sua demissão. Bilal Chughtai escreveu que acredita sinceramente que a IA tem o potencial de matar todos os humanos, e que talvez o tempo para evitar esse desfecho esteja acabando.
Ele não estava sozinho. Na semana anterior, um pesquisador da Anthropic, Jacob Coxon, havia renunciado dizendo que as pessoas que desenvolvem IA acreditam que ela pode nos matar a todos até o fim da década. Um cientista da mesma empresa, Evan Hubinger, respondeu que Coxon estava correto e estimou em mais de dez por cento a probabilidade desse cenário nos próximos dez anos. No fim de semana, o presidente-executivo da Anthropic, Dario Amodei, pediu desaceleração no ritmo de desenvolvimento da IA avançada, e recebeu apoio raro de dois concorrentes diretos, Elon Musk e Sam Altman. Do outro lado, o presidente dos Estados Unidos, Donald Trump, classificou os apelos por regulamentação como uma farsa.
Foi, em resumo, a semana em que a indústria de inteligência artificial discutiu abertamente, em público, se está construindo algo que não consegue controlar.
Antes de decidir o que fazer com essa informação, vale entender quem está falando. Não são ativistas, nem acadêmicos distantes, nem concorrentes ressentidos. São pesquisadores de segurança dos maiores laboratórios do mundo, pessoas com acesso privilegiado ao estado real da tecnologia e com todos os incentivos financeiros para permanecer onde estavam. Abrir mão de salário e prestígio para fazer um alerta público não prova que o alerta esteja certo, mas prova que ele é sincero. Quando o engenheiro responsável pela segurança do avião salta de paraquedas em pleno voo, a atitude sensata não é discutir se ele exagerou. É prestar atenção.
Mas há uma segunda leitura, e ela é igualmente necessária. Essas declarações não representam consenso. Dentro dos mesmos laboratórios, cientistas respeitados divergem radicalmente sobre o tamanho e a natureza do risco. As estimativas vão de probabilidade relevante de catástrofe a farsa completa, passando por todos os pontos intermediários. A informação mais honesta que essa semana produziu não é que o fim está próximo. É outra, mais sutil e talvez mais incômoda: as pessoas mais próximas da tecnologia mais poderosa da nossa época não conseguem concordar entre si sobre o quão perigosa ela é.
O próprio Chughtai, no mesmo texto da demissão, apontou a saída. Ele disse que navegar com segurança pela IA é possível, mas exige coordenação para evitar a corrida frenética entre as empresas do setor, e que o desenvolvimento deveria avançar num ritmo que a sociedade consiga suportar, com os riscos sendo tratados antes que os danos se concretizem.
Repare que esse é exatamente o argumento da coluna da semana passada, dito agora de dentro. Quando o Alto Comissário da ONU definiu como poderosa demais a IA que ninguém garante onde para, ele estava descrevendo um problema de estrutura, não de tecnologia. Os pesquisadores que saíram dizem o mesmo: o perigo não mora no código, mora na corrida. Na ausência de coordenação, de limites, de tempo para verificar antes de lançar.
E o que o empresário de Mato Grosso do Sul faz com tudo isso? Existem duas reações fáceis, e as duas são erradas. A primeira é o pânico: se a IA pode acabar com a humanidade, melhor não usar nada disso na minha empresa. A segunda é o deboche: isso é marketing de gente bilionária, sigo como estou. As duas cometem o mesmo erro, que é tratar uma questão de estrutura como se fosse uma questão de fé. O pânico paralisa a empresa no momento em que os concorrentes estão aprendendo; o deboche a expõe no momento em que os riscos estão se acumulando.
A leitura racional é menos dramática e mais útil. Ninguém que opera uma empresa controla a corrida entre os laboratórios. Mas todo empresário controla a própria operação. E diante de uma incerteza genuína, reconhecida no topo da própria indústria, a resposta sensata de quem usa a tecnologia é construir de um jeito que não dependa de acreditar em nenhum dos lados: sistemas auditáveis, com limites definidos antes de operar, com registro do que fazem e com alguém identificado com autoridade para revisar, corrigir e desligar. Nada disso exige tratado internacional, nem depende do desfecho do debate entre os laboratórios.
Essa abordagem tem uma propriedade valiosa: ela funciona nos dois cenários. Se os otimistas estiverem certos e a tecnologia se provar segura, a empresa terá gasto seu esforço construindo uma operação organizada, transparente e defensável, o que já valeria por si só. Se os pessimistas estiverem certos e os riscos se materializarem, essa mesma estrutura será a diferença entre quem atravessa a turbulência e quem é atravessado por ela.
A fronteira da inteligência artificial é incerta até para quem a constrói. A operação da sua empresa não precisa ser. Enquanto os laboratórios discutem se criaram algo que não conseguem controlar, a pergunta que cabe a cada gestor continua menor, mais concreta e mais urgente: você controla o que já colocou para funcionar?
(*) Alcir Nantes Abuchaim é CEO da i4t (Intelligence for Transformation), empresa sul-mato-grossense de arquitetura de inteligência corporativa. Siga nas Redes Sociais @i4t.ai
