O alerta já não vem apenas de investigadores, reguladores ou vozes críticas da inteligência artificial. Dario Amodei, cofundador e diretor executivo da Anthropic, uma das empresas que competem no desenvolvimento dos modelos mais avançados, acusou a própria indústria de ter ocultado durante demasiado tempo os riscos associados a esta tecnologia.
“Durante demasiado tempo, a indústria mentiu às pessoas sobre o facto de esta tecnologia ter riscos”, afirmou Amodei numa entrevista. O empresário assegurou que existem “perigos reais” e defendeu que o rápido crescimento das capacidades dos sistemas de inteligência artificial constitui um sinal de alarme que obriga a reconsiderar a velocidade a que o setor avança.
As suas palavras surgem num momento de intensa concorrência entre os grandes laboratórios tecnológicos para desenvolver modelos cada vez mais capazes. A Anthropic, criadora do Claude, está precisamente entre as empresas protagonistas dessa corrida, juntamente com companhias como a OpenAI e a Google DeepMind. Essa posição torna a intervenção de Amodei mais do que um alerta externo: coloca, a partir de dentro da indústria, a possibilidade de que os mecanismos de segurança e supervisão não estejam a avançar ao mesmo ritmo que a própria tecnologia.
Uma proposta para reduzir o ritmo
Amodei desenvolveu a sua posição num ensaio intitulado We Must Pace the Frontier, no qual defende que o desenvolvimento dos sistemas de fronteira deve avançar com maior cautela. A sua preocupação centra-se especialmente na possibilidade de as capacidades dos modelos crescerem mais depressa do que a capacidade humana para os compreender, avaliar e controlar.
O responsável da Anthropic propõe, entre outras medidas, facultar a avaliadores externos acesso contínuo aos sistemas para verificar o cumprimento das medidas de segurança, analisar incidentes e estudar o comportamento dos modelos durante o seu treino.
A proposta vai além das decisões que uma única empresa possa adotar. Amodei considera necessária uma coordenação entre os principais desenvolvedores de inteligência artificial e, numa fase posterior, acordos internacionais capazes de estabelecer determinados limites e padrões de segurança.
O problema é que abrandar unilateralmente o desenvolvimento coloca uma dificuldade evidente numa indústria sujeita a uma forte concorrência empresarial e geopolítica. Se uma empresa decidir avançar mais devagar enquanto os seus concorrentes mantêm o ritmo, pode perder posições numa tecnologia considerada estratégica. A mesma tensão surge à escala internacional, especialmente na competição tecnológica entre os Estados Unidos e a China.
Um debate que divide a indústria
Os alertas de Amodei encontraram apoio entre alguns dos nomes mais relevantes do setor. Executivos como Sam Altman, da OpenAI; Demis Hassabis, da Google DeepMind; e Elon Musk também expressaram preocupação com a velocidade do desenvolvimento dos sistemas mais avançados, embora as posições e propostas concretas de cada um não sejam idênticas.
Ao mesmo tempo, o pedido para reduzir o ritmo gerou críticas. Os seus detratores questionam tanto a viabilidade de coordenar empresas e países concorrentes como a conveniência de introduzir restrições que possam travar a inovação ou favorecer as empresas que já ocupam posições dominantes.
O debate tem ainda uma dimensão política. As propostas de maior controlo sobre os sistemas avançados colidem com aqueles que consideram que os Estados Unidos devem manter o maior ritmo possível para preservar a sua vantagem tecnológica face à China. Meios de comunicação oficiais chineses criticaram as posições de Amodei e interpretaram as suas propostas sobre o controlo tecnológico como parte da rivalidade entre os dois países.
A Anthropic alerta há anos para os riscos
A posição de Amodei não representa um abandono total do seu discurso anterior. A Anthropic nasceu com uma forte ênfase na segurança dos sistemas de inteligência artificial, e o seu diretor executivo alerta há anos para os possíveis efeitos negativos de modelos cada vez mais poderosos.
Ao mesmo tempo, Amodei defendeu publicamente o enorme potencial desta tecnologia. Em 2024, publicou o ensaio Machines of Loving Grace, no qual descrevia um cenário em que uma inteligência artificial suficientemente avançada poderia acelerar o progresso em áreas como a biologia, a medicina, a neurociência ou o desenvolvimento económico.
Essa combinação entre expectativas e riscos ajuda a compreender a sua posição atual. Amodei não propõe renunciar ao desenvolvimento da inteligência artificial, mas sim ganhar tempo para que os mecanismos de controlo possam avançar antes de surgirem sistemas cujas capacidades sejam muito mais difíceis de supervisionar.
A discussão assume especial relevância porque parte de quem tem capacidade direta para decidir até onde e a que velocidade a tecnologia continua a avançar. A questão já não é apenas o que a inteligência artificial pode fazer, mas que limites estão dispostas a aceitar as empresas que competem para a desenvolver.
