CHONGQING, China Hai tres anos, na idílica cidade de Woodside, ao sur de San Francisco, Estados Unidos e China mantiveron as súas primeiras charlas de alto nivel sobre os perigos que supón a intelixencia artificial. O presidente Xi Jinping e o seu ministro de Asuntos Exteriores de moito tempo pareceron serios na súa convicción de que debería establecerse unha canle entre Pequín e Washington: un teléfono vermello para a IA en caso de emerxencia.
Autorizaron un esforzo diplomático que comezaría en 2024 en Suíza, só meses antes das eleccións presidenciais dos Estados Unidos. Unha numerosa delegación de EE.UU. chegou con grandes esperanzas que se viron abruptamente frustradas, segundo catro fontes que asistiron ás conversacións. O continxente chinés descartou as preocupacións estadounidenses sobre a IA desbocada como académicas, case teóricas, convertendo rapidamente a conversación en controis de exportacións vistos en Pequín como outro esforzo dos Estados Unidos para conter a China.
“Naturalmente ven calquera iniciativa diplomática estadounidense que implique limitacións ou restricións dun sabor ou outro nunha capacidade como unha trampa”, dixo nunha entrevista Jake Sullivan, conselleiro de seguridade nacional dos Estados Unidos baixo o presidente Biden.
A pesar da desconfianza -e os demócratas perderon a Casa Branca ante Donald Trump-, en novembro dese ano chegouse un acordo en Perú, onde ambas as partes acordaron manter a IA fóra do mando e control das armas nucleares.
“Foi romper o selo que puidésemos facer algo coa IA”, dixo Sullivan. “Na transición, díxenlle ao equipo entrante de Trump que realmente deberían retomar ese diálogo. Pero a opinión da administración Trump era moito máis laissez-faire e non parecían particularmente interesados nel”.
“Todo iso cambiou nas últimas semanas”, engadiu.
Unha administración de Trump ansiosa por buscar a supremacía tecnolóxica agora, por primeira vez, conta co poder que a IA podería liberar se non se controla.
Nunha sorpresa, houbo discusións tranquilas antes da visita de estado do presidente Trump a China esta semana para explorar a reactivación das conversacións nunha canle de emerxencia, dixeron funcionarios a The Times, provocadas pola alarma compartida en Pequín e Washington sobre o debut de Mythos, o poderoso novo modelo de Anthropic.
Un alto funcionario da administración dixo aos xornalistas o domingo que a Casa Branca buscaba crear unha canle de comunicación para a IA como outras que teñen “en moitas áreas que teñen un foco intenso con Estados Unidos e China”.
“Creo que o aspecto desta canle de comunicación, a súa formalidade e como se ve, aínda está por determinar”, dixo o funcionario, “pero queremos aproveitar esta oportunidade coa reunión dos líderes para abrir unha conversación. Deberíamos establecer unha canle de comunicación sobre ese asunto”.
As capacidades de Mythos son vistas en toda a industria e no goberno como as dunha arma cibernética sen precedentes, capaz de infiltrarse e explotar sistemas de comunicación dixitais, incluíndo bases de datos gobernamentais, institucións financeiras e programas de saúde, con consecuencias incalculables.
Aínda non está claro se un anuncio chegará a bo porto esta semana. Calquera conversación entre os Estados Unidos e China sobre as regulacións da IA (deseñar algún tipo de acordo de control de armas que rexa o uso dunha tecnoloxía que ningunha das partes entende nin controla plenamente) estará chea de sospeitas, malentendidos e riscos, din os expertos.
“Neste momento, case non hai apoio dos responsables políticos estadounidenses para participar en discusións formais sobre a gobernanza da IA con China”, dixo Aalok Mehta, director do Centro de IA Wadhwani do Centro de Estudos Estratéxicos e Internacionais.
“O lóxico é que esta é unha carreira na que o vencedor o leva todo”, dixo Mehta, “e que é imperativo acelerar o progreso da IA para garantir que Estados Unidos gañe esa carreira”.
América á cabeza
China entraría nesas discusións cun argumento poderoso, que o liderado estadounidense en IA -e a estratexia imperante das empresas estadounidenses de IA- está impulsando o mundo a unha fronteira tensa.
Todos os principais actores estadounidenses no ámbito -OpenAI, Google, Anthropic, Microsoft e Meta Platforms- están a correr para ser os primeiros en construír un modelo capaz de intelixencia xeral artificial, ou AGI, un limiar sen unha definición común, pero que a maioría coincide que requirirá un modelo para realizar calquera tarefa intelectual humana.
A teoría imperante é que o primeiro en lograr AGI conseguirá un premio que se multiplica: un autoformación, mellorando recursivamente a intelixencia, crecendo exponencialmente e deixando ao seu paso a todos os competidores.
As empresas chinesas, pola contra, seguen unha estratexia sancionada polo Estado centrada na integración da IA en industrias e sistemas aislados, modelos de formación para mellorar as tarefas individuais e acelerar o crecemento nun enfoque máis personalizado.
“Os chineses cren que non hai unha única raza, senón varias razas”, dixo Scott Kennedy, conselleiro senior de negocios e economía chinesa no Centro de Estudos Estratéxicos e Internacionais. “Estados Unidos céntrase en lograr AGI, mentres que China céntrase na difusión e aplicacións da IA no resto da súa economía: fabricación, robótica humanoide, todos os aspectos da internet das cousas”.
Os estudosos de China, os expertos da industria da IA e as sucesivas administracións cuestionaron o pensamento estratéxico e a franqueza de Pequín.
“Está tan incorporado á comunidade aquí que AGI terá este potencial transformador que a xente non pode crer que China non estea enfocada tamén nisto”, dixo Matt Sheehan, un estudoso de cuestións tecnolóxicas globais no Carnegie Endowment for International Peace con foco en China. “Dice que está enfocado ás aplicacións, pero é unha falsificación para un programa AGI escondido nas montañas nalgún lugar?”
Pero a maioría dos expertos cren que a orientación de Pequín ás empresas chinesas revela as súas verdadeiras intencións.
“Non están tan cargados de AGI como os Estados Unidos, e creo que segue sendo o caso hoxe en día”, dixo Sullivan, “polo que consideraron gran parte da conversación en EE. UU. sobre o risco extremo de fronteira (desalineación e perda de control) un pouco abstracta, e non tan relevante para como viron a IA que se difundía en China.
O presidente Biden saúda ao presidente chinés Xi Jinping en Woodside, California, en 2023.
(Doug Mills / Foto da piscina)
Aínda que o progreso de China superou as expectativas dos Estados Unidos, especialmente desde que DeepSeek lanzou o seu modelo hai máis dun ano, o estado centrou o poder da computadora en aplicacións específicas en lugar da estratexia ampla necesaria para desenvolver modelos máis potentes capaces de avanzar cara a AGI.
“Non son só fichas. Son cartos”, engadiu Sheehan. “As empresas líderes de China están moito máis restrinxidas financeiramente que as estadounidenses. Aquí existe preocupación por unha burbulla, pero OpenAI está valorado en algo preto de 800.000 millóns de dólares. As principais empresas chinesas que saíron a bolsa están valoradas en 20.000 millóns de dólares. Só hai unha brecha de ordes de magnitude no financiamento dispoñible”.
Aínda así, algúns no goberno dos Estados Unidos temen que China non necesite potencia informática comparable se simplemente rouba a tecnoloxía por xunto.
Facelo non é sinxelo. Pero o mes pasado, nunha nota, a Oficina de Política Científica e Tecnolóxica da Casa Branca acusou aos actores chineses de “campañas a escala industrial para destilar sistemas de intelixencia artificial na fronteira dos Estados Unidos”, que de feito replicaban o rendemento dos modelos existentes máis avanzados “a unha fracción do custo”. A nota non acusaba a Pequín de avalar a actividade.
No proceso, engadiu a nota, os protocolos de seguridade coidadosamente construídos son eliminados deliberadamente.
Vantaxe de negociación de China
Sexa cal sexa o seu cálculo estratéxico, China entraría en conversacións coa administración Trump que está detrás da carreira, mentres non está de acordo sobre a natureza da meta.
AGI, en teoría, podería chegar a unha etapa de auto-mellora recursiva que resulta nunha perda de comprensión ou control humano. Pero se só son os americanos, e non os chineses, os que buscan alcanzar ese limiar, entón quen é o responsable de detelo?
Daniel Remler, que dirixiu a política de IA no Departamento de Estado durante a administración de Biden e participou nas conversacións de Xenebra, puxo en dúbida as afirmacións chinesas de desinterese en AGI e descoñecemento dos seus riscos. A retraso de China na carreira non é un deseño estratéxico, dixo.
“Os tecnólogos chineses son observadores próximos do ecosistema da intelixencia artificial estadounidense e, ás veces, din o que pensan”, dixo Remler. “Moitos quedaron impresionados co [Mythos] modelo ata a desesperación. Os líderes dos principais laboratorios de IA de China expuxéronse nos últimos meses, mesmo antes de Mythos, sobre o limitado que están na fronteira. Algúns dixeron que quizais nunca atrapen aos seus competidores estadounidenses”.
As conversacións neste momento da carreira poderían seguir un patrón familiar na historia recente da diplomacia entre Estados Unidos e China, na que Pequín afirma que está detrás de Estados Unidos no desenvolvemento, logrando finalmente un hándicap e maiores concesións na mesa de negociación.
Noutros dominios competitivos -como a entrada de China na Organización Mundial do Comercio e nas negociacións de ciberseguridade entre Pequín e a administración Obama- finalmente alcanzáronse acordos que Washington cre en retrospectiva empresas estadounidenses desfavorecidas.
A administración Trump, engadiu Remler, “necesita abordar a diplomacia da IA con China con expectativas claras ancoradas aos nosos propios intereses nacionais”.
O propio Silicon Valley está dividido sobre a regulación da IA. Anthropic, que se fundou na preocupación de que outras compañías de IA non tomaban en serio as preocupacións de seguridade e aliñamento, levantou as alarmas sobre Mythos, o seu propio modelo, á administración Trump, un momento que provocou a reflexión na Casa Branca sobre o mellor camiño a seguir.
Asustado despois de reunirse cos líderes dos principais bancos de Estados Unidos sobre as súas vulnerabilidades, o secretario do Tesouro, Scott Bessent, aconsellou internamente as revisións do goberno dos Estados Unidos sobre futuras versións de modelos, unha práctica que xa está en marcha en China, onde os parámetros de adestramento para os modelos, coñecidos como “pesos”, foron publicados.
Mesmo a suxestión de supervisión do goberno provocou unha reacción violenta de Silicon Valley. A semana pasada, a Casa Branca enviou unha nota para tranquilizar aos aliados da industria de que a presentación de novos modelos para a revisión federal sería estrictamente voluntaria.
Se finalmente se retoman as conversacións entre Washington e Pequín sobre a IA, os expertos cren que as negociacións serían moito máis complexas que as que resultaron en acordos de control de armas que rexen as armas nucleares na Guerra Fría.
As superpotencias non só discutirían as ameazas de inestabilidade para o sistema financeiro global, senón tamén os temores á proliferación: as ferramentas avanzadas de intelixencia artificial entrarían en mans de malos actores interesados en usar armas biolóxicas ou ciberarmas que poderían dirixirse a ambos os países.
E finalmente terían que decidir se discutir sobre a regulación da integración da IA nos exércitos chinés e estadounidense, un obxectivo case insondable entre os maiores adversarios do mundo, onde a confianza é máis baixa e a verificación sería máis difícil.
Aqueles da industria que máis temen o que podería traer a superintelixencia artificial dixéronlle á administración Trump que as conversacións con China son unha necesidade existencial.
Dario Amodei, o director executivo e cofundador de Anthropic, fala nun evento en Nova York en 2025.
(Michael M. Santiago / Getty Images)
Pero mesmo dentro de Anthropic, que defendeu a diplomacia, existe a preocupación de que Pequín poida explotar a súa actual desvantaxe para enredar a industria estadounidense na cúspide do seu maior logro.
En lugar de presionar por un único acordo global, os expertos da industria aconsellan á administración que busque acordos específicos con Pequín para mitigar riscos específicos, como o pacto de mando e control nuclear, dixeron dúas fontes da industria.
En privado, tanto Xi como o ministro de Asuntos Exteriores chinés, Wang Yi, parecían entender que a gravidade da tecnoloxía emerxente ante eles requiría algún tipo de cooperación, dixo Sullivan.
“A nivel conceptual, creo que tiñan unha convicción niso e o autorizaron”, dixo Sullivan, “pero creo que o seu nivel de urxencia era considerablemente máis baixo que o noso, e viu isto como un proceso a longo prazo que se desenvolvería co paso do tempo”.
“O seu nivel de urxencia e a súa participación nela aumentou”, engadiu.
