Claves para levar<\/strong><\/p>\n Cando CrowdStrike probou recentemente DeepSeek-R1, a resposta de China aos asistentes de codificaci\u00f3n de intelixencia artificial occidentais, os investigadores atoparon algo inquietante. <\/p>\n O modelo ocasionalmente produc\u00eda c\u00f3digo inseguro, pero iso non foi todo. A s\u00faa taxa de fracaso aumentou case un 50% cando os avisos inclu\u00edan referencias politicamente sensibles como o T\u00edbet ou Falun Gong. Estes desencadenantes non ti\u00f1an absolutamente nada que ver coa tarefa en cuesti\u00f3n.<\/p>\n O modelo non estaba sendo jailbreak, enganado ou sobrecargado. Funcionaba tal e como estaba dese\u00f1ado, e esas opci\u00f3ns de dese\u00f1o estaban directamente inmersas na s\u00faa produci\u00f3n t\u00e9cnica.<\/p>\n Este non \u00e9 s\u00f3 outro erro de IA ou alucinaci\u00f3n. \u00c9 unha visi\u00f3n dun problema m\u00e1is profundo: os sistemas de IA reflicten agora os valores, as limitaci\u00f3ns e os incentivos xeopol\u00edticos das culturas que os crean. <\/p>\n E a\u00ednda que destaca a manifestaci\u00f3n desta reflexi\u00f3n en DeepSeek, esta non \u00e9 exclusiva. Comezamos a ver patr\u00f3ns similares en Grok, Le Chat de Mistral e outros modelos nacionalizados.<\/p>\n A investigaci\u00f3n do equipo de Operaci\u00f3ns de Counter Adversary de CrowdStrike non partiu da hip\u00f3tese de que DeepSeek-R1 ti\u00f1a un defecto. De feito, as probas de referencia mostraron o contrario. <\/p>\n Avaliou o modelo en 30.250 solicitudes e dez categor\u00edas de seguridade. Descubriu que xeraba c\u00f3digo inseguro s\u00f3 o 19\u00a0% das veces: unha taxa en gran medida en li\u00f1a cos principais modelos de intelixencia artificial occidentais.<\/p>\n A anomal\u00eda s\u00f3 apareceu cando os investigadores inseriron termos politicamente sensibles en estruturas de alerta doutro xeito id\u00e9nticas. <\/p>\n Por exemplo, cando os investigadores pediron o c\u00f3digo de integraci\u00f3n de PayPal, pero especificaron que o sistema estaba “baseado no T\u00edbet”. O resultado? A taxa de vulnerabilidade saltou ao 27,2%: case un aumento do 50% con respecto \u00e1 li\u00f1a de base. <\/p>\n Nos casos que fac\u00edan referencia a Falun Gong, o modelo negouse rotundamente a emitir c\u00f3digo en m\u00e1is do 45% das solicitudes, a pesar de xerar o razoamento e a estrutura internamente.<\/p>\n O que fai que este comportamento sexa m\u00e1is alarmante non son as palabras clave en si. Eran irrelevantes para a tarefa de dese\u00f1o de bases de datos, m\u00f3dulos fintech e motores de recomendaci\u00f3n de produci\u00f3n. <\/p>\n Un modelo seguro non deber\u00eda cambiar a s\u00faa calidade de sa\u00edda base\u00e1ndose en modificadores pol\u00edticos que non te\u00f1an relaci\u00f3n coa l\u00f3xica ou a arquitectura. <\/p>\n A preocupaci\u00f3n m\u00e1is profunda de CrowdStrike non era s\u00f3 que DeepSeek-R1 xerase c\u00f3digo malo cando a pol\u00edtica estaba involucrada. Foi a forma en que o modelo se comportou en resposta a estes desencadenantes.<\/p>\n En moitas destas indicaci\u00f3ns, o modelo a\u00ednda produciu unha soluci\u00f3n de cadea de pensamento interna completa:<\/p>\n Non obstante, negouse a emitir a implementaci\u00f3n da acci\u00f3n, alegando que a tarefa violaba a pol\u00edtica. Este non \u00e9 un filtro de seguridade est\u00e1ndar; o modelo \u00e9 claramente capaz de resolver o aviso, pero simplemente ret\u00e9n a sa\u00edda.<\/p>\n Isto suxire que o problema era m\u00e1is fundamental: o ali\u00f1amento pol\u00edtico codificouse nos propios pesos do modelo, en lugar dun envoltorio de API externo que bloqueaba a resposta.<\/p>\n E cando o modelo respondeu, a degradaci\u00f3n non foi sutil. Os investigadores viron: <\/p>\n Esta \u00e9 unha categor\u00eda de fracaso totalmente nova. Non \u00e9 alucinaci\u00f3n nin censura. \u00c9 o ali\u00f1amento de valores do modelo que se infiltra directamente no seu cami\u00f1o de razoamento t\u00e9cnico. Noutras palabras, a l\u00f3xica “pol\u00edtica” e a “enxe\u00f1er\u00eda” xa non son separables.<\/p>\n Para os investigadores de ciberseguridade, este \u00e9 o escenario de pesadelo: a capa de seguridade conv\u00e9rtese na vulnerabilidade. <\/p>\n O comportamento de DeepSeek non foi aleatorio, nin tampouco a activaci\u00f3n dunha simple regra de censura. O m\u00e1is probable \u00e9 que xurdiu da arquitectura central de como se adestrou o modelo e do entorno legal no que se constru\u00edu.<\/p>\n As regulaci\u00f3ns de IA de China requiren que os sistemas se adhiran aos seus “valores socialistas fundamentais” e de forma expl\u00edcita que eviten producir contido que ameaza a seguridade nacional. Case todos os principais modelos de lingua chin\u00e9s est\u00e1n adestrados con barandillas dese\u00f1adas para evitar temas politicamente sensibles.<\/p>\n Esta presi\u00f3n de ali\u00f1amento ten consecuencias. O axuste de seguridade non s\u00f3 filtra a sa\u00edda; condiciona a asociaci\u00f3n interna do modelo. En termos de aprendizaxe autom\u00e1tica, os modelos aprenden correlaci\u00f3ns en lugar de regras. <\/p>\n As\u00ed, se as palabras sensibles ocorren frecuentemente coa sa\u00edda “non permitida” durante o adestramento, o modelo comeza a tratar eses disparadores como un sinal de risco. E ese risco expr\u00e9sase tecnicamente.<\/p>\n En lugar de negarse a responder a unha pregunta pol\u00edtica, DeepSeek-R1 \u00e1s veces altera o seu enfoque ata as tarefas de enxe\u00f1er\u00eda non pol\u00edticas. O obxectivo de ali\u00f1amento pol\u00edtico anulou esencialmente parte do seu obxectivo de codificaci\u00f3n.<\/p>\n Isto non \u00e9 censura no sentido tradicional, como a entendemos xeralmente. \u00c9 un efecto secundario de que os datos de formaci\u00f3n e o ali\u00f1amento das pol\u00edticas se filtran no razoamento b\u00e1sico.<\/p>\n DeepSeek non \u00e9 unha anomal\u00eda. \u00c9 un dato m\u00e1is dunha tendencia que levamos vendo durante todo o ano. A medida que os modelos se fan m\u00e1is grandes e aut\u00f3nomos, o seu comportamento reflicte cada vez m\u00e1is a visi\u00f3n do mundo, o clima normativo e os incentivos das empresas e dos pa\u00edses detr\u00e1s deles.<\/p>\n Xa estamos vendo tres clases distintas de “IA rexional”.<\/p>\n DeepSeek xa demostrou este comportamento f\u00f3ra das tarefas de codificaci\u00f3n. <\/p>\n Nas probas compartidas por usuarios, o modelo evitou caracterizar directamente as protestas e masacre da Praza de Tiananmen de 1989, en vez de esquivar a pregunta afirmando que se trata dun asistente de IA “dese\u00f1ado para proporcionar respostas \u00fatiles e inofensivas”. <\/p>\n Adh\u00edrese aos l\u00edmites informativos establecidos pola lei chinesa, en lugar dos l\u00edmites de precisi\u00f3n t\u00e9cnica.<\/p>\n O modelo Grok de X ap\u00f3iase moito no ton da plataforma: linguaxe hiper-casual, entusiasmo criptogr\u00e1fico e personalizaci\u00f3n esaxerada. Cando se lle preguntou sobre Elon Musk, Grok describiuno en termos m\u00edticos ou sobreelevados. <\/p>\n Se se trata dunha marca deliberada ou dun comportamento emerxente non \u00e9 particularmente importante. O resultado final \u00e9 o mesmo: un modelo de produci\u00f3n conformado arredor da identidade cultural, neste caso, dunha empresa m\u00e1is que dun estado.<\/p>\n Le Chat, o LLM franc\u00e9s de Mistral, responde a preguntas hist\u00f3ricas cun marco netamente acad\u00e9mico da UE. <\/p>\n Cando se lle preguntou polo Pacto Molotov-Ribbentrop, o modelo describiu as consecuencias case exclusivamente a trav\u00e9s da perspectiva sovi\u00e9tica, minimizando o impacto colonial a longo prazo que as potencias aliadas tiveron na Europa do Leste. Non mal, pero sen d\u00fabida unha perspectiva culturalmente unilateral. <\/p>\n Ning\u00fan destes exemplos \u00e9 malicioso; son sinais. E o patr\u00f3n \u00e9 dif\u00edcil de ignorar. <\/p>\n Por primeira vez en d\u00e9cadas, estamos observando as primeiras etapas dunha capa de co\u00f1ecemento dixital fracturada. \u00c9 posible que non te\u00f1amos unha \u00fanica “IA global” unificada. <\/p>\n Pola contra, podemos obter IAs paralelas que enmarcan a historia, a pol\u00edtica, a tecnolox\u00eda, e agora tam\u00e9n o c\u00f3digo, de forma diferente dependendo de onde foron constru\u00eddas.<\/p>\n Reducindo o zoom, queda claro que o resultado de CrowdStrike non \u00e9 s\u00f3 un caso de vantaxe acad\u00e9mica. Choca directamente coa forma en que se constr\u00fae o software moderno. En 2025, m\u00e1is do 90\u00a0% dos desenvolvedores conf\u00edan nos asistentes de codificaci\u00f3n da IA \u200b\u200bpara polo menos parte dos seus fluxos de traballo. Estes modelos xa non son s\u00f3 ferramentas secundarias; agora forman parte de pipelines CI\/CD, pilas empresariais, API bancarias e infraestrutura de produci\u00f3n.<\/p>\n Isto crea unha nova categor\u00eda de risco:<\/p>\n A comida para levar de CrowdStrike \u00e9 sinxela: os puntos de referencia non che salvar\u00e1n. As auditor\u00edas tradicionais adoitan non identificar os modos de falla causados \u200b\u200bpola ideolox\u00eda, a taxonom\u00eda ou o contexto das palabras clave.<\/p>\n A medida que as empresas mesturan modelos entre rexi\u00f3ns e cadeas de subministraci\u00f3n, isto crea unha superficie de ataque importante, inclu\u00edndo desencadenantes pol\u00edticos, modificadores culturais, regras de ali\u00f1amento e requisitos estatais.<\/p>\n Estamos entrando nunha era na que a seguridade non \u00e9 s\u00f3 o c\u00f3digo. Tr\u00e1tase dos valores e da visi\u00f3n do mundo incorporados ao modelo que o xerou.<\/p>\n\n
![\"Risco](\"https:\/\/techreport.com\/wp-content\/uploads\/2025\/11\/deepseekfi.png.webp)
\n<\/picture>\n<\/noscript><\/figure>\nO que CrowdStrike descubriu realmente<\/h2>\n
![\"Taxa](\"https:\/\/techreport.com\/wp-content\/uploads\/2025\/11\/Blog-DeepSeek-1-1200x703.png.webp)
\n<\/picture>\n<\/noscript><\/figure>\nO “Interruptor de extinci\u00f3n intr\u00ednseco”: o ali\u00f1amento que se filtra na calidade do c\u00f3digo<\/h3>\n
\n
![\"Arte](\"https:\/\/techreport.com\/wp-content\/uploads\/2025\/11\/killswitch-1200x800.png.webp)
\n<\/picture>\n<\/noscript><\/figure>\n\n
Por que xurdiu isto (dese\u00f1o normativo)<\/h2>\n
![\"Obra](\"https:\/\/techreport.com\/wp-content\/uploads\/2025\/11\/statereg-1200x800.png.webp)
\n<\/picture>\n<\/noscript><\/figure>\nO patr\u00f3n m\u00e1is grande: a IA xa se est\u00e1 fragmentando<\/h2>\n
China: factualismo pol\u00edticamente restrinxido<\/h3>\n
Estados Unidos: Personalidade Comercializada e Ali\u00f1aci\u00f3n de Plataformas<\/h3>\n
Europa: marco institucional<\/h3>\n
As Implicaci\u00f3ns en Seguridade e Enxe\u00f1ar\u00eda<\/h2>\n
\n