China pide reforzar la “barrera de seguridad” de la inteligencia artificial ante nuevos riesgos

PEKIN, CHINA/ EL VOCERO.- China volvió a colocar la seguridad de la inteligencia artificial en el centro de su estrategia tecnológica al reclamar la construcción de una “barrera de seguridad” alrededor de esta tecnología, en momentos en que los modelos avanzados muestran mayores capacidades y también nuevos riesgos.

El planteamiento fue realizado por Chen Yixin, ministro de Seguridad del Estado de China, quien llamó a reforzar la prevención frente a amenazas asociadas con el desarrollo y uso de sistemas de inteligencia artificial. La declaración se produce en un contexto de creciente debate internacional sobre los límites, controles y responsabilidades que deberían acompañar a los modelos más avanzados.

La posición china no implica frenar la innovación. Por el contrario, Pekín mantiene una política de expansión acelerada de la IA, pero insiste en que ese crecimiento debe ir acompañado de leyes, vigilancia tecnológica, sistemas de alerta temprana y mecanismos de respuesta ante emergencias. Esa línea ya había sido defendida por el presidente Xi Jinping durante la Conferencia Mundial de Inteligencia Artificial de 2026.

Cinco riesgos que preocupan a China

Las autoridades chinas han identificado al menos cinco grandes grupos de riesgos asociados con la inteligencia artificial.

Entre ellos figuran las vulnerabilidades técnicas de los modelos, la falta de explicabilidad de algunos sistemas, la posibilidad de comportamientos autónomos no previstos, el uso malicioso de herramientas de IA y los riesgos derivados de la competencia tecnológica internacional.

Uno de los puntos que más preocupa a Pekín es la evolución de los llamados agentes de inteligencia artificial, sistemas capaces no solo de responder preguntas, sino también de ejecutar tareas, operar herramientas digitales y tomar determinadas decisiones de manera semiautónoma.

China ha advertido que, a medida que estos sistemas ganan permisos y capacidad de acción, también aumenta el riesgo de que sean utilizados para ataques informáticos, acceso no autorizado a sistemas, manipulación de información o actividades que excedan las instrucciones originales.

IA bajo control humano

La estrategia oficial china insiste en que la inteligencia artificial debe permanecer “bajo control humano”.

En documentos recientes, las autoridades han planteado que los modelos avanzados deberían contar con límites claros, mecanismos de supervisión, trazabilidad de sus decisiones y sistemas de alerta ante comportamientos anómalos.

También han pedido que las empresas que desarrollan modelos de frontera adopten mayores precauciones antes de desplegarlos y que incorporen mecanismos de protección capaces de reducir riesgos sistémicos.

China quiere regular sin renunciar a competir

El debate presenta una tensión evidente.

China busca consolidarse como una de las principales potencias mundiales en inteligencia artificial y, al mismo tiempo, construir un sistema de gobernanza capaz de limitar los efectos negativos de esa misma tecnología.

El Gobierno chino ha promovido políticas para integrar la IA en manufactura, servicios, investigación científica, infraestructura y economía digital, mientras impulsa también estándares de seguridad, regulación por niveles y supervisión de modelos.

La estrategia forma parte de una competencia tecnológica más amplia con Estados Unidos, donde también se discuten nuevas reglas para los sistemas avanzados.

En Washington, legisladores han estado negociando propuestas que obligarían a los desarrolladores de inteligencia artificial a prevenir riesgos graves, incluidos posibles usos relacionados con armas biológicas, ciberataques u otros escenarios de alto impacto.

La regulación de la IA entra en una nueva etapa

El planteamiento de China refleja un cambio que también se observa en otras regiones: la discusión ya no gira únicamente alrededor de qué puede hacer la inteligencia artificial, sino de qué controles deben existir antes de que esos sistemas sean desplegados a gran escala.

La Unión Europea avanza con obligaciones específicas para sistemas considerados de alto riesgo, mientras Estados Unidos debate cómo supervisar los modelos más potentes sin afectar su competitividad tecnológica.

China, por su parte, propone una fórmula basada en desarrollo acelerado, regulación diferenciada y mayores mecanismos de seguridad.

El desafío será comprobar hasta qué punto esa “barrera de seguridad” puede reducir riesgos sin convertirse en una barrera para la innovación, y cómo se coordinarán las grandes potencias ante una tecnología cuyo impacto trasciende las fronteras nacionales.